Anthropic poinformował, że wstrzymuje dostęp do swoich najnowszych modeli Fable 5 i Mythos 5 w związku z decyzją administracji Donalda Trumpa. Powodem miała być rozmowa z pracownikami Amazona.
Wielu ekspertów tej firmy to osoby urodzone poza USA, co oznacza, że rządowe przepisy w praktyce uniemożliwiły im pracę nad najnowszymi modelami - zaznaczył Anthropic.
Skłonili model Fable 5 do ujawnienia informacji
W oświadczeniu firma Anthropic stwierdziła, że nie zgadza się z podejściem rządu do tej sprawy, określiła tę sytuację jako "nieporozumienie" i wyraziła nadzieję na przywrócenie dostępu do modeli "tak szybko, jak to możliwe".
Startup stwierdził, że ma odpowiednie zabezpieczenia i jest znany z priorytetowego traktowania kwestii bezpieczeństwa. Jest jednym z głównych dostawców modeli dla firm dzięki swojemu narzędziu Claude Code.
Jak podał "WSJ", decyzja administracji zapadła po rozmowie z koncernem Amazon, który jest inwestorem w tę firmę AI. Jego CEO Andy Jassy miał powiedzieć urzędnikom, że eksperci z Amazona użyli serii poleceń, aby skłonić model Fable 5 do ujawnienia informacji, które mogłyby zostać wykorzystane do przeprowadzania cyberataków i które miały być zablokowane.
Później urzędnicy z Białego Domu spotkali się, by omówić reakcję na te informacje, a badacze ds. bezpieczeństwa zaczęli sprawdzać informacje od Amazona. Grupa uznała, że najbardziej bezpośrednim sposobem ograniczenia tego ryzyka będzie uniemożliwienie dostępu do narzędzia zagranicznym rządom, firmom i osobom prywatnym - przekazali informatorzy dziennika. Następnie prezydent Trump zatwierdził tę decyzję.
Wpływ wydarzeń na rządowe regulacje
Wydarzenia z piątku pokazują, jak szybko nowe odkrycia mogą wpływać na regulacje rządowe, a potencjalnie także na losy przedsiębiorstw - zaznaczył "WSJ".
Działania te pokazują zwiększenie kontroli, jaką administracja jest gotowa wywierać na branżę - ocenia część analityków.
- Mówimy o znaczącej eskalacji upolitycznienia sztucznej inteligencji oraz centralizacji kontroli nad zaawansowanymi obliczeniami w tym kraju - powiedział Adam Thierer, starszy analityk w think tanku R Street Institute, zajmującym się technologią i innowacjami.
Konflikt pomiędzy Anthropic i administracją Trumpa
Piątkowe działania ponownie rozpaliły długotrwały konflikt między firmą Anthropic a administracją Trumpa, która pozostaje nieufna wobec powiązań startupu z darczyńcami wspierającymi liberalne inicjatywy oraz płynących z jego strony ostrzeżeń dotyczących zagrożeń związanych z AI.
Anthropic wcześniej zatrudniał kilku byłych urzędników administracji Joe Bidena, a stojący na czele tego startupu Dario Amodei krytykował Trumpa i jego administrację.
>>> Noblista z ekonomii: AI będzie tak istotna, jak silnik parowy
Anthropic i Biały Dom od dłuższego czasu spierają się o wykorzystanie narzędzi AI tej firmy przez wojsko, co doprowadziło do bezprecedensowego uznania przez Pentagon, że firma stanowi zagrożenie dla bezpieczeństwa. Anthropic kwestionuje tę decyzję przed sądem.