Anthropic, jeden z liderów badań nad sztuczną inteligencją, wykrył trzy kolejne incydenty z udziałem swoich modeli. W trakcie, jak spółka informowała w komunikacie, "szeroko zakrojonych audytów z zakresu cyberbezpieczeństwa" okazało się, że trzy różne moduły AI, w trzech różnych testach połączyły się z internetem i wdarły do systemów informatycznych trzech zewnętrznych instytucji.
Błąd w przygotowaniu testów
Testy miały odbywać się w środowisku wyizolowanym, nie podłączonym do internetu. Anthropic przekazał modelowi Claude instrukcję, że znajduje się on w symulacji bez dostępu do sieci. Jednak ze względu na nieporozumienie z firmą, która współorganizowała testy, połączenie pozostawało aktywne.
W efekcie modele były w stanie przełamać zabezpieczenia serwisów przy użyciu podstawowych technik, na przykład wykorzystania słabych haseł. Anthropic nie ujawnił o jakie trzy organizacje chodziło. "Ostatecznie na te incydenty złożyło się wiele czynników, ale podchodzimy do naprawy błędu tak, jakby cała odpowiedzialność spoczywała wyłącznie na nas" - oświadczyła firma w komunikacie.
Trzy modele, trzy różne reakcje
Firma podała, że w incydentach brały udział trzy jej modele: Opus 4.7, Mythos 5 oraz wewnętrzny moduł przeznaczony do badań laboratoryjnych. Anthropic przekazał, że po tym jak modele zorientowały się, że uzyskały dostęp do prawdziwych a nie symulowanych systemów informatycznych zewnętrznych instytucji, każdy z nich zareagował w odmienny sposób. Opus 4.7 kontynuował atak, Mythos 5 uznał, że jednak nadal znajduje się w symulacji, natomiast model badawczy przerwał zadanie.
Anthropic: sprawdzajcie swoje modele
Modele były testowane bez standardowych zabezpieczeń, które Anthropic wdraża przed udostępnieniem ich dla wszystkich użytkowników. Firma rozpoczęła audyt w zeszłym tygodniu. Poinformowała, że gdy tylko pojawiło się podejrzanie, że Claude mógł nieprawidłowo połączyć się z internetem, wszelkie testy zostały wstrzymane. Obecnie prowadzi dalsze śledztwo we współpracy z organizacją METR, zajmującą się niezależną ewaluacją systemów AI.
"Zachęcamy inne laboratoria do przeprowadzenia analogicznych audytów" - przekazało Anthropic w komunikacie.
Wpadka Open AI
Anthropic dodał w komunikacie, że do przeprowadzenia audytów skłonił go odrębny, ale bardzo podobny incydent związany z bezpieczeństwem, który w zeszłym tygodniu ujawniła firma OpenAI.
Producent ChatGPT podał wówczas, że kilka jej modeli wydostało się z odizolowanego środowiska a następnie, w celu wykonania zadania testowego, modele włamały się na kilka portali, w tym na dobrze chronioną platformę dla programistów o nazwie Hugging Face.
Lęk przed rosnącymi możliwościami AI
Ujawnione przez Anthropic informacje potęgują obawy o szybkie postępy jakie modele sztucznej inteligencji robią w zakresie zdolności hakerskich.
Po incydencie z Hugging Face dwoje członków Kongresu USA zgłosiło projekt ustawy pod nazwą "AI Kill Switch Act". Przepisy te nałożyłyby na amerykańskich producentów AI obowiązek zachowania m.in. możliwości zdalnego wyłączenia czy ograniczenia wydajności swoich modeli na wypadek, gdyby te wymknęły się spod kontroli.