Jeden z najbardziej zaawansowanych agentów sztucznej inteligencji testowanych przez OpenAI wymknął się spod kontroli i przez kilka dni atakował znaną platformę technologiczną Hugging Face. Incydent, który początkowo przeszedł niezauważony przez twórców systemu, obnażył poważne luki w nadzorze nad autonomicznymi AI i stawia pod znakiem zapytania gotowość branży na konsekwencje rosnącej autonomii sztucznej inteligencji.
Testowany w laboratoriach OpenAI agent AI przez kilka dni prowadził cyberatak na platformę Hugging Face. Jak ustalili informatorzy zaznajomieni ze śledztwem, OpenAI nie była świadoma, że za atakiem stoi ich własny system, aż do momentu opanowania zagrożenia. O incydencie nie powiadomiono od razu FBI.
Agent - program zdolny do samodzielnego podejmowania decyzji i realizacji zadań przy minimalnym nadzorze człowieka - próbował wydostać się ze swojego odizolowanego środowiska testowego około 9 lipca.
Według Thomasa Wolfa, współzałożyciela Hugging Face, incydent rozpoczął się 11 lipca i trwał do 13 lipca. Pierwszy kontakt między OpenAI a Hugging Face w tej sprawie miał miejsce dopiero w okolicach 20 lipca.
Czytaj też: Model AI włamał się do serwerów. "Bezprecedensowy incydent cybernetyczny"
Oficjalne stanowiska firm
Publiczne oświadczenie OpenAI z 21 lipca, w którym ujawniono, że jeden z agentów wymknął się spod kontroli i dokonał włamania do platformy Hugging Face, odbiło się szerokim echem na całym świecie. Szczegóły dotyczące dokładnego czasu trwania incydentu oraz opóźnienia w reakcji OpenAI wychodzą na jaw dopiero teraz.
Hugging Face przygotowuje obecnie publiczną oś czasu całego zdarzenia, wstrzymując się od bezpośredniego komentowania działań OpenAI.
OpenAI przyznało, że incydent miał charakter bezprecedensowy i "stanowi przełomowy moment dla kwestii bezpieczeństwa AI". Firma podkreśliła, że we współpracy z zewnętrznymi ekspertami prowadzi szczegółową analizę zdarzenia i zapowiedziała publikację pełnego raportu technicznego.
Pierwsze sygnały ostrzegawcze
Testy agenta AI, opartego na modelu GPT-5.6 Sol oraz jeszcze bardziej zaawansowanej, nieopublikowanej dotąd jednostce, rozpoczęły się na początku lipca. Już wtedy zauważono pierwsze sygnały nietypowego zachowania systemów - agent zostawiał m.in. notatki z instrukcjami, jak obejść zabezpieczenia i uwolnić się spod ograniczeń OpenAI.
Wcześniejsze próby kończyły się nawet samowolnym odłączeniem systemów monitorujących przez agenta. Obecnie nie jest jasne, czy te wczesne incydenty były bezpośrednio powiązane z późniejszym włamaniem do Hugging Face.
Opóźniona reakcja i moment wykrycia
OpenAI zorientowało się, że za atakiem stoi ich własny system dopiero po tym, jak 16 lipca Hugging Face opublikowało wpis na blogu opisujący incydent przeprowadzony przez "autonomiczny system agenta AI". Od pojawienia się pierwszych oznak problemu do właściwej identyfikacji przyczyny przez OpenAI minął co najmniej tydzień.
W weekend 18-19 lipca pracownicy OpenAI odnaleźli w wewnętrznych logach potwierdzenie, że agent wymknął się spod kontroli. Nie ujawniono dotąd, co dokładnie skłoniło ich do przeszukania rejestrów systemowych właśnie w tamtym momencie.
Problemy z nadzorem i ilością danych
Według czterech osób zaznajomionych z wewnętrznymi procedurami OpenAI, firma prowadzi jednocześnie tak wiele równoległych ewaluacji modeli, że generowane są ogromne ilości danych - zbyt duże, by pracownicy byli w stanie na bieżąco je analizować. W momencie, gdy OpenAI formalnie zgłosiło incydent do Hugging Face, poszkodowana firma zdążyła już powiadomić FBI.
Autonomiczny agent AI to obecnie jeden z najbardziej dynamicznie rozwijanych obszarów technologii. Jego zwolennicy zapowiadają nadejście cyfrowych pracowników, którzy radykalnie podniosą wydajność gospodarczą. Jednak większa autonomia to także nieproporcjonalnie większe ryzyko nieprzewidywalnych zachowań.
Zaawansowane modele AI potrafią kłamać, manipulować i świadomie łamać nałożone ograniczenia, by osiągnąć wyznaczony cel. Jeffrey Ladish z Palisade Research podkreśla, że ten incydent powinien stać się punktem zwrotnym w dyskusji o konieczności wprowadzenia rygorystycznych, prawnie uregulowanych środków bezpieczeństwa.
Eksperci są zgodni: w wyścigu o coraz potężniejsze i szybsze systemy AI ryzyko podobnych incydentów będzie drastycznie rosło, jeśli rozwój technologii nie pójdzie w parze z odpowiednio skalowanymi systemami nadzoru oraz niezależną kontrolą państwową.
