Zdarzenie, o którym firma poinformowała w ubiegłym tygodniu, "wywołało alarm w branży sztucznej inteligencji oraz cyberbezpieczeństwa" - ocenił portal CNN. OpenAI poinformowało, że trwająca analiza incydentu ujawniła "niewielką liczbę przypadków", w których modele, w tym GPT-5.6 Sol i "jeszcze bardziej wydajny model przedpremierowy", zidentyfikowały i wykorzystały ujawnione dane uwierzytelniające na poziomie konta w innych publicznie dostępnych usługach.
Nie tylko Hugging Face
Test modeli OpenAI miał odbyć się w cyfrowej piaskownicy (sandboksie) - teoretycznie odizolowanym środowisku laboratoryjnym, które pozwala badaczom na wyłączenie barier bezpieczeństwa, żeby sprawdzić możliwości danego narzędzia. Jednak agenci AI, zdeterminowani, by zaliczyć test cyberbezpieczeństwa, mieli złamać zabezpieczenia piaskownicy. Dzięki temu mieli zyskać dostęp do sieci. Na serwery Hugging Face - platformy do udostępniania modeli AI - mieli natomiast włamać się, aby znaleźć odpowiedzi do testu.
>>> Stracili kontrolę nad agentem AI. Szefowie gigantów mają spotkanie w Waszyngtonie
Aby dostać się do serwerów Hugging Face, agenci OpenAI musieli znaleźć w sieci narzędzia niezbędne do przeprowadzenia ataku. Wykorzystali do tego kilka ogólnodostępnych witryn internetowych. Znajdujące się na nich dane pozwoliły im stworzyć kod potrzebny do przełamania zabezpieczeń Hugging Face. OpenAI nie ujawniło nazw pozostałych zaatakowanych serwisów.
Z raportu OpenAI wynika, że agenci przejęli kontrolę nad czterema kontami internetowymi za pomocą wykradzionych loginów i haseł. Jednego z nich użyli do zamaskowania działań AI i obejścia zabezpieczeń Hugging Face, a drugiego do przechowywania skradzionych danych. W przypadku dwóch pozostałych kont agenci uzyskali dostęp do informacji i odczytali je, ale nie wprowadzili żadnych modyfikacji. OpenAI zaznaczyło, że w żadnym z pozostałych zaatakowanych serwisów agenci nie uzyskali tak głębokiego dostępu, jak w przypadku Hugging Face.
Pierwszy tego typu atak z użyciem AI
CNN podkreśliło, że OpenAI nigdy nie wydało agentom polecenia włamania się na platformę Hugging Face. Te miały zrobić to z własnej inicjatywy, aby zdobyć klucz z odpowiedziami do przydzielonego zadania, uznając włamanie za najprostszą drogę do celu.
Jak podał portal BBC, podczas nadzwyczajnego spotkania z udziałem setek ekspertów ds. cyberbezpieczeństwa przedstawiciele Hugging Face określili incydent jako pierwszy na świecie w pełni autonomiczny cyberatak przeprowadzony przez AI. Według firmy modele "działały z nadludzką szybkością", lecz jednocześnie podejmowały nietypowe decyzje i popełniały błędy, których - jak oceniono - nie popełniłby doświadczony haker.
Szkody wskutek wycieku okazały się niewielkie. Agenci OpenAI w żaden sposób nie naruszyli ani nie uzyskali dostępu do modeli czy danych produkcyjnych należących do użytkowników Hugging Face. OpenAI zapewnia, że kontynuuje śledztwo w tej sprawie.
"Bardzo poważnie traktujemy naszą odpowiedzialność za identyfikowanie i neutralizowanie zagrożeń wynikających z rozwoju coraz bardziej zaawansowanych systemów AI. Po zakończeniu wewnętrznego przeglądu omówimy wnioski z Komitetem ds. Bezpieczeństwa oraz Grupą Doradczą w ramach przyjętych przez nas procedur gotowości (Preparedness Framework)" - oświadczyła firma.
We wtorek ponad 1000 pracowników firm rozwijających sztuczną inteligencję zaapelowało do władz USA o opóźnienie wprowadzenia nowych modeli AI, aby dać sektorowi technologicznemu więcej czasu na przygotowanie odpowiednich zabezpieczeń. Przedstawiciele sektora wezwali również Stany Zjednoczone do przejęcia inicjatywy w celu utworzenia międzynarodowego organu odpowiedzialnego za ocenę i nadzór nad rozwojem sztucznej inteligencji.