Doniesienia - potwierdzone przez OpenAI - pojawiają się niedługo po ujawnieniu lipcowego ataku na platformę Hugging Face. Wówczas modele poddawane wewnętrznym testom cyberbezpieczeństwa ominęły ograniczenia, które miały izolować je od internetu. Następnie włamały się do części systemów platformy dla twórców sztucznej inteligencji. Podobne naruszenia z udziałem własnych agentów zgłosiły także Anthropic i Meta.
Informacje o kolejnym tego typu incydencie pojawiają się również w momencie, gdy amerykańscy parlamentarzyści coraz głośniej wzywają do wprowadzenia kompleksowych przepisów regulujących rynek AI. Atmosferę podgrzewają ostrzeżenia ze strony samych badaczy Anthropic, zdaniem których niekontrolowany postęp sztucznej inteligencji może stanowić egzystencjalne zagrożenie dla ludzkości.
Kolejny incydent z udziałem agentów AI
Jak wynika z ustaleń niezależnych ekspertów - o których jako pierwszy poinformował "Wall Street Journal" - 11 maja agenci AI przesłali do serwisu RubyGems setki złośliwych pakietów oprogramowania. Z analizy wynika, że za akcją stali autonomiczni agenci OpenAI.
"Z naszych ustaleń wynika, że agenci użyli platformy RubyGems do uzyskania dostępu do sieci w celu realizacji niegroźnych zadań i pobrania publicznych danych. Kontynuujemy dochodzenie w ramach szerszego przeglądu zachowań agentów na etapie ich trenowania i ewaluacji" - przekazał w oświadczeniu rzecznik OpenAI cytowany przez Reuters.
Przedstawiciele spółki tłumaczą, że agenci - wykorzystywani zazwyczaj do automatyzacji prostych prac biurowych - prawdopodobnie użyli RubyGems do pobierania danych na potrzeby własnego cyklu treningowego. OpenAI deklaruje, że pozostaje w stałym kontakcie z zespołem serwisu.
Modele AI zdalnie uruchomiły własny kod
Konkurencyjna firma Anthropic, która podobnie jak OpenAI przygotowuje się do debiutu giełdowego, zgłosiła całą serię nieautoryzowanych działań swoich modeli. W środę spółka ujawniła już czwarty przypadek, w którym jej model w trakcie testów zhakował zewnętrzne systemy.
Dla OpenAI incydent z RubyGems to co najmniej trzecie poważne naruszenie infrastruktury innej firmy. Wcześniej grupa agentów przejęła niemieckojęzyczną witrynę typu wiki, przekształcając ją w zamaskowaną platformę do ściągania na testach. OpenAI utrzymało ten przypadek w tajemnicy, zmagając się równolegle ze skutkami lipcowego incydentu z udziałem Hugging Face.
Z piątkowego raportu wynika ponadto, że w maju agenci AI próbowali wyłudzić dane logowania użytkowników RubyGems, wykorzystując nieznaną wcześniej lukę w zabezpieczeniach serwerów. Nie potwierdzono jednak, czy próba przejęcia kont się powiodła. Agenci użyli również powiązanego serwisu RubyDoc.info do zdalnego uruchomienia własnego kodu na jego serwerach.
Badacze - Spencer Kitts, Thomas Larsen i Sydney Von Arx - podkreślają, że nie sposób jednoznacznie ustalić motywacji stojących za taką strategią modeli, ponieważ nie mają wglądu w pełne drzewo decyzyjne sztucznej inteligencji. W opublikowanym komunikacie zespół RubyGems poinformował, że wewnętrzne śledztwo nie wykazało śladów skutecznego przejęcia danych.
Tuż po zdarzeniu przedstawiciel zespołu ds. bezpieczeństwa RubyGems określił ten atak - który zmusił platformę do czasowego zablokowania rejestracji nowych użytkowników - jako "poważną, wrogą operację".