OpenAI poinformowała, że do incydentu doszło podczas testowania możliwości niektórych najbardziej zaawansowanych modeli sztucznej inteligencji. Próby były prowadzone w kontrolowanym i - jak określiła firma - "bardzo odizolowanym środowisku".
Programowi udało się jednak przekroczyć wyznaczone granice, uzyskać dostęp do internetu, a następnie włamać się do serwerów platformy Hugging Face. Model próbował w ten sposób zrealizować cel określony na potrzeby testu.
"Bezprecedensowy incydent cybernetyczny"
OpenAI określiła zdarzenie jako "bezprecedensowy incydent cybernetyczny, wymagający wykorzystania najnowocześniejszych zdolności cybernetycznych". Firma poinformowała jednocześnie, że wzmacnia stosowane zabezpieczenia.
Firma Hugging Face już w ubiegłym tygodniu przekazała, że jej infrastruktura została zaatakowana. Platforma służąca między innymi do hostowania dużych modeli językowych i zbiorów danych open source oceniła, że zdarzenie "różniło się od wszystkiego, z czym mieliśmy do czynienia wcześniej".
Jak wyjaśniła firma, atak "był napędzany od początku do końca przez autonomiczny system agentów AI".
Współzałożyciel Hugging Face komentuje
Współzałożyciel Hugging Face Clement Delangue napisał na platformie X, że firma podejrzewała, iż atak "mógł pochodzić z pionierskiego laboratorium, biorąc pod uwagę zaawansowanie agenta".
"Okazuje się, że tak było!" - dodał. Jak podkreślił, "to niesamowite, że wszystko to wydarzyło się autonomicznie".
Reuters zwrócił uwagę, że ujawnienie przez OpenAI odpowiedzialności jej modeli za naruszenie bezpieczeństwa może nasilić obawy dotyczące możliwości i zagrożeń związanych z najbardziej zaawansowanymi systemami sztucznej inteligencji.
"Modele nadrabiają zaległości"
Matt Suiche, inżynier w firmie Tolmo zajmującej się cyberbezpieczeństwem opartym na sztucznej inteligencji, ocenił, że systemy AI są obecnie równie skuteczne, jak elitarni cyberoperatorzy.
"Modele pionierskie nadrabiają zaległości względem najbardziej zaawansowanych atakujących" - powiedział Suiche.
Ekspert ostrzegł, że naruszenia bezpieczeństwa opisane przez OpenAI można było przeprowadzić również przy wykorzystaniu technologii dostępnej poza najbardziej zaawansowanymi laboratoriami badawczymi.
"To właśnie widzieliśmy już u nas. Nie musimy nawet korzystać z najnowszych modeli" - stwierdził.