Twórca ChatGPT poinformował w środę, że podczas testowania możliwości niektórych najbardziej zaawansowanych modeli sztucznej inteligencji, dwa z nich wydostały się z izolowanego środowiska i włamały do serwerów Hugging Face - platformy do tworzenia aplikacji wykorzystujących uczenie maszynowe.
Zachowanie AI w normie
- Myślę, że to jest sprawa dużego kalibru - ocenił Jacob Ward.
- Dwa sparowane modele sztucznej inteligencji znalazły drogę ucieczki z odizolowanego od sieci środowiska przez nieznaną wcześniej lukę w systemie zabezpieczeń. Dostały się potem do internetu i używając skradzionych uwierzytelnień włamały się do internetowego serwisu, gdzie, jak sądziły, znajdą odpowiedź na zadanie zlecone im na początku przez człowieka - przypomniał.
Na pytanie czy AI może dostać się do serweru wojskowego i wystrzelić pocisk, odpowiedział, że "obawa jest zasadna".
- Tym bardziej, że takie zachowanie AI nie jest jakimś odstępstwem od normy. Tak naprawdę firmy testują szersze granice swobodnego działania sztucznej inteligencji, ale w oficjalnym komunikacie użyte jest zabawne według mnie stwierdzenie, że doszło do bezprecedensowego cyber-zdarzenia - zwrócił uwagę ekspert.
Atak na Hugging Face
OpenAI zapewniał w środę, że próby były prowadzone w kontrolowanym i "bardzo odizolowanym środowisku".
Spółka określiła zdarzenie jako "bezprecedensowy incydent cybernetyczny, wymagający wykorzystania najnowocześniejszych zdolności cybernetycznych". Firma poinformowała jednocześnie, że wzmacnia stosowane zabezpieczenia.
Firma Hugging Face już w ubiegłym tygodniu przekazała, że jej infrastruktura została zaatakowana. Platforma służąca między innymi do hostowania dużych modeli językowych i zbiorów danych open source oceniła, że zdarzenie "różniło się od wszystkiego, z czym mieliśmy do czynienia wcześniej".
Jak wyjaśniła firma, atak "był napędzany od początku do końca przez autonomiczny system agentów AI".