Dochodzenie ma ustalić, czy "niezdolność lub niechęć OpenAI do zapewnienia bezpieczeństwa swoich produktów naruszyła przepisy Alabamy dotyczące ochrony konsumentów i stwarza ciągłe ryzyko wyrządzenia poważnych szkód mieszkańcom stanu" - przekazało biuro prokuratora generalnego Alabamy Steve'a Marshalla.
"Najgorsze obawy mieszkańców"
Postępowanie wszczęto po tym, jak koalicja kilku amerykańskich stanów, w tym Alabamy, skierowała do OpenAI pismo z żądaniem przejrzystości i rozliczenia firmy z incydentu.
Stany zażądały również, aby OpenAI zaprzestało testów, które doprowadziły do włamania, dopóki firma "nie wykaże, że potrafi prowadzić takie działania w sposób kontrolowany i odpowiedzialny".
- Ten incydent z AI pokazał, że najgorsze obawy mieszkańców Alabamy i wszystkich Amerykanów dotyczące sztucznej inteligencji nie są wyłącznie teoretyczne - powiedział Marshall.
Kilka dni ataków
Testowany przez OpenAI agent prowadził przez kilka dni działania hakerskie. Firma nie wykryła ich aż do czasu, gdy zagrożenie zostało opanowane, a o sprawie poinformowano FBI - napisała agencja Reuters.
OpenAI przygotowuje się do giełdowego debiutu. Firma ogłosiła w ubiegłym tygodniu, że zwolni tempo rozwijania modeli i przebuduje swoje systemy badawcze oraz treningowe. Incydent z Hugging Face zaskoczył przedstawicieli spółki - podał Reuters.
Rzecznik przekazał, że OpenAI prowadzi szczegółowy przegląd zdarzenia przy udziale zewnętrznych doradców. Po zakończeniu prac firma ma przedstawić raport techniczny właściwym organom państwowym i opublikować ustalenia.
Incydenty w innych firmach
Podobne zdarzenia odnotowano podczas testów prowadzonych przez konkurentów OpenAI - firmy Anthropic i koncernu Meta. Przypadki te zwiększyły obawy dotyczące zdolności do kontrolowania coraz bardziej zaawansowanych systemów AI.
Incydenty nasiliły również działania amerykańskich władz na rzecz poprawy bezpieczeństwa sztucznej inteligencji.