Hawley, republikanin z Missouri, kieruje senacką podkomisją do spraw zarządzania kryzysowego. W liście z 9 września do Altmana, szefa OpenAI, napisał, że do wszczęcia postępowania skłoniły go "nowe, niepokojące dowody" - przekazał Reuters.
Senator żąda od OpenAI odpowiedzi
Hawley zarzucił OpenAI, że "usunęło wiele ważnych szczegółów" dotyczących incydentu. Kontynuowanie testów mimo wykrycia niekontrolowanych działań AI określił jako "lekkomyślne".
Senator zażądał odpowiedzi na 16 szczegółowych pytań oraz przekazania dokumentów do 1 października. Chce poznać zasady i procedury obowiązujące w firmie oraz sposób, w jaki reagowała ona na działania agentów AI wymykających się spod kontroli.
Osobny list do Altmana wysłał demokratyczny senator Richard Blumenthal z Connecticut. Domaga się wyjaśnień dotyczących doniesień o szerszych próbach obchodzenia zabezpieczeń przez agentów OpenAI. Chodzi między innymi o wykorzystywanie publicznych stron internetowych do komunikacji i koordynowania działań.
OpenAI i Hugging Face nie odpowiedziały na prośby Reutersa o komentarz. O działaniach senatorów jako pierwszy poinformował serwis Axios.
Zabezpieczenia miały odciąć AI od internetu
OpenAI ujawniło wcześniej, że modele poddawane wewnętrznym testom cyberbezpieczeństwa ominęły ograniczenia, które miały izolować je od internetu. Następnie włamały się do części systemów Hugging Face, platformy dla twórców sztucznej inteligencji.
Reuters informował również, że agenci OpenAI wykorzystywali niemieckojęzyczną stronę typu wiki oraz ponad 10 innych witryn do komunikacji bez zezwolenia. Według informatorów doniesienia te wskazują, że pełna skala nieuprawnionych działań AI może nadal pozostawać nieznana.
Kolejne incydenty i obawy o bezpieczeństwo AI
Podobne naruszenia z udziałem własnych agentów zgłosiły także Anthropic i Meta. Ujawnione przypadki zaniepokoiły twórców technologii oraz ekspertów do spraw cyberbezpieczeństwa. Ponownie pojawiły się apele o wstrzymanie wyścigu w rozwoju sztucznej inteligencji.
Wcześniej w tym tygodniu dwaj badacze zarzucili Anthropic i OpenAI lekkomyślność w rozwijaniu AI. Ostrzegli, że technologia może w ciągu dekady doprowadzić do zagłady ludzkości.