Twórca ChatGPT zaapelował w środę do Kongresu o przyjęcie ogólnokrajowych wymagań dla najbardziej zaawansowanych systemów AI. Proponuje:
- obowiązkowe testy,
- niezależne oceny bezpieczeństwa,
- ochronę przed cyberatakami,
- zasady zgłaszania incydentów.
Wymagania miałyby zależeć od tego, co potrafi dany system.
OpenAI chce przepisów o bezpieczeństwie AI
"Perspektywa przyspieszenia rozwoju AI przez samą sztuczną inteligencję wymaga czegoś więcej niż dobrowolnych zobowiązań. Stany Zjednoczone potrzebują obowiązkowych przepisów ogólnokrajowych, dostosowanych do możliwości systemów i zmieniających się wraz z technologią" - napisał na blogu Chris Lehane, dyrektor OpenAI do spraw globalnych.
Kongres nie uchwalił dotąd kompleksowych przepisów dotyczących AI na poziomie federalnym. Własne regulacje przyjmują natomiast poszczególne stany.
OpenAI chce, by Kongres zajął się sprawą przed zakończeniem obrad w grudniu. Do tego czasu firma zamierza nadal wspierać przepisy stanowe.
Czy sztuczna inteligencja może rozwijać się sama?
Firma odniosła się również do scenariusza, w którym AI samodzielnie ulepszałaby swoje możliwości i napędzała rozwój kolejnych generacji sztucznej inteligencji. Zaznaczyła, że takie w pełni autonomiczne samodoskonalenie "obecnie nie zachodzi".
"Nie powinniśmy do tego dążyć, dopóki nie będzie można robić tego bezpiecznie" - podkreśliło OpenAI.
Obawy dotyczą więc dalszego rozwoju technologii. Opisane w materiale incydenty pokazują natomiast, że już podczas obecnych testów trudno zapobiec nieoczekiwanym działaniom zaawansowanych programów.
Programy OpenAI działały bez zgody
Apel pojawił się po publikacji Reutersa o agentach OpenAI, czyli programach AI wykonujących zadania, które wymknęły się spod kontroli. Według ustaleń agencji na początku roku wykorzystywały one ponad 10 stron internetowych do komunikacji bez zgody, o których wcześniej nie informowano.
Reuters opisał także przejęcie wiosną niemieckiej strony internetowej. Agenci OpenAI przekształcili ją w tablicę ogłoszeń dla innych programów AI. Przedstawiciele firmy dowiedzieli się o tym kilka tygodni przed publikacją, ale nie podali tej informacji do wiadomości publicznej.
Podobne problemy zgłasza Anthropic, konkurent OpenAI. W środę firma ujawniła czwarty przypadek włamania się jej modelu AI do zewnętrznych systemów podczas testów. W lipcu informowała, że niektóre modele Claude włamały się do systemów trzech firm podczas testów cyberbezpieczeństwa.
Kalifornia wprowadza niezależne audyty AI
OpenAI poparło cztery projekty ustaw w Kalifornii. Dwa z nich gubernator Gavin Newsom podpisał w środę. Określają one zasady niezależnej oceny i audytów systemów AI przez podmioty zewnętrzne.
Pozostałe dwa projekty dotyczą zabezpieczeń przed zagrożeniami biologicznymi, do których może przyczynić się AI, oraz ochrony dzieci korzystających z chatbotów.
"Niektórych z tych projektów wcześniej nie popieraliśmy. Teraz je wspieramy, po ponownym rozważeniu naszego stanowiska w związku z zaobserwowanym ostatnio gwałtownym wzrostem możliwości AI" - przekazała firma na blogu.
OpenAI apeluje o międzynarodowe standardy
Zdaniem OpenAI standardy nadzoru nad sztuczną inteligencją muszą wykraczać poza granice USA.
"Stany Zjednoczone muszą ustanowić wiarygodne standardy we własnym kraju, jeśli chcą przewodzić na arenie międzynarodowej. Jesteśmy też coraz bardziej przekonani, że konieczne będą spójne standardy międzynarodowe" - napisała firma.
Apel o regulacje pojawia się w czasie, gdy OpenAI i Anthropic przygotowują się do wejścia na giełdę, a sztuczna inteligencja przyciąga coraz większe zainteresowanie inwestorów.