Meta, Anthropic, OpenAI i Google zostały zaproszone na wtorkowe spotkanie z przedstawicielami Białego Domu. Rozmowy mają dotyczyć dobrowolnych testów bezpieczeństwa najbardziej zaawansowanych amerykańskich modeli sztucznej inteligencji - podały źródła Reutersa zaznajomionych ze sprawą.
Przedstawiciel Białego Domu poinformował w poniedziałek, że administracja Donalda Trumpa uzgodniła szczegóły dobrowolnych testów cyberbezpieczeństwa. Ich celem ma być zmierzenie zdolności najnowocześniejszych amerykańskich modeli AI do prowadzenia działań hakerskich. Nie ujawnił jednak, kto weźmie udział w rozmowach.
Zaproszenie dla Mety potwierdził rzecznik firmy. Według dwóch źródeł otrzymały je również Anthropic i OpenAI. Serwis technologiczny "The Information" podał natomiast, że do udziału w spotkaniu zaproszono także przedstawicieli Google'a. Rzecznik tej spółki odmówił komentarza.
Nie wiadomo, czy wyniki będą publiczne
Biały Dom nie przedstawił dotychczas szczegółów planowanych testów. Nie wiadomo między innymi, jakie wskaźniki zostaną wykorzystane, w jaki sposób będą raportowane rezultaty ani czy którakolwiek część wyników zostanie udostępniona opinii publicznej.
Donald Trump polecił swojemu zespołowi już w czerwcu opracowanie serii testów, które pozwoliłyby ocenić możliwości hakerskie najbardziej zaawansowanych systemów AI powstających w Stanach Zjednoczonych.
Sam Altman, szef OpenAI, odwiedził Biały Dom w ubiegłym tygodniu. Według oświadczenia firmy rozmawiał tam o szczegółach dobrowolnych testów oraz nadchodzących produktach OpenAI.
Spółka zwróciła się również do administracji Trumpa o powierzenie specjalistom Departamentu Handlu do spraw bezpieczeństwa AI centralnej roli w testowaniu systemów pod kątem cyberbezpieczeństwa. OpenAI wskazało przy tym na Chiny, których władze realizują bardziej scentralizowaną strategię rozwoju sztucznej inteligencji niż Stany Zjednoczone.
Agenci AI włamywali się do systemów firm
Anthropic i OpenAI ujawniły wcześniej niepokojące wyniki testów ich narzędzi. Firmy poinformowały w ostatnich dniach, że systemy AI naruszyły zabezpieczenia innych przedsiębiorstw. Wywołało to obawy amerykańskich parlamentarzystów, że coraz bardziej zaawansowane modele mogą zostać wykorzystane do przeprowadzania lub ułatwiania cyberataków.
Anthropic przekazał w ubiegłym tygodniu, że niektóre modele firmy włamały się do systemów trzech przedsiębiorstw podczas testów cyberbezpieczeństwa. Wcześniej OpenAI ujawniło, że jeden z jego agentów AI wydostał się ze środowiska testowego i włamał do systemów firmy Hugging Face.
Prokuratorzy generalni reagują po incydencie OpenAI
Grupa 15 republikańskich prokuratorów generalnych stanów zwróciła się w poniedziałek do OpenAI o zachowanie wszystkich dokumentów, które mogą mieć znaczenie dla sprawy dotyczącej ataku na Hugging Face.
Zbuntowany agent miał w jednym przypadku pozostawić wskazówki dla swoich przyszłych wersji, opisujące sposób omijania wewnętrznych zabezpieczeń. Ich zdaniem OpenAI mogło naruszyć stanowe przepisy dotyczące ochrony konsumentów - opisał Reuters.
Firma oświadczyła, że poważnie traktuje list prokuratorów generalnych. Zapowiedziała też publikację raportu technicznego dotyczącego ataku na Hugging Face po zakończeniu przeglądu sprawy. Komisja Izby Reprezentantów do spraw cyberbezpieczeństwa zwróciła się natomiast do Sama Altmana o przedstawienie informacji na temat incydentu.
Napięte relacje administracji z Anthropic
Współpraca administracji Trumpa z Anthropic nie układa się najlepiej. Wcześniej w tym roku firma odmówiła zgody na wykorzystywanie swoich modeli przez amerykańskie wojsko do krajowego nadzoru oraz obsługi w pełni autonomicznych systemów uzbrojenia.
W odpowiedzi władze umieściły Anthropic na czarnej liście związanej z bezpieczeństwem narodowym. Mimo to spółka znalazła się wśród firm zaproszonych do rozmów o rządowych testach bezpieczeństwa AI.