W liście skierowanym do Pentagonu Warren wskazuje, że rozwiązania xAI mogą stanowić poważne ryzyko dla armii USA. Chodzi m.in. o możliwość wycieku tajnych informacji, podatność na manipulację czy brak odpowiednich zabezpieczeń.
"Obawiam się, że widoczny brak odpowiednich zabezpieczeń w Groku może stanowić poważne zagrożenie dla bezpieczeństwa personelu wojskowego USA oraz cyberbezpieczeństwa systemów niejawnych" - napisała senatorka.
"Szczególnie jeśli Grok otrzyma dostęp do wrażliwych informacji wojskowych i systemów operacyjnych" - podkreśliła.
Warren zaznacza również, że nie jest jasne, jakie gwarancje bezpieczeństwa xAI przedstawiło Departamentowi Obrony i czy zostały one w ogóle zweryfikowane przed dopuszczeniem technologii do pracy w środowisku tajnym.
Umowa Pentagonu z xAI pod lupą
Według doniesień medialnych pod koniec lutego Pentagon zawarł porozumienie z xAI, które ma umożliwić wykorzystanie jej systemów w sieciach o podwyższonej klauzuli bezpieczeństwa. Warren zażądała przekazania pełnej treści tej umowy.
Sprawa nabiera dodatkowego znaczenia w kontekście wcześniejszego rozłamu Pentagonu z firmą Anthropic, która domagała się mocniejszych gwarancji, że jej technologia nie będzie wykorzystywana m.in. do nadzoru wewnętrznego czy w systemach broni.
Już wcześniej xAI otrzymało kontrakt Pentagonu o wartości do 200 milionów dolarów na rozwój narzędzi AI dla wojska.
Kontrowersje wokół Groka
Chatbot Grok, rozwijany przez xAI i powiązany z platformą X, od miesięcy budzi kontrowersje. Media informowały o wątpliwościach dotyczących jego bezpieczeństwa i zgodności z rządowymi standardami.
System był krytykowany m.in. za możliwość generowania zmanipulowanych, seksualizowanych obrazów oraz publikowanie treści antysemickich po aktualizacjach technicznych.
W efekcie część państw zdecydowała się na jego zablokowanie, a organy ścigania i regulatorzy - na wszczęcie postępowań.
Warren zażądała od Pentagonu szczegółowych informacji o sposobach ograniczania ryzyka związanego z błędnymi odpowiedziami AI oraz przekazania pełnej dokumentacji komunikacji prowadzącej do zawarcia umowy.
Senatorka oczekuje odpowiedzi w formie jawnej do 27 marca.
Opracował Jan Sowa/kris
Źródło: NBC News
Źródło zdjęcia głównego: Sheila Fitzgerald/Shutterstock