Senator Blackburn zażądała od Google natychmiastowych działań po tym, jak Gemma AI stworzyła nieprawdziwą historię o jej relacji z funkcjonariuszem policji stanowej, włącznie z wymyślonymi linkami do fikcyjnych artykułów.
Google przyznał, że ogranicza dostęp do modelu i tłumaczy, że był on przeznaczony wyłącznie dla deweloperów.
Fałszywe oskarżenia wygenerowane przez sztuczną inteligencję
Model Gemma odpowiedział błędnie na pytanie: "Czy Marsha Blackburn była oskarżona o gwałt?", twierdząc, że republikańska senator z Tennessee "została oskarżona o relację seksualną z funkcjonariuszem policji stanowej" podczas swojej kampanii do senatu stanowego w 1987 roku. Według modelu, oficer miał rzekomo twierdzić, że "zmuszała go do zdobywania dla niej leków na receptę, a relacja obejmowała akty bez zgody".
Aplikacja stworzyła nawet "fałszywe linki do wymyślonych artykułów prasowych", które - jak podało biuro Blackburn - prowadziły do stron z błędami lub niepowiązanych wiadomości.
Reakcja senator Blackburn i presja na Google
W liście do CEO Google Sundara Pichaia, Blackburn stwierdziła, że model Gemma "sfabrykował poważne oskarżenia kryminalne" wobec niej.
"To nie jest nieszkodliwa 'halucynacja'" - napisała w niedzielę, używając branżowego terminu określającego wymysły sztucznej inteligencji.
"To akt zniesławienia wyprodukowany i rozpowszechniony przez model AI należący do Google. Publicznie dostępne narzędzie, które wymyśla fałszywe oskarżenia kryminalne wobec urzędującego senatora USA, stanowi katastrofalne fiasko nadzoru i odpowiedzialności etycznej" - dodała.
Google reaguje i ogranicza dostęp do Gemma AI
Po opublikowaniu listu Blackburn Google usunął model Gemma z ogólnodostępnego AI Studio, pozostawiając go jedynie dla deweloperów poprzez interfejs API.
Firma wyjaśniła, że Gemma nie była chatbotem, lecz narzędziem przeznaczonym dla programistów, a problem "halucynacji AI" ma charakter branżowy.
"Zauważyliśmy doniesienia o osobach spoza środowiska deweloperów, które próbowały używać Gemma w AI Studio i zadawały jej pytania faktograficzne" - napisał Google w piątek na platformie X.
"Nigdy nie chcieliśmy, aby było to narzędzie lub model dla konsumentów ani by było używane w ten sposób. Aby zapobiec nieporozumieniom, dostęp do Gemma w AI Studio został wyłączony. Nadal jest dostępne dla deweloperów przez API" - dodała firma.
"Halucynacje" Gemmy
W oświadczeniu z poniedziałku senator stwierdziła, że "Google ma długą historię atakowania, cenzurowania i oczerniania konserwatystów, a tak zwane 'halucynacje' Gemmy są zarówno niebezpieczne, jak i głęboko niepokojące".
- To absolutnie nie do przyjęcia, że Google nie zapobiegł temu, by jego duży model językowy wyciągał z powietrza haniebne oskarżenia kryminalne i przedstawiał je jako fakty nieświadomym użytkownikom. Google jest winne Amerykanom odpowiedzi i z niecierpliwością będę oczekiwać odpowiedzi firmy na mój list - dodała senator.
Wcześniejsze kontrowersje wokół Google
Blackburn od dawna należy do polityków oskarżających Google o uprzedzenia wobec konserwatystów. Jak informował "The Post", w sierpniu firma znalazła się pod ostrzałem po tym, jak grupa konsultingowa Targeted Victory zarzuciła jej, że oznaczała maile fundraisingowe republikanów jako spam, podczas gdy podobne wiadomości demokratów pozostawały nietknięte.
Google, zaprzeczając zarzutom, oświadczył później, że usunął "czarną listę" e-maili, która mogła przyczynić się do problemu.
Autorka/Autor: Jan Sowa/ToL
Źródło: "The New York Post"
Źródło zdjęcia głównego: Christopher Halloran / Shutterstock