"Pojawiły się bardzo niepokojące doniesienia o tym, że chatbot Grok w serwisie X jest używany do tworzenia i rozpowszechniania obrazów rozebranych ludzi - co może być uznane za naruszenie intymności lub pornografię - oraz grafik seksualizujących dzieci, co może być uznane za materiały wykorzystujące seksualnie dzieci" - napisano w oświadczeniu Ofcomu.
Śledztwo regulatora
Urząd podkreślił, że nie "nie jest cenzorem", ale zajmuje się badaniem, czy firmy i aplikacje stosują się do brytyjskiego przepisów dotyczących m.in. zamieszczania niezgodnych z prawem treści, ochrony prywatności czy ochrony dzieci. Regulator przeanalizuje teraz materiały w sprawie i zdecyduje, czy chatbot naruszył zasady. Przed ostateczną decyzją xAI ma mieć szansę na obronę swojego stanowiska.
Jeżeli Ofcom potwierdzi naruszenia, może zobowiązać firmę do dostosowania swojego produktu do brytyjskich przepisów i nałożyć grzywnę do 18 mln funtów lub 10 proc. globalnego przychodu.
Fala krytyki wobec Groka
xAI spotkał się w ostatnim czasie z krytyką po tym, gdy Grok był wykorzystywany przez użytkowników serwisu X do generowania lub edytowania obrazów skąpo ubranych lub nagich osób (w tym dzieci), które nie wyrażały na to zgody. Media informowały o setkach poszkodowanych kobiet i nastolatek. Działania Groka zaczęły być badane przez regulatorów z Europy i Azji. Wielu polityków krytykowało brak odpowiednich zabezpieczeń i adekwatnej reakcji ze strony xAI. Indonezja i Malezja zablokowały dostęp do chatbota. Musk powiedział wcześniej, że krytycy jego platformy szukają "jakiegokolwiek pretekstu do wprowadzania cenzury".
W piątek BBC przekazało, że platforma X ograniczyła możliwość edycji zdjęć za pomocą chatbota Grok wyłącznie dla użytkowników płatnej wersji.
Autorka/Autor: jjs/dap
Źródło: PAP
Źródło zdjęcia głównego: Shutterstock