Kilka dni temu na platformie X, także należącej do Muska, zaczęły pojawiać się wygenerowane przez Groka zdjęcia, które przedstawiają skąpo ubrane lub całkiem rozebrane osoby, zarówno publiczne, jak i prywatne. Część z tych zdjęć przedstawia dzieci. Osoby na zdjęciach nie wyrażały na to zgody, a często nawet nie miały świadomości tego, że ich wizerunki zostały w ten sposób przerobione.
Okazało się, że Grok na polecenie użytkowników był w stanie przerabiać zdjęcia ze zwykłych na rozebrane bądź w trakcie czynności seksualnych. Trend wydawania takich poleceń i wrzucania ich efektów na X nasilił się zwłaszcza w noc sylwestrową. Jak informują media, przez ostatnie dwa dni setki kobiet i nastolatek zgłosiły, że znalazły swoje wygenerowane w ten sposób zdjęcia.
Pewna kobieta powiedziała BBC, że poczuła się "odczłowieczona i sprowadzona do roli stereotypu seksualnego" po tym, jak Grok został wykorzystany do cyfrowego zdjęcia jej ubrań.
Grok się tłumaczy
"Zdarzyły się pojedyncze przypadki, w których użytkownicy otrzymali obrazy AI przedstawiające nieletnich w skąpym ubraniu" - napisał Grok w poście na X. "xAI ma zabezpieczenia, ale trwają prace nad poprawkami, aby całkowicie zablokować takie żądania" - dodano.
"Zidentyfikowaliśmy luki w zabezpieczeniach i pilnie je naprawiamy - CSAM (Child Sexual Abuse Material czyli materiały przedstawiające wykorzystywanie seksualne dzieci) jest nielegalne i zakazane" - napisał Grok.
W osobnej odpowiedzi udzielonej użytkownikowi X w czwartek, Grok stwierdził, że większości przypadków można zapobiec dzięki zaawansowanym filtrom, choć zaznaczył, że "żaden system nie jest w 100 proc. niezawodny". Dodał, że xAI priorytetowo traktuje ulepszenia i analizuje dane udostępnione przez użytkowników.
Na prośbę agencji Reuters o komentarz, xAI odpowiedziało automatycznie wygenerowaną wiadomością: "Legacy Media Lies" (Kłamstwa tradycyjnych mediów).
A co na to Elon Musk? Miliarder udostępnił na platformie X swoje własne, przerobione zdjęcie.
Działania w tej sprawie podjęły już władze Francji oraz Indii. Minister gospodarki Francji Roland Lescure, ministra ds. cyfryzacji i sztucznej inteligencji Anne Le Henanff i ministra ds. równości Aurore Berge poinformowali w piątek, że powiadomili prokuraturę o treściach, które są niezgodne z prawem i zażądali ich niezwłocznego usunięcia. W sprawie wizerunków zawiadomiony został również francuski państwowy regulator mediów i internetu - urząd Arcom.
Z kolei indyjskie ministerstwo technologii elektronicznych i informacyjnych wezwało X do podjęcia działań naprawczych w Groku, w tym ograniczenie generowania treści zawierających "nagość, seksualizację, treści o charakterze jednoznacznie seksualnym lub w inny sposób niezgodne z prawem" i dało 72 godziny na przedłożenie raportu z podjętych działań.
Bloomberg zwraca uwagę, że rozwój narzędzi AI, które mogą generować realistyczne zdjęcia rozebranych nieletnich, uwypukla wyzwania związane z moderacją treści i systemami bezpieczeństwa wbudowanymi w duże modele językowe generujące obrazy. Nawet narzędzia, które rzekomo posiadają zabezpieczenia, mogą być manipulowane, co prowadzi do rozprzestrzeniania się takich materiałów.
To nie pierwsze kontrowersje z udziałem Groka. Warto przypomnieć, że w maju ubiegłego roku chatbot zaczął publikować treści o skrajnie prawicowej teorii spiskowej "białej zagłady" w RPA. xAI przeprosiło również w lipcu po tym, jak Grok zaczął publikować materiały antysemickie. Nazwał siebie "MechaHitler" i chwalił ideologię nazistowską.
Krzysztof Gawkowski apeluje do prezydenta
Sprawę skomentował na portalu X minister cyfryzacji Krzysztof Gawkowski. "Niekontrolowana AI szaleje i wyrządza coraz większe szkody. Grok znów, z inspiracji Elona Muska testuje, jakie granice może przekroczyć" - napisał.
Jak dodał, "nie ma zgody na bezkarne łamanie prawa i tworzenie przez AI treści nielegalnych, niszczących ludzi i psychikę". "Powiedzmy to jasno, to że system obraża, promuje treści seksualne i narusza godność to wina zarządzania oraz braku zasad etycznych platformy" - zaznaczył. Podkreślił, że narzędzia, żeby walczyć z takim treściami w internecie, są gotowe. "Przyjął je polski Parlament i dziś leżą na biurku Prezydenta RP. Wzywam Prezydenta Nawrockiego do jak najszybszego podpisania ustawy o usługach cyfrowych, a dzięki temu usuwanie nielegalnych treści będzie łatwiejsze" - napisał szef resortu cyfryzacji. "Koniec gadania, potrzebujemy działania" - podsumował Gawkowski.
Chodzi o ustawę wdrażającą unijny Akt o usługach cyfrowych (DSA), która ma skuteczniej chronić użytkowników internetu i wzmacniać ich prawa wobec decyzji podejmowanych przez platformy internetowe.
Nowe przepisy umożliwiają między innymi skuteczniejszą walkę z przestępstwami w internecie, poprawiają ochronę użytkowników oraz wzmacniają nadzór nad platformami cyfrowymi.
Ustawa wprowadza krajową procedurę wydawania nakazów blokowania treści dotyczących ściśle określonych, poważnych przestępstw, takich jak na przykład handel ludźmi czy wykorzystywanie seksualne małoletnich.