Na początku roku okazało się, że osoby na zdjęciach - także nieletnie - można rozbierać za pomocą Groka. To popularny, ogólnie dostępny chatbot dostępny na platformie X należącej do Elona Muska. Sprawą zajęła się m.in. brytyjska organizacja Internet Watch Foundation. Na zamkniętych forach znalazła wygenerowane przez Groka obrazy nagich dzieci. Niektóre kraje, m.in. Indonezja i Malezja, zablokowały czasowo narzędzie. Komisja Europejska wszczęła postępowanie w sprawie X.

W tym samym czasie polski internet zalały zdjęcia prezydenta Karola Nawrockiego w bikini. To była reakcja na weto do ustawy, która wdrażała unijny akt o usługach cyfrowych. Digital Service Act (DSA) miał zapobiegać sytuacjom takim jak na X.

Musk przekonywał wprawdzie, że "nic nie wie o żadnych nagich obrazach nieletnich wygenerowanych przez Groka", jednak w chatbocie wprowadzono zmiany - funkcję rozbierania zablokowano.

Problem jednak nie zniknął.

700 milionów pobrań, 100 milionów dolarów przychodu

Po aferze związanej z Grokiem amerykańska organizacja Tech Transparency Project (TTP) przejrzała sklepy z aplikacjami na smartfony. Jej pracowicy przetestowali dziesiątki programów, które pojawiały się w wynikach wyszukiwania po wpisaniu "nudify" lub "undress" (ang. rozbierz).

TTP znalazła w Google Play i App Store po około 50 aplikacji, które cyfrowo usuwają ze zdjęć ubrania - całkowicie lub częściowo. Testerzy korzystali wyłącznie z funkcji bezpłatnych. Większość programów oferowała bardziej zaawansowane opcje za pieniądze.

Wyniki raportu TTP, które opublikowano 27 stycznia, jasno pokazały, że Google i Apple nie nadążają z blokowaniem programów AI typu deepfake.