- Potrzebujemy skoordynowanych działań i przepisów. Widzimy konieczność surowego karania osób, które tworzą materiały deepfake czy deepnudes z udziałem innych osób bez ich woli - mówiła TVN24+ posłanka Monika Rosa, szefowa sejmowej komisji do spraw dzieci i młodzieży. I podkreślała: - Powinno być to szczególnie piętnowane, gdy dotyka dzieci. Osobiście uważam, że potrzebne są nam w tej kwestii jasne i konkretne zapisy w prawie karnym.
To ona pod koniec stycznia wystąpiła do Ministerstwa Sprawiedliwości z wnioskiem o powołanie międzyresortowego zespołu, który pracowałby nad rozwiązaniami prawnymi dotyczącymi deepfake'ów. Opisaliśmy to w TVN24+ w części naszego cyklu poświęconego niezbędnym zmianom w prawie, które dziś nie chroni ofiar technologii.
W jej piśmie czytamy m.in.: "W toku prac Komisji (do spraw dzieci i młodzieży - red.) omówiono liczne przypadki naruszeń praw małoletnich, obejmujące m.in. wytwarzanie i rozpowszechnianie deepfake’ów o charakterze seksualnym, przemoc rówieśniczą z wykorzystaniem zmanipulowanego wizerunku, a także sytuacje, w których organy ścigania napotykały istotne trudności w kwalifikacji prawnej czynów i podejmowaniu skutecznych działań. W praktyce prowadzi to do opóźnionych reakcji instytucjonalnych, poczucia bezkarności sprawców oraz wtórnej wiktymizacji ofiar".
Powołanie nowego zespołu minister Żurek i posłanka Rosa ogłosili na Instagramie.
Żurek mówi: - Nasze dzieci są dla nas najważniejsze. Nie możemy pozwolić, by prosta aplikacja niszczyła im życie.
A Rosa pyta: - Co byś zrobił, gdyby głowa z Twojego zdjęcia, głowa ze zdjęcia twojego dziecka, pojawiła się z nagim ciałem? Gdyby pojawiła się w filmie o podłożu seksualnym? Czy wiedziałbyś do kogo się zgłosić?
Żurek przyznaje, że prawo "w jakiś sposób abdykowało" przed tym, jak technologia posuwa się do przodu i dlatego potrzebne są zmiany.
Był wniosek, jest odpowiedź
10 lutego - w Dniu Bezpiecznego Internetu - wiadomo już, że apel posłanki w dużej części został wysłuchany. W Ministerstwie Sprawiedliwości powstaje zespół, którego zadaniem jest stworzenie propozycji regulacji odnoszących się bezpośrednio do rozpowszechniania szkodliwych treści w postaci deepfake'ów. Zespół nie będzie międzyresortowy, ale w jego skład wejdą nie tylko przedstawiciele resortu sprawiedliwości, lecz też innych instytucji, w tym działających na rzecz cyfrowego bezpieczeństwa.
Do MS trafiły między innymi dramatyczne dane z raportu WeProtect Global Alliance, z których wynika, że liczba materiałów CSAM (Child Sexual Abuse Material, czyli materiał przedstawiający seksualne wykorzystani dzieci) generowanych z wykorzystaniem sztucznej inteligencji wzrosła o 1300 proc. w roku 2024. Aby przerobić czyjeś zdjęcie, nie trzeba już niemal żadnych umiejętności - wystarczy aplikacja. Problem nie dotyczy już tylko osób życia publicznego. Fotografie przedstawiające twarze kobiet z "dorobionymi" nagimi ciałami trafiają do internetu, służąc jako narzędzie szantażu, przemocy, upokorzenia.
Posłanka Rosa stara się przekonać ministra Żurka, że potrzebne są przepisy, które będą bezpośrednio odnosić się do rozpowszechniania szkodliwych treści, zapewniając ofiarom możliwość skutecznego i szybkiego dochodzenia swoich praw.
Zespół powołany przez ministra Żurka ma m.in. przygotować regulacje w obszarze prawa karnego zapewniające skuteczną ochronę osobom pokrzywdzonym i karanie sprawców, opracować propozycje działań dla prokuratury i policji, które pomogą w wykrywaniu i ściganiu sprawców, ale też przygotować rekomendacje w obszarze prawa rodzinnego i cywilnego, które doprowadziłyby do wzmacniania ochrony wizerunku małoletnich.
Tymczasem w przedszkolach i szkołach
To ostatnie wydaje się palącym problemem w kontekście trwającej właśnie rekrutacji do placówek opiekuńczych i oświatowych. Kwestię tę po raz kolejny nagłośniła aktywistka Alina Czyżewska, która 8 lutego opublikowała w mediach społecznościowych wpis zaczynający się od słów: "Do bycia w sieci i do przekonania, że produkowanie treści o sobie i o innych jest czymś naturalnym, dzieci są dziś wdrażane bardzo wcześnie - przez przedszkola i szkoły, przy wsparciu dumnych rodziców i dziadków".
Czyżewska krytykuje w nim m.in. praktykę publikowania wizerunku dzieci w mediach społecznościowych, by promować placówki edukacyjne i opiekuńcze. To zjawisko przybiera na sile w czasie rekrutacji, gdy zmagające się z niżem żłobki, przedszkola i podstawówki starają się wszelkimi sposobami przekonać rodziców, że są właściwym miejscem dla ich dzieci. W TVN24+ pisaliśmy o tym zjawisku tuż przed rozpoczęciem roku szkolnego, informując rodziców, że mają prawo odmówić podpisania tzw. zgód wizerunkowych i wymagać od placówek, by takie zgody były stopniowane.
Czyżewska zwraca teraz uwagę: "W tym czasie placówki pokazują, jak rozumieją bezpieczeństwo i szacunek dla wizerunku dziecka: przedszkola MASOWO używają dzieci do autopromocji: produkcji zabawnych filmików, odtwarzania viralowych trendów ("tu jest..., to jest..."), stylizowania dzieci na potrzeby memicznych formatów".
Jak to się ma do technologii deepfake? Czyżewska odnosi się tu do ostatnich publikacji TVN24+. I pisze między innymi: "za te parę lat ci sami, dziś dumni ze zdolności swoich małych córeczek rodzice, będą załamywać ręce, a być może opłakiwać swoje dzieci, które stały się ofiarami przeróbek porno".
Bo tak, wystarczy jedno zdjęcie dziecka, by stało się ofiarą.
To już epidemia
O "epidemii" seksualizujących deepfake'ów piszemy w TVN24+. W ramach specjalnego cyklu opisaliśmy m.in., jak w Polsce umarzane są zgłoszenia pokrzywdzonych, bo obowiązujące prawo zakłada, że obnażenie "cyfrowego" ciała nie jest przestępstwem.
Choć technologia deepfake używana jest od lat i eksperci już od 2017 roku podnoszą, że jest wykorzystywana przeciwko dziewczętom i kobietom, nasza legislacja nie nadążała dotąd za szybko ewoluującymi rozwiązaniami technologicznymi.
Równocześnie nie wszędzie władze są tak opieszałe. Włochy jako pierwszy kraj w Unii Europejskiej przyjęły kompleksowe przepisy chroniące ofiary deepfake'ów. Wcześniej problem dotknął nawet premierki kraju. Korea Południowa ma specjalną infolinię dla pokrzywdzonych kobiet, a w USA o kolejne już zmiany prawa walczy celebrytka i milionerka Paris Hilton.
Redagowała Aleksandra Przybylska