Treści pornograficzne stworzone za pomocą technologii deepfake w ostatnim czasie stały się prawdziwą plagą w Korei Południowej. Głos w tej sprawie zabrał nawet prezydent Yoon Suk Yeol, podkreślając, że "wiele ofiar jest nieletnich, podobnie jak i wielu sprawców". Władze kraju zapowiedziały, że zwrócą się do platform społecznościowych, by bardziej aktywnie przeciwdziałały przestępstwom seksualnym w internecie.
W środę władze Korei Południowej poinformowały, że zamierzają zwrócić się do Telegrama, portalu X, Mety i Google, by bardziej aktywnie działały na rzecz wykrywania i blokowania treści pornograficznych generowanych za pomocą technologii deepfake. W ostatnim czasie koreańskie media ujawniły, że obrazy i filmy zawierające stworzony fałszywie wizerunek kobiet o charakterze seksualnym były rozpowszechniane m.in. w grupach na Telegramie. Sprawa wywołała oburzenie i debatę publiczną w kraju.
ZOBACZ TEŻ: Sztuczna inteligencja pod czujnym okiem Unii Europejskiej. Te technologie zostaną zakazane
"Takie filmy rozprzestrzeniają się nawet w szkołach podstawowych"
Koreańska Komisja ds. Standardów Komunikacj, zajmująca się monitorowaniem mediów, zapowiedziała w środę, że stworzona zostanie specjalna całodobowa infolinia dla kobiet, które padły ofiarą wykorzystania ich wizerunku do stworzenia i rozpowszechniania pornografii. Dwukrotnie ma również zostać zwiększona liczba osób odpowiedzialnych za monitorowanie internetowych przestępstw seksualnych. Urząd planuje także powołanie organu konsultacyjnego odpowiedzialnego za dialog z branżą mediów społecznościowych.
- Tworzenie, posiadanie i rozpowszechnianie treści deepfake z pornografią to poważne przestępstwa, które niszczą osobistą godność i prawa jednostki - podkreślił przewodniczący komisji Ryu Hee-lim. - W ostatnim czasie technologia deepfake jest nadużywana, tworząc cyfrowe przestępstwa seksualne, które naprawdę wstrząsają społeczeństwem. Takie filmy rozprzestrzeniają się nie tylko na uniwersytetach i szkołach średnich, ale nawet w szkołach podstawowych, co stanowi poważne zagrożenie dla naszego społeczeństwa - dodał.
We wtorek głos w sprawie zabrał południowokoreański prezydent Yoon Suk Yeol. Wezwał, by przestępstwa z wykorzystaniem technologii deepfake były dokładnie sprawdzane. - Każdy z nas może paść ofiarą takiego przestępstwa - podkreślił. - Wiele ofiar jest nieletnich, podobnie jak i wielu sprawców. Niektórzy mogą postrzegać to jako zwykły żart, ale w rzeczywistości to przestępstwo, które wykorzystuje technologię pod osłoną anonimowości - dodał.
ZOBACZ TEŻ: Brytyjczycy walczą z seksualnymi deepfake'ami. Już samo ich tworzenie będzie przestępstwem
Deepfake'owa pornografia - kto za tym stoi
Liczba potwierdzonych przestępstw związanych z pornografią tworzoną przez AI zwiększyła się w Korei Południowej z 156 w 2021 roku (wtedy po raz pierwszy zebrano dane) do 297 tylko w pierwszych siedmiu miesiącach 2024 roku. Większość osób, które za nimi stoją, to nastolatkowie i młode osoby po 20. roku życia - wynika z informacji policji. Z kolei ofiary to zazwyczaj młode kobiety. Potwierdzono zdarzenia, w których w ten sposób ucierpiały uczennice szkół, ale i kobiety służące w koreańskim wojsku.
Koreańska policja zapowiedziała już, że począwszy od środy podejmie siedmiomiesięczną walkę z przestępstwami seksualnymi w internecie i będzie zdecydowanie ścigać osoby, które tworzą i rozpowszechniają takie sztucznie wygenerowane treści. W Korei Południowej za tworzenie pornografii z wykorzystaniem deepfake z zamiarem jej rozpowszechniania grozi do pięciu lat więzienia albo grzywna w wysokości 50 mln koreańskich wonów (ok. 144 tys. zł).
ZOBACZ TEŻ: Odkryła w internecie deepfake'owe treści pornograficzne ze swoją twarzą. Musiała zapłacić za ich usunięcie
Źródło: Reuters
Źródło zdjęcia głównego: Shutterstock