16 tysięcy reklam wykreowanych przez sztuczną inteligencję, 450 osób, których wizerunek został bezprawnie wykorzystany i 537 mln zł strat po stronie użytkowników internetu - taki bilans trwającego pięć tygodni monitorowania sieci przedstawiła na konferencji Ewelina Bartuzi-Trokielewicz, kierowniczka zakładu analiz audiowizualnych w NASK Państwowym Instytucie Badawczym.
Ekspert: 60 procent sieci jest już martwa
Podczas panelu "Iluzja rzeczywistości. Przed jakimi problemami stawia nas technologia deepfake" eksperci wskazywali na zagrożenia wynikające z wpływu deepfake'ów na wiarygodność mediów i bezpieczeństwo publiczne. Zwracano także uwagę na dostępne techniki weryfikacji faktów.
- Według badań już około 60 procent sieci jest martwa. Zapytania na strony HTML-owe są w 57 proc. generowane przez boty. Ruch w internecie generowany przez agentów AI-owych rośnie dramatycznie. To, co mogą zrobić z informacją roje agentów, jest niewyobrażalne. Sytuacja jest bardzo trudna i jeżeli będziemy sobie dyskutować jeszcze kolejne lata, to obudzimy się w sytuacji, gdzie nie tylko sieć umiera, ale umrze prawdziwa informacja - mówił w tym panelu Paweł Sanowski z Instytutu Monitorowania Mediów.
- Kłamstwo jest łatwo i bezkosztowo wyprodukować. Znacznie trudniej i znacznie większe zasoby należy zaangażować, żeby wyprodukować prawdę, która weryfikuje to kłamstwo. To zawsze będzie za późno wobec tego, co potrafi zrobić aktor dezinformacji - zwracał uwagę szef działu fact-checkingu PAP Błażej Strzelczyk.
Wykrywacz kłamstw
Ewelina Bartuzi-Trokielewicz zaprezentowała na konferencji system DROZD, narzędzie do analizowania i wykrywania deepfake'ów oraz zmodyfikowanych treści. Jego działanie ma polegać m.in. na tym, że po przepuszczeniu przez niego filmu z rzekomą wypowiedzią znanej osoby będzie w stanie wykryć przypadki manipulacji głosem i obrazem.
Brzoska ofiarą deepfake'ów
W sierpniu ofiarą deepfake'ów padł prezes InPost Rafał Brzoska. Wszedł w konflikt z Metą (Meta Platforms, czyli właściciel m.in. Facebooka i Instagrama) po masowym wyświetlaniu na Facebooku i Instagramie nielegalnych reklam typu deepfake i scam, bezprawnie wykorzystujących wizerunek jego oraz jego żony. Pomimo wyroków sądów i decyzji Urzędu Ochrony Danych Osobowych (UODO) nakazujących blokadę tych treści, fałszywe reklamy wciąż były publikowane i trafiły m.in. do dzieci przedsiębiorcy.
W tej sprawie interweniował również wicepremier, minister cyfryzacji Krzysztof Gawkowski. Wezwał Metę do przedstawienia resortowi cyfryzacji informacji dotyczących m.in. skali oszukańczych reklam w Polsce, w szczególności wykorzystujących bezprawnie wizerunek osób publicznych i przedsiębiorców. Meta nie przedstawiła danych dotyczących wyłącznie Polski. Podała natomiast, że w całej UE w analizowanym okresie otrzymała 788 745 zgłoszeń na Facebooku i 353 997 na Instagramie na podstawie art. 16 Aktu o usługach cyfrowych (DSA).
Na wezwanie wicepremiera dotyczące wykorzystania wizerunku Rafała Brzoski Meta odpowiedziała, że nie może ujawniać informacji dotyczących indywidualnych kont użytkowników ani spraw związanych z toczącymi się postępowaniami sądowymi. Brzoska postuluje wprowadzenie kar finansowych nakładanych na social media, które publikują fałszywe treści. Według niego adekwatną wysokością jest 150 proc. zarobków uzyskiwanych z publikacji.