- Fikcyjni lekarze publikują treści sprzeczne z wiedzą medyczną. Komu szczególnie zagrażają?
- Dezinformacyjne nagrania najczęściej są kierowane do osób starszych. Eksperci tłumaczą, dlaczego.
- Po czym poznać, że na nagraniu jest lekarz wygenerowany przez AI?
- Przepisy unijnego AI Act mogą ograniczać rozpowszechnianie takich treści, jednak nie eliminują całkowicie ryzyka związanego z dezinformacją zdrowotną.
Hiszpański portal fact-checkingowy ujawnił ponad tysiąc kanałów na YouTube, na których wygenerowani przez sztuczną inteligencję lekarze rozpowszechniają dezinformację w ponad 30 językach. Dwadzieścia z tych kanałów publikowało materiały po polsku. Fikcyjni eksperci zniechęcają między innymi do badań i przekonują, że zioła mogą leczyć nowotwory.
Maldita.es udostępniła przykłady kont wykorzystujących wygenerowane przez AI awatary, które mają przypominać lekarzy. W nazwach kanałów często pojawiają się określenia "dr" lub "lekarz", a także popularne polskie nazwiska, takie jak "Kowalski" czy "Nowak". Sześć spośród analizowanych kont powstało w ciągu ostatnich trzech miesięcy.
W nagraniach fikcyjni lekarze rozpowszechniają twierdzenia, które nie znajdują potwierdzenia w wiedzy medycznej. Przekonują m.in., że osoby z ciśnieniem 180/110 mm Hg nie powinny zgłaszać się do lekarza, jajka mogą leczyć nowotwory i cukrzycę, a krem z filtrem powoduje raka. Informacje te są sprzeczne z zaleceniami medycznymi.
"Poważne zagrożenie dla zdrowia publicznego"
Katarzyna Lipka z Zespołu Analizy Trendów Narracyjnych i Fact-checkingu NASK (Naukowa i Akademicka Sieć Komputerowa – Państwowy Instytut Badawczy) powiedziała, że tego typu filmy stanowią poważne zagrożenie dla zdrowia publicznego.
Szczególnie zagrożeni są pacjenci zmagający się z chorobą, która nieleczona może prowadzić do śmierci. W przypadku wielu chorób, a w szczególności w przypadku nowotworów, skuteczność terapii zależy często od szybkiego wdrożenia leczenia - zauważyła ekspertka.
Jej zdaniem konta namawiające odbiorców do rezygnacji z profesjonalnej opieki medycznej mogą opóźniać rozpoczęcie leczenia. To z kolei może narazić pacjentów na dodatkowe powikłania, a nawet pozbawić ich szansy na skuteczne wyleczenie.
Nagrania kierowane do starszych odbiorców
Z analizy wynika, że nagrania fikcyjnych lekarzy są najczęściej kierowane do starszych odbiorców. W filmach pojawiają się sformułowania: "po 60. roku życia pij to codziennie", "pięć błędów na spacerze, które niszczą twoje zdrowie po 50-tce" czy "dlaczego lekarze przemilczają te pięć badań po 65?".
Zdaniem Lipki wybór tej grupy docelowej wynika z dwóch czynników. Po pierwsze, osoby starsze częściej zmagają się z chorobami przewlekłymi. Po drugie, twórcy dezinformacji mogą zakładać, że będą one miały większą trudność z odróżnieniem prawdziwych nagrań od materiałów wygenerowanych przez AI.
- Obserwowaliśmy również konto podszywające się pod Głównego Inspektora Sanitarnego, namawiające odbiorców do dzielenia się swoją historią medyczną w komentarzach. Takie działania mogą mieć na celu diagnozowanie tematów zdrowotnych mających najwyższy potencjał zainteresowania większej grupy odbiorców - podkreśliła.
"Liść, który leczy raka"
- Liść, który leczy raka, a o którym lekarze nie mówią - mówi w jednym z nagrań na popularnym portalu społecznościowym wygenerowany przez AI mężczyzna w białym kitlu. Inny wpis zachęca do stosowania naparu z przypraw zamiast leków na cukrzycę. Jedno z takich nagrań zgromadziło 90 tysięcy wyświetleń.
Ekspertka zaznaczyła, że podobne stwierdzenia mają przekonać odbiorców, iż prawdziwi lekarze nie kierują się dobrem pacjentów. Zwróciła uwagę, że wpisują się one w szerszy kontekst podważania zaufania do medycyny i promują myślenie spiskowe. Takie działanie może wpływać nie tylko na odwracanie się pacjentów od korzystania z profesjonalnej opieki medycznej, ale też osłabiać ich zaufanie do nauki i instytucji - przyznała. Według Lipki regulacje, w tym AI Act, mogą ograniczać rozpowszechnianie takich treści, ale nie wyeliminują medycznej dezinformacji.
A jakie jest stanowisko Mety oraz Google Polska w sprawie publikowanych na Facebooku i YouTubie treści z lekarzami wygenerowanymi przez AI? - Nie zezwalamy na prowadzenie na naszych platformach kont, które stosują oszukańcze praktyki w celu wprowadzania ludzi w błąd lub publikowania wprowadzających w błąd informacji dotyczących zdrowia. Sprawdzamy zgłoszone konta i podejmiemy działania wobec wszystkich, które okażą się niezgodne z naszymi zasadami - przekazał rzecznik Mety.
Biuro Prasowe Google Polska zaznaczyło w oświadczeniu, że zasady YouTube’a dotyczące nieprawdziwych informacji medycznych zabraniają publikowania treści, które stwarzają poważne ryzyko szkód przez zaprzeczanie wytycznym lokalnych organów ochrony zdrowia. - Te zasady dotyczą wszystkich materiałów na platformie, w tym wygenerowanych przez AI. Treści naruszające regulamin skutkują szybką reakcją wobec filmów lub kanałów - czytamy.
Weterynarze i "babcie zielarki" wygenerowani przez AI
Lipka zauważyła, że 14 spośród przeanalizowanych przez Polską Agencję Prasową kont znajduje się w bazie 140 innych kont zidentyfikowanych przez Ośrodek Analizy Dezinformacji NASK. - Wśród zgłoszonych kont zaobserwowaliśmy nie tylko lekarzy wygenerowanych przez AI, ale również weterynarzy udzielających porad w kwestii zdrowia zwierząt towarzyszących. Dodatkowo zidentyfikowano też konta przedstawiające wygenerowane przez AI babcie zielarki, które zostały zgłoszone w tym samym dniu administracji platformy. Część z tych kont promowała płatne e-booki z poradami zdrowotnymi - powiedziała.
Dodała, że po zgłoszeniu przesłanym przez NASK platforma usunęła te konta. W przypadku kont na YouTubie Instytut nie otrzymał odpowiedzi.
Jak rozpoznać lekarza wygenerowanego przez AI?
Pytana o to, jak rozpoznawać nagrania z udziałem lekarzy wygenerowanych przez AI, Lipka wskazała, że należy zwracać uwagę na oczy i usta rzekomych specjalistów. Zbyt rzadkie lub nienaturalne mruganie, a także brak synchronizacji między wypowiadanymi słowami a ruchem warg, mogą wskazywać, że nagranie zostało stworzone przez sztuczną inteligencję.
Ekspertka doradziła również, aby przyglądać się przedmiotom znajdującym się w tle oraz zwracać uwagę na głos osoby występującej w nagraniu. Zbyt monotonny, pozbawiony emocji lub mający dziwną intonację głos może świadczyć o tym, że mamy do czynienia z deepfake’em. - Naszą uwagę powinny również zwrócić nienaturalne pauzy lub pomyłki w liczebnikach, skrótach czy nazwach własnych. Na manipulację może wskazywać sam kontekst materiału, jeśli treść nagrania wydaje się szokująca, nieprawdopodobna lub skrajnie kontrowersyjna, powinna zapalić nam się czerwona lampka - podsumowała.
Ekspertki o przepisach AI Act
Lipka wyjaśniła również, w jaki sposób przepisy Aktu w sprawie sztucznej inteligencji, czyli AI Act, mogą ograniczać rozpowszechnianie takich nagrań. Zaznaczyła, że działania podjęte przez Unię Europejską nie eliminują całkowicie ryzyka związanego z działalnością kont publikujących porady zdrowotne z wykorzystaniem AI. - Ich powszechna obecność i algorytmiczne systemy rekomendacji grożą wielokrotnym narażeniem odbiorcy na te same narracje dezinformacyjne, co może zwiększać zaufanie do danego przekazu - mówiła.
Dr Maria Dymitruk, partnerka, radczyni prawna i specjalistka praktyki prawa sztucznej inteligencji w kancelarii Lubasz i Wspólnicy, powiedziała we wcześniejszej rozmowie, że obowiązek oznaczania deepfake’ów co do zasady dotyczy przedsiębiorców i sektora publicznego, ale nie osób prywatnych.
- Oznacza to, że firma, która stworzy realistyczną reklamę z użyciem AI przedstawiającą na przykład mężczyznę robiącego pranie, musi to w wyraźny sposób oznaczyć. Wydaje mi się, że wskutek tych przepisów zostaniemy zalani oznaczeniami AI ze strony biznesu, na przykład w reklamach. A to, co jest naszą bolączką od dłuższego czasu, czyli zapełnianie internetu plagą deepfake’ów, również tych wykorzystywanych do dezinformacji, może niestety pozostać bez zmian - oceniła ekspertka.
