Muzeum Auschwitz walczy z hejtem. Skorzysta ze sztucznej inteligencji

Muzeum Auschwitz podało w czwartek, że rozpoczęło współpracę ze startupem, który specjalizuje się w automatycznej moderacji toksycznych komentarzy w mediach społecznościowych, działając w oparciu o modele sztucznej inteligencji. Celem jest walka z mową nienawiści.

Czytaj też: "Rewolucja już się zaczęła. To technologia, która zmieni wszystko"

Paweł Sawicki, odpowiedzialny w muzeum za aktywność w mediach społecznościowych, wskazał, że placówka jest aktywna na kilku platformach społecznościowych, przede wszystkim na portalu X, Facebooku oraz Instagramie.

- Każdego dnia publikujemy tam wpisy dotyczące wydarzeń z historii niemieckiego nazistowskiego obozu Auschwitz, a także krótkie biogramy ofiar. Oficjalne profile muzeum śledzi już prawie 2,5 miliona osób, a liczba komentarzy pozostawianych każdego dnia pod naszymi to średnio 4–5 tysięcy - powiedział.

Jak podkreślił, "większość komentarzy to różnorodne wyrazy pamięci, emocjonalne reakcje na prezentowane treści, czy pytania stricte historyczne”. - Niestety, pojawiają się także komentarze, które naruszają pamięć ofiar, w tym wpisy negacjonistyczne czy antysemickie. Każdego dnia widzimy także fale spamu, trolling, działania botów wyłudzających dane czy kampanie dezinformacyjne. Odpowiednia moderacja jest dla nas priorytetem. Staramy się bowiem chronić naszą wirtualną wspólnotę pamięci przed mową nienawiści – oznajmił Sawicki.

W obliczu tego wyzwania muzeum rozpoczęło współpracę ze startupem TrollWall AI.

Czytaj też: Sztuczna inteligencja zabierze pracę? "To nie żywioł, decyzja zależy od ludzi"

Paweł Sawicki wyjaśnił, że jest to narzędzie oparte na sztucznej inteligencji, które automatycznie i w czasie rzeczywistym ukrywa nienawistne i wulgarne komentarze na stronach społecznościowych. Obecnie system działa na Facebooku, Instagramie, YouTubie i TikToku. Twórcy TrollWall AI opierają się na międzynarodowych standardach prawnych, które definiują, czym jest mowa nienawiści.

Paweł Sawicki poinformował, że muzeum uzyskało dostęp do wszystkich funkcjonalności serwisu. - W prowadzonych przez nas testach narzędzie okazało się bardzo skuteczne. Co ważne, TrollWall AI prowadzi automatyczną moderację w wielu różnych językach, co w naszym przypadku jest szczególnie istotne. Możemy także dodawać do systemu różne słowa kluczowe. Oczywiście narzędzie nie zastąpi w pełni pracy moderatora, ale stanowi dodatkowe zabezpieczenie i dodatkową barierę, zwłaszcza na Facebooku i Instagramie – zaznaczył.

Działania w mediach społecznościowych są ważnym elementem misji edukacyjnej Miejsca Pamięci. Treści publikowane na oficjalnych kontach muzeum docierają do niemal 2,5 miliona osób, z czego najwięcej za pośrednictwem platformy X – 1,6 mln obserwujących, a także Facebooka – 556 tys. obserwujących.

Niedawno jednak władze muzeum miały problem z usuwaniem nie nienawistnych komentarzy, a ich własnych wpisów. W kwietniu placówka informowała, że system moderowania treści Facebooka usunął niektóre posty z profilu. Muzeum Auschwitz nazwało takie zachowanie "algorytmicznym wymazywaniem historii".

Działanie w tej sprawie zapowiedział wówczas minister cyfryzacji Krzysztof Gawkowski. "Ukrywanie postów upamiętniających ofiary Auschwitz to skandal i ilustracja problemów z automatyczną moderacją treści" - napisał w serwisie X.

Niemcy założyli obóz Auschwitz w 1940 roku, aby więzić w nim Polaków. Auschwitz II-Birkenau powstał dwa lata później. Stał się miejscem zagłady Żydów. W kompleksie obozowym funkcjonowała sieć podobozów. W Auschwitz Niemcy zgładzili co najmniej 1,1 miliona ludzi, głównie Żydów. Spośród około 140-150 tys. deportowanych do obozu Polaków śmierć poniosła niemal połowa. W Auschwitz ginęli także Romowie, jeńcy sowieccy i osoby innej narodowości.

W 1947 roku na terenie byłych obozów Auschwitz I i Auschwitz II-Birkenau powstało muzeum. Były obóz w 1979 roku został wpisany, jako jedyny tego typu obiekt, na Listę Światowego Dziedzictwa UNESCO.