Chatbot Tessa amerykańskiego Narodowego Stowarzyszenia Zaburzeń Odżywiania (NEDA) został zawieszony po tym, jak oferował użytkownikom wątpliwe i szkodliwe porady z zakresu dietetyki. Miał sugerować cotygodniowe ważenie się i drastyczne ograniczanie kalorii.
"Wczoraj wieczorem dotarły do nas wiadomości, według których obecna wersja chatbotu Tessa, będą częścią programu Body Positive, mogła podawać informacje, które były szkodliwe i stały w sprzeczności z programem" - napisano w opublikowanym w środę w mediach społecznościowych oświadczeniu NEDA. Jak dodano w treści komunikatu, organizacja ma "niezwłocznie zbadać" doniesienia, a na czas "przeprowadzenia dochodzenia" Tessa została wycofana z użytku. Możliwość komentowania wpisu została zablokowana.
Jeśli doświadczasz problemów emocjonalnych i chciałbyś uzyskać poradę lub wsparcie, tutaj znajdziesz listę organizacji oferujących profesjonalną pomoc. W sytuacji bezpośredniego zagrożenia życia zadzwoń na numer 997 lub 112.
Chatbot dawał chorym niebezpieczne rady
Z informacji przekazanych przez użytkowników bota portalowi CBS News wynika, że po tym, jak zwrócili się do Tessy o pomoc merytoryczną z zakresu dietetyki, informując ją o swoich zmaganiach z zaburzeniami odżywiania, otrzymali w odpowiedzi porady sugerujące m.in. cotygodniowe ważenie masy ciała, regularne mierzenie się za pomocą miarki czy zmniejszenie liczby przyjmowanych dziennie kalorii o nawet 1000 kcal. Zastosowanie się do którejkolwiek z powyższych porad może być dla chorych niezwykle szkodliwe i prowadzić do pogłębienia ich zaburzeń.
"Wszystkie rzeczy, jakie zasugerowała mi Tessa, w przeszłości przyczyniły się do rozwoju moich zaburzeń odżywiania" - oceniła w mediach społecznościowych aktywistka Sharon Maxwell, która przetestowała działanie chatbota. "Ten bot wyrządza krzywdę" - dodała.
ZOBACZ TEŻ: Szukała mody w średnim rozmiarze, TikTok podsuwał jej filmy o głodzeniu się i liczeniu kalorii
W maju organizacja zdecydowała się na zamknięcie linii telefonicznej, w ramach której dzwoniący mogli uzyskać pomoc od jej konsultantów. W ubiegłym roku skorzystało z niej ponad 70 tysięcy osób. Jak wynika z ustaleń portalu NPR, powodem jej zamknięcia miały być plany pracowników, by założyć związek zawodowy. Organizacja miała wówczas wdrożyć plan "przejścia na Tessę". "Chatbot nie jest w stanie zastąpić ludzkiej empatii. Sądzimy, że ta decyzja może doprowadzić do nieodwracalnych szkód wśród członków społeczności osób z zaburzeniami odżywiania" - ostrzegli w opublikowanym 26 maja oświadczeniu przedstawiciele związku NEDA Helpline Associates Union.
Poproszona przez CNN o komentarz w sprawie dyrektor generalna NEDA Liz Thompson zaprzeczyła, jakoby pracownicy zostali zwolnieni z powodu zastąpienia ich chatbotem, podkreślając, że linia telefoniczna i chat są dwiema niezależnymi inicjatywami. Stwierdziła, że przyczyną nieprawidłowego działania Tessy mogą być zachowania osób o złych intencjach, próbujących oszukać bota. Dodała także, że szkodliwe rady wysłano jedynie części korzystających.
Źródło: CBS News, CNN, NPR
Źródło zdjęcia głównego: Shutterstock