Firma OpenAI zablokowała grupę kont pochodzących z Rosji, które miały być wykorzystywane do rozpowszechniania dezinformacji w mediach społecznościowych - podał portal stacji CNBC.
Firma rozpoczęła dochodzenie po wykryciu postów w mediach społecznościowych, które powstały z użyciem sztucznej inteligencji - ChatGPT.
Według OpenAI była to "szeroko zakrojona operacja wywierania wpływu". Gigant technologiczny podkreślił, że działania były "oparte na stronie internetowej ze skopiowanymi i błędnie przypisanymi pracami naukowymi, indeksie suwerenności, który przedstawiał Rosję w korzystnym świetle, oraz miały na celu ukrycie rosyjskiego pochodzenia".
Ukrywanie pochodzenia autorów
Operatorzy wydawali ChatGPT polecenia w języku rosyjskim. W ten sposób tworzyli komentarze publikowane później na platformach Substack, Telegram, X, Facebook i LinkedIn.
Według OpenAI użytkownicy nakazywali również chatbotowi usuwać z tekstów językowe wskazówki, które mogłyby ujawnić, że ich autorzy pochodzą z Rosji. Korzystali też z sieci VPN, aby ukrywać swoją lokalizację. OpenAI nie udostępnia swoich modeli na terenie Rosji - podał CNBC.
Indeks suwerenności
OpenAI oceniło, że bezpośredni zasięg kampanii był ograniczony. "Ta operacja nie jest ważna z powodu liczby odbiorców, do których udało się dotrzeć, istotna jest infrastruktura, którą udało się w jej ramach zbudować" - przekazało OpenAI.
Wpisy tworzone przez ChatGPT kierowały odbiorców do instytucji sprawiającej wrażenie wiarygodnej. Miała ona rzekomych ekspertów, ponownie publikowane prace naukowe i przedstawiany jako autorski indeks ryzyka.
"Pokazuje to, jak można wykorzystywać sztuczną inteligencję do tworzenia pozorów autorytetu, ukrywania źródeł promowanych narracji i budowania zasobów, które z czasem można rozwijać na większą skalę" - przekazała firma.
OpenAI dodało, że wykorzystanie sztucznej inteligencji jako narzędzia pomocniczego może również doprowadzić do ujawnienia całej operacji.
Konta powiązane z prorosyjską firmą
To kolejny przypadek wykorzystywania sztucznej inteligencji przez prorosyjskie środowiska do rozpowszechniania dezinformacji. W lutym OpenAI poinformowało o zamknięciu kont ChatGPT powiązanych z prorosyjską firmą medialną Rybar.
Brytyjski rząd opisuje Rybar jako podmiot częściowo koordynowany przez administrację przywódcy Rosji. Według niego działalność firmy finansuje rosyjski państwowy koncern Rostec, a Rybar współpracuje z przedstawicielami rosyjskich służb wywiadowczych.