Deepfake i oszustwa finansowe. Duże poruszenie w sieci

W północnych Chinach doszło do oszustwa, w którym wykorzystano zaawansowaną technologię deepfake w celu namówienia mężczyzny do przelania pieniędzy rzekomemu przyjacielowi - informuje Reuters. Potęguje to obawy o potencjalne wykorzystywanie sztucznej inteligencji do przestępstw finansowych.

Policja w mieście Baotou (region Mongolii Wewnętrznej) poinformowała, że sprawca użył technologii podmieniania twarzy opartej na sztucznej inteligencji (AI), aby podszyć się pod znajomego ofiary podczas rozmowy wideo i otrzymać przelew w wysokości 4,3 miliona juanów (ok. 2,5 mln zł). Mężczyzna był przekonany, że jego przyjaciel naprawdę potrzebuje pieniędzy.

Oszustwo wywołało poruszenie społeczne

Z tego, że został oszukany, zdał sobie sprawę dopiero po tym, jak w rozmowie jego przyjaciel powiedział, że nie wie, o co chodzi. Policja poinformowała, że udało się jej odzyskać większość pieniędzy, a funkcjonariusze pracują nad wyśledzeniem reszty.

Sprawa wywołała dyskusję na platformie mikroblogowej Weibo na temat zagrożenia prywatności i bezpieczeństwa w internecie, a hashtag "#AI oszustwa eksplodują w całym kraju" zyskał w poniedziałek ponad 120 milionów wyświetleń.

"To pokazuje, że zdjęcia, głosy i filmy mogą być wykorzystywane przez oszustów" - napisał jeden z użytkowników Weibo. "Czy zasady bezpieczeństwa informacji nadążają za technikami wykorzystywanymi przez ludzi?" - dodał inny.

Czytaj także: To on stoi za ChatGPT. Wzywa do nałożenia ograniczeń na sztuczną inteligencję

Nowe przepisy i regulacje

W związku ze wzrostem liczby oszustw wykorzystujących sztuczną inteligencję, głównie w zakresie manipulacji głosem i modyfikacji twarzy, Chiny przyjęły niedawno nowe regulacje w celu zapewnienia lepszej ochrony potencjalnym ofiarom.

Przepisy Chińskiej Administracji Cyberprzestrzeni (CAC) nakazują również dostawcom technologii wykorzystującej sztuczną inteligencję wyraźne oznaczanie zdjęć, filmów i tekstu jako komputerowo wykonanych lub zmodyfikowanych, jeśli mogłyby zostać błędnie zinterpretowane jako prawdziwe.

Przeczytaj też: Przywódcy G7 przyjęli stanowisko w sprawie sztucznej inteligencji

Tymczasem policja w Baotou wezwała opinię publiczną do zachowania ostrożności podczas udostępniania informacji takich jak zdjęcia twarzy i odciski palców. Poproszono również obywateli o zweryfikowanie tożsamości dzwoniącego, który nas prosi o pomoc finansową za pomocą alternatywnych metod, takich jak rozmowy telefoniczne, przed dokonaniem jakichkolwiek przelewów.