W północnych Chinach doszło do oszustwa, w którym wykorzystano zaawansowaną technologię deepfake w celu namówienia mężczyzny do przelania pieniędzy rzekomemu przyjacielowi - informuje Reuters. Potęguje to obawy o potencjalne wykorzystywanie sztucznej inteligencji do przestępstw finansowych.
Policja w mieście Baotou (region Mongolii Wewnętrznej) poinformowała, że sprawca użył technologii podmieniania twarzy opartej na sztucznej inteligencji (AI), aby podszyć się pod znajomego ofiary podczas rozmowy wideo i otrzymać przelew w wysokości 4,3 miliona juanów (ok. 2,5 mln zł). Mężczyzna był przekonany, że jego przyjaciel naprawdę potrzebuje pieniędzy.
Oszustwo wywołało poruszenie społeczne
Z tego, że został oszukany, zdał sobie sprawę dopiero po tym, jak w rozmowie jego przyjaciel powiedział, że nie wie, o co chodzi. Policja poinformowała, że udało się jej odzyskać większość pieniędzy, a funkcjonariusze pracują nad wyśledzeniem reszty.
Sprawa wywołała dyskusję na platformie mikroblogowej Weibo na temat zagrożenia prywatności i bezpieczeństwa w internecie, a hashtag "#AI oszustwa eksplodują w całym kraju" zyskał w poniedziałek ponad 120 milionów wyświetleń.
"To pokazuje, że zdjęcia, głosy i filmy mogą być wykorzystywane przez oszustów" - napisał jeden z użytkowników Weibo. "Czy zasady bezpieczeństwa informacji nadążają za technikami wykorzystywanymi przez ludzi?" - dodał inny.
Nowe przepisy i regulacje
W związku ze wzrostem liczby oszustw wykorzystujących sztuczną inteligencję, głównie w zakresie manipulacji głosem i modyfikacji twarzy, Chiny przyjęły niedawno nowe regulacje w celu zapewnienia lepszej ochrony potencjalnym ofiarom.
Przepisy Chińskiej Administracji Cyberprzestrzeni (CAC) nakazują również dostawcom technologii wykorzystującej sztuczną inteligencję wyraźne oznaczanie zdjęć, filmów i tekstu jako komputerowo wykonanych lub zmodyfikowanych, jeśli mogłyby zostać błędnie zinterpretowane jako prawdziwe.
Tymczasem policja w Baotou wezwała opinię publiczną do zachowania ostrożności podczas udostępniania informacji takich jak zdjęcia twarzy i odciski palców. Poproszono również obywateli o zweryfikowanie tożsamości dzwoniącego, który nas prosi o pomoc finansową za pomocą alternatywnych metod, takich jak rozmowy telefoniczne, przed dokonaniem jakichkolwiek przelewów.
Źródło: Reuters
Źródło zdjęcia głównego: Sony Herdiana / Shutterstock