Wśród oszustw, jakie stają się powszechne - poza klonowaniem głosu - są również wiadomości phishingowe (czyli podszywanie się pod instytucje), czy matrymonialne. Dane FBI pokazują, że Amerykanie, którzy uwierzyli przestępcom stracili łącznie 893 mln dolarów.
Powielanie w kilka sekund
Klonowanie głosu może budzić szczególny niepokój, ponieważ narzędzie oparte na sztucznej inteligencji pozwala tworzyć przekonującą replikę cudzego głosu na podstawie zaledwie kilku sekund prawdziwego nagrania. Oszuści potrafią naśladować wszystkich - od członków rodziny i przyjaciół, po współpracowników, czy pracowników usługowych. Banki - w tym brytyjski Starling i australijski Commonwealth Bank of Australia - ostrzegają przed podejrzanymi telefonami.
Przestępcy klonują głos danej osoby za pomocą krótkiego nagrania jej wypowiedzi - często pobieranego z mediów społecznościowych, lub wcześniejszego oszukańczego połączenia, które zostało potajemnie nagrane. Profile na platformach społecznościowych mogą stanowić bogate źródło informacji o członkach rodziny i bliskich przyjaciołach, którzy następnie stają się celami ataku.
Manipulacja w czasie rzeczywistym
Eksperci twierdzą, że repliki głosów generowane przez sztuczną inteligencję stały się tak realistyczne, że większość ludzi nie jest w stanie niezawodnie odróżnić ich od prawdziwych ludzkich głosów.
- Nie można oczekiwać od zwykłych ludzi, że będą w stanie to wykryć. Sam mam z tym problem, tak jak większość osób - przyznał w rozmowie z CNN Henry Ajder, ekspert ds. mediów generowanych przez sztuczną inteligencję.
W niektórych przypadkach głos generowany przez AI może być więcej niż tylko pojedynczym nagraniem. Sprawni cyberprzestępcy mogą korzystać z narzędzi zmiany tekstu na mowę lub "voice skinningu", które manipulują głosem tak, by brzmiał w czasie rzeczywistym, jak osoba, którą naśladuje. Ajder wskazał, że techniki te ułatwiają prowadzenie dialogu między ofiarą a klonowanym głosem AI.
Hakerzy mogą również sprawić, że połączenie będzie wyglądało na pochodzące ze znanego numeru - taktyka ta nazywa się "spoofingiem" ("fałszowanie" po angielsku - red.) identyfikatora dzwoniącego, jak informuje CNN. Nie można zatem bezwarunkowo ufać, że telefon od bliskiego członka rodziny rzeczywiście od niego pochodzi.
Wykrywanie coraz trudniejsze
Kiedyś sygnałami rozpoznawczymi, że głos jest generowany przez sztuczną inteligencję, były dziwne pauzy lub wahania głosu. Obecnie, wraz z rozwojem sztucznej inteligencji, te zakłócenia mogą nie występować.
- Zamiast próbować ustalić, czy głos jest autentyczny, należy szukać innych ogólnych oznak oszustwa - zwrócił uwagę Hany Farid, profesor na Uniwersytecie Kalifornijskim w Berkeley i dyrektor naukowy w GetReal Security.
Tradycyjny sposób weryfikacji
Osoby otrzymujące telefony budzące niepokój, powinny spróbować skontaktować się z bliską osobą innymi sposobami, np. wysyłając im SMS-a, dzwoniąc z telefonu innej osoby, lub kontaktując się z kimś, kto wie, gdzie dany członek rodziny lub przyjaciel przebywa. Warto również ustalić zapobiegawcze hasło, które ułatwi wzajemną weryfikację tożsamości - powinno być to słowo lub fraza znane tylko wąskiej grupie osób i niemożliwe do znalezienia w internecie.