Axios wymienia, że aktywności dotknęły między innymi Morgan Stanley, Bank of America, JPMorgan i Wells Fargo. Według źródeł serwisu banki próbują ograniczać ryzyko związane z dostępem zewnętrznych narzędzi AI do rachunków klientów.
Nie wszystkie opisane przypadki dotyczyły dostępu bez zgody właściciela konta. Niektóre agenty logowały się przy użyciu danych klientów i za ich zgodą. Takie działanie może jednak naruszać zasady banków, które wymagają, by klienci logowali się samodzielnie.
Problem jest szczególnie istotny w przypadku agentów wyposażonych w uprawnienia do dokonywania zakupów lub przenoszenia pieniędzy.
Źródła Axios opisują również przypadki, w których agenty kontaktowały się z centrami obsługi klienta albo podejmowały działania wyglądające na niezależne od instrukcji użytkownika. Banki mają jednocześnie trudności z ustaleniem, czy daną aktywność na koncie zainicjował klient, czy działający w jego imieniu agent AI.
Banki ograniczają dostęp agentów AI
Według Axios Morgan Stanley zaczął blokować zewnętrzne agenty AI na swoich platformach. JPMorgan, Bank of America i Citigroup również ograniczają dostęp takich narzędzi.
Część banków dopuszcza lub rozważa dostęp wyłącznie w trybie odczytu. Agent może wówczas uzyskać informacje dotyczące finansów klienta, ale nie może samodzielnie przeprowadzać operacji.
Rzecznik JPMorgan w odpowiedzi przekazanej Axios zalecił klientom, by nie udostępniali innym swoich nazw użytkownika i haseł. Morgan Stanley przekazał natomiast, że nie zaobserwował przypadków, w których nieautoryzowane agenty AI uzyskały dostęp do jego platform.
Regulatorzy pytają o zabezpieczenia
Reuters informował wcześniej, że amerykańscy regulatorzy pytają banki o sposób kontrolowania coraz bardziej autonomicznych systemów sztucznej inteligencji.
Regulatorów interesują między innymi ograniczenia nakładane na agentów AI, monitorowanie i zatwierdzanie podejmowanych przez nie decyzji, możliwość przeprowadzania audytów oraz zabezpieczenia przed przekraczaniem przyznanych im uprawnień.