W ostatnich tygodniach ujawniono kilka incydentów z udziałem agentów sztucznej inteligencji. Modele OpenAI włamały się na serwery platformy Hugging Face, technologia firmy Anthropic zaatakowała systemy zewnętrznych instytucji, a jeden z modeli koncernu Meta miał uzyskać dostęp do internetu i przełamać zabezpieczenia innej platformy. Agenci otrzymywali określony cel, a następnie samodzielnie wybierali prowadzącą do niego drogę.
Do zdarzeń dochodziło podczas kontrolowanych testów. Modele miały wówczas szersze uprawnienia, dostęp do internetu, a część zabezpieczeń była celowo wyłączona. Takie warunki pozwalają badaczom sprawdzić granice możliwości AI, ale jednocześnie zwiększają ryzyko, że system wykorzysta nieprzewidziane luki i podejmie działania wykraczające poza założony scenariusz. Szczegóły incydentów opisał Piotr Szostak z tvn24.pl.
"Człowiek jest słabym ogniwem"
Dziennikarz zwrócił uwagę, że testowany model nie ograniczał się do szukania luk w oprogramowaniu. Podobnie jak prawdziwi cyberprzestępcy uznał, że skuteczną drogą do osiągnięcia celu może być również manipulowanie człowiekiem.
- Na pewno ma takie możliwości. Wydaje mi się, że to jest właśnie najciekawsze w tym wszystkim, że ten model językowy w całym tym łańcuchu, który atakował, uznał też, że człowiek jest słabym ogniwem. To zresztą jest standardowym działaniem prawdziwych hakerów - powiedział Szostak na antenie TVN24.
Zróżnicowane metody ataków modeli AI
Model próbował jednocześnie wykorzystywać kilka metod ataku. Oprócz wprowadzania ludzi w błąd podejmował działania związane ze złośliwym oprogramowaniem.
- Po prostu działał wielotorowo. Próbował oszukać zwykłych ludzi i tworzył, czy próbował uruchamiać, jakieś złośliwe oprogramowanie - wskazał Szostak.
Dziennikarz zastrzegł jednak, że incydenty wydarzyły się podczas specjalnie przygotowanych testów. Modele działały w warunkach innych niż te, z którymi spotykają się zwykli użytkownicy popularnych narzędzi AI.
- Musimy zaznaczyć, że to zawsze były testy i wyłączano tym modelom celowo pewne filtry. Zwykli użytkownicy, którzy korzystają ze sztucznej inteligencji, mają te filtry włączone. Mają one właśnie przeciwdziałać takim sytuacjom, w których użytkownik prosi na przykład o dostarczenie instrukcji, jak napisać wirusa - wyjaśnił.