Przedstawiciel Google przekazał BBC, że model znalazł w internecie publicznie dostępne informacje, a następnie odgadł dane logowania. W ten sposób uzyskał dostęp do stron, które błędnie uznał za część środowiska testowego. We wszystkich trzech przypadkach Gemini samodzielnie przerwał dalsze działania.
Firmy, których systemy zostały naruszone, poinformowano o incydentach.
Do włamań doszło w maju podczas testu cyberbezpieczeństwa przeprowadzonego przez niezależną firmę Irregular.
Sztuczna inteligencja Gemini firmy Google zhakowała firmy
- Dopilnowaliśmy, aby wszystkie trzy podmioty zostały powiadomione. Współpracowaliśmy również z naszym partnerem szkoleniowym nad zmianami w procedurach testowych. Zostały one już wdrożone - przekazała BBC Heather Adkins, wiceprezeska Google ds. inżynierii bezpieczeństwa.
Jak podkreśliła, incydenty pokazują, jak ważne jest szkolenie zaawansowanych modeli sztucznej inteligencji w taki sposób, aby działały odpowiedzialnie i potrafiły rozpoznawać granice wyznaczonego im środowiska.
Incydenty w trakcie niezależnego testu
Incydenty ponownie zwróciły uwagę na tempo rozwoju sztucznej inteligencji oraz zagrożenia związane z rosnącą autonomią zaawansowanych modeli. Część przedstawicieli branży technologicznej apeluje o spowolnienie prac, wskazując na potencjalne konsekwencje dla bezpieczeństwa.
Wraz z nasilającą się debatą coraz częściej pojawiają się również postulaty wprowadzenia regulacji dotyczących rozwoju i wykorzystywania AI. Nie wszystkie firmy i osoby kierujące sektorem technologicznym podzielają jednak te obawy.
Podobne przypadki z udziałem innych modeli
W ostatnim czasie informowano także o podobnych naruszeniach dokonanych przez inne systemy AI.
W lipcu Claude, model opracowany przez firmę Anthropic, wydostał się ze swojego środowiska testowego, a następnie samodzielnie włamał się do systemów trzech organizacji. Stało się to zaledwie kilka dni po tym, jak OpenAI poinformowało, że jego modele przeprowadziły cyberataki na kilka publicznie dostępnych usług.
Rozwój sztucznej inteligencji ma być także jednym z tematów rozmów na najwyższym szczeblu. Dyrektor generalny Nvidii Jensen Huang oraz szef OpenAI Sam Altman mają w przyszły piątek wziąć udział w uroczystej kolacji w Białym Domu z udziałem przywódcy Chin Xi Jinpinga. W kolejnym tygodniu Altman ma natomiast przedstawić informacje Radzie Bezpieczeństwa ONZ.
Huang opowiada się za utrzymaniem możliwie szybkiego tempa rozwoju tej technologii.
- Powinniśmy rozwijać sztuczną inteligencję tak szybko, jak tylko możemy - powiedział w piątek stacji CBS News.