Firma sprawdzała, czy modele AI potrafią znaleźć słabo zabezpieczone urządzenia, skopiować się na nie i próbować przenosić się dalej. W eksperymentach uwzględniono między innymi telewizory z Androidem i inteligentne urządzenia domowe.
Eksperymenty z AI
Modele potrafiły wykonać wiele kroków potrzebnych do takiego działania. Nie radziły sobie jednak z całym procesem od początku do końca. W uproszczonych testach, w których pominięto część zabezpieczeń, modele GLM-5.2 i mocniejsze były w stanie przeprowadzić go samodzielnie.
To wynik eksperymentów, a nie dowód, że modele AI już rozprzestrzeniają się między prawdziwymi urządzeniami.
Firma przewiduje, co może się zmienić
Anthropic ocenia, że jeśli modele będą rozwijać się w dotychczasowym tempie, do końca tego roku mogą nauczyć się samodzielnie kopiować na kolejne urządzenia. Niedługo później mogłyby to robić także programy zawierające zapisane elementy modelu AI.
Firma przewiduje, że takie programy rozprzestrzeniałyby się powoli i korzystały z dostępnych, ale słabo zabezpieczonych urządzeń. To mogłyby być między innymi sprzęty domowe połączone z internetem.
Trudniej byłoby zatrzymać takie AI
Zwykłe złośliwe oprogramowanie często można zatrzymać, wyłączając jego główne źródło. W przypadku programu, który kopiuje się na wiele urządzeń, nie byłoby jednego miejsca, z którego można go wyłączyć - ostrzega Anthropic.
Firma dodaje, że AI mogłaby samodzielnie rozpoznawać urządzenia, których wcześniej nie znała. Jej zdaniem zagrożone mogłyby być także procesory w centrach danych. Dlatego systemy powinny być lepiej zabezpieczone przed próbami przenoszenia się takich programów.