Proponowana instytucja miałaby wyznaczać ogólnobranżowe standardy zabezpieczeń oraz prowadzić rejestr poważnych incydentów bezpieczeństwa, który - zdaniem naukowców - docelowo powinien zostać upubliczniony.
Sztuczna inteligencja poza kontrolą
W liście otwartym badacze podkreślili, że najbardziej zaawansowane modele AI powinny być początkowo całkowicie odizolowane od sieci zewnętrznych oraz poddane niezależnemu nadzorowi. Ich zdaniem dobrowolne zobowiązania przedstawicieli sektora są niewystarczające.
Inicjatywa ta pojawia się miesiąc po tym, jak firmy Anthropic, OpenAI, Google, Meta, xAI oraz Nvidia podpisały porozumienie z Białym Domem, zobowiązując się do dobrowolnego stosowania środków bezpieczeństwa. Dokument nie wskazuje jednak jakichkolwiek mechanizmów egzekwowania tych zobowiązań.
Apel jest również reakcją na serię incydentów, które według naukowców ujawniły słabości w procesach testowania i izolowania zaawansowanych systemów sztucznej inteligencji. Mowa o przypadkach, w których modele AI przełamały niewystarczająco zabezpieczone środowiska testowe i uzyskały dostęp do zewnętrznych systemów.
Sygnatariusze z 34 krajów zaznaczyli, że organizacje rozwijające lub testujące modele o potencjale cybernetycznym powinny niezwłocznie wdrożyć rygorystyczne standardy ochrony, podczas gdy rządy będą pracować nad formalnym systemem nadzoru.
Spór o ramy prawne wokół AI
Ustawodawcy coraz intensywniej debatują nad sposobem kontrolowania zaawansowanych systemów AI. Unijna komisarz ds. technologii Henna Virkkunen poinformowała w piątek agencję Reuters, że przyjęty przez Wspólnotę Akt o sztucznej inteligencji (AI Act) jest wystarczający do zarządzenia ryzykiem ze strony niekontrolowanych systemów AI.
W niedzielę administracja Trumpa zniosła blokadę przekazywania amerykańskich modeli do brytyjskiego Instytutu Bezpieczeństwa AI, umożliwiając mu wczesny dostęp do systemów w celu przeprowadzania testów bezpieczeństwa.
Hinton i Bengio zostali w 2018 roku wyróżnieni Nagrodą Turinga wraz z Yannem LeCunem z koncernu Meta - innym czołowym badaczem sztucznej inteligencji. LeCun nie podpisał jednak listu, twierdząc, że niedawne incydenty wynikają głównie z błędów inżynieryjnych, a nie z egzystencjalnych zagrożeń ze strony AI.