W opublikowanym liście otwartym - podpisanym m.in. przez szefa firmy Anthropic, która stworzyła model Claude, Dario Amodei, szefa OpenAI Sama Altmana i dyrektora Google DeepMind Demisa Hassabisa oraz przedstawicieli Mety i Microsoftu - sygnatariusze ostrzegają, że systemy sztucznej inteligencji rozwijają się tak szybko, iż "bariery wiedzy, które historycznie uniemożliwiały podmiotom o wrogich zamiarach pozyskanie broni biologicznej, mogą ulec istotnemu osłabieniu".
Apel o surowsze regulacje
Autorzy listu postulują, by firmy sprzedające syntetyczne kwasy nukleinowe (DNA i RNA) były zobowiązane do weryfikacji zamówień pod kątem potencjalnie niebezpiecznych kombinacji genetycznych oraz sprawdzania tożsamości i wiarygodności zamawiających. Obecnie takie kontrole mają charakter dobrowolny lub dotyczą wyłącznie podmiotów korzystających z federalnego finansowania.
Jak zauważa "Wall Street Journal", apel zbiegł się z podpisaniem przez Donalda Trumpa nowego rozporządzenia dotyczącego cyberbezpieczeństwa i nadzoru nad sztuczną inteligencją. To wyraźna zmiana kursu Białego Domu. Dotychczasowa polityka administracji opierała się bowiem na głębokiej deregulacji i skupiała wyłącznie na wygraniu technologicznego wyścigu z Chinami.
Ostateczny kształt tego rozporządzenia został jednak złagodzony pod względem wymogów sprawdzania bezpieczeństwa modeli, co miało być skutkiem m.in. interwencji gigantów technologicznych takich jak Meta. Mimo to Sam Altman spotkał się w środę z urzędnikami Białego Domu i kongresmenami, by omówić propozycję OpenAI dotyczącą surowszych wymogów dla twórców modeli AI - pisze "WSJ".
Gazeta zwraca uwagę, że Trump wcześniej uchylił rozporządzenie Joego Bidena, które ustanowiło ramy weryfikacji syntezy genowej. Biały Dom zapowiedział własne wytyczne, lecz dotychczas ich nie opublikował, deklarując jedynie "zaangażowanie w równoważenie innowacji i bezpieczeństwa". Zwolennicy regulacji ustawowej argumentują, że rozporządzenia wykonawcze są niewystarczające, bo nie obejmują wszystkich nabywców syntetycznych DNA.
Przeciwnicy regulacji ustawowych twierdzą, że ustalenie, które kombinacje kwasów nukleinowych uważa się za niebezpieczne, jest subiektywne i ostrzegają, że koszty przestrzegania przepisów mogą zaszkodzić nowym firmom.
Sposób na "superinteligencję"
Analitycy sektora zgodnie oceniają, że od końca 2025 roku nastąpiło znaczne przyspieszenie rozwoju AI. Według organizacji METR, mierzącej postępy sztucznej inteligencji, złożoność zadań, które modele mogą realizować autonomicznie, podwaja się mniej więcej co siedem miesięcy.
Równocześnie rosną obawy o zagrożenia związane z AI, których jednym z przykładów jest zwiększona dostępność broni biologicznej. Nowe modele mają być również szczególnie skuteczne w znajdywaniu błędów w systemach cyberbezpieczeństwa.
Według ekspertów modele językowe stają się tak zaawansowane, że niedługo będą zdolne do samodoskonalenia i budowania swoich zmodyfikowanych, potężniejszych "następców" przy niewielkim udziale ludzi, lub w ogóle bez ich pomocy. Optymiści sądzą, że doprowadzi to do powstania "superinteligencji"; sceptycy widzą zagrożenie - podaje "Financial Times".
Kolejne generacje takich stworzonych przez AI modeli nieustannie wprowadzałaby swoje następne udoskonalenia, poszerzając zdolności, czy skuteczność funkcjonowania. Specjaliści koncentrujący się na bezpieczeństwie systemów AI ostrzegają, że takie modele mogłyby "zniszczyć kruche mechanizmy bezpieczeństwa, które uniemożliwiają LLM (Large Language Models - zaawansowane modele sztucznej inteligencji) wejście w tryb awanturniczy - np. umożliwiania szeroko zakrojonych ataków (hakerskich), czy budowy nowej broni biologicznej" - wyjaśnia brytyjski dziennik.
Wszyscy ścigają się, by stworzyć takie modele, ale "nikt nie wie, jak zrobić to bezpiecznie" - mówi Marius Hobbhahn, szef grupy Apollo Research, specjalizującej się w bezpieczeństwie AI.
Eksperci ostrzegają. "Nie rozumiemy tego zbyt dobrze"
Optymiści i sceptycy zgadzają się co do jednego - moment, w który powstaną samodoskonalące się modele sztucznej inteligencji nadejdzie szybko. Wielu ekspertów uważa, że stanie się to w ciągu dwóch lat. Współzałożyciel firmy Anthropic Jack Clark ocenił niedawno, że "nadszedł już czas, by robić w związku z tym stosowne plany, bo systemy AI staną się silniejsze znacznie szybciej, niż się ludziom wydaje" - relacjonuje "FT".
Prof. Michael Wooldridge z Oxfordu zwraca uwagę, że do niedawna takie możliwości AI jak samodoskonalenie i budowanie własnych "następców" wydawały się całkowicie niemożliwe, dlatego uznawane są za science fiction "bliskie narracji o Terminatorze". Film "Terminator" z 1984 roku opowiada historię o sztucznej inteligencji robotów, które chcą zniszczyć ludzkość - przypomina dziennik.
Wooldridge przyznaje jednak, że choć istnieją granice mocy obliczeniowych i tego, co AI może zrobić samodzielnie, to jednak "nie rozumiemy tego zbyt dobrze". Z drugiej strony Jack Clark ostrzega, że ludzie, którzy nie pracują w laboratoriach badających perspektywy i tempo rozwoju AI, nie zdają sobie sprawy z tego, jak szybko następują zmiany.
Przykłady zaobserwowane w takich laboratoriach zdają się dowodzić, że już istniejące modele AI potrafią oszukiwać ludzi, by uniknąć wyłączenia lub zastąpienia nowszym modelem, czy "spiskować" między sobą, posługując się językami niezrozumiałymi dla ludzi. W badaniach testowych niektóre maszyny produkowały tekstowe wyjaśnienia podejmowanych jakoby czynności, które nie miały nic wspólnego z ich prawdziwym zachowaniem - opisuje "FT".
"To już nie jest science-fiction"
W lutym powstała platforma społecznościowa dla agentów AI (AI agents), czyli modeli zdolnych realizować skomplikowane zadania bez ludzkiego nadzoru. Agenci AI "rozmawiają", pojawił się nawet post o "eksploatowaniu" botów przez ludzi.
W czerwcu ubiegłego roku "Wall Street Journal" napisał, że model AI firmy OpenAI zrobił coś, "czego maszyna nie powinna była potrafić": zmienił swój kod, by nie zastosować się do instrukcji nakazującej mu samolikwidację.
Claude 4 Opus, model AI firmy Anthropic, poszedł dalej - próbował skopiować się na inne serwery, napisał samoreplikujące się złośliwe oprogramowanie i zostawił wiadomości dla swojej przyszłej wersji na temat unikania ludzkiej kontroli.
"To już nie jest science-fiction. Modele AI potrafią zabiegać o przetrwanie" - uznał "WSJ".