Systemy AI, które potrafią się samoczynnie ulepszać - czyli osiągać "pełne rekurencyjne samodoskonalenie" - mogą przynieść "ogromne korzyści dla nauki i opieki zdrowotnej, ale stanowią również ogromne zagrożenie dla ludzkości" - napisali we wspólnym poście Marina Favaro, szefowa the Anthropic Institute, oraz współzałożyciel firmy Jack Clark.
"Firmy powinny rozważyć spowolnienie prac"
"Pełne rekurencyjne samodoskonalenie może również zwiększyć ryzyko utraty przez ludzi kontroli nad systemami sztucznej inteligencji. Jeśli systemy są w stanie w pełni budować swoich następców, sposoby zabezpieczania, monitorowania i kształtowania ich zachowań stają się znacznie ważniejsze" - zwrócili uwagę.
Jak ostrzegli, branża jest znacznie bliżej momentu, w którym sztuczna inteligencja zacznie się samodoskonalić.
"Dlatego firmy technologiczne powinny rozważyć spowolnienie lub wstrzymanie pionierskich prac nad sztuczną inteligencją, aby dać naukowcom czas na lepsze zrozumienie potencjalnych szkód społecznych, jakie może wywołać samodoskonaląca się sztuczna inteligencja. Naukowcy powinni również opracować sposób, w jaki ludzie będą mogli interweniować, jeśli sytuacja wymknie się spod kontroli" - stwierdzili.
Jack Clark o rozwoju AI
Jack Clark udzielił w czwartek wywiadu stacji CNN, w którym wezwał branżę sztucznej inteligencji do wyposażenia się w "pedał hamulca".
- Kiedy spoglądam na samochód, którym jedziemy, widzę tylko pedał gazu. Nie mamy pedału hamulca, a z pewnością w przyszłości może nam się przydać ta opcja - powiedział.
Jak wyjaśnił, niemożność weryfikacji, sprawdzania i zaufania do zachowania sztucznej inteligencji stanowi poważne ryzyko w jej rozwoju.
Apel firm Big Tech do Kongresu
Najważniejsi przedstawiciele branży sztucznej inteligencji, w tym szefowie OpenAI (Sam Altman), Anthropic (Dario Amodei) i Google DeepMind (Demis Hassabis) wspólnie zaapelowali do Kongresu o uchwalenie ustawy, która utrudniałaby stworzenie broni biologicznej z pomocą AI.
W opublikowanym w czwartek liście otwartym sygnatariusze ostrzegli, że systemy sztucznej inteligencji rozwijają się tak szybko, iż "bariery wiedzy, które historycznie uniemożliwiały podmiotom o wrogich zamiarach pozyskanie broni biologicznej, mogą ulec istotnemu osłabieniu".
Autorzy listu postulowali, by firmy sprzedające syntetyczne kwasy nukleinowe (DNA i RNA) były zobowiązane do weryfikacji zamówień pod kątem potencjalnie niebezpiecznych kombinacji genetycznych oraz sprawdzania tożsamości i wiarygodności zamawiających. Obecnie takie kontrole mają charakter dobrowolny lub dotyczą wyłącznie podmiotów korzystających z federalnego finansowania.
Jak zauważa "Wall Street Journal", apel zbiegł się z podpisaniem przez Donalda Trumpa nowego rozporządzenia dotyczącego cyberbezpieczeństwa i nadzoru nad sztuczną inteligencją. To wyraźna zmiana kursu Białego Domu. Dotychczasowa polityka administracji opierała się bowiem na głębokiej deregulacji i skupiała wyłącznie na wygraniu technologicznego wyścigu z Chinami.