"Wyraźna i pilna potrzeba interwencji rządu". Raport

Ustalenia oparto na wywiadach z przeszło 200 osobami, w tym kadrą kierowniczą czołowych firm zajmujących się sztuczną inteligencją, badaczami cyberbezpieczeństwa, ekspertami w dziedzinie broni masowego rażenia i urzędnikami ds. bezpieczeństwa narodowego w rządzie USA.

Jak informuje CNN, raport opublikowany w tym tygodniu przez Gladstone AI stanowczo stwierdza, że ​​najbardziej zaawansowane systemy sztucznej inteligencji mogą w najgorszym przypadku "stanowić zagrożenie dla istnienia gatunku ludzkiego i prowadzić do jego wyginięcia".

Urzędnik Departamentu Stanu USA (odpowiednik naszego Ministerstwa Spraw Zagranicznych) potwierdził CNN zlecenie sporządzenia raportu. Jak wyjaśnił, chodzi o bieżącą analizę, w jaki sposób rozwój sztucznej inteligencji pokrywa się z zadaniami ministerstwa, czyli ochroną interesów USA w kraju i za granicą. Urzędnik podkreślił jednocześnie, że raport nie odzwierciedla poglądów rządu USA.

Ostrzeżenie zawarte w raporcie jest kolejnym przypomnieniem, że choć potencjał sztucznej inteligencji w dalszym ciągu fascynuje inwestorów i opinię publiczną, to stwarza ona również realne zagrożenia.

- Sztuczna inteligencja jest już technologią przekształcającą gospodarkę. Mogłaby pozwolić nam leczyć choroby, dokonywać odkryć naukowych i przezwyciężać wyzwania, które kiedyś uważaliśmy za nie do pokonania - powiedział we wtorek CNN Jeremie Harris, dyrektor generalny i współzałożyciel Gladstone AI.

Czytaj także: Elon Musk pozywa OpenAI i Sama Altmana

Harris podkreślił, że "może to również wiązać się z poważnym ryzykiem, w tym katastrofalnym, którego musimy być świadomi".

- A coraz więcej dowodów - w tym badania i analizy empiryczne publikowane na najważniejszych konferencjach poświęconych sztucznej inteligencji na świecie - sugerują, że powyżej pewnego progu jej możliwości, sztuczna inteligencja może potencjalnie stać się niekontrolowana - stwierdził.

Naukowcy ostrzegają przed dwoma głównymi zagrożeniami związanymi z rozwojem sztucznej inteligencji.

Po pierwsze, jak wskazano w raporcie Gladstone AI, najbardziej zaawansowane systemy mogą zostać wykorzystane jako broń do zadania potencjalnie nieodwracalnych szkód, na przykład cyberataków na infrastrukturę krytyczną, w tym energetyczną.

Po drugie laboratoria badawcze wskazują na obawy, że na pewnym etapie mogłyby "utracić kontrolę" nad swoimi systemami, co mogłoby przynieść "potencjalnie wyniszczające konsekwencje dla globalnego bezpieczeństwa".

"Rozwój sztucznej inteligencji i AGI [sztucznej inteligencji ogólnej] może potencjalnie zdestabilizować globalne bezpieczeństwo w sposób przypominający wprowadzenie broni nuklearnej" – stwierdzono w raporcie, dodając, że istnieje ryzyko "wyścigu zbrojeń", konfliktów i "wypadków śmiertelnych w skali podobnej do użycia broni masowego rażenia".

W raporcie Gladstone AI wezwano do podjęcia nowych, radykalnych kroków mających na celu stawienie czoła temu zagrożeniu, w tym powołania nowej agencji ds. sztucznej inteligencji, nałożenia "awaryjnych" zabezpieczeń regulacyjnych i ograniczeń, ile mocy obliczeniowej komputerów można wykorzystać do szkolenia modeli sztucznej inteligencji.

"Istnieje wyraźna i pilna potrzeba interwencji rządu USA" – napisali autorzy w raporcie.

Sprawdź także: Nowa technologia, stare problemy. Sztuczna inteligencja uderzy w miejsca pracy

Robyn Patterson z biura prasowego Białego Domu powiedziała, że ​​zarządzenie prezydenta Joe Bidena w sprawie sztucznej inteligencji to "najbardziej znaczące działanie, jakie jakikolwiek rząd na świecie podjął, aby wykorzystać obietnicę i zarządzać ryzykiem związanym ze sztuczną inteligencją".

- Prezydent i wiceprezydent będą nadal współpracować z naszymi międzynarodowymi partnerami i nawoływać Kongres do przyjęcia ponadpartyjnego ustawodawstwa w celu zarządzania ryzykiem związanym z nowymi technologiami - powiedziała Patterson.

Jeremie Harris, dyrektor Gladstone AI, powiedział, że "bezprecedensowy poziom dostępu", jaki jego zespół miał do przedstawicieli najwyższego szczebla z sektora publicznego i prywatnego, doprowadził do zaskakujących wniosków. Gladstone AI poinformował, że ​​rozmawiano z zespołami technicznymi i kierowniczymi należącymi do właściciela ChatGPT OpenAI, Google DeepMind, Meta i Anthropic, spółki matki Facebooka.

"W tym czasie dowiedzieliśmy się kilku otrzeźwiających rzeczy" – powiedział Harris w filmie opublikowanym na stronie internetowej Gladstone AI, ogłaszającym raport. - Za kulisami sytuacja w zakresie bezpieczeństwa i ochrony zaawansowanej sztucznej inteligencji wydaje się dość nieodpowiednia w porównaniu z zagrożeniami dla bezpieczeństwa narodowego, do których sztuczna inteligencja może wkrótce doprowadzić - stwierdził.

W raporcie Gladstone AI stwierdzono, że presja konkurencyjna popycha firmy do przyspieszenia rozwoju sztucznej inteligencji "kosztem bezpieczeństwa", co zwiększa perspektywę, że najbardziej zaawansowane systemy sztucznej inteligencji mogą zostać "skradzione" i "uzbrojone" przeciwko Stanom Zjednoczonym.

Wnioski uzupełniają rosnącą listę ostrzeżeń dotyczących zagrożeń stwarzanych przez sztuczną inteligencję – w tym nawet ze strony niektórych z najpotężniejszych osobistości w branży.

Jak przypomina CNN, prawie rok temu Geoffrey Hinton, znany jako "ojciec chrzestny sztucznej inteligencji", powiedział, że istnieje 10 proc. szans, że sztuczna inteligencja doprowadzi do wyginięcia ludzkości w ciągu najbliższych trzech dekad.

Hinton i dziesiątki innych liderów branży sztucznej inteligencji podpisali w czerwcu ubiegłego roku oświadczenie, w którym stwierdzono, że "ograniczanie ryzyka wyginięcia ludzkości z powodu sztucznej inteligencji powinno być globalnym priorytetem".