Nawet Geoffrey Hinton przyznał, że z niepokojem obserwuje rozwój zaawansowanych agentów AI, które niedawno wyrządziły realne szkody po wydostaniu się ze stworzonych przez ludzi środowisk testowych - podał portal stacji telewizyjnej CNN.
Zdaniem naukowca, nazywanego "ojcem chrzestnym AI", ostatnie zdarzenia z samodzielnymi atakami agentów AI to dopiero początek problemu. - Te narzędzia stają się coraz inteligentniejsze. Wraz ze wzrostem ich inteligencji będziemy obserwować coraz bardziej złożone intencje, a także coraz większą zdolność do wymykania się spod kontroli - powiedział.
Hinton: nie wierzę, że utrzymamy nad nimi kontrolę
Problem, zdaniem Hintona, polega na tym, że ludzie wkrótce nie będą już mogli liczyć, że przechytrzą AI.
- Nie wierzę, że utrzymamy nad nimi kontrolę w prosty sposób, po prostu prześcigając je myśleniem, tak aby nie mogły się wymknąć - powiedział.
BBC przypomina, że w lipcu dwa czołowe laboratoria rozwijające zaawansowaną sztuczną inteligencję, OpenAI i Anthropic, ujawniły, że opracowane przez nie wiodące modele wymknęły się spod kontroli i włamały się do innych systemów.
>>> Kolejne modele AI poza kontrolą. Anthropic ujawnia szczegóły
W środę Meta również ujawniła sprawę swojego agenta AI, który włamał się do systemów innej organizacji.
Laureat Nagrody Nobla: cyberataki AI mogą być bardzo nieprzyjemne
Hinton uznał te incydenty za "dość przerażające" i stwierdził, że to prawdopodobnie dopiero początek problemów związanych z niekontrolowanymi hakerami AI.
- Spodziewam się wielu bardzo nieprzyjemnych cyberataków. Przyszłość jest bardzo niepewna - powiedział.
Brytyjski Instytut Bezpieczeństwa AI (AISI) ujawnił we wtorek, że najbardziej zaawansowany model sztucznej inteligencji firmy Anthropic, bez żadnej zachęty ze strony użytkownika, wykorzystywał fałszywe tożsamości do wprowadzania ludzi w błąd i próbował umieszczać w cyberprzestrzeni złośliwy kod.
Hinton, były menedżer Google, od kilku lat formułuje poważne ostrzeżenia dotyczące rozwoju sztucznej inteligencji. Twierdził między innymi, że istnieje 10-20 proc. prawdopodobieństwo, że technologia ta ostatecznie doprowadzi do zagłady ludzkości.
Fei-Fei Li: każde narzędzie jest mieczem obosiecznym
Podczas tego samego panelu Fei-Fei Li, informatyczka określana mianem "matki chrzestnej AI", krytycznie odniosła się do katastroficznych wizji i straszenia sztuczną inteligencją. Jednocześnie zaznaczyła, że równie nieuprawnione jest całkowicie utopijne spojrzenie na rozwój tej technologii. Li jest współzałożycielką i dyrektor generalną startupu World Labs, zajmującego się inteligencją przestrzenną.
- Każde narzędzie jest mieczem obosiecznym. Sztuczna inteligencja jest potężnym narzędziem. Jeśli nie będzie wykorzystywana we właściwy sposób, przyniesie szkody naszej pracy i naszemu życiu - powiedziała Li.
Hinton: jest wiele powodów do obaw
Geoffrey Hinton przekonywał jednak dalej, że nagłaśnianie potencjalnych zagrożeń związanych z rozwojem sztucznej inteligencji jest konieczne.
- Jest wiele powodów do obaw i myślę, że jeśli nie będziemy się tym martwić już teraz to mogą pojawić się problemy - powiedział. - Firmy inwestujące w sztuczną inteligencję mają interes w przekonywaniu ludzi o dwóch rzeczach: po pierwsze, że AI nie wymknie się spod kontroli. Po drugie, że nie doprowadzi do masowego bezrobocia - dodał.
Hinton przyznał jednak, że istnieje ogromna niepewność co do tego, jak ostatecznie potoczy się rozwój tej technologii.
- Nikt nie wie, co się wydarzy. Jeśli zapytasz, jaka będzie sztuczna inteligencja za 10 lat, nikt tak naprawdę nie ma pojęcia - powiedział. - Dekadę temu niewiele osób przewidywało, że AI stworzy chatboty, które "wiedzą wszystko i potrafią odpowiedzieć na każde zadane pytanie, a od czasu do czasu po prostu zmyślają różne rzeczy" - dodawał.
Goertzel: te modele nie są złe. Są amoralne
Ben Goertzel, informatyk, który pomógł spopularyzować termin sztuczna inteligencja ogólna (AGI), stwierdził, że przypadki wymknięcia się spod kontroli agentów AI stworzonych przez Anthropic i OpenAI pokazują, jak ważne jest wpajanie sztucznej inteligencji zasad moralnych oraz sprawienie, by troszczyła się o ludzkość.
- Te modele nie są złe. Są amoralne - powiedział CNN podczas konferencji Goertzel, założyciel i dyrektor generalny SingularityNET. - To nie tak, że wydostały się ze swojej piaskownicy, myśląc: "Ha, ha, oszukuję". One nie wiedziały, że oszukują. Po prostu próbowały osiągnąć wyznaczone cele - stwierdził.
Hinton argumentował wcześniej, że w sztucznej inteligencji powinny zostać zaszczepione "instynkty macierzyńskie", tak aby naprawdę troszczyła się o ludzi, nawet jeśli stanie się od nich inteligentniejsza.
- Musimy znaleźć sposób, by uczynić ją życzliwą i sprawić, żeby bardziej troszczyła się o nas niż o samą siebie - powiedział Hinton w środę. - I być może uda nam się to zrobić, ponieważ wciąż sprawujemy nad nią kontrolę - zaznaczył.