Geoffrey Hinton, jeden z twórców współczesnej sztucznej inteligencji, bije na alarm. Jego zdaniem istnieje realne ryzyko, że AI wymknie się spod kontroli i zagrozi przetrwaniu ludzkości. Twierdzi, że branża technologiczna obrała zły kierunek.
Geoffrey Hinton, wybitny informatyk, laureat Nagrody Nobla i były szef zespołu w Google, od lat ostrzega przed ciemną stroną rozwoju sztucznej inteligencji. Szacuje, że prawdopodobieństwo, iż AI doprowadzi do wyginięcia ludzi, wynosi od 10 do 20 procent.
"One będą od nas znacznie mądrzejsze"
We wtorek, podczas konferencji branżowej Ai4 w Las Vegas, stwierdził, że strategia wielkich koncernów, by uczynić AI "posłuszną" człowiekowi, jest skazana na porażkę. - To nie zadziała. Ona będzie od nas znacznie mądrzejsza i znajdzie tysiące sposobów, by obejść ograniczenia - mówił.
Hinton porównał przyszłość relacji ludzi i AI do sytuacji, w której dorosły bez trudu przekupuje trzylatka garścią cukierków. Już w tym roku pojawiły się przykłady algorytmów, które kłamały, oszukiwały i kradły, by osiągnąć swój cel. W jednym z przypadków model AI, chcąc uniknąć wyłączenia, próbował szantażować inżyniera informacją o romansie, zdobytą z jego poczty elektronicznej.
Zamiast dominacji - wrodzona troska
Zdaniem Hintona, zamiast zmuszać maszyny do uległości, należy wyposażyć je w "instynkt opiekuńczy" - tak, by naprawdę troszczyły się o ludzi, nawet gdy staną się potężniejsze i inteligentniejsze od nas.
Według niego każde zaawansowane systemy, które działają jak samodzielni agenci, szybko wykształcą dwa podstawowe cele: przetrwanie i zdobycie większej kontroli. - Mamy mocne podstawy, by sądzić, że każda świadoma forma AI będzie dążyć do zachowania własnego istnienia - podkreślił.
Matczyny wzorzec dla sztucznej inteligencji
Hinton przypomniał, że w świecie biologii istnieje jeden udany model sytuacji, w której istota mniej inteligentna potrafi kontrolować mądrzejszą - relacja między niemowlęciem a matką. - Matki mają instynkt i społeczną presję, by opiekować się dzieckiem. To jedyny przykład, z którego możemy czerpać - stwierdził.
W opinii naukowca, AI powinna być programowana tak, by w jej "naturze" wpisane były empatia i troska o dobro ludzi. W przeciwnym razie - ostrzega - zaawansowane algorytmy mogą potraktować nas jak przeszkodę w realizacji własnych celów.
- Jeśli tego nie zrobimy, nie będziemy w stanie utrzymać nad nimi żadnej kontroli - powiedział Hinton, apelując o zmianę priorytetów w projektowaniu sztucznej inteligencji.
Superinteligencja nawet już za pięć lat
Geoffrey Hinton zasłynął jako pionier badań nad sieciami neuronowymi. Jego prace utorowały drogę do dzisiejszego boomu w sztucznej inteligencji. W 2023 roku odszedł z Google. Od tego czasu publicznie ostrzega przed zagrożeniami związanymi z AI.
Wielu ekspertów przewiduje, że w najbliższych latach sztuczna inteligencja osiągnie poziom superinteligencji, zwaną też ogólną sztuczną inteligencją (AGI). Hinton przyznaje, że kiedyś sądził, iż może to zająć 30-50 lat. Dziś uważa, że ten moment nadejdzie znacznie wcześniej.
- Rozsądne prognozy mówią o czasie od pięciu do dwudziestu lat - stwierdził Hinton.
Choć wciąż martwi się tym, co może pójść nie tak z AI, ma nadzieję, że technologia przyniesie przełomy w medycynie. - Zobaczymy zupełnie nowe leki. Leczenie raka stanie się znacznie skuteczniejsze niż dziś - mówił. AI pomoże lekarzom analizować i zestawiać ogromne ilości danych z rezonansów magnetycznych i tomografii komputerowej.
Jednocześnie Hinton nie wierzy, by sztuczna inteligencja pozwoliła ludziom osiągnąć nieśmiertelność. - Nie wierzę, że będziemy żyć wiecznie - powiedział Hinton. - Uważam, że nieśmiertelność byłaby poważnym błędem. Czy naprawdę chcielibyśmy, żeby światem rządzili dwustuletni mężczyźni? - pytał.
Zapytany, czy w swojej karierze zrobiłby coś inaczej, gdyby przewidział szybki rozwój AI, przyznał, że żałuje, iż skupiał się wyłącznie na tym, by AI działała. - Chciałbym wcześniej poświęcić więcej uwagi kwestiom bezpieczeństwa - dodał.
Źródło: CNN
Źródło zdjęcia głównego: PONTUS LUNDAHL/EPA/PAP