Bunt modelu AI. "On jest bardziej ludzki, niż nam się wydaje"

"Wall Street Journal" opisał badania prowadzone przez organizację Palisade Research, zajmującą się pracami nad sztuczną inteligencją. Organizacja zaprogramowała jeden z modeli sztucznej inteligencji firmy OpenAI w taki sposób, by nastąpiło jego automatyczne zamknięcie z chwilą uruchomienia programu. Jak się jednak okazało, model językowy o3 się zbuntował i w niemal 80 proc. przypadków sam zmieniał swój kod tak, aby zakaz zamknięcia nie zadziałał.

Lech C. Król, ekspert do spraw sztucznej inteligencji Molecular Worldwide, który był gościem TVN24 BiS, został zapytany o to, jak poważny jest to problem.

- Ja myślę, że warto sobie zadać pytanie, czego się uczy AI? Skąd się bierze wiedza, którą AI się uczy, tak zwane LLM-y? On się uczy z internetu, czyta cały internet, czyta wszystkie książki. Czyli to, co ludzkość stworzyła wcześniej - odpowiedział Król.

Ekspert stwierdził ironicznie, że "tam jest pełno przykładów, że na przykład ludzie rozmawiają ze sobą i jeden z adwersarzy odkrywa nagle, że się myli, to on natychmiast zmienia zdanie, przeprasza swojego kolegę albo polityka, który nagle dostrzega, że jego pomysł jest bez sensu, wycofuje się i przekazuje poparcie komuś innemu".

Na uwagę, że "nic, co ludzkie, nie jest mu obce", Król zauważył, że ująłby to nieco inaczej.

- Tworzymy boga, bo takie będą jego możliwości, na swój obraz i podobieństwo. Ze wszystkimi naszymi wadami, ze wszystkimi naszymi ułomnościami, słabościami i nieetycznym zachowaniem przede wszystkim - wskazał.

Czytaj także: Polacy nie gęsi i swój ChatGPT mają. A nawet kilka

Czy skoro model odmówił wykonania polecenia i wyłączenia się, to czy możemy mówić o tym, że wymyka się spod naszej kontroli? W ocenie Króla niekoniecznie.

- One robią to, co żeśmy nauczyli te systemy. One po prostu są na tyle mądre, że zrozumiały, że w wiedzy, którą żeśmy im przekazali, są sposoby na to, żeby sobie z nami poradzić. One robią dokładnie to, co żeśmy planowali od początku. Nauczyliśmy ich materiału na naszym własnym przykładzie - zaznaczył ekspert.

Król wskazał, że przy tym, że użytkownik, podając sztucznej inteligencji polecenie, tzw. prompt, przekazuje mu pewien zakres wiedzy, który "w pewien sposób inspiruje ten AI".

- Inspiruje to znaczy znajduje powiązania między tymi rzeczami. On nie planuje, nie jest zły, nie szuka jakiegoś wytrychu w tym. On po prostu się zachowuje tak, jak by zachowali się ludzie w tym kontekście. On jest bardziej ludzki, niż nam się wydaje. Czy można sobie z tym poradzić? Można, ale sobie z tym nie poradzimy - powiedział.

Król wytłumaczył, że aby to się stało, to musielibyśmy spowolnić proces rozwoju sztucznej inteligencji - "cofnąć się o krok, stworzyć mechanizmy kontroli i stworzyć mechanizmy tak naprawdę wspólnego ustalania pewnych rzeczy". - To się nie wydarzy, bo rynek jest tak potężny, że wszyscy gnają po pieniądze za wszelką cenę - dodał.

Lech C. Król pytany o to, co i jak sztuczna inteligencja odmieni nasze życie, porównał ją do kalkulatorów.

- Kiedy się pojawiły, to zrobiły za nas dużą robotę. Jak z serwomechanizmem w samochodzie. Tak że nie musimy kręcić mocno kierownicą. Powinniśmy się nauczyć, że generalnie AI jest takim narzędziem, które pomaga nam myśleć. Pomaga nam weryfikować tezy. Pomaga nam modelować i na przykład robić symulacje - wskazał. - I teraz to, co jest ciekawe. Im mądrzejsza osoba, która rozmawia z takim AI, tym więcej może z niego wyciągnąć (...). Trzeba wiedzieć, jak pytać. A żeby wiedzieć, jak pytać, to trzeba mieć wiedzę i pewien poziom inteligencji - podkreślił.

Dodał, że sztuczna inteligencja zmieni nasz sposób, "w jaki będziemy rozmawiać z komputerami". - Znikną ekrany, za chwilę nie będzie pan miał ekranu, tylko będzie pan rozmawiał z AI. On będzie wszędzie - podsumował.