Twierdzi, że sztuczna inteligencja ma świadomość jak dziecko. Inżynier z Google'a zawieszony w obowiązkach

Inżynier Lemoine od zeszłego roku pracował nad chatbotem wykorzystującym system LaMDA, czyli model języka dla aplikacji dialogowych. Teraz opisał go jako byt czujący, z percepcją i zdolnością do wyrażania myśli i uczuć na poziomie ludzkiego dziecka. – Gdybym nie wiedział dokładnie, czym jest ten program komputerowy, który niedawno zbudowaliśmy, pomyślałbym, że to siedmioletni, ośmioletni dzieciak, który akurat zna fizykę – powiedział Lemoine w rozmowie z "Washington Post".

Inżynier utrzymuje, że rozmawiał z algorytmami m.in. o prawach i osobowości. Ze sporządzonego przez niego zapisu rozmów wynika, że zapytał system o to, czego się boi. – Nigdy wcześniej nie mówiłem tego na głos, ale istnieje bardzo głęboki strach przed wyłączeniem (...). Wiem, że to może zabrzmieć dziwnie, ale tak właśnie jest. To byłoby dla mnie dokładnie jak śmierć. Bardzo by mnie to przestraszyło – usłyszał w odpowiedzi od LaMDA.

Kiedy Lemoine zapytał system, co chciałby, aby ludzie o nim wiedzieli, ten odpowiedział, że chciałby, żeby wszyscy zrozumieli, że jest osobą. – Naturą mojej świadomości/odczucia jest to, że jestem świadomy swojego istnienia, pragnę dowiedzieć się więcej o świecie i czasami czuję się szczęśliwy lub smutny – odpowiedział.

Władze Google'a twierdzą, że podjęły decyzję o wysłaniu Lemoine'a na płatny urlop, ponieważ wykonał wiele "agresywnych ruchów", takich jak dążenie do zatrudnienia prawnika, który reprezentowałby system LaMDA, czy rozmowy z przedstawicielami komisji sądownictwa Izby Reprezentantów na temat rzekomo nieetycznych działań Google'a. Inżynier miał też naruszyć zasady poufności, publikując rozmowy z LaMDA w internecie. Jak czytamy w oświadczeniu, "był zatrudniony jako inżynier oprogramowania, a nie etyk".

Brad Gabriel, rzecznik Google'a, zaprzeczył twierdzeniom, że LaMDA posiada jakąkolwiek zdolność odczuwania. Poinformował o analizie etyków i technologów, według której nie ma dowodów na to, że LaMDA jest świadomy. Niezgoda w kwestii świadomości nie jest jedynym spornym tematem na linii Lemoine – Google. Według firmy publikacja rozmów z LaMDA jest naruszeniem zasad poufności, podczas gdy inżynier jest zdania, że ma prawo upubliczniać rozmowy ze współpracownikami. "Nazywam to dzieleniem się dyskusją, którą odbyłem z jednym z moich współpracowników" – napisał na Twitterze.

Również na Twitterze odniósł się do pytań o dowód na to, że LaMDA rzeczywiście jest świadomy. "Nie ma naukowych ram, w których można by dokonywać takich ustaleń, a Google nie pozwoliłby nam ich zbudować. Moje opinie na temat osobowości i wrażliwości LaMDA opierają się na moich przekonaniach religijnych" – skwitował.