Tuż przed zwolnieniem Sama Altmana ze stanowiska prezesa OpenAI kilku pracowników firmy wysłało list do zarządu, w którym przestrzegali, że doszło do potężnego odkrycia. W ich ocenie miałoby ono zagrozić ludzkości.
Informacje o liście opublikowała agencja Reutersa na podstawie relacji od dwóch osób. Twierdzą one, że list wysłany do rady i algorytm sztucznej inteligencji były kluczowymi czynnikami, które zadecydowały o tym, że rada zdecydowała się zwolnić Sama Altmana. Nie stało się tak na długo, bo po protestach i groźbie odejścia z pracy wyrażonej przez ponad 700 pracowników, oraz wsparciu ze strony dużego inwestora - Microsoftu, został on przywrócony na swoje stanowisko.
Źródła przytoczyły ten list jako jeden z elementów na dłuższej liście skarg zarządu prowadzących do zwolnienia Altmana, wśród których znalazły się obawy dotyczące komercjalizacji postępów przed zrozumieniem konsekwencji z nimi związanych. Reutersowi nie udało się zapoznać z kopią listu. Personel, który napisał list, nie odpowiedział na prośby o komentarz.
Chociaż firma OpenAI odmówiła agencji odpowiedzi, to po próbie kontaktu z jej strony, w wiadomości skierowanej do pracowników potwierdziła istnienie projektu o nazwie Q* i faktu otrzymania przez zarząd listu. Rzecznik OpenAI powiedział, że wiadomość wysłana przez długoletnią dyrektor Mirę Murati zaalarmowała pracowników o pewnych doniesieniach medialnych, nie komentując ich prawdziwości.
Przełom w poszukiwaniu sztucznej inteligencji?
Niektórzy w OpenAI uważają, że Q* (wymawiane Q-Star) może być przełomem w poszukiwaniach startupu nad tak zwaną sztuczną inteligencją ogólną (AGI), powiedział Reutersowi jeden z jego rozmówców. OpenAI definiuje AGI jako autonomiczne systemy, które przewyższają człowieka w najbardziej wartościowych ekonomicznie zadaniach.
Jak relacjonuje źródło agencji nowy model, przy wykorzystaniu ogromnych zasobów obliczeniowych, był w stanie rozwiązać pewne problemy matematyczne. Chociaż obecnie jego zaawansowanie jest na poziomie uczniów szkół podstawowych, to jednak możliwość zmierzenia się z nimi spowodował, że badacze zaczęli pałać dużym optymizmem co do przyszłego sukcesu Q*.
Naukowcy uważają matematykę za pionierską dziedzinę rozwoju generatywnej sztucznej inteligencji. Obecnie generatywna sztuczna inteligencja jest biegła w pisaniu i tłumaczeniu na język, statystycznie przewidując następne słowo, a odpowiedzi na to samo pytanie mogą się znacznie różnić.
Jednak to opanowanie umiejętności matematycznych – tam, gdzie jest tylko jedna prawidłowa odpowiedź – oznacza, że sztuczna inteligencja będzie miała większe możliwości rozumowania, przypominające ludzką inteligencję. Badacze sztucznej inteligencji uważają, że można to zastosować na przykład w nowatorskich badaniach naukowych.
W przeciwieństwie do kalkulatora, który może rozwiązać ograniczoną liczbę operacji, AGI może generalizować, uczyć się i rozumieć.
W swoim piśmie do zarządu badacze zasygnalizowali skuteczność sztucznej inteligencji i potencjalne zagrożenie – podają źródła, nie podając dokładnych obaw dotyczących bezpieczeństwa wskazanych w piśmie. Wśród informatyków od dawna toczy się dyskusja na temat niebezpieczeństwa stwarzanego przez wysoce inteligentne maszyny, na przykład jeśli mogliby zdecydować, że zagłada ludzkości leży w ich interesie.
Wskazali także na prace zespołu "naukowców zajmujących się sztuczną inteligencją", których istnienie potwierdziło wiele źródeł. Grupa utworzona z połączenia wcześniejszych zespołów "Code Gen" i "Math Gen" badała, w jaki sposób zoptymalizować istniejące modele sztucznej inteligencji, aby ulepszyć swoje rozumowanie i ostatecznie przeprowadzić pracę naukową.
Przesuwanie kolejnych granic
Altman kierował wysiłkami, aby ChatGPT stała się jedną z najszybciej rozwijających się aplikacji w historii i pozyskał inwestycje – i zasoby obliczeniowe – niezbędne od firmy Microsoft, aby zbliżyć się do AGI.
Oprócz ogłoszenia szeregu nowych narzędzi podczas demonstracji w tym miesiącu, Altman w zeszłym tygodniu pochwalił się na szczycie światowych przywódców w San Francisco, że jego zdaniem widać duże postępy.
- Cztery razy w historii OpenAI, ostatni raz w ciągu ostatnich kilku tygodni, miałem okazję być w pokoju, kiedy w pewnym sensie przesuwaliśmy zasłonę ignorancji z powrotem i przesuwaliśmy granicę odkryć, i dokonanie tego to zawodowy zaszczyt życia – powiedział na szczycie Współpracy Gospodarczej Azji i Pacyfiku.
Dzień później zarząd zwolnił Altmana.
Źródło: Reuters
Źródło zdjęcia głównego: Fakty TVN