Algorytm, który może "zagrozić ludzkości". To za to miał zostać zwolniony prezes OpenAI

Źródło:
Reuters

Tuż przed zwolnieniem Sama Altmana ze stanowiska prezesa OpenAI kilku pracowników firmy wysłało list do zarządu, w którym przestrzegali, że doszło do potężnego odkrycia. W ich ocenie miałoby ono zagrozić ludzkości. 

Informacje o liście opublikowała agencja Reutersa na podstawie relacji od dwóch osób. Twierdzą one, że list wysłany do rady i algorytm sztucznej inteligencji były kluczowymi czynnikami, które zadecydowały o tym, że rada zdecydowała się zwolnić Sama Altmana. Nie stało się tak na długo, bo po protestach i groźbie odejścia z pracy wyrażonej przez ponad 700 pracowników, oraz wsparciu ze strony dużego inwestora - Microsoftu, został on przywrócony na swoje stanowisko.

Źródła przytoczyły ten list jako jeden z elementów na dłuższej liście skarg zarządu prowadzących do zwolnienia Altmana, wśród których znalazły się obawy dotyczące komercjalizacji postępów przed zrozumieniem konsekwencji z nimi związanych. Reutersowi nie udało się zapoznać z kopią listu. Personel, który napisał list, nie odpowiedział na prośby o komentarz.

Chociaż firma OpenAI odmówiła agencji odpowiedzi, to po próbie kontaktu z jej strony, w wiadomości skierowanej do pracowników potwierdziła istnienie projektu o nazwie Q* i faktu otrzymania przez zarząd listu. Rzecznik OpenAI powiedział, że wiadomość wysłana przez długoletnią dyrektor Mirę Murati zaalarmowała pracowników o pewnych doniesieniach medialnych, nie komentując ich prawdziwości.

Czytaj także: Miliony ludzi mają już wkrótce pracować cztery dni w tygodniu. Raport

Przełom w poszukiwaniu sztucznej inteligencji?

Niektórzy w OpenAI uważają, że Q* (wymawiane Q-Star) może być przełomem w poszukiwaniach startupu nad tak zwaną sztuczną inteligencją ogólną (AGI), powiedział Reutersowi jeden z jego rozmówców. OpenAI definiuje AGI jako autonomiczne systemy, które przewyższają człowieka w najbardziej wartościowych ekonomicznie zadaniach.

Jak relacjonuje źródło agencji nowy model, przy wykorzystaniu ogromnych zasobów obliczeniowych, był w stanie rozwiązać pewne problemy matematyczne. Chociaż obecnie jego zaawansowanie jest na poziomie uczniów szkół podstawowych, to jednak możliwość zmierzenia się z nimi spowodował, że badacze zaczęli pałać dużym optymizmem co do przyszłego sukcesu Q*.

Naukowcy uważają matematykę za pionierską dziedzinę rozwoju generatywnej sztucznej inteligencji. Obecnie generatywna sztuczna inteligencja jest biegła w pisaniu i tłumaczeniu na język, statystycznie przewidując następne słowo, a odpowiedzi na to samo pytanie mogą się znacznie różnić.

Jednak to opanowanie umiejętności matematycznych – tam, gdzie jest tylko jedna prawidłowa odpowiedź – oznacza, że ​​sztuczna inteligencja będzie miała większe możliwości rozumowania, przypominające ludzką inteligencję. Badacze sztucznej inteligencji uważają, że można to zastosować na przykład w nowatorskich badaniach naukowych.

W przeciwieństwie do kalkulatora, który może rozwiązać ograniczoną liczbę operacji, AGI może generalizować, uczyć się i rozumieć.

W swoim piśmie do zarządu badacze zasygnalizowali skuteczność sztucznej inteligencji i potencjalne zagrożenie – podają źródła, nie podając dokładnych obaw dotyczących bezpieczeństwa wskazanych w piśmie. Wśród informatyków od dawna toczy się dyskusja na temat niebezpieczeństwa stwarzanego przez wysoce inteligentne maszyny, na przykład jeśli mogliby zdecydować, że zagłada ludzkości leży w ich interesie.

Wskazali także na prace zespołu "naukowców zajmujących się sztuczną inteligencją", których istnienie potwierdziło wiele źródeł. Grupa utworzona z połączenia wcześniejszych zespołów "Code Gen" i "Math Gen" badała, w jaki sposób zoptymalizować istniejące modele sztucznej inteligencji, aby ulepszyć swoje rozumowanie i ostatecznie przeprowadzić pracę naukową.

Sprawdź też: Niemcy, Francja i Włochy porozumiały się w sprawie sztucznej inteligencji

Przesuwanie kolejnych granic

Altman kierował wysiłkami, aby ChatGPT stała się jedną z najszybciej rozwijających się aplikacji w historii i pozyskał inwestycje – i zasoby obliczeniowe – niezbędne od firmy Microsoft, aby zbliżyć się do AGI.

Oprócz ogłoszenia szeregu nowych narzędzi podczas demonstracji w tym miesiącu, Altman w zeszłym tygodniu pochwalił się na szczycie światowych przywódców w San Francisco, że jego zdaniem widać duże postępy.

- Cztery razy w historii OpenAI, ostatni raz w ciągu ostatnich kilku tygodni, miałem okazję być w pokoju, kiedy w pewnym sensie przesuwaliśmy zasłonę ignorancji z powrotem i przesuwaliśmy granicę odkryć, i dokonanie tego to zawodowy zaszczyt życia – powiedział na szczycie Współpracy Gospodarczej Azji i Pacyfiku.

Dzień później zarząd zwolnił Altmana.

Autorka/Autor:JW/ams

Źródło: Reuters

Źródło zdjęcia głównego: Fakty TVN

Pozostałe wiadomości

Szef francuskiego resortu gospodarki Eric Lombard ocenił, że Unia Europejska i USA są "jeszcze daleko od porozumienia" w sprawie ceł. Dodał jednak, że spotkania z amerykańskimi przedstawicielami są "ciepłe".

"Mamy nadzieję, że ten wpływ wewnątrz kraju popchnie administrację"

"Mamy nadzieję, że ten wpływ wewnątrz kraju popchnie administrację"

Źródło:
PAP

Ministerstwo Finansów ostrzega przed oszustami podszywającymi się pod oficjalne serwisy, takie jak Twój e-PIT, e-TOLL czy e-Urząd Skarbowy. Cyberprzestępcy próbują wyłudzić dane podatników za pomocą SMS-ów, e-maili i fałszywych stron.

"Apelujemy o wzmożoną ostrożność, zwłaszcza teraz". Resort ostrzega

"Apelujemy o wzmożoną ostrożność, zwłaszcza teraz". Resort ostrzega

Źródło:
PAP

- Na rynkach utrzymuje się nerwowość - uważa Hubert Stojanowski, dyrektor do spraw inwestycji klientów z Domu Inwestycyjnego Xelion. Jego zdaniem "sytuacja jest daleka od normalnej".

Nerwowo na rynkach. "To najgorszy możliwy scenariusz"

Nerwowo na rynkach. "To najgorszy możliwy scenariusz"

Źródło:
PAP

- Niszczymy markę, którą są USA - uważa prezes firmy inwestycyjnej Citadel Ken Griffin. Miliarder wcześniej wspierał Donalda Trumpa i przekazywał niezwykle hojne datki na kampanie republikanów - opisuje portal stacji CNN.

Najpierw wspierał, teraz krytykuje Donalda Trumpa. "Niszczymy tę markę"

Najpierw wspierał, teraz krytykuje Donalda Trumpa. "Niszczymy tę markę"

Źródło:
CNN

Jeżeli nadal trwałaby wojna celna i handlowa, to i w Polsce rozpocznie się większa fala drożyzny i inflacji. - Jeśli dwa słonie walczą, to trawa będzie zdeptana. Tą trawą jesteśmy my - stwierdził w rozmowie z tvn24.pl prof. dr hab. Bogdan Góralczyk, politolog, sinolog, dyplomata. - Czeka nas dużo niepewności - dodał Piotr Dzierżanowski z Polskiego Instytutu Spraw Międzynarodowych.

"Jeśli dwa słonie walczą, to trawa będzie zdeptana. Tą trawą jesteśmy my"

"Jeśli dwa słonie walczą, to trawa będzie zdeptana. Tą trawą jesteśmy my"

Źródło:
TVN24+

Szefowa Międzynarodowego Funduszu Walutowego Kristalina Georgiewa zapowiedziała, że MFW wprowadzi w życie sugestie Waszyngtonu dotyczące jego polityki. Wcześniej minister finansów USA Scott Bessent oznajmił, że MFW i Bank Światowy muszą pozyskać zaufanie amerykańskiej administracji.

Kristalina Georgiewa: niepewność jest niedobra

Kristalina Georgiewa: niepewność jest niedobra

Źródło:
PAP

- Jeżeli nie będziemy mieć małych i średnich przedsiębiorców, to do Narodowego Funduszu Zdrowia (NFZ) nie trafi ani wysoka, ani niska składka zdrowotna - powiedziała w "Faktach po Faktach" w TVN24 ministra klimatu i środowiska Paulina Hennig-Kloska. Dodała, że bardzo chętnie spotka się z prezydentem Andrzejem Dudą, aby przekonać go do podpisania ustawy.

Hennig-Kloska: Lewicy już powiedziałam prosto w oczy i w mediach

Hennig-Kloska: Lewicy już powiedziałam prosto w oczy i w mediach

Źródło:
TVN24, PAP

W najbliższym czasie para EUR/PLN może kolejny raz testować poziom 4,30 - uważa ekonomista Cezary Chrapek. Według niego na rynku długu możliwa jest korekta rentowności obligacji w górę.

"Jesteśmy już na tyle nisko, że trudno byłoby iść jeszcze niżej"

"Jesteśmy już na tyle nisko, że trudno byłoby iść jeszcze niżej"

Źródło:
PAP

W czwartek, niedługo przez zakończeniem notowań, WIG po raz pierwszy w historii przekroczył poziom 100 000 punktów. "Polska giełda w tym roku najmocniejszym rynkiem na świecie" - stwierdził minister finansów Andrzej Domański.

"Polska giełda najmocniejszym rynkiem na świecie"

"Polska giełda najmocniejszym rynkiem na świecie"

Źródło:
tvn24.pl, PAP

Migranci to bardzo ważny czynnik, który stabilizuje sytuację gospodarczą - powiedział prezes Zakładu Ubezpieczeń Społecznych (ZUS) Zbigniew Derdziuk w rozmowie z TVN24 BiS. Zwrócił uwagę, że cudzoziemcy zasilają składkami system emerytalny i wpływają na rozwój gospodarczy.

Prezes ZUS: to obciążenie będzie duże

Prezes ZUS: to obciążenie będzie duże

Źródło:
TVN24 BiS

Komisja Europejska (KE) zaproponowała zmiany w dyrektywach dotyczących okresowych badań technicznych pojazdów, dowodów rejestracyjnych oraz badania emisyjności spalin. Propozycje obejmują cyfryzację dokumentów oraz obowiązkowe rejestrowanie stanu drogomierzy, aby zapobiec manipulowaniu danymi.

Chcą zaostrzenia przepisów. Szykują się zmiany dla kierowców

Chcą zaostrzenia przepisów. Szykują się zmiany dla kierowców

Źródło:
PAP

Pierwsza ustawa deregulacyjna została uchwalona w czwartek przez Sejm. Wprowadza między innymi krótszy czas kontroli mikroprzedsiębiorstw czy prostsze zasady prowadzenia działalności gospodarczej.

Sejm uchwalił ustawę deregulacyjną

Sejm uchwalił ustawę deregulacyjną

Źródło:
PAP

Ustawa zobowiązująca deweloperów do informowania o cenach mieszkań w internecie została uchwalona przez Sejm. W przypadku niezastosowania się do obowiązku deweloper może zostać skontrolowany i ukarany grzywną.

Nowy obowiązek dla deweloperów. Jest decyzja Sejmu

Nowy obowiązek dla deweloperów. Jest decyzja Sejmu

Źródło:
PAP

W piątek, 25 kwietnia, Wizz Air uruchomi dwa dodatkowe połączenia do Rzymu z Krakowa i z Warszawy z okazji uroczystości pogrzebowych papieża Franciszka - przekazał przewoźnik. Jeden dodatkowy lot z Krakowa zaplanowano także na 27 kwietnia.

Przewoźnik zapowiada dodatkowe połączenia do Rzymu

Przewoźnik zapowiada dodatkowe połączenia do Rzymu

Źródło:
PAP

Liczba ludności Polski na koniec pierwszego kwartału 2025 roku spadła o 158 tysięcy w skali roku - podał Główny Urząd Statystyczny. Jak dodał, obecnie mamy 37,437 miliona Polaków.

W rok ubyło 158 tysięcy osób

W rok ubyło 158 tysięcy osób

Źródło:
PAP

Brytyjski rząd ogłosił 150 nowych sankcji na Rosję ze względu na inwazję na Ukrainę. Na liście znalazły się między innymi pady do gier, gdyż są wykorzystywane do sterowania dronami wojskowymi - wyjaśnił portal Politico.

Nowe 150 sankcji na Rosję. Jedna pozycja zaskakuje

Nowe 150 sankcji na Rosję. Jedna pozycja zaskakuje

Źródło:
PAP

W pierwszym etapie w ramach deregulacji będziemy mieli gotowych około 120 ustaw, które będą zmniejszały obciążenia i zmniejszały bariery - powiedział w czwartek premier Donald Tusk. Dodał, że jest to "de facto zmiana ustrojowa". Szef rządu zapowiedział, że pakiet projektów ustaw deregulacyjnych będzie procedowany na pierwszym posiedzeniu Sejmu po wyborach prezydenckich.

"De facto zmiana ustrojowa". Tusk o pakiecie deregulacyjnym

"De facto zmiana ustrojowa". Tusk o pakiecie deregulacyjnym

Źródło:
PAP

Majówka w 2025 roku rozpocznie się w tym roku tradycyjnie 1 maja. To okazja do dłuższego wypoczynku, zwłaszcza dla części uczniów, którzy mogą liczyć nawet na siedem dni dodatkowego wolnego ze względu na matury. Ale skorzystać mogą też pracownicy. Sprawdzamy, kiedy najlepiej wziąć wolne w najbliższym czasie.

Jeden dzień urlopu, cztery dni wolnego

Jeden dzień urlopu, cztery dni wolnego

Źródło:
TVN24 Biznes

W czwartek Senat przyjął bez poprawek nowelę ustawy opóźniającą do 1 października wejście w życie nowych taryf na energię elektryczną dla gospodarstw domowych. Zdaniem resortu klimatu zmiany pozwolą na obniżkę cen prądu po wygaśnięciu ceny maksymalnej. Ustawa trafi teraz na biurko prezydenta.

Nowe taryfy na prąd. Decyzja Senatu

Nowe taryfy na prąd. Decyzja Senatu

Źródło:
PAP

Kryptowaluta $Trump gwałtownie zyskała na wartości po tym, jak prezydent USA obiecał, że zaprosi największych posiadaczy tej waluty na ekskluzywną galę z jego udziałem - podał portal stacji BBC.

"Najbardziej ekskluzywne zaproszenie na świecie". Trump kusi inwestorów

"Najbardziej ekskluzywne zaproszenie na świecie". Trump kusi inwestorów

Źródło:
BBC

Kiedy obniżki stóp procentowych? - Myślę, że w maju i to nie jest już takie życzeniowe myślenie. Myślę, że są wszelkie przesłanki wynikające z wypowiedzi prezesa, ale też innych członków Rady Polityki Pieniężnej, żeby myśleć poważnie o tym, że w maju obniżymy stopy procentowe - powiedział w rozmowie z Cezarym Królakiem z TVN24 BiS członek RPP Ludwik Kotecki.

"Myślę, że w maju". Kredytobiorcy czekają na kluczową decyzję

"Myślę, że w maju". Kredytobiorcy czekają na kluczową decyzję

Źródło:
tvn24.pl

Stopa bezrobocia w marcu 2025 roku wyniosła 5,3 procent, wobec 5,4 procent miesiąc wcześniej - podał w czwartek Główny Urząd Statystyczny.

Tyle wynosi stopa bezrobocia w Polsce

Tyle wynosi stopa bezrobocia w Polsce

Źródło:
PAP

Waszyngton może znieść sankcje na rosyjską energetykę, w tym gazociąg Nord Stream 2. Informacje te podaje Politico i wskazuje, że orędownikiem zniesienia sankcji ma być prezydencki wysłannik i przyjaciel Donalda Trumpa Steve Witkoff.

Przyjaciel Trumpa chce zniesienia sankcji na Nord Stream 2

Przyjaciel Trumpa chce zniesienia sankcji na Nord Stream 2

Źródło:
PAP

- Chiny muszą się zmienić. Ten kraj to wie. Każdy wie, że (ten kraj) musi się zmienić, a my chcemy mu w tym pomóc, ponieważ my również potrzebujemy przywrócenia równowagi - powiedział w środę sekretarz skarbu USA Scott Bessent, dodając, że istnieje szansa na zawarcie "wielkiego układu" z Pekinem.

"Szansa na wielki układ" USA z Chinami

"Szansa na wielki układ" USA z Chinami

Źródło:
PAP

Operatorzy platform, za pośrednictwem których dokonywane są transakcje w internecie, przekazali Ministerstwu Finansów dane ponad 177 tysięcy osób fizycznych i 115 tysięcy podmiotów – poinformowała rzeczniczka szefa Krajowej Administracji Skarbowej Justyna Pasieczyńska. Dane te są teraz analizowane.

Blisko 300 tysięcy osób i podmiotów pod lupą fiskusa

Blisko 300 tysięcy osób i podmiotów pod lupą fiskusa

Źródło:
PAP

Rosja i Chiny stworzyły system rozliczeń bankowych "China Track", umożliwiający omijanie zachodniego systemu finansowego oraz nadzoru międzynarodowego - donosi agencja Reuters. Został on stworzony przez największe banki objęte zachodnimi sankcjami i uznawany jest za przełomowe narzędzie w rozwijaniu nowej architektury finansowej.

Przełomowe narzędzie. Korzystają Rosja i Chiny

Przełomowe narzędzie. Korzystają Rosja i Chiny

Źródło:
PAP