Algorytm, który może "zagrozić ludzkości". To za to miał zostać zwolniony prezes OpenAI

Źródło:
Reuters

Tuż przed zwolnieniem Sama Altmana ze stanowiska prezesa OpenAI kilku pracowników firmy wysłało list do zarządu, w którym przestrzegali, że doszło do potężnego odkrycia. W ich ocenie miałoby ono zagrozić ludzkości. 

Informacje o liście opublikowała agencja Reutersa na podstawie relacji od dwóch osób. Twierdzą one, że list wysłany do rady i algorytm sztucznej inteligencji były kluczowymi czynnikami, które zadecydowały o tym, że rada zdecydowała się zwolnić Sama Altmana. Nie stało się tak na długo, bo po protestach i groźbie odejścia z pracy wyrażonej przez ponad 700 pracowników, oraz wsparciu ze strony dużego inwestora - Microsoftu, został on przywrócony na swoje stanowisko.

Źródła przytoczyły ten list jako jeden z elementów na dłuższej liście skarg zarządu prowadzących do zwolnienia Altmana, wśród których znalazły się obawy dotyczące komercjalizacji postępów przed zrozumieniem konsekwencji z nimi związanych. Reutersowi nie udało się zapoznać z kopią listu. Personel, który napisał list, nie odpowiedział na prośby o komentarz.

Chociaż firma OpenAI odmówiła agencji odpowiedzi, to po próbie kontaktu z jej strony, w wiadomości skierowanej do pracowników potwierdziła istnienie projektu o nazwie Q* i faktu otrzymania przez zarząd listu. Rzecznik OpenAI powiedział, że wiadomość wysłana przez długoletnią dyrektor Mirę Murati zaalarmowała pracowników o pewnych doniesieniach medialnych, nie komentując ich prawdziwości.

Czytaj także: Miliony ludzi mają już wkrótce pracować cztery dni w tygodniu. Raport

Przełom w poszukiwaniu sztucznej inteligencji?

Niektórzy w OpenAI uważają, że Q* (wymawiane Q-Star) może być przełomem w poszukiwaniach startupu nad tak zwaną sztuczną inteligencją ogólną (AGI), powiedział Reutersowi jeden z jego rozmówców. OpenAI definiuje AGI jako autonomiczne systemy, które przewyższają człowieka w najbardziej wartościowych ekonomicznie zadaniach.

Jak relacjonuje źródło agencji nowy model, przy wykorzystaniu ogromnych zasobów obliczeniowych, był w stanie rozwiązać pewne problemy matematyczne. Chociaż obecnie jego zaawansowanie jest na poziomie uczniów szkół podstawowych, to jednak możliwość zmierzenia się z nimi spowodował, że badacze zaczęli pałać dużym optymizmem co do przyszłego sukcesu Q*.

Naukowcy uważają matematykę za pionierską dziedzinę rozwoju generatywnej sztucznej inteligencji. Obecnie generatywna sztuczna inteligencja jest biegła w pisaniu i tłumaczeniu na język, statystycznie przewidując następne słowo, a odpowiedzi na to samo pytanie mogą się znacznie różnić.

Jednak to opanowanie umiejętności matematycznych – tam, gdzie jest tylko jedna prawidłowa odpowiedź – oznacza, że ​​sztuczna inteligencja będzie miała większe możliwości rozumowania, przypominające ludzką inteligencję. Badacze sztucznej inteligencji uważają, że można to zastosować na przykład w nowatorskich badaniach naukowych.

W przeciwieństwie do kalkulatora, który może rozwiązać ograniczoną liczbę operacji, AGI może generalizować, uczyć się i rozumieć.

W swoim piśmie do zarządu badacze zasygnalizowali skuteczność sztucznej inteligencji i potencjalne zagrożenie – podają źródła, nie podając dokładnych obaw dotyczących bezpieczeństwa wskazanych w piśmie. Wśród informatyków od dawna toczy się dyskusja na temat niebezpieczeństwa stwarzanego przez wysoce inteligentne maszyny, na przykład jeśli mogliby zdecydować, że zagłada ludzkości leży w ich interesie.

Wskazali także na prace zespołu "naukowców zajmujących się sztuczną inteligencją", których istnienie potwierdziło wiele źródeł. Grupa utworzona z połączenia wcześniejszych zespołów "Code Gen" i "Math Gen" badała, w jaki sposób zoptymalizować istniejące modele sztucznej inteligencji, aby ulepszyć swoje rozumowanie i ostatecznie przeprowadzić pracę naukową.

Sprawdź też: Niemcy, Francja i Włochy porozumiały się w sprawie sztucznej inteligencji

Przesuwanie kolejnych granic

Altman kierował wysiłkami, aby ChatGPT stała się jedną z najszybciej rozwijających się aplikacji w historii i pozyskał inwestycje – i zasoby obliczeniowe – niezbędne od firmy Microsoft, aby zbliżyć się do AGI.

Oprócz ogłoszenia szeregu nowych narzędzi podczas demonstracji w tym miesiącu, Altman w zeszłym tygodniu pochwalił się na szczycie światowych przywódców w San Francisco, że jego zdaniem widać duże postępy.

- Cztery razy w historii OpenAI, ostatni raz w ciągu ostatnich kilku tygodni, miałem okazję być w pokoju, kiedy w pewnym sensie przesuwaliśmy zasłonę ignorancji z powrotem i przesuwaliśmy granicę odkryć, i dokonanie tego to zawodowy zaszczyt życia – powiedział na szczycie Współpracy Gospodarczej Azji i Pacyfiku.

Dzień później zarząd zwolnił Altmana.

Autorka/Autor:JW/ams

Źródło: Reuters

Źródło zdjęcia głównego: Fakty TVN

Pozostałe wiadomości

Rada Polityki Pieniężnej zostawiła stopy procentowe na niezmienionym poziomie - poinformował bank centralny. Ostatnia obniżka stóp procentowych miała miejsce w październiku 2023 roku. 

Jest decyzja w sprawie stóp procentowych

Jest decyzja w sprawie stóp procentowych

Źródło:
tvn24.pl

Stopy procentowe w kwietniu pozostały na dotychczasowym poziomie. Jarosław Sadowski z firmy Rankomat zwraca jednak uwagę, że dość dobre dane na temat inflacji w marcu sprawiły, że przewidywany moment obniżki coraz bardziej się przybliża, co wpływa na WIBOR. Ekspert wyliczył, ile może wynieść rata w kolejnych miesiącach.

"Pierwsze obniżki rat możemy zobaczyć już w kwietniu". Wyliczenia

"Pierwsze obniżki rat możemy zobaczyć już w kwietniu". Wyliczenia

Źródło:
tvn24.pl

Posłowie Polskiego Stronnictwa Ludowego - Trzeciej Drogi złożyli w Sejmie projekt nowelizacji ustawy o czasie urzędowym w Polsce, proponujący wprowadzenie całorocznego czasu letniego. Zdaniem autorów likwidacja zmiany czasu wpłynęłaby pozytywnie na zdrowie Polaków.

Likwidacja zmiany czasu. Jest projekt

Likwidacja zmiany czasu. Jest projekt

Źródło:
PAP

Chiński gigant Xiaomi zapowiedział współpracę z policją w dochodzeniu dotyczącym tragicznego wypadku z udziałem samochodu SU7, wyposażonego w system autonomicznej jazdy - przekazał dziennik "South China Morning Post". W zdarzeniu, do którego doszło w sobotę, życie straciły trzy osoby.

Ostrzegł kierowcę i oddał kontrolę. Dramatyczny wypadek

Ostrzegł kierowcę i oddał kontrolę. Dramatyczny wypadek

Źródło:
PAP

Biały Dom szacuje koszty, jakie Stany Zjednoczone poniosłyby w związku z zarządzaniem Grenlandią, gdyby to terytorium, obecnie zależne od Danii, znalazło się pod amerykańską kontrolą – podał w środę "Washington Post".

USA liczą koszty. "Zapłacimy więcej"

USA liczą koszty. "Zapłacimy więcej"

Źródło:
PAP

Portal Moscow Times poinformował w środę, że łączny majątek 146 rosyjskich miliarderów przewyższa oszczędności zgromadzone przez wszystkich pozostałych mieszkańców kraju. Dane pochodzą z dorocznej listy miliarderów magazynu 'Forbes'."

146 osób ma więcej niż reszta obywateli

146 osób ma więcej niż reszta obywateli

Źródło:
PAP

Prezes Zarządu Polskiej Grupy Zbrojeniowej Krzysztof Trofiniak złożył rezygnację z zajmowanego stanowiska - podała spółka w komunikacie. Zarząd PGZ działa obecnie w czteroosobowym składzie.

Prezes polskiego giganta rezygnuje

Prezes polskiego giganta rezygnuje

Źródło:
tvn24.pl, PAP

Najem krótkoterminowy za pośrednictwem wyspecjalizowanych platform mocno zyskuje na popularności w Unii Europejskiej. Według danych Eurostatu w 2024 roku odnotowano jego wzrost o 18,8 procent w porównaniu do roku 2023. W trzecim kwartale najpopularniejsze pod tym względem były trzy regiony, znajdujące się w Chorwacji, Hiszpanii i Francji.

Fala rozlewa się na całą Europę. Duży wzrost

Fala rozlewa się na całą Europę. Duży wzrost

Źródło:
tvn24.pl

Przebywająca w stolicy Ukrainy Kijowie niemiecka minister spraw zagranicznych Annalena Baerbock wykluczyła możliwość wznowienia projektu gazociągu Nord Stream 2, który miałby dostarczać Europie rosyjski gaz. Moskwa zasugerowała ostatnio wznowienie projektu.

Niemiecka ministra zabrała głos w sprawie Nord Stream 2

Niemiecka ministra zabrała głos w sprawie Nord Stream 2

Źródło:
PAP

Na południowej granicy kraju w związku z zagrożeniem pryszczycą wprowadzone zostały rygorystyczne kontrole weterynaryjne - przekazał w środę w Sejmie minister rolnictwa Czesław Siekierski. Na dziesięciu przejściach granicznych służby weterynaryjne prowadzą dyżury, rozstawiono bramki i maty dezynfekcyjne.

"Rygorystyczne kontrole" na granicach

"Rygorystyczne kontrole" na granicach

Źródło:
PAP

Eksploatacja reaktora jądrowego Maria została wstrzymana na czas od 1 kwietnia do 8 maja - poinformowało tvn24.pl Narodowe Centrum Badań Jądrowych. Z końcem marca wygasło zezwolenie Państwowej Agencji Atomistyki umożliwiające działalność tego obiektu.

Jedyny taki reaktor w Polsce. Przestał działać

Jedyny taki reaktor w Polsce. Przestał działać

Źródło:
tvn24.pl

Skarga Ryanaira w sprawie pomocy publicznej przyznanej polskiemu LOT-owi została oddalona przez Sąd Unii Europejskiej. Pieniądze miały zrekompensować polskiemu przewoźnikowi straty poniesione w związku z pandemią COVID-19.

Ryanair przegrywa w sądzie

Ryanair przegrywa w sądzie

Źródło:
PAP

Zamknięta część popularnych szlaków na Maderze i tak jest odwiedzana przez turystów, w tym Polaków - wynika z informacji portugalskich mediów. Przeskakują przez ogrodzenie, łamiąc w ten sposób zakazy. Narażają się jednocześnie na duże koszty, jeśli będą musieli skorzystać z pomocy.

Polacy ryzykują zdrowiem i życiem. Grożą im duże kary

Polacy ryzykują zdrowiem i życiem. Grożą im duże kary

Źródło:
PAP

Ceny jaj z powodu ptasiej grypy mogą wzrosnąć - przyznał wiceminister rolnictwa Stefan Krajewski. Przypomniał, że problem z dostępnością jaj ma kilka państw, na przykład Stany Zjednoczone, które zwróciły się już o pomoc do kilku krajów - również do Polski.

Ceny tego produktu mogą wzrosnąć. "Sytuacja jest dynamiczna"

Ceny tego produktu mogą wzrosnąć. "Sytuacja jest dynamiczna"

Źródło:
PAP, tvn24.pl

- Amerykanie masowo grają na giełdzie, a wielu się zadłuża, by kupować akcje. Polityka administracji USA może jednak doprowadzić do zapaści na Wall Street. Zachowania Trumpa są nieobliczalne, a rynki kapitałowe są bardzo czułe na takie decyzje - powiedział rektor i profesor SGH Piotr Wachowiak.

"To jest randka w ciemno, a taka randka rzadko się udaje"

"To jest randka w ciemno, a taka randka rzadko się udaje"

Źródło:
PAP

Prezydent Andrzej Duda podpisał nowelizację ustawy o ochronie zdrowia przed następstwami używania tytoniu i wyrobów tytoniowych. W jej efekcie sprzedaż wyrobów tytoniowych z charakterystycznym aromatem będzie zakazana.

Te produkty będą zakazane. Podpis prezydenta

Te produkty będą zakazane. Podpis prezydenta

Źródło:
PAP

Od 2 kwietnia obywatele Polski objęci ruchem bezwizowym muszą posiadać elektroniczną autoryzację podróży (Electronic Travel Authorisation - ETA) w celu wjazdu do Wielkiej Brytanii. Opłata za ten cyfrowy dokument wynosi 10 funtów, a od 9 kwietnia wzrośnie do 16 funtów.

Nowe zasady wjazdu do Wielkiej Brytanii

Nowe zasady wjazdu do Wielkiej Brytanii

Źródło:
tvn24.pl

We wtorkowym losowaniu Eurojackpot nie padła główna wygrana. Kumulacja rośnie do 110 milionów złotych. W Polsce odnotowano wygraną drugiego stopnia o wartości ponad 6 milionów złotych. Oto liczby, które wylosowano 1 kwietnia 2025 roku.

Wielka wygrana w Eurojackpot w Polsce

Wielka wygrana w Eurojackpot w Polsce

Źródło:
tvn24.pl

W ubiegłym roku firma KTM, austriacki producent motocykli, złożyła wniosek o ogłoszenie upadłości. Ale znalazł się inwestor, dzięki któremu będzie możliwe kontynuowanie produkcji. Pomoc nadeszła z Indii w postaci producenta pojazdów Bajaj, który wpłacił 100 milionów euro na dalszą działalność.

Jest ratunek dla legendarnej marki

Jest ratunek dla legendarnej marki

Źródło:
PAP

W marcu średnie ceny metra kwadratowego mieszkań oferowanych przez deweloperów pozostawały bez zmian w niemal wszystkich metropoliach - wynika ze wstępnych danych przedstawionych w raporcie portalu RynekPierwotny.pl. Wyjątkiem była Warszawa, w której wzrost wyniósł 1 procent.

Ceny mieszkań od deweloperów. Jedno miasto wyjątkiem

Ceny mieszkań od deweloperów. Jedno miasto wyjątkiem

Źródło:
PAP

- Polska wynegocjowała nową umowę pomostową z wykonawcami elektrowni jądrowej - poinformował na briefingu premier Donald Tusk. Stwierdził, że umowa jest dla Polski "dużo bardziej korzystna".

Tusk: porozumieliśmy się z amerykańskimi partnerami 

Tusk: porozumieliśmy się z amerykańskimi partnerami 

Źródło:
tvn24.pl, "Rzeczpospolita"

W pewnym momencie Departament Wydajności Państwa (DOGE) zakończy swoją działalność - powiedział prezydent USA Donald Trump. Zwrócił uwagę, że według obecnych ustaleń Elon Musk ma pełnić funkcję specjalnego pracownika rządowego przez 130 dni.

Trump zabrał głos w sprawie przyszłości Muska

Trump zabrał głos w sprawie przyszłości Muska

Źródło:
CNN, tvn24.pl

Relacja długu sektora instytucji rządowych i samorządowych liczonego według metodologii unijnej wyniosła na koniec 2024 roku 55,6 procent PKB - poinformowało Ministerstwo Finansów. W kwotach nominalnych to rekordowe ponad dwa biliony złotych. "Sfera fiskalna pozostaje daleko od równowagi" - napisali we wtorek analitycy banku PKO BP.

Dwa biliony złotych pod kreską

Dwa biliony złotych pod kreską

Źródło:
PAP

Francuska sieć hoteli Accor ostrzegła, że liczba rezerwacji noclegów w USA na lato spadła w przypadku Europejczyków o 25 procent. Według Bloomberga powodem jest kontrowersyjna polityka Donalda Trumpa, przez którą turyści wybierają Kanadę, Egipt lub kraje Ameryki Południowej.

Duży spadek rezerwacji. "Omijają USA"

Duży spadek rezerwacji. "Omijają USA"

Źródło:
Bloomberg

Włoskie media donoszą o ślubie Jeffa Bezosa i Lauren Sanchez, który ma się odbyć w Wenecji i potrwać trzy dni. Pomysł hucznego ślubu miliardera w tym słynnym miejscu spotkał się z głosami niezadowolenia, jednak burmistrz miasta uspokaja i zapewnia, że władze współpracują z organizatorami wydarzenia.

Jeff Bezos ma wziąć ślub w Wenecji, burmistrz miasta uspokaja

Jeff Bezos ma wziąć ślub w Wenecji, burmistrz miasta uspokaja

Źródło:
CNN, The Guardian, USA Today, The Independent

Rozmowa o pracę, wyprawa w tropiki czy wspieranie rozwodzącej się przyjaciółki - to, jak się okazuje, dopuszczalne aktywności na zwolnieniu lekarskim według sądów - pisze we wtorek "Dziennik Gazeta Prawna".

Co wolno choremu na L4

Co wolno choremu na L4

Źródło:
PAP, tvn24.pl

Ponad 80 tysięcy pracowników federalnych instytucji zdrowia publicznego w Stanach Zjednoczonych drży o swoje miejsca pracy. Niektóre osoby zatrudnione w Agencji do spraw Żywności i Leków (FDA) otrzymały polecenie spakowania się i przygotowania na możliwość, że już nie wrócą do swoich zadań - podała agencja AP.

Tysiące pracowników zagrożonych zwolnieniami

Tysiące pracowników zagrożonych zwolnieniami

Źródło:
PAP

Władze stolicy Włoch ruszyły w poniedziałek z kampanią "Szanuj Rzym". Skierowana jest do mieszkańców i turystów, a jej przekaz brzmi: kto kocha Rzym, nie rani go, nie obraża, nie przyczynia się do jego degradacji. Władze chcą w ten sposób zwrócić uwagę na trzy zabronione w Rzymie zachowania, które wciąż regularnie się zdarzają.

Trzy zabronione zachowania, władze Rzymu ostrzegają

Trzy zabronione zachowania, władze Rzymu ostrzegają

Źródło:
PAP, tvn24.pl

Czy Wielkanoc 2025 będzie droższa niż ubiegłoroczna? Eksperci zwracają uwagę, że więcej - i to znacznie - trzeba będzie zapłacić za masło czy jaja. Podrożały także pieczywo i wędliny. Tańsze natomiast mogą być ziemniaki, czy mąka.

Skok nawet o 30 procent. Co podrożało, co potaniało

Skok nawet o 30 procent. Co podrożało, co potaniało

Źródło:
tvn24.pl