Algorytm, który może "zagrozić ludzkości". To za to miał zostać zwolniony prezes OpenAI

Źródło:
Reuters

Tuż przed zwolnieniem Sama Altmana ze stanowiska prezesa OpenAI kilku pracowników firmy wysłało list do zarządu, w którym przestrzegali, że doszło do potężnego odkrycia. W ich ocenie miałoby ono zagrozić ludzkości. 

Informacje o liście opublikowała agencja Reutersa na podstawie relacji od dwóch osób. Twierdzą one, że list wysłany do rady i algorytm sztucznej inteligencji były kluczowymi czynnikami, które zadecydowały o tym, że rada zdecydowała się zwolnić Sama Altmana. Nie stało się tak na długo, bo po protestach i groźbie odejścia z pracy wyrażonej przez ponad 700 pracowników, oraz wsparciu ze strony dużego inwestora - Microsoftu, został on przywrócony na swoje stanowisko.

Źródła przytoczyły ten list jako jeden z elementów na dłuższej liście skarg zarządu prowadzących do zwolnienia Altmana, wśród których znalazły się obawy dotyczące komercjalizacji postępów przed zrozumieniem konsekwencji z nimi związanych. Reutersowi nie udało się zapoznać z kopią listu. Personel, który napisał list, nie odpowiedział na prośby o komentarz.

Chociaż firma OpenAI odmówiła agencji odpowiedzi, to po próbie kontaktu z jej strony, w wiadomości skierowanej do pracowników potwierdziła istnienie projektu o nazwie Q* i faktu otrzymania przez zarząd listu. Rzecznik OpenAI powiedział, że wiadomość wysłana przez długoletnią dyrektor Mirę Murati zaalarmowała pracowników o pewnych doniesieniach medialnych, nie komentując ich prawdziwości.

Czytaj także: Miliony ludzi mają już wkrótce pracować cztery dni w tygodniu. Raport

Przełom w poszukiwaniu sztucznej inteligencji?

Niektórzy w OpenAI uważają, że Q* (wymawiane Q-Star) może być przełomem w poszukiwaniach startupu nad tak zwaną sztuczną inteligencją ogólną (AGI), powiedział Reutersowi jeden z jego rozmówców. OpenAI definiuje AGI jako autonomiczne systemy, które przewyższają człowieka w najbardziej wartościowych ekonomicznie zadaniach.

Jak relacjonuje źródło agencji nowy model, przy wykorzystaniu ogromnych zasobów obliczeniowych, był w stanie rozwiązać pewne problemy matematyczne. Chociaż obecnie jego zaawansowanie jest na poziomie uczniów szkół podstawowych, to jednak możliwość zmierzenia się z nimi spowodował, że badacze zaczęli pałać dużym optymizmem co do przyszłego sukcesu Q*.

Naukowcy uważają matematykę za pionierską dziedzinę rozwoju generatywnej sztucznej inteligencji. Obecnie generatywna sztuczna inteligencja jest biegła w pisaniu i tłumaczeniu na język, statystycznie przewidując następne słowo, a odpowiedzi na to samo pytanie mogą się znacznie różnić.

Jednak to opanowanie umiejętności matematycznych – tam, gdzie jest tylko jedna prawidłowa odpowiedź – oznacza, że ​​sztuczna inteligencja będzie miała większe możliwości rozumowania, przypominające ludzką inteligencję. Badacze sztucznej inteligencji uważają, że można to zastosować na przykład w nowatorskich badaniach naukowych.

W przeciwieństwie do kalkulatora, który może rozwiązać ograniczoną liczbę operacji, AGI może generalizować, uczyć się i rozumieć.

W swoim piśmie do zarządu badacze zasygnalizowali skuteczność sztucznej inteligencji i potencjalne zagrożenie – podają źródła, nie podając dokładnych obaw dotyczących bezpieczeństwa wskazanych w piśmie. Wśród informatyków od dawna toczy się dyskusja na temat niebezpieczeństwa stwarzanego przez wysoce inteligentne maszyny, na przykład jeśli mogliby zdecydować, że zagłada ludzkości leży w ich interesie.

Wskazali także na prace zespołu "naukowców zajmujących się sztuczną inteligencją", których istnienie potwierdziło wiele źródeł. Grupa utworzona z połączenia wcześniejszych zespołów "Code Gen" i "Math Gen" badała, w jaki sposób zoptymalizować istniejące modele sztucznej inteligencji, aby ulepszyć swoje rozumowanie i ostatecznie przeprowadzić pracę naukową.

Sprawdź też: Niemcy, Francja i Włochy porozumiały się w sprawie sztucznej inteligencji

Przesuwanie kolejnych granic

Altman kierował wysiłkami, aby ChatGPT stała się jedną z najszybciej rozwijających się aplikacji w historii i pozyskał inwestycje – i zasoby obliczeniowe – niezbędne od firmy Microsoft, aby zbliżyć się do AGI.

Oprócz ogłoszenia szeregu nowych narzędzi podczas demonstracji w tym miesiącu, Altman w zeszłym tygodniu pochwalił się na szczycie światowych przywódców w San Francisco, że jego zdaniem widać duże postępy.

- Cztery razy w historii OpenAI, ostatni raz w ciągu ostatnich kilku tygodni, miałem okazję być w pokoju, kiedy w pewnym sensie przesuwaliśmy zasłonę ignorancji z powrotem i przesuwaliśmy granicę odkryć, i dokonanie tego to zawodowy zaszczyt życia – powiedział na szczycie Współpracy Gospodarczej Azji i Pacyfiku.

Dzień później zarząd zwolnił Altmana.

Autorka/Autor:JW/ams

Źródło: Reuters

Źródło zdjęcia głównego: Fakty TVN

Pozostałe wiadomości

Allegro w ostatniej chwili wycofało się z zapowiadanego pilotażu sprzedaży alkoholu przez internet. Spółka tłumaczy, że ma to związek ze zmianą przepisów szykowaną przez rząd. Część sklepów ma obecnie w internetowej ofercie alkohol, pomimo, że resort zdrowia stoi na stanowisku, że taka sprzedaż jest zakazana. Tą kwestią zajmowały się sądy administracyjne.

Gigant w ostatniej chwili zmienił zdanie. "Będziemy uważnie obserwować sytuację"

Gigant w ostatniej chwili zmienił zdanie. "Będziemy uważnie obserwować sytuację"

Źródło:
tvn24.pl

Finansiści, prawnicy, specjaliści do spraw administracji, programiści czy sekretarki - to jedne z zawodów najbardziej narażonych na wpływ sztucznej inteligencji według analizy Polskiego Instytutu Ekonomicznego. W 20 wymienianych przez ekspertów zawodach zatrudnionych jest obecnie w Polsce około 3,68 miliona osób. Większość to kobiety.

20 najbardziej narażonych zawodów. To miliony osób w Polsce

20 najbardziej narażonych zawodów. To miliony osób w Polsce

Źródło:
tvn24.pl

Nie zgadzamy się z takimi rozliczeniami. To jest państwo w państwie - mówi w rozmowie z biznesową redakcją tvn24.pl pan Tomasz z Zielonej Góry. Dostał fakturę za prąd na ponad 20 tysięcy złotych i wysokie prognozy na kolejne miesiące. - Ktoś zmienił taryfę - stwierdza. Enea zapowiada korektę rozliczeń.

Gigantyczny rachunek za prąd. "Katastrofa"

Gigantyczny rachunek za prąd. "Katastrofa"

Źródło:
tvn24.pl

Pomysł Wigilii ustawowo wolnej od pracy budzi wątpliwości organizacji pracodawców. "To kolejna nieprzemyślana pod kątem gospodarczym propozycja" - zwracają uwagę i dodają, że "pracownik, jeżeli chce nie pracować w Wigilię, może skorzystać z urlopu wypoczynkowego".

Nowy dzień ustawowo wolny od pracy. "Nieprzemyślana propozycja"

Nowy dzień ustawowo wolny od pracy. "Nieprzemyślana propozycja"

Źródło:
tvn24.pl

W grudniu udostępniona zostanie aplikacja mobilna e-Urząd Skarbowy, a w lutym 2025 roku znajdzie się w niej usługa e-PIT - poinformowało Ministerstwo Finansów. Podatnicy będą mogli złożyć w ten sposób deklarację podatkową. W systemie e-usług w marcu ma być również dostępny chatbot i płatności kartą.

Zmiany dla podatników. Nowość w sprawie składania PIT

Zmiany dla podatników. Nowość w sprawie składania PIT

Źródło:
PAP

W Rosji rośnie liczba przypadków kradzieży masła po gwałtownym wzroście cen tego produktu - informują niezależne rosyjskie portale. W Moskwie zatrzymano dwóch uzbrojonych w noże mężczyzn, którzy - nie zwracając uwagi na kamery monitoringu - zapakowali do plecaka 25 kostek masła i usiłowali uciec.

"Armagendon z masłem". W Rosji fala kradzieży

"Armagendon z masłem". W Rosji fala kradzieży

Źródło:
Reuters, The Moscow Times, tvn24.pl

- Podtrzymujemy nasze stanowisko w sprawie odbudowy centrum handlowego przy Marywilskiej. Jesteśmy na końcowym etapie koncepcji - mówi w rozmowie z biznesową redakcją tvn24.pl Małgorzata Konarska, prezes zarządu spółki Marywilska 44. Hala targowa przy Marywilskiej w Warszawie spłonęła 12 maja. - Myślę, że w drugim półroczu przyszłego roku uda się wbić łopatę i rozpocząć pracę - dodaje Konarska.

"Podtrzymujemy nasze stanowisko". Co dalej z handlem przy Marywilskiej 44?

"Podtrzymujemy nasze stanowisko". Co dalej z handlem przy Marywilskiej 44?

Źródło:
tvn24.pl

Kwota zasiłku pogrzebowego wynosi obecnie 4 tysiące złotych. Wysokość tego świadczenia nie zmieniła się od 13 lat mimo, że koszty pogrzebu w tym czasie mocno poszły w górę. Podwyżkę zasiłku pogrzebowego zapowiadała Koalicja Obywatelska w swoich 100 konkretach. Na stole leżą dwie propozycje. Materiał programu "Polska i Świat".

Zasiłek pogrzebowy od 13 lat bez zmian. Co z wyborczą obietnicą?

Zasiłek pogrzebowy od 13 lat bez zmian. Co z wyborczą obietnicą?

Źródło:
tvn24.pl

Mikroprzedsiębiorcy od piątku mogą składać do ZUS wnioski o tak zwane wakacje składkowe, czyli zwolnienie raz w roku z opłaty własnego obowiązkowego ubezpieczenia. Według prognoz resortu rozwoju i technologii z nowego rozwiązania może skorzystać 1,7 miliona małych przedsiębiorców.

Ulga dla 1,7 miliona przedsiębiorców. Można już składać wnioski

Ulga dla 1,7 miliona przedsiębiorców. Można już składać wnioski

Źródło:
PAP

W tym roku po Wszystkich Świętych z polskich cmentarzy na wysypiska trafi blisko 120 tysięcy ton odpadów - szacuje Stowarzyszenie "Polski Recykling". Zdaniem ekspertów antidotum na zalew śmieci jest segregacja.

120 tysięcy ton odpadów z cmentarzy. Segregacja jest rzadkością

120 tysięcy ton odpadów z cmentarzy. Segregacja jest rzadkością

Źródło:
PAP

Prezes Urzędu Ochrony Konkurencji i Konsumentów (UOKiK) wezwał przedsiębiorcę DAWIKA KRAFT S.A. do wycofania z obrotu przedłużacza oraz do powiadomienia konsumentów o stwierdzonych niezgodnościach wyrobu z wymaganiami. Okazuje się posiada on poważną wadę konstrukcyjną.

Ostrzeżenie przed przedłużaczem. Ryzyko pożaru

Ostrzeżenie przed przedłużaczem. Ryzyko pożaru

Źródło:
tvn24.pl

Od 1 listopada sieć dróg płatnych zostanie rozszerzona. Zmiany dotyczą wyłącznie pojazdów, których dopuszczalna masa całkowita przekracza 3,5 tony, czyli ciężarówek i autobusów. Jak podkreśla GDDKiA, nie ma w planach wprowadzenia poboru opłat od samochodów osobowych czy motocykli.

Od dzisiaj więcej płatnych dróg w Polsce

Od dzisiaj więcej płatnych dróg w Polsce

Źródło:
PAP

Do końca października bieżącego roku spadkobiercy wysłali blisko 7 tysięcy zapytań dotyczących odnalezienia rachunków bankowych zmarłej osoby - przekazała Krajowa Izba Rozliczeniowa. Jeszcze dwa lata temu wynik ten był o połowę niższy.

Coraz więcej spadkobierców poszukuje kont zmarłych

Coraz więcej spadkobierców poszukuje kont zmarłych

Źródło:
PAP

Rosyjski miliarder Roman Awdiejew oznajmił w czwartek, że sprzedał swoje akcje w Rossium Group i nie posiada już żadnych aktywów w Rosji, co pozwoli mu zajmować się swoimi 23 dziećmi.

Rosyjski miliarder wycofał się z biznesu. Chce mieć czas dla 23 dzieci

Rosyjski miliarder wycofał się z biznesu. Chce mieć czas dla 23 dzieci

Źródło:
PAP

Organizatorzy turystyki poszkodowani przez powódź będą mogli się ubiegać o bezzwrotne dotacje z Turystycznego Funduszu Pomocowego na pokrycie zwrotów wpłat podróżnym - przewiduje opublikowany w czwartek projekt rozporządzenia Ministra Sportu i Turystyki.

Dotacje dla organizatorów turystyki dotkniętych powodzią. Jest projekt

Dotacje dla organizatorów turystyki dotkniętych powodzią. Jest projekt

Źródło:
PAP

Konta w mediach społecznościowych mogą być przejmowane przez cyberprzestępców po śmierci właściciela - ostrzega w komunikacie NASK. Celem oszustów jest wzbudzenie niepokoju wśród bliskich zmarłego, a następnie wyłudzenie pieniędzy w zamian za zwrócenie dostępu do profilu.

Konta zmarłych na celowniku oszustów

Konta zmarłych na celowniku oszustów

Źródło:
PAP

Komisja Europejska wszczęła w czwartek formalne postępowanie w sprawie chińskiej platformy handlowej Temu, między innymi za handel podróbkami, w tym kosmetykami i zabawkami oraz stosowanie systemów, które mogą prowadzić do uzależnienia użytkowników.

Bruksela wszczęła formalne postępowanie wobec platformy Temu

Bruksela wszczęła formalne postępowanie wobec platformy Temu

Źródło:
PAP

Ceny towarów i usług konsumpcyjnych w październiku 2024 roku wzrosły rok do roku o 5 procent, a w porównaniu z poprzednim miesiącem wzrosły o 0,3 procent - podał w szybkim szacunku Główny Urząd Statystyczny. Do wzrostu rocznego wskaźnika inflacji przyczynił się wyższy wzrost cen żywności, roczną inflację podbiły też ceny paliw z uwagi na efekt niskiej bazy - ocenili analitycy.

Tak rosną ceny w Polsce. Nowe dane o inflacji

Tak rosną ceny w Polsce. Nowe dane o inflacji

Źródło:
PAP

Rosyjski sąd nałożył na Google karę w wysokości dwóch sekstylionów rubli (dwójka i 36 zer) za ograniczenia nałożone na kanały rosyjskich mediów państwowych w serwisie YouTube. To więcej pieniędzy niż jest na całym świecie - pisze portal BBC.

Dwójka i 36 zer. Absurdalna kara dla Google

Dwójka i 36 zer. Absurdalna kara dla Google

Źródło:
BBC

Główny Inspektorat Sanitarny wydał ostrzeżenie dotyczące maty odświeżającej do lodówki, sprzedawanej w sklepach sieci Leroy Merlin. Powodem jest wykrycie migracji do żywności substancji 2,4-Toluenodiaminy z tego produktu. Substancja ta może stanowić zagrożenie dla zdrowia i nie powinna znajdować się w żywności.

Leroy Merlin wycofuje produkt. Ostrzeżenie

Leroy Merlin wycofuje produkt. Ostrzeżenie

Źródło:
tvn24.pl

Związki zawodowe z łódzkiej fabryki Beko doszły do porozumienia z zarządem producenta sprzętu AGD w sprawie zamknięcia zakładu. Pracę straci 1100 osób, które – jak poinformował w środę koncern - otrzymają odprawy zależne od stażu pracy.

Fabryka w Polsce do zamknięcia, pracę straci 1100 osób

Fabryka w Polsce do zamknięcia, pracę straci 1100 osób

Źródło:
PAP