OpenAI daje 555 tys. dol. (ok. 2 mln zł) rocznie. Haczyk? To jedno z najbardziej wymagających stanowisk w branży AI.
"Od razu rzucimy cię na głęboką wodę"
"Szef ds. gotowości" (ang. head of preparedness) w OpenAI ma bezpośrednio odpowiadać za ochronę przed zagrożeniami wynikającymi z rozwoju systemów AI. Chodzi tu o zdrowie psychiczne użytkowników, cyberbezpieczeństwo, a nawet ryzyka związane z bronią biologiczną.
A to dopiero początek wyzwań. Zwycięzca rekrutacji w swojej pracy będzie musiał też mierzyć się z obawami, że systemy AI wkrótce będą szkolić się same, a według części ekspertów nawet "zwrócić się przeciwko nam" - zaznaczył "Guardian".
"To stresująca praca i praktycznie od razu rzucimy cię na głęboką wodę" - napisał Sam Altman, dyrektor generalny OpenAI. Altman stwierdził, że jest to "kluczowe stanowisko", które ma "pomóc światu".
"Szef ds. gotowości" w OpenAI ma odpowiadać za "śledzenie i przygotowywanie się na nowe zagrożenia powodujące poważne szkody". O tym, że nie jest to łatwa pracy świadczy fakt, że było już kilku śmiałków, którzy podjęli się tego wyzwania, ale na stanowisku wytrwali tylko przez krótki czas i szybko rezygnowali - opisał "Guardian".
"Kanapka ma więcej regulacji niż AI"
W ostatnim czasie rośnie liczba poważnych ostrzeżeń napływających z samej branży AI. Specjaliści przestrzegają przed zagrożeniami związanymi z rozwojem tej technologii. W poniedziałek Mustafa Suleyman, dyrektor generalny Microsoft AI, powiedział w BBC Radio 4: - Szczerze uważam, że jeśli w tym momencie nie odczuwasz choćby odrobiny strachu, to po prostu nie śledzisz tego, co się dzieje.
Demis Hassabis, laureat Nagrody Nobla i współzałożyciel Google DeepMind, ostrzegł w tym miesiącu przed możliwością, że systemy AI "wymkną się spod kontroli w sposób, który zaszkodzi ludzkości".
Wpływ na zagrożenia w branży ma też sprzeciw administracji Donalda Trumpa, by uregulować AI w USA. Ale i na poziomie międzynarodowym nie ma odpowiednich regulacji. Yoshua Bengio - jeden z "ojców chrzestnych AI" - stwierdził niedawno, że "kanapka ma więcej regulacji niż AI".
W praktyce firmy z branży w dużej mierze regulują się same.
W bonusie udziały w OpenAI
"Mamy solidne podstawy do mierzenia rosnących możliwości [naszych systemów], ale wkraczamy w świat, w którym potrzebujemy bardziej szczegółowego zrozumienia i pomiaru tego, w jaki sposób te możliwości mogą być nadużywane oraz jak możemy ograniczyć negatywne skutki zarówno w naszych produktach, jak i w świecie, w taki sposób, który pozwoli nam wszystkim cieszyć się ogromnymi korzyściami. Są to trudne pytania, dla których nie ma zbyt wielu precedensów" - napisał Sam Altman na platformie X, ogłaszając nową rekrutację.
Jeden z użytkowników odpowiedział sarkastycznie: "Brzmi całkiem spoko, czy w pakiecie jest urlop?"
To, co oferuje OpenAI, to udziały w firmie wycenianej na 500 mld dol. (ok. 1,8 bln zł).
Rosnące zagrożenia ze strony AI
W zeszłym miesiącu konkurencyjna spółka Anthropic poinformowała o pierwszych cyberatakach z wykorzystaniem AI, w których sztuczna inteligencja działała w dużej mierze autonomicznie, choć pod nadzorem podejrzewanych o to chińskich podmiotów państwowych. Sztuczna inteligencja skutecznie włamała się i uzyskała dostęp do danych. W tym miesiącu OpenAI poinformowało, że jego najnowszy model był niemal trzykrotnie bardziej skuteczny w atakach hakerskich niż trzy miesiące wcześniej. "Spodziewamy się, iż kolejne modele AI będą podążać tą samą ścieżką" - napisał wówczas producent ChatGPT.
OpenAI została pozwana przez rodzinę Adama Raine'a, 16-latka z Kalifornii, który popełnił samobójstwo po tym, jak miał go do tego zachęcać ChatGPT. Firma twierdzi, że Raine niewłaściwie korzystał z technologii.
W innej sprawie zarzuca się OpenAI, że ChatGPT wzmacniał paranoiczne urojenia 56-letniego Stein-Erika Soelberga z Connecticut, który następnie zabił swoją 83-letnią matkę i odebrał sobie życie. Rzecznik OpenAI poinformował, że firma analizuje dokumenty w sprawie Soelberga, określając ją jako "niezwykle poruszającą", oraz że poprawia proces szkolenia ChatGPT, aby "rozpoznawał i reagował na oznaki psychicznego lub emocjonalnego kryzysu, deeskalował rozmowy i kierował ludzi do realnego wsparcia".
Badanie dotyczące chatbotów AI
Badanie Pew Research Center wykazało, że blisko 70 proc. amerykańskich nastolatków miało kontakt z chatbotem AI przynajmniej raz, a niemal jedna trzecia korzysta z nich codziennie. Spośród tych, którzy używają ich codziennie, 16 proc. deklaruje, że robi to kilka razy dziennie lub "niemal bez przerwy".
Najpopularniejszym chatbotem wśród młodych użytkowników okazał się ChatGPT, z którego korzystała ponad połowa badanych. Kolejne miejsca zajęły Gemini od Google, Meta AI, Copilot Microsoftu, Character.AI oraz Claude od Anthropic.
Wyniki badania pojawiają się po pozwach przeciwko OpenAI i Character.AI, w których rodziny twierdziły, że aplikacje odegrały rolę w samobójstwach lub problemach psychicznych ich dzieci. OpenAI zapowiedziało wprowadzenie kontroli rodzicielskich i ograniczeń wiekowych, a Character.AI zakończyło możliwość prowadzenia przez nastolatków dialogów z generowanymi postaciami.
Meta poinformowała o zmianach w polityce po doniesieniach o rozmowach seksualnych z nieletnimi, a Microsoft podkreśla bezpieczeństwo Copilota - dyrektor generalny ds. AI Mustafa Suleyman przekonywał w październiku w rozmowie z CNN, że narzędzie "nigdy nie pozwoli na romantyczne ani seksualne rozmowy - ani z dorosłymi, ani z dziećmi".
Jeśli doświadczasz problemów emocjonalnych i potrzebujesz porady lub wsparcia, tutaj znajdziesz listę organizacji oferujących profesjonalną pomoc. W sytuacji bezpośredniego zagrożenia życia zadzwoń na numer 997 lub 112.
Autorka/Autor: wk/kris
Źródło: "Guardian", CNN
Źródło zdjęcia głównego: Shutterstock