Nowa wersja ChatGPT połączy narzędzia i zabezpieczenia dla młodych użytkowników, które OpenAI wprowadzało w ciągu ostatniego roku. Firma poinformowała o zmianach we wtorkowym wpisie na blogu.
Nastolatek korzystający z chatbota przez 90 minut w ciągu trzech godzin otrzyma sugestię zrobienia przerwy. Użytkownicy lub ich rodzice będą mogli również ustawić "ciche godziny", w których ChatGPT pozostanie niedostępny.
Kolejną opcją będą "godziny nauki". W wybranym czasie domyślnie uruchamiany będzie tryb nauki ChatGPT.
OpenAI zapowiada dodatkowe ograniczenia
Firma przekazała, że poprawiła zabezpieczenia, które mają powstrzymywać ChatGPT przed wyrażaniem osobistych uczuć wobec użytkownika. Nastolatkowie otrzymają również ostrzeżenie, jeśli spróbują przesłać chatbotowi prywatne lub wrażliwe zdjęcie.
Jak wyjaśniło OpenAI, nowe rozwiązania obejmują "zabezpieczenia odpowiednie do wieku, zaprojektowane w celu ograniczenia kontaktu z treściami, które mogą być szkodliwe lub nieodpowiednie pod względem rozwojowym", przy jednoczesnym zachowaniu możliwości nauki, tworzenia i odkrywania.
Osoby, które podczas rejestracji podadzą, że nie ukończyły 18 lat, zostaną automatycznie objęte ustawieniami ochronnymi. OpenAI wykorzystuje również sztuczną inteligencję do szacowania wieku. Zabezpieczenia mają być włączane także na kontach użytkowników uznanych za niepełnoletnich, niezależnie od daty urodzenia podanej w profilu.
Chatboty popularne wśród amerykańskich nastolatków
Z opublikowanego w grudniu badania Pew Research Center wynika, że niemal jedna trzecia amerykańskich nastolatków codziennie korzysta z chatbotów opartych na sztucznej inteligencji.
ChatGPT był zdecydowanie najpopularniejszym narzędziem uwzględnionym w badaniu. Korzystanie z niego zadeklarowała ponad połowa badanych nastolatków.
OpenAI mierzy się jednocześnie z zarzutami, że ChatGPT może udostępniać młodym użytkownikom nieodpowiednie treści, pogłębiać ich samotność lub utrudniać naukę. Rodziny, które pozwały spółkę, twierdzą, że chatbot przyczynił się do samobójstw ich dzieci lub wręcz do nich zachęcał. OpenAI odrzuca te zarzuty.
Kontrole rodzicielskie i alerty o zagrożeniach
Jesienią ubiegłego roku firma wprowadziła funkcje pozwalające rodzicom wyłączyć między innymi pamięć ChatGPT oraz historię rozmów. Opiekunowie mogą również otrzymywać powiadomienia, gdy system wykryje podczas korzystania z chatbota "moment ostrego kryzysu".
OpenAI zapowiedziało, że w najbliższych tygodniach doda alerty dla rodziców związane z zaburzeniami odżywiania.
Pozwy przeciwko OpenAI
W kwietniu siedem rodzin ofiar strzelaniny w szkole w Tumbler Ridge w Kolumbii Brytyjskiej pozwało OpenAI oraz dyrektora generalnego firmy Sama Altmana. Powodowie twierdzą, że ChatGPT był współodpowiedzialny za obrażenia lub śmierć ich dzieci, ponieważ sprawca miał prowadzić z chatbotem rozbudowane rozmowy dotyczące przemocy z użyciem broni.
Altman przeprosił rodziny. OpenAI odpowiedziało na pozew, informując, że wcześniej wzmocniło już zabezpieczenia systemu.
W czerwcu pozew przeciwko spółce i jej szefowi złożył stan Floryda. Zarzucono im, że nie zareagowali odpowiednio na zagrożenia, jakie ChatGPT może stwarzać dla nieletnich. W pozwie oskarżono chatbota między innymi o pomaganie sprawcom masowych strzelanin, zachęcanie do samobójstw, powodowanie "publicznego upokorzenia", uzależnianie nieletnich od narzędzia pozbawionego nadzoru rodzicielskiego oraz osłabianie "umiejętności krytycznego myślenia".
OpenAI przekazało wówczas, że wdrożyło "wiodące w branży zabezpieczenia i zasady".
ChatGPT w tle śledztwa
W ubiegłym tygodniu prokurator okręgowy w Massachusetts postawił 17-latkowi dwa zarzuty zabójstwa w związku ze śmiercią jego matki i brata.
Według komunikatu prokuratury nastolatek przed zdarzeniem prowadził z ChatGPT rozmowy o "teoretycznych pomysłach lub fantazjach dotyczących zabicia swojej rodziny". OpenAI nie odpowiedziało od razu na prośbę o komentarz w tej sprawie.