Do strzelaniny doszło 10 lutego w miejscowości Tumbler Ridge w Kanadzie. Zginęło osiem osób, wśród nich pięcioro małych dzieci, oraz matka sprawczyni. Był to jeden z najtragiczniejszych ataków tego typu w historii kraju.
Wśród ofiar jest 12-letnia Maya Gebala, która została postrzelona w szyję i głowę i do dziś przebywa w szpitalu. Z pozwu wynika, że dziewczynka próbowała zamknąć drzwi biblioteki, aby zatrzymać napastniczkę. Wtedy została trzykrotnie postrzelona. W wyniku ataku doznała - jak podkreślono w dokumentach - "katastrofalnego urazu mózgu".
Pozew przeciwko OpenAI wniosła matka dziewczynki, Cia Edmonds.
Zarzuty wobec OpenAI
Rodzina twierdzi, że sprawczyni - 18-letnia Jesse Van Rootselaar - jeszcze przed ukończeniem 18 lat założyła konto w ChatGPT. Według pozwu platforma nie przeprowadziła żadnej weryfikacji wieku użytkowniczki.
Napastniczka miała traktować chatbota jako "zaufanego powiernika" i przez kilka dni opisywać mu "różne scenariusze obejmujące przemoc z użyciem broni palnej".
Według dokumentów sądowych wpisy zostały oznaczone przez 12 pracowników OpenAI jako "wskazujące na bezpośrednie ryzyko poważnej krzywdy dla innych" i zarekomendowano powiadomienie kanadyjskich organów ścigania.
Z pozwu wynika jednak, że propozycja kontaktu z policją została "odrzucona", a jedynym działaniem firmy było zablokowanie konta użytkowniczki w czerwcu 2025 roku.
Sprawczyni miała później założyć drugie konto w ChatGPT i dalej "planować scenariusze obejmujące przemoc z użyciem broni".
Autorzy pozwu twierdzą, że firma "posiadała konkretną wiedzę o długofalowym planowaniu przez sprawczynię zdarzenia z dużą liczbą ofiar", lecz "nie podjęła żadnych działań, by na tę wiedzę zareagować".
Odpowiedź firmy
OpenAI wcześniej informowało, że nie powiadomiło policji, ponieważ konto nie spełniało progów uznania zagrożenia za wiarygodny lub bezpośredni plan poważnej przemocy.
W oświadczeniu dla BBC przedstawiciel spółki nazwał wydarzenia "niewyobrażalną tragedią". OpenAI pozostaje zaangażowane we współpracę z rządem i organami ścigania, aby wprowadzić znaczące zmiany pomagające zapobiegać podobnym tragediom w przyszłości - przekazał rzecznik firmy.
Zapowiedź zmian
4 marca dyrektor generalny OpenAI Sam Altman spotkał się online z kanadyjskim ministrem ds. sztucznej inteligencji Evanem Solomonem oraz premierem prowincji Kolumbia Brytyjska Davidem Eby.
Według "Wall Street Journal" Altman zobowiązał się do wzmocnienia procedur powiadamiania policji o potencjalnie niebezpiecznych interakcjach oraz do przeprosin wobec społeczności Tumbler Ridge.
W otwartym liście z 26 lutego wiceprezes OpenAI ds. globalnej polityki poinformował, że firma wprowadziła w ostatnich miesiącach zmiany, m.in. zaangażowała "ekspertów zdrowia psychicznego i zachowań", którzy mają oceniać ryzykowne przypadki, oraz uczyniła kryteria zgłaszania spraw policji "bardziej elastycznymi".
Spółka przyznała też, że według nowych zasad konto sprawczyni zostałoby zgłoszone organom ścigania.
"Zobowiązujemy się wzmocnić nasze systemy wykrywania, aby lepiej zapobiegać próbom omijania zabezpieczeń i priorytetowo identyfikować osoby stwarzające najwyższe ryzyko" - napisano w liście.
Firma zapowiedziała również utworzenie bezpośredniego kanału kontaktu z kanadyjską policją, który pozwoli szybko zgłaszać przypadki z "potencjałem realnej przemocy".
Kanadyjski minister ds. sztucznej inteligencji Evan Solomon ocenił jednak 27 lutego, że choć ustawodawcy dostrzegają gotowość firmy do poprawy procedur, "nie widzieliśmy jeszcze szczegółowego planu, w jaki sposób te zobowiązania zostaną wdrożone w praktyce".
Opracował Jan Sowa/ams
Źródło: BBC
Źródło zdjęcia głównego: Lester Balajadia / Shutterstock