Amerykańscy prawnicy posłużyli się ChatGPT. Przedstawili w sądzie zmyślone argumenty

Prawnicy Steven Schwartz i Peter LoDuca z kancelarii Levidow, Levidow i Oberman "porzucili swoje obowiązki w momencie, gdy przedstawili nieistniejące opinie sądowe z fałszywymi cytatami stworzonymi przez narzędzie sztucznej inteligencji ChatGPT, a następnie utrzymywali ich prawdziwość po tym, jak nakazy sądowe podnosiły wątpliwość co do ich wiarygodności" - napisał sędzia okręgowy USA Kevin Castel w orzeczeniu.

Sędzia napisał, że adwokaci "przedstawiali fałszywe sprawy i argumenty prawne" nawet "po tym, jak ich przeciwnik poinformował ich, że przedstawiane przez nich cytaty nie istnieją i nie można ich znaleźć".

Jak podaje serwis ArsTechnica sędzia nałożył jedną grzywnę w wysokości 5 tysięcy dolarów, którą mają zapłacić dwaj prawnicy i ich firma w ramach solidarnej odpowiedzialności. Co bardziej zawstydzające dla prawników, są oni zobowiązani do wysłania listów do sześciu prawdziwych sędziów, którzy zostali "bezpodstawnie zidentyfikowani jako autorzy fałszywych" opinii cytowanych w ich aktach prawnych. Castel opisał analizę prawną przedstawioną w jednej z fałszywych spraw jako "bełkot".

Sędzia Castel nałożył obowiązek poinformowania ich o tej sytuacji, a jednocześnie stwierdził, że "sąd nie będzie wymagał przeprosin od pozwanych, ponieważ wymuszone przeprosiny nie są szczerymi przeprosinami". 

Sędzia stwierdził, że przedstawianie fałszywych opinii w sądzie szkodzi klientowi adwokatów, marnuje czas sądu i zmusza stronę przeciwną do marnowania "czasu i pieniędzy na ujawnianie oszustwa". Do tego powoduje "potencjalną szkodę dla reputacji sędziów i sądów, których nazwiska są fałszywie przywoływane jako autorów nieprawdziwych opinii i reputacji innych uczestników fikcyjnych postępowań" - napisał sędzie Castel.

"Promuje cynizm w stosunku do zawodów prawniczych i amerykańskiego systemu sądownictwa. A przyszły uczestnik procesu może ulec pokusie, by przeciwstawić się orzeczeniu sądowemu, nieszczerze twierdząc, że ma wątpliwości co do jego autentyczności" - stwierdził w wyroku.

Schwartz przyznał, że skorzystał z ChatGPT do przeprowadzenia rozeznania do rozprawy i nie zweryfikował treści przedstawionych mu przez narzędzie. W oświadczeniu złożonym pod przysięgą prawnik stwierdził, że "nigdy nie wykorzystywał ChatGPT jako źródła do przeprowadzania badań prawnych przed tym zdarzeniem i dlatego nie był świadomy, że treść przedstawiona przez bota może być fałszywa".

- Po prostu nie myślałem, że sprawa może zostać sfabrykowana, więc nie patrzyłem na to z tego punktu widzenia… Moja reakcja była taka, że ​​ChatGPT gdzieś znajduje tę sprawę. Może jest ona niepublikowana. Być może została zaskarżona. Może dostęp jest trudny do zdobycia. Po prostu nigdy nie myślałem, że może to wymyślić - stwierdził Schwartz podczas przesłuchania.

LoDuca był zaś winny tego, że nie sprawdził dokumentów przygotowanych przez Schwartza.

Sprawa prawników wykorzystujących fałszywe cytaty i opinie prawne ciągnęła się od 1 marca, kiedy to zaprezentowali je przed sądem. Sędzia Castel napisał, że "sprawa mogłaby potoczyć się inaczej, gdyby pozwani przyznali się do swoich działań wkrótce po otrzymaniu pisma z 15 marca od pozwanego", w którym zakwestionowano prawdziwość ich dowodów. Sprawy mogłoby też nie być, gdyby zastosowali się do zarządzeń sądu, który 11 i 12 kwietnia zażądał przedstawienia szczegółów sprawy". Do prawdy przyznali się dopiero 25 maja.