Media: zostali aresztowani przez błąd sztucznej inteligencji

Dziennik "Washington Post" przeanalizował policyjne dane z raportów, akt sądowych oraz rozmów z policją, prokuratorami i adwokatami.

Redakcja zastrzegła, że najprawdopodobniej naświetliła za ich pomocą niewielką część problemu: prokuratorzy rzadko informują opinię publiczną, kiedy użyli narzędzi sztucznej inteligencji (AI), a prawo wymaga ich ujawnienia tylko w siedmiu stanach.

Całkowita liczba przypadków niesłusznych aresztowań spowodowanych przez błędne wyniki wyszukiwania przez narzędzia AI jest więc niemożliwa do ustalenia - podkreślił "WP".

Jak ustaliła gazeta, w ośmiu znanych przypadkach niesłusznego aresztowania policja, opierając się na identyfikacji twarzy przez narzędzia AI, nie podjęła co najmniej jednego z podstawowych działań śledczych. Gdyby jednak sprawdziła alibi, porównała znaki szczególne, zbadała dowody DNA lub odciski palców, tych osiem osób można było by wykluczyć jako podejrzanych jeszcze przed aresztowaniem.

W sześciu z ośmiu przypadków policja nie sprawdziła alibi podejrzanych, a w dwóch zignorowała dowody przeczące jej założeniom - nawet tak znaczące, jak ślady DNA i odciski palców, które wskazywały na innego potencjalnego podejrzanego.

W pięciu przypadkach policja nie zebrała kluczowych dowodów. Dziennik przytoczył przykład aresztowania człowieka podejrzanego o zrealizowanie w banku sfałszowanego czeku na znaczną kwotę. Po rozpoznaniu przez narzędzia AI policja zatrzymała podejrzanego, lecz nie sprawdziła nawet jego kont bankowych.

Trzykrotnie policja zignorowała cechy fizyczne podejrzanych sprzeczne z rozpoznaniem przez AI. Dziennik opisuje przypadek kobiety w zaawansowanej ciąży, aresztowanej za kradzież samochodu, mimo że ani świadkowie, ani monitoring nie wskazywali, że napadu dokonała ciężarna.

W sześciu przypadkach policja nie sprawdziła zeznań świadków. Tożsamość podejrzanego (zidentyfikowanego przez AI) o kradzież kosztownego zegarka potwierdził pracownik ochrony, którego nie było w sklepie podczas kradzieży.

"WP" przyznał, że oprogramowanie do rozpoznawania twarzy działa niemal doskonale w warunkach laboratoryjnych, z wykorzystaniem wyraźnych zdjęć porównawczych. Jednak, jak zauważyła Katie Kinsey, badaczka z wydziału prawa uniwersytetu NYU, nie przeprowadzono niezależnych testów sprawdzających dokładność technologii stosowanej do odczytania niewyraźnych zdjęć z monitoringu. Z tego powodu trudno jest ocenić, jak często technologia wadliwie rozpoznaje twarz.

Co więcej, badacze odkryli, że osoby korzystające z narzędzi AI mogą ulegać skłonności do ślepego ufania podejmowanym przez nie decyzjom. W badaniach neurobiologów z University College of London badani wybierali jako najbardziej podobne do wzoru te odciski palców, które komputer wskazał im jako pierwsze.

"Zaufanie do systemu uniemożliwiło im prawidłową ocenę podobieństw" - podkreślił dziennik.