Co najmniej osiem osób w USA zostało aresztowanych z powodu błędnego zidentyfikowania przez oprogramowanie rozpoznawania twarzy - przekazał "Washington Post". Amerykańska policja korzysta ze sztucznej inteligencji (AI) do zatrzymywania podejrzanych, przy czym nie ma konieczności posiadania innych dowodów.
Dziennik "Washington Post" przeanalizował policyjne dane z raportów, akt sądowych oraz rozmów z policją, prokuratorami i adwokatami.
Redakcja zastrzegła, że najprawdopodobniej naświetliła za ich pomocą niewielką część problemu: prokuratorzy rzadko informują opinię publiczną, kiedy użyli narzędzi sztucznej inteligencji (AI), a prawo wymaga ich ujawnienia tylko w siedmiu stanach.
Całkowita liczba przypadków niesłusznych aresztowań spowodowanych przez błędne wyniki wyszukiwania przez narzędzia AI jest więc niemożliwa do ustalenia - podkreślił "WP".
Błędne aresztowania z powodu wskazania przez AI
Jak ustaliła gazeta, w ośmiu znanych przypadkach niesłusznego aresztowania policja, opierając się na identyfikacji twarzy przez narzędzia AI, nie podjęła co najmniej jednego z podstawowych działań śledczych. Gdyby jednak sprawdziła alibi, porównała znaki szczególne, zbadała dowody DNA lub odciski palców, tych osiem osób można było by wykluczyć jako podejrzanych jeszcze przed aresztowaniem.
W sześciu z ośmiu przypadków policja nie sprawdziła alibi podejrzanych, a w dwóch zignorowała dowody przeczące jej założeniom - nawet tak znaczące, jak ślady DNA i odciski palców, które wskazywały na innego potencjalnego podejrzanego.
W pięciu przypadkach policja nie zebrała kluczowych dowodów. Dziennik przytoczył przykład aresztowania człowieka podejrzanego o zrealizowanie w banku sfałszowanego czeku na znaczną kwotę. Po rozpoznaniu przez narzędzia AI policja zatrzymała podejrzanego, lecz nie sprawdziła nawet jego kont bankowych.
Trzykrotnie policja zignorowała cechy fizyczne podejrzanych sprzeczne z rozpoznaniem przez AI. Dziennik opisuje przypadek kobiety w zaawansowanej ciąży, aresztowanej za kradzież samochodu, mimo że ani świadkowie, ani monitoring nie wskazywali, że napadu dokonała ciężarna.
W sześciu przypadkach policja nie sprawdziła zeznań świadków. Tożsamość podejrzanego (zidentyfikowanego przez AI) o kradzież kosztownego zegarka potwierdził pracownik ochrony, którego nie było w sklepie podczas kradzieży.
AI działa niemal doskonale w warunkach laboratoryjnych
"WP" przyznał, że oprogramowanie do rozpoznawania twarzy działa niemal doskonale w warunkach laboratoryjnych, z wykorzystaniem wyraźnych zdjęć porównawczych. Jednak, jak zauważyła Katie Kinsey, badaczka z wydziału prawa uniwersytetu NYU, nie przeprowadzono niezależnych testów sprawdzających dokładność technologii stosowanej do odczytania niewyraźnych zdjęć z monitoringu. Z tego powodu trudno jest ocenić, jak często technologia wadliwie rozpoznaje twarz.
Co więcej, badacze odkryli, że osoby korzystające z narzędzi AI mogą ulegać skłonności do ślepego ufania podejmowanym przez nie decyzjom. W badaniach neurobiologów z University College of London badani wybierali jako najbardziej podobne do wzoru te odciski palców, które komputer wskazał im jako pierwsze.
"Zaufanie do systemu uniemożliwiło im prawidłową ocenę podobieństw" - podkreślił dziennik.
Źródło: PAP
Źródło zdjęcia głównego: Shutterstock