Program miał rozpoznawać twarze przestępców. Wskazał na polityków

Tech


Narzędzie rozpoznawania twarzy Amazona - Rekognition - powiązało 28 kongresmenów USA z przestępcami, których zdjęcia przechowywane są w policyjnych bazach danych. Politycy skierowali w tej sprawie list do szefa koncernu Jeffa Bezosa, domagając się wyjaśnień.

Test, w ramach którego wizerunki kongresmenów zostały przyporządkowane do zdjęć przestępców, przeprowadziła organizacja broniąca praw człowieka ACLU, wcześniej domagająca się wycofania narzędzia Rekognition z katalogu narzędzi wykorzystywanych przez organy ścigania i służby. O sprawie poinformował serwis Cnet. Zdaniem przedstawicieli ACLU wadliwe działanie Rekognition, którego dowiódł test, jest wystarczającym argumentem, by w sprawie wycofania narzędzia używanego przez służby interweniował Kongres.

Koncern Amazon argumentuje jednak, że ACLU swój test przeprowadziła w niewłaściwy sposób i właśnie dlatego algorytmy błędnie przyporządkowały twarze amerykańskich polityków do wizerunków przestępców z policyjnych baz danych.

Pytania do Bezosa

Pięciu kongresmenów z grupy polityków, których dotyczy sprawa, zdecydowało się skierować do szefa Amazona list otwarty w związku ze zdarzeniem, w którym proszą o wyjaśnienia, a także domagają się spotkania z Bezosem. Ma ono posłużyć “rozwiązaniu problemów, jakie nastręcza wadliwe działanie technologii rozpoznawania twarzy, które może prowadzić do nieprawdziwych i nieuzasadnionych rezultatów”. Kongresmeni zapytują w swoim liście Bezosa m.in. o to, czy narzędzie Rekognition działa w sposób wskazujący na występowanie w algorytmach zafałszowań np. związanych z kolorem skóry osób, których wizerunek jest analizowany. Cnet przypomina, że do wniosku ACLU o uregulowanie sfery wykorzystania narzędzi rozpoznawania twarzy przez organy ścigania i służby przychyla się m.in. Microsoft. Zdaniem przedstawicieli tego koncernu zaawansowane technologie, które mogą wywierać wpływ na codzienne życie obywateli, muszą funkcjonować w ramach określonych wartości etycznych.

Autor: tol / Źródło: PAP

Źródło zdjęcia głównego: sxc.hu