Sztuczna inteligencja miała wyszukiwać najlepsze CV. Odrzucała kobiety

Zespół specjalistów Amazona od 2014 roku tworzył programy komputerowe, aby bardziej efektywnie rekrutować kandydatów do pracy - pisze Reuters powołując się na pięć osób zaznajomionych ze sprawą.

Eksperymentalne narzędzie, wykorzystujące sztuczną inteligencję, przyznawało kandydatom od jednej do pięciu gwiazdek, podobnie jak kupujący, którzy oceniają produkty na Amazonie.

- Każdy chciał takiego świętego Graala - powiedziało źródło Reutersa. - Miało to być narzędzie, które spośród 100 życiorysów wybierze najlepszą piątkę kandydatów - dodało.

W 2015 roku firma zdała sobie jednak sprawę, że nowy system nie ocenia kandydatów na programistów i inne stanowiska techniczne w sposób neutralny płciowo.

Modele komputerowe Amazona zostały bowiem "wyszkolone" do weryfikacji kandydatów poprzez obserwowanie wzorców w życiorysach, przedłożonych firmie w ciągu 10 lat. Większość z nich pochodziła od mężczyzn, co stanowi odbicie męskiej dominacji w branży technologicznej.

W efekcie system nauczył się, że preferowani są męscy kandydaci i odrzucał życiorysy, które zawierały słowo "kobiecy" np. w zdaniu "kapitan kobiecego klubu szachowego". Osoby zaznajomione ze sprawą twierdzą, że mniejsze szanse na angaż miały również absolwentki kobiecych szkół wyższych.

Firma z Seattle ostatecznie rozwiązała zespół na początku 2017 roku. Źródła Reutersa podkreślają, że rekruterzy Amazona przyglądali się rekomendacjom generowanym przez narzędzie, ale nigdy nie polegali wyłącznie na nich.

Amazon odmówił komentarza w tej sprawie. Twierdzi jednak, że firma jest zaangażowana w różnorodność i równość w miejscu pracy.

Autor: tol / Źródło: Reuters