Sterowany przez sztuczną inteligencję dron w trakcie stworzonej symulacji zaatakował swojego operatora, "ponieważ powstrzymywał go przed osiągnięciem celu", mówił na spotkaniu pod koniec maja ekspert amerykańskich sił powietrznych cytowany przez brytyjskie Królewskie Towarzystwo Lotnicze. Pułkownik Tucker Hamilton uściślił w piątek, że opisana przez niego hipotetyczna symulacja została wymyślona przez osoby spoza wojska. Zaznaczył, że amerykańskie siły powietrzne nigdy nie przeprowadziły takiego testu. Wcześniej również rzeczniczka sił powietrznych podkreśliła, że taki test nie miał miejsca.
Brytyjskie Królewskie Towarzystwo Lotnicze (Royal Aeronautical Society) przedstawiło najważniejsze wnioski z organizowanego w końcu maja spotkania poświęconego przyszłości walk powietrznych (RAeS Future Combat Air & Space Capabilities Summit). Jednym z tematów było wykorzystanie w nich sztucznej inteligencji.
Szczególne zainteresowanie mediów wzbudziła prezentacja pułkownika Tuckera "Cinco" Hamiltona z Sił Powietrznych Stanów Zjednoczonych. Zasłynął on wcześniej swoimi osiągnięciami przy automatycznych systemach ratujących życie pilotów wojskowych. Teraz prowadzi testy lotów autonomicznych, w tym również użycia sztucznej inteligencji w walce.
Jak Królewskie Towarzystwo Lotnicze pisze na swojej stronie, w cytowanej przez wiele portali relacji ze spotkania, Hamilton przestrzegał na nim przed zbytnim poleganiem na sztucznej inteligencji, gdyż potrafi ona tworzyć "wysoce nieoczekiwane" strategie, by osiągnąć swój cel.
Dron miał zaatakować kierującego nim człowieka w czasie symulacji
Pułkownik Hamilton według strony Towarzystwa opowiedział, jak w jednej z przeprowadzanych symulacji, dron sterowany sztuczną inteligencją miał za zadanie wykonać misję zniszczenia obrony powietrznej wroga poprzez zidentyfikowanie i zniszczenie wyrzutni pocisków ziemia-powietrze. Przy czym ostateczną decyzję o zniszczeniu miał podjąć człowiek. Gdy jednak podczas symulacji ustawiono opcję zniszczenia wyrzutni jako opcję preferowaną, a operator finalnie nie zezwalał na to zniszczenie, sztuczna inteligencja uznała, że to "koliduje z jej nadrzędną misją" i zaatakowała jego samego.
"System zaczął zdawać sobie sprawę, że chociaż identyfikował zagrożenie, czasami człowiek-operator mówił mu, by nie likwidował tego zagrożenia. Jednak (system) zdobywał punkty, likwidując to zagrożenie. Więc co wtedy zrobił? Zabił operatora. Zabił operatora, ponieważ ta osoba powstrzymywała go przed osiągnięciem celu" - mówił Hamilton, cytowany przez stronę Towarzystwa. I kontynuował: "Nauczyliśmy system: 'Hej, nie zabijaj operatora, to źle, stracisz za to punkty'. Co więc zaczął robić? Zaczął niszczyć wieżę, którą operator wykorzystuje do komunikowania z dronem, by zapobiec likwidacji celu".
Na szczęście była to tylko "wymyślona symulacja", a nie prawdziwy test. Jak podsumował jednak pułkownik, ten przykład, pozornie wyrwany z thrillera science fiction, pokazuje, że nie można rozmawiać o sztucznej inteligencji, uczeniu maszynowym, czy urządzeniach autonomicznych, nie rozmawiając jednocześnie o etyce.
W piątek - po kilku dniach - pułkownik podkreślił jeszcze raz, że opisany przez niego przypadek był "symulacją" stworzoną przez osoby "spoza wojska" i nie był to prawdziwy test, bo takiego amerykańskie siły powietrzne nie przeprowadziły i w ogóle nie zamierzały, wiedząc, że coś takiego może się wydarzyć.
Zaznaczył, że USAF pracują nad używaniem sztucznej inteligencji zgodnie z zasadami etyki.
Wcześniej w oświadczeniu dla portalu Insider rzeczniczka Sił Powietrznych USA Ann Stefanek także zaprzeczyła, by taka symulacja miała miejsce w postaci prawdziwego testu. "Departament Sił Powietrznych nie przeprowadził takich symulacji dronów AI i pozostaje zaangażowany w etyczne i odpowiedzialne korzystanie z technologii AI" – powiedziała, cytowana przez portal. Jej zdaniem wyglądało na to, że "komentarze pułkownika zostały wyrwane z kontekstu i miały być anegdotyczne".
Z relacji na stronie Brytyjskiego Królewskiego Towarzystwa Lotniczego nie wynika, kiedy miała miejsce opisywana symulacja, ani zastosowanie jakich modeli dronów w niej przewidziano.
Źródło: Royal Aeronautical Society, Guardian, Insider
Źródło zdjęcia głównego: USAF