Pierwsze takie przepisy na świecie

Unijna regulacja o sztucznej inteligencji (AI Act) już została okrzyknięta przełomową - nie tylko dlatego, że na świecie nie wprowadzono jeszcze podobnych regulacji, ale także dlatego, że jako pierwsza klasyfikuje AI pod kątem potencjalnego ryzyka dla użytkowników, w myśl zasady, że im większe szkody może wyrządzić sztuczna inteligencja, tym surowsze będą przepisy regulujące jej wykorzystanie.

Głosowanie nad przepisami nastąpiło dwa miesiące po tym, jak unijni prawodawcy poparli przepisy dotyczące sztucznej inteligencji opracowane przez Komisję Europejską w 2021 r., po wprowadzeniu szeregu kluczowych zmian.

W ostatnich miesiącach, wraz ze wzrostem popularności Gemini (chatbot Google) oraz ChatGPT (OpenAI ze wsparciem Microsoftu), na całym świecie nasiliły się obawy, że sztuczna inteligencja przyczynia się do dezinformacji, rozpowszechniania fałszywych wiadomości i łamie prawa twórców.

"Ta przełomowa ustawa, pierwsza tego rodzaju na świecie, odpowiada na globalne wyzwanie technologiczne, które stwarza również możliwości dla naszych społeczeństw i gospodarek" – stwierdził w oświadczeniu belgijski minister cyfryzacji Mathieu Michel. "Dzięki ustawie o sztucznej inteligencji Europa podkreśla znaczenie zaufania, przejrzystości i odpowiedzialności w kontaktach z nowymi technologiami, a jednocześnie zapewnia rozwój tej szybko zmieniającej się technologii i pobudza europejską innowacyjność" – dodał.

Nowe prawo dzieli różne rodzaje AI na cztery grupy: oprogramowanie wysokiego ryzyka, technologie ograniczonego i minimalnego wpływu oraz systemy nieakceptowalne, które będą w UE zakazane.

Modele niestwarzające ryzyka systemowego, takie jak chatboty czy gry, będą podlegać niewielkim wymogom, głównie dotyczącym przejrzystości. Chodzi o to, żeby użytkownicy mieli świadomość, że mają do czynienia ze sztuczną inteligencją. Dodatkowe wymogi bezpieczeństwa nałożone zostaną na treści zmanipulowane, tzw. deepfakes, czyli materiały wygenerowane przez AI, których celem jest wprowadzenie użytkownika w błąd. Te również bedą musiały być opatrzone wyraźnym oznaczeniem.

Systemy wysokiego ryzyka, np. technologie wykorzystywane w oświacie, jak systemy AI analizujące podania studentów o stypendia czy przyjęcie na studia, będą dopuszczane na rynek UE pod warunkiem spełnienia surowych wymogów. Oznacza to, że producenci będą musieli ocenić ich ryzyko jeszcze przed wprowadzeniem na unijny rynek, a obywatele - np. studenci, którzy nie dostaną świadczenia - będą mieli prawo do zaskarżenia decyzji podjętych z użyciem AI.

Zakazane będzie natomiast oprogramowanie stanowiące wyraźne zagrożenie dla praw podstawowych użytkowników. Chodzi tu o technologie pozwalające np. na monitorowanie i szpiegowanie ludzi czy wykorzystywanie ich danych wrażliwych, takich jak orientacja seksualna, pochodzenie lub wyznanie, do przewidywania ich zachowań, w tym do tzw. prognozowania kryminologicznego, czyli ryzyka popełnienia przez nich przestępstw, lub do podsuwania im treści mogących wpłynąć na ich decyzje i zachowanie.

Zabronione będzie też stosowanie tzw. systemu punktowania społecznego, służącego do oceny obywateli na podstawie ich zachowań społecznych. Tego typu technologie wykorzystywane są m.in. w Chinach, gdzie np. sąsiedzi przyznają sobie punkty za poprawne wyrzucanie śmieci na osiedlu. Zakaz będzie też dotyczył systemów monitorujących emocje ludzi w miejscach pracy, urzędach, szkołach lub na uczelniach. Takie technologie stosowane są czasem do przewidywania strajków i niepokojów społecznych. AI nie będzie mogła być też wykorzystywana do śledzenia obywateli lub pobierania wizerunków ich twarzy z internetu lub monitoringu miejskiego, by stworzyć bazy danych służące rozpoznawaniu twarzy. Będą wyjątki, bo z systemów rozpoznawania twarzy pod pewnymi warunkami (np. przy poszukiwaniu osób podejrzanych o terroryzm) będą mogły korzystać służby. Tu zgodę będzie jednak napierw musiał wydać sąd lub właściwy urząd. Przepisy zakładają również powołanie nowych organów monitorujących, w tym urzędu ds. sztucznej inteligencji przy Komisji Europejskiej czy rady do spraw sztucznej inteligencji, w której zasiadać mają przedstawiciele państw unijnych.

- Nowe przepisy będą miały szerszy zasięg niż 27 krajów Wspólnoty - powiedział Patrick van Eecke z kancelarii prawnej Cooley w rozmowie z Reutersem. - Ustawa będzie miała zasięg globalny. Firmy spoza UE, które dysponują danymi klientów z UE na swoich platformach wykorzystujących sztuczną inteligencję, będą musiały spełnić wymogi AI Act. Inne kraje i regiony prawdopodobnie wykorzystają ustawę o sztucznej inteligencji jako wzór, tak jak to miało miejsce w przypadku RODO - wyjaśnił.

Przepisy zostaną w najbliższych dniach opublikowane w Dzienniku Urzędowym UE i wejdą w życie 20 dni po publikacji. W pełni zaczną obowiązywać za dwa lata. UE ma nadzieję, że jej przepisy staną się globalnym standardem regulowania AI.

Firmy, które nie będą przestrzegać unijnych przepisów o AI, będą musiały liczyć się z surowymi karami. Będzie to albo część rocznego globalnego obrotu firmy, lub odgórnie określona grzywna w zależności od tego, która kwota będzie wyższa. Małym i średnim przedsiębiorstwom oraz start-upom grozić będą raczej kary administracyjne.