Sztuczna inteligencja pod nadzorem. Jest projekt

Jak zaznaczono w uzasadnieniu projektu ustawy o systemach sztucznej inteligencji, opublikowanego w środę na stronie Rządowego Centrum Legislacji, zmiana ma dostosować polskie prawo do unijnego rozporządzenie dot. AI.

"W szczególności, przedmiotem projektowanej ustawy są kwestie dotyczące: krajowego organu nadzoru; postępowania przed tym organem; postępowania kontrolnego; organu notyfikującego; certyfikacji; sądowej ochrony praw przysługujących obywatelom oraz wszczynania postępowań i nakładania administracyjnych kar finansowych za naruszenie przepisów" - wyjaśnił resort cyfryzacji w uzasadnieniu projektu. Zaznaczył, że założeń projektu nie stosuje się do spraw związanych z obroną narodową, bezpieczeństwem wewnętrznym państwa i podstawowych badań naukowych.

Projekt przewiduje powołanie nowego organu nadzoru rynku dla systemów sztucznej inteligencji; ma nim być Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Ministerstwo Cyfryzacji zaproponowało, by organ ten miał charakter kolegialny, co umożliwić ma sprawną koordynacje i współpracę działań między instytucjami kluczowymi. Wyjaśniono, że stworzenie organu może okazać się "mniej kosztowne" niż nałożenie takiego obowiązku na inne instytucje z osobna. Pracami Komisji kierować ma powołany przez premiera, w drodze otwartego naboru, przewodniczący, którego niezależność gwarantować ma "wąski katalog przypadków umożliwiających jego odwołanie".

Resort zdecydował w projekcie, by członkami komisji byli przedstawiciele instytucji kluczowych dla rozwoju rynku AI, tj. ministra właściwego ds. informatyzacji (obecnie MC), ministra powołanego do koordynowania działalności służb specjalnych (jeśli takowy nie jest wyznaczony to kancelarii premiera), Urzędu Ochrony Danych Osobowych, Urzędu Ochrony Konkurencji i Konsumentów, Komisji Nadzoru Finansowego, Rzecznika Praw Obywatelskich, Rzecznika Praw Dziecka, Krajowej Rady Radiofonii i Telewizji i Urzędu Komunikacji Elektronicznej.

Zgodnie z projektem w posiedzeniach komisji bez prawa głosu uczestniczyć będą mogli również przedstawiciele: kancelarii prezydenta, kancelarii Sejmu i Senatu, Ministerstwa Obrony Narodowej, ministra właściwego ds. kultury i dziedzictwa narodowego (obecnie MKiDN), ministra właściwego ds. gospodarki (obecnie MRiT), Polskiego Centrum Akredytacji, Polskiego Komitetu Normalizacyjnego, Rady Dialogu Społecznego (strona pracowników i pracodawców), Biura Rzecznika Praw Pacjenta, Biura Rzecznika Finansowego, Biura Rzecznika MŚP, Państwowej Inspekcji Pracy, Urzędu Patentowego i Biura Komisji Rozwoju Sztucznej Inteligencji.

Komisja Rozwoju Bezpieczeństwa Sztucznej Inteligencji ma mieć kompetencje do współpracy z instytucjami UE oraz innych państw członkowskich, co umożliwić ma budowę potencjału eksperckiego i wsparcie rozwoju i konkurencyjności europejskiej gospodarki. Nadzór nad komisją pełnić ma premier, który nada jej również statut.

Nowy organ ma m.in.: sprawować nadzór nad rynkiem AI; współpracować z UODO oraz innymi organami w zakresie realizacji zadań określonych rozporządzeniem UE; współpracować z organami i instytucjami UE oraz państw członkowskich; opiniować projekty aktów prawnych związanych z regulacjami sztucznej inteligencji. Docelowo Komisja ma pełnić również inne obowiązki, np. nadzór nad ustanowieniem i działaniem piaskownic regulacyjnych (mają one pozwolić na testowanie innowacyjnych systemów AI w bezpiecznych warunkach).

Projekt przewiduje, że Komisja będzie rozpatrywać wnioski dot. zezwolenia na wprowadzenie do obrotu lub oddanie do użytku systemów sztucznej inteligencji uznanych przez unijne rozporządzenie za systemy wysokiego ryzyka (tj. wykorzystywane m.in w kształceniu, infrastrukturze krytycznej, zatrudnianiu pracowników, zarządzaniu migracją). Komisja będzie mogła kontrolować działalność podmiotów zajmujących się AI. Ma również prowadzić postępowania w sprawie naruszeń przepisów rozporządzenia.

"W przypadku stwierdzenia, że będący przedmiotem kontroli system sztucznej inteligencji nie jest zgodny z przepisami rozporządzenia (...), organ wyda decyzję o nakazie podjęcia działań naprawczych lub wycofania systemu z rynku lub z użytku" - poinformowano w uzasadnieniu projektu.

Komisja ma być też organem rozpatrującym skargi dotyczące naruszenia przepisów unijnego rozporządzenia ws. AI.

"Zakłada się, że postępowanie przed Komisją będzie jednoinstancyjne (...) nie będzie możliwości odwołania w ramach procedury administracyjnej" - podkreślono, dodając, że inny organ administracyjny nie zmieni lub nie uchyli takowej decyzji. Natomiast pozostanie możliwość odwołania się do sądu. Będzie nim Sąd Okręgowy w Warszawie – Sąd Ochrony Konkurencji i Konsumentów.

Projekt przewiduje, że przy komisji działać ma społeczna rada ds. AI, która będzie organem opiniodawczo-doradczym. Rada skupić ma "ekspertów i ekspertki o znaczącej wiedzy i dorobku w obszarze sztucznej inteligencji". Rada będzie wydawać opinie i stanowiska ws. dokumentów przekazanych przez komisję, np. projektów dokumentów rządowych.

Projekt reguluje kwestię nakładania kar przez Komisję, w tym kar pieniężnych, których wysokość ustalono w rozporządzeniu unijnym. Mogą one wynieść do 35 mln euro, lub - jeśli sprawcą jest przedsiębiorca - 7 proc. jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa.

Rozporządzenie wskazuje też, że w przypadku MŚP kara powinna być mniejsza, co "powinno znaleźć wyraz w przepisach ustawy". Postępowanie będzie jednoinstancyjne, z możliwością odwołania się do Sądu Ochrony Konkurencji i Konsumentów.

Komisja będzie też mogła wydawać ostrzeżenia, w których wskaże rekomendacje dotyczące "przywrócenia przez stronę stanu faktycznego i prawnego zgodnego z przepisami prawa". Wywiązanie się z nich może być podstawą do odstąpienia od nałożenia kary.

W projekcie założono, że maksymalny limit wydatków z budżetu państwa będących skutkiem wejścia w życie zmian wyniesie w 2025 r. 8 mln zł; w 2026 r. - 21 mln zł, a w kolejnych latach będzie wynosił 31 mln zł.

Ustawa ma wejść w życie co do zasady po upływie 14 dni od ogłoszenia.