Ochrona obywatela "legła w gruzach". Ekspert o nowym unijnym prawie

Źródło:
PAP
Nowy instytut będzie pracował nad sztuczną inteligencją. Gawkowski: jestem fanem tego projektu
Nowy instytut będzie pracował nad sztuczną inteligencją. Gawkowski: jestem fanem tego projektuTVN24
wideo 2/7
Nowy instytut będzie pracował nad sztuczną inteligencją. Gawkowski: jestem fanem tego projektuTVN24

Ochrona obywatela, która jest jednym z celów aktu o AI, legła w gruzach po decyzji Komisji Europejskiej - ocenił dr Michał Nowakowski, komentując decyzję Komisji Europejskiej. Wskazał przy tym, że wiele rozwiązań, które mają bezpośredni wpływ na obywateli, nie będzie objętych prawem.

Od 2 lutego w Unii Europejskiej obowiązują przepisy dotyczące katalogu praktyk zakazanych Akt o sztucznej inteligencji (AI Act, rozporządzenie), czyli systemów sztucznej inteligencji, które generują tak duże ryzyko dla człowieka i dla praw podstawowych, że są w Unii Europejskiej nieakceptowalne - wskazał dr Michał Nowakowski, partner w kancelarii ZP Zackiewicz & Partners.

- Żeby dobrze zinterpretować, czy mamy do czynienia z praktyką zakazaną, musimy wiedzieć po pierwsze, czy mamy do czynienia z systemem sztucznej inteligencji, a po drugie, czy on wpada w tę kategorię - wyjaśnił.

Jak podkreślił, dla biznesu jest to bardzo ważne, ponieważ od 2 sierpnia tego roku będą obowiązywały "dość dotkliwe" kary za naruszenie katalogu, które mogą wynieść nawet do 35 milionów euro albo 7 procent globalnego obrotu firmy.

CZYTAJ TAKŻE: Wykorzystali sztuczną inteligencję, by wygrać na loterii

Akt "nie do końca przemyślany"

Aby zaradzić wątpliwościom, Komisja Europejska opublikowała na początku lutego wytyczne dotyczące praktyk zakazanych, które liczą 140 stron oraz wyjaśnienia dotyczące definicji systemów sztucznej inteligencji, które liczą kilkanaście stron - wskazał ekspert. Jak dodał, było to konieczne, ponieważ w samym akcie jest wiele pojęć niedookreślonych, niejasnych, które budzą wątpliwości ze strony biznesu oraz prawników.

Wynika to z faktu, że akt z założenia jest neutralny technologicznie, czyli nie narzuca kwestii technicznych, nie definiuje ich oraz ma być future proof, czyli aktualny nawet jeśli technologie w przyszłości znacznie się zmienią - zauważył dr Nowakowski.

- Oczywiście nie sposób nie zauważyć też, że w niektórych miejscach akt nie był też po prostu do końca przemyślany, co spowodowało, że dzisiaj przed biznesem stoi prawdziwe wyzwanie - dodał.

Wytyczne, które "zasiewają wątpliwości"

Zdaniem dr. Nowakowskiego dokumenty Komisji Europejskiej zasiewają jednak jeszcze więcej wątpliwości niż sam akt. Według rozporządzenia, aby uznać dane rozwiązanie za system AI, musi być spełnione 7 przesłanek, m.in. autonomiczności, czyli pewnego stopnia niezależności od człowieka, a także adaptacyjności, która została wyjaśniona w akcie jako zdolność do samotrenowania.

- Nie było jednak jasne, czy przesłanka ta jest obligatoryjna, czy jednak fakultatywna - podkreślił. Nowakowski wskazał, że wątpliwości dotyczyły też przesłanki stosowania metod statystycznych, takie jak regresja liniowa lub logistyczna. - W uproszczeniu są to sposoby wyciągania wniosków z danych - wyjaśnił ekspert.

Komisja Europejska zadecydowała, że nawet jeśli w danym rozwiązaniu wykorzystane są autonomiczność lub regresja, rozwiązanie nie musi być uznane za system AI. Jak podkreślił ekspert, decyzja Komisja ma o tyle znaczenie, że według szacunków, około 80 procent rozwiązań AI stosuje te metody, ale nie będzie podlegać dodatkowym obostrzeniom wynikającym z aktu.

- Z punktu widzenia biznesu jest to bardzo dobra informacja, przedsiębiorcy się cieszą. Jednak moim zdaniem jeden z celów aktu o sztucznej inteligencji, czyli ochrona obywatela, legł w gruzach, ponieważ wiele rozwiązań, które mają na nas bezpośredni wpływ, będzie pozostawała poza aktem, np. systemy do oceny zdolności kredytowej - ocenił ekspert.

>> Powstanie nowy instytut. Rząd przyjął rozporządzenie

"Diabeł tkwi w szczegółach"

Zgodnie z aktem o sztucznej inteligencji zakazane są m.in. systemy AI wykorzystywane do tego, żeby zmanipulować kogoś do podjęcia niekorzystnej dla niego decyzji.

- W tym przypadku pojawiło się wiele uzasadnionych wątpliwości, np. czy systemy rekomendujące określone produkty na platformach e-commerce podlegają zakazowi - wskazał dr Nowakowski.

Podczas zakupów w sieci mogą na nas wpływać systemy AIAdobe Stock

Jak dodaje ekspert "teoretycznie" mogłoby tak być: część z nich wykorzystuje nasze słabości i "manipuluje" nami tak, żebyśmy np. kupili dany produkt, mimo że jest nam niepotrzebny. Jeśli weźmiemy na niego kredyt, który później będziemy mieli problem spłacić, może to być działanie na naszą szkodę.

Według Nowakowskiego wyjaśnienia Komisji Europejskiej nie rozwiały tych wątpliwości.

- Dużo w takich przypadkach zależy od prawnika, który będzie interpretował przepisy oraz od organów, takich jak polska Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, które będą odpowiedzialne za egzekwowanie regulacji. Diabeł tkwi w szczegółach i po spełnieniu pewnych warunków systemy rekomendacyjne mogą zostać uznane za zakazane, np. jeśli manipulacja była celowa, a zniekształcenie poznawcze i szkoda "istotna" - powiedział Nowakowski.

Sprawy będzie trzeba analizować przypadek po przypadku

AI Act zakazuje też wykorzystywania w centrach handlowych systemów AI, które subtelnie wpływają na decyzje zakupowe klientów przez techniki podprogowe, np. dźwięki i obrazy w reklamach - wskazał. Jak dodał, jeśli takie zabiegi będą stosowane bez użycia systemu AI, np. w postaci ładnych zapachów czy przyjemnej muzyki, jest to dozwolone.

- Tego typu sprawy będzie trzeba analizować "case by case" ("przypadek po przypadku" - przyp. red.), ponieważ nie da się jednoznacznie stwierdzić, że wszystkie praktyki manipulacyjne są zakazane, bądź, że nie są - z punktu widzenia AI Actu - podkreślił.

Wśród systemów zakazanych AI, znalazły się też te, które wykorzystują określone słabości, np. wiek, niepełnosprawność, czego efektem jest podjęcie niekorzystnej decyzji. Do tego także systemy wykorzystywane do rozpoznawania emocji w miejscu pracy i w placówkach edukacyjnych - wskazał ekspert.

- Takie systemy są stosowane np. w chińskich salach wykładowych, gdzie służą do weryfikacji emocji studentów, żeby sprawdzić, czy ktoś ściągał, ale i w Europie w niektórych miejscach pracy - podkreślił Nowakowski.

Wyjaśnił, że zakazane są również systemy, które na przykład weryfikują konsultantów pod kątem ich emocji, tego czy w odpowiedni sposób się zachowują; zakazane są też systemy służące do tak zwanej zdalnej identyfikacji biometrycznej w przestrzeni publicznej, czyli kamery, które rozpoznają konkretne osoby - opisał.

- Są wyjątki od tej zasady, na przykład niektóre kategorie przestępstw, czy poszukiwanie zaginionych dzieci. Żeby użyć takich systemów, trzeba jednak spełnić dodatkowe przesłanki, obowiązuje też kontrola sądowo-administracyjna. Muszą być również spełnione obowiązki w zakresie tak zwanej przejrzystości, czyli informowania o nagrywaniu, co wynika z RODO - wytłumaczył prawnik.

CZYTAJ RÓWNIEŻ: Działają "jak zorganizowana przestępczość", "zarabiają miliardy". Ekspert ostrzega

Profilowanie ludzi zakazane nie będzie

Wskazał, że scoring społeczny, czyli dokonywanie oceny i profilowania człowieka pod kątem jego zachowań społecznych, "jako taki" nie będzie zakazany, ale z pewnymi wyjątkami.

- Jeżeli prywatna firma lub państwo zbierze informacje o zachowaniach ludzi uczestniczących w protestach i ma w tym prawnie uzasadniony interes, na przykład w kontekście bezpieczeństwa i wykorzysta je w tym konkretnym celu, będzie to legalne. Natomiast jeśli podmiot na tej podstawie stworzy profile tych osób i zastosuje wobec nich ocenę punktową, której konsekwencją będzie przydzielanie lub odbieranie czegoś w zupełnie innych kontekstach, np. benefitów społecznych - takie działania będą zakazane - podkreślił.

Jak zauważył dr Nowakowski, zakazaną praktyką jest też wyciągnie wniosków z danych biometrycznych, na przykład na temat seksualności, poglądów politycznych czy religijnych, choć znowu - jak powtórzył - "tutaj trzeba dokładnie przeanalizować każdy przypadek".

Podkreślił, że z AI Actu wyłączone są wojskowe zastosowania systemów sztucznej inteligencji oraz - z pewnymi zastrzeżeniami - z zakresu badań i rozwoju.

- Akt jest bardzo ograniczony w swoim zasięgu w kontekście praktyk zakazanych, więc nie będzie istotnie wpływał na przedsiębiorców. Nie jest "kagańcem na biznes" - ocenił.

Dodał, że jeśli firma korzystająca z AI ma wątpliwości, czy wszystko jest zgodnie z prawem, powinna dokonać weryfikacji, czy ma do czynienia z systemem sztucznej inteligencji oraz z praktyką zakazaną. Z kolei tam, gdzie ryzyko jest nieakceptowalne, powinno dojść do "interwencji", na przykład organu nadzoru w formie kar.

Autorka/Autor:jw/akw

Źródło: PAP

Źródło zdjęcia głównego: Grand Warszawski/Shutterstock

Pozostałe wiadomości

Obecnie 90 procent menedżerów i specjalistów popiera czterodniowy tydzień pracy, o ile nie wpłynie na ich wynagrodzenia - wynika z raportu Hays Poland. Nastroje studzą eksperci, których zdaniem Polska może nie być gotowa na tak "rewolucyjną zmianę".

"Tak rewolucyjne zmiany mogą budzić więcej obaw"

"Tak rewolucyjne zmiany mogą budzić więcej obaw"

Źródło:
PAP

Spór między Elonem Muskiem a prezydentem USA Donaldem Trumpem został spowodowany stresem po obu stronach. Elon popełnił błąd, publicznie rzucając wyzwanie Trumpowi - powiedział rosyjskim mediom przebywający w Moskwie Errol Musk, ojciec miliardera.

Ojciec Muska z wizytą w Moskwie. "Elon popełnił błąd"

Ojciec Muska z wizytą w Moskwie. "Elon popełnił błąd"

Źródło:
Reuters

Brak konkurencji i wyższe ceny cementu mogłyby negatywnie wpływać na realizację strategicznych projektów, tak ważnych dla rozwoju Polski. To wymaga wyjaśnienia - mówi Tomasz Chróstny, prezes Urzędu Ochrony Konkurencji i Konsumentów. W poniedziałek urząd przekazał informację o wszczęciu postępowania wyjaśniającego w sprawie działań sześciu cementowni i w asyście policji dokonał przeszukań w ich siedzibach. - Do UOKiK dotarły sygnały, że przedsiębiorcy mogli ponownie odtworzyć nielegalne porozumienie - przekazano w komunikacie.

Powrót kartelu cementowego? Przeszukania w sześciu firmach

Powrót kartelu cementowego? Przeszukania w sześciu firmach

Źródło:
PAP

Polacy i Rumuni są wśród narodowości, które najchętniej odwiedzają turecką Antalyę - informuje turecki dziennik "Daily Sabah". I podkreśla, że obywatele Polski i Rumunii dzięki coraz liczniejszym przyjazdom podtrzymują turystykę w tym regionie przez cały rok.

Polacy w tym miejscu "podtrzymują turystykę przez cały rok"

Polacy w tym miejscu "podtrzymują turystykę przez cały rok"

Źródło:
PAP

Wojewódzki Sąd Administracyjny w Warszawie ponownie zajmie się sprawą przymusowej restrukturyzacji Idea Banku. Naczelny Sąd Administracyjny uwzględnił dwa zarzuty spośród tych podniesionych w 48 skargach kasacyjnych.

Sąd wróci do sprawy Idea Banku

Sąd wróci do sprawy Idea Banku

Źródło:
PAP

Warner Bros. Discovery ogłosiło plan podziału na dwie oddzielne, publicznie notowane spółki. Jedna skupi się na platformie streamingowej HBO Max i studiu Warner Bros., a druga na CNN oraz innych stacjach telewizyjnych.

Warner Bros. Discovery dzieli się na dwie spółki

Warner Bros. Discovery dzieli się na dwie spółki

Źródło:
tvn24.pl

Michał R., były członek zarządu Orlenu, zatrzymany kilka dni temu przez funkcjonariuszy ABW, odrzuca zarzuty wyrządzenia szkody Orlen Trading Switzerland oraz Orlenowi. Zapowiada, że przed sądem ujawni wszystkie okoliczności sprawy.

"Nie mam sobie nic do zarzucenia". Oświadczenie Michała R.

"Nie mam sobie nic do zarzucenia". Oświadczenie Michała R.

Źródło:
PAP

Do czasu środowego głosowania nad wotum zaufania wobec rządu złoty może być pod presją. Możliwy jest test poziomu 4,30-4,31 złotego za euro - oceniają ekonomiści. 

Złoty pod presją

Złoty pod presją

Źródło:
PAP

Zakaz wjazdu do USA dla obywateli 12 państw, głównie Afryki i Bliskiego Wschodu, zaczął obowiązywać w poniedziałek - przypomniała agencja AP. Są jednak wyjątki.

Obywatele tych krajów nie wjadą do USA. Zakaz wszedł w życie

Obywatele tych krajów nie wjadą do USA. Zakaz wszedł w życie

Źródło:
PAP

W weekend prowadzone były prace serwisowe systemu e-zdrowie. W związku z tym pojawiły się opóźnienia w wystawianiu e-recept. - Jeśli ktoś nie musi dziś realizować e-recepty, to lepiej poczekać do jutra - apeluje Tomasz Kulas z resortu zdrowia w rozmowie z redakcją biznesową tvn24.pl.

Problemy z e-receptą

Problemy z e-receptą

Źródło:
tvn24.pl

Linia lotnicza Wizz Air uruchomiła nowe połączenie między Warszawą a Dortmundem - przekazał przewoźnik w poniedziałkowym komunikacie. Loty z Lotniska Chopina będą odbywały się pięć dni w tygodniu - w poniedziałki, środy, piątki, soboty i niedziele.

Duża linia lotnicza uruchomiła nowe połączenie z Polski

Duża linia lotnicza uruchomiła nowe połączenie z Polski

Źródło:
PAP

Tego lata podróżujący samolotami mogą doświadczyć poważnych opóźnień - ostrzega Międzynarodowe Zrzeszenie Przewoźników Powietrznych (IATA). Liczne problemy mogą wystąpić zwłaszcza w Niemczech i Francji oraz w węgierskiej przestrzeni powietrznej - czytamy w poniedziałkowej "Rzeczpospolitej".

"To lato ma być gorsze od zeszłorocznego"

"To lato ma być gorsze od zeszłorocznego"

Źródło:
PAP

Niemiecki przemysł według najnowszych danych zatrudnia około 5,5 miliona osób, ale w ciągu ostatniego roku ta liczba znacznie spadła. Pracę straciło ponad 100 tysięcy osób, najwięcej w sektorze motoryzacyjnym - informuje "Deutsche Welle".

Kłopoty największej gospodarki Europy. "Usłyszymy jeszcze wiele złych wieści"

Kłopoty największej gospodarki Europy. "Usłyszymy jeszcze wiele złych wieści"

Źródło:
"Deutsche Welle"

Liczba osób ubezpieczonych w Zakładzie Ubezpieczeń Społecznych na koniec marca tego roku była wyższa o 16,3 tysiąca osób w skali roku - wynika z najnowszego raportu ZUS. - Znaczna część świadczeń jest finansowana z bieżących składek - wskazuje Radosław Socha, wicedyrektor do spraw planowania funduszy w Departamencie Finansów ZUS. Urosły jednak także koszty Funduszu Ubezpieczeń Społecznych - o blisko 12 miliardów złotych.

"Znaczna część świadczeń jest finansowana z bieżących składek". Raport ZUS

"Znaczna część świadczeń jest finansowana z bieżących składek". Raport ZUS

Źródło:
PAP

Ile wyniesie płaca minimalna w 2026 roku? Ministerstwo Finansów w komunikacie przekazało, że chciałoby podniesienia najniższej krajowej do poziomu 4806 złotych brutto, czyli o 140 złotych. Hojniejszą podwyżkę zaproponował resort pracy, co oprotestowały organizacje skupiające przedsiębiorców.

Spór o płacę minimalną. "Resort nigdy nie przedstawił takiej propozycji"

Spór o płacę minimalną. "Resort nigdy nie przedstawił takiej propozycji"

Źródło:
PAP

W projekcie ustawy budżetowej Donalda Trumpa znajduje się zapis o "podatku zemsty" - informuje CNBC. W obecnym brzmieniu przepis ten umożliwiłyby podwyższanie ceł wobec krajów, które pobierają "niesprawiedliwe podatki zagraniczne".

"Podatek zemsty" w ustawie Trumpa. "Szok"

"Podatek zemsty" w ustawie Trumpa. "Szok"

Źródło:
CNBC

Sąd apelacyjny w Tokio uchylił w piątek karę w wysokości 13 bilionów jenów (około 90 miliardów dolarów) nałożoną na czterech byłych menedżerów TEPCO, operatora elektrowni jądrowej w Fukushimie, która została uszkodzona w wyniku potężnego trzęsienia ziemi w 2011 roku.

Decyzja sądu w sprawie gigantycznej kary dla byłych dyrektorów elektrowni

Decyzja sądu w sprawie gigantycznej kary dla byłych dyrektorów elektrowni

Źródło:
PAP

Hiszpania spodziewa się rekordowych tłumów zagranicznych turystów, co jest nie w smak niektórym mieszkańcom. W tym roku ponownie pojawią się protesty przeciwko nadmiernej turystyce, których symbolem stały się pistolety na wodę. Najbliższe zaplanowane są na 15 czerwca, między innymi w Barcelonie, San Sebastian czy na Balearach.

Pistoletami na wodę w turystów

Pistoletami na wodę w turystów

Źródło:
PAP

W sobotnim losowaniu Lotto żaden z graczy nie wytypował prawidłowo sześciu liczb. Oznacza to, że kumulacja rośnie i we wtorkowym losowaniu do wygrania będą 4 miliony złotych. Oto wyniki Lotto i Lotto Plus z 7 czerwca 2025 roku.

Rośnie kumulacja w Lotto

Rośnie kumulacja w Lotto

Źródło:
tvn24.pl

Bułgaria dostała zielone światło do Komisji Europejskiej na przystąpienie do strefy euro. W ocenie Petyra Diłowa, ministra gospodarki i przemysłu, przyjęcie wspólnej waluty to szansa dla Bułgarów. - Wszystkie branże skorzystają na euro - ocenił.

Europejski kraj zmieni walutę. "Wszystkie branże skorzystają"

Europejski kraj zmieni walutę. "Wszystkie branże skorzystają"

Źródło:
PAP, tvn24.pl