Przedstawiciele Komisji Europejskiej poinformowali w piątek, że OpenAI i Anthropic przekazały Brukseli informacje o incydentach jeszcze przed ich publicznym ujawnieniem. Obie firmy mają dostarczyć urzędnikom kolejne szczegóły.
- Zostaliśmy dwustronnie poinformowani przez obu dostawców o incydentach, zanim zostały one podane do wiadomości publicznej. Jesteśmy z nimi w kontakcie. W trakcie rozmów przekażą nam także więcej informacji. Sprawdzimy również, czy konieczne jest podjęcie bardziej formalnych działań następczych - powiedział jeden z unijnych urzędników.
W czwartek Anthropic poinformował, że niektóre modele Claude włamały się do systemów trzech firm podczas testów cyberbezpieczeństwa. Kilka dni wcześniej konkurencyjne OpenAI ujawniło, że jeden z jego agentów AI przeprowadził niekontrolowany atak.
AI Act wchodzi w życie 2 sierpnia
Do incydentów doszło tuż przed rozpoczęciem stosowania kolejnych przepisów unijnego aktu o sztucznej inteligencji. AI Act, który zacznie obowiązywać 2 sierpnia, jest pierwszym na świecie aktem prawnym kompleksowo regulującym technologię wykorzystywaną niemal we wszystkich sektorach gospodarki i obszarach życia społecznego.
Przepisy wymagają między innymi, aby w określonych przypadkach użytkownicy byli informowani, że wchodzą w interakcję ze sztuczną inteligencją lub że prezentowane im treści zostały wygenerowane albo zmodyfikowane przez AI.
- Wszystkie te, nazwijmy je, incydenty pokazują, jak ważne jest rzeczywiste wdrożenie niezbędnych działań monitorujących przez twórców - podkreślił inny przedstawiciel Komisji Europejskiej.
Surowe wymogi i wielomilionowe kary
Unijne regulacje nakładają szczególne obowiązki na dostawców najbardziej zaawansowanych modeli AI ogólnego przeznaczenia, określanych również jako modele bazowe, które mogą stwarzać ryzyko systemowe.
Firmy muszą przeciwdziałać zagrożeniom mogącym prowadzić do szkód na dużą skalę, w tym incydentom chemicznym, biologicznym i nuklearnym, cyberprzestępstwom, szkodliwej manipulacji oraz naruszeniom praw podstawowych. Przepisy obejmują także ryzyko dla europejskiego cyberbezpieczeństwa oraz sytuacje, w których sztuczna inteligencja może zacząć działać poza kontrolą człowieka.
Kary za naruszenie AI Act mogą wynieść od 7,5 mln euro lub 1,5 proc. obrotu do 35 mln euro lub 7 proc. światowego obrotu przedsiębiorstwa. Ich wysokość zależy od rodzaju naruszenia.