Naruszenia w przypadku koncernu Meta oraz firmy Anthropic wynikały z błędów konfiguracji, które nieumyślnie przyznały ich modelom dostęp do internetu. Z kolei w przypadku OpenAI agent AI podczas testów hakerskich samodzielnie wykorzystał nieznaną wcześniej lukę, aby przedostać się do sieci. Incydenty te potęgują obawy, że zaawansowane systemy AI mogą stwarzać nowe zagrożenia dla cyberbezpieczeństwa.
Incydent z udziałem Llama AI
Meta przekazała, że bada incydent, w którym błąd konfiguracyjny popełniony przez firmę Irregular - zewnętrznego audytora prowadzącego testy na zlecenie koncernu - przypadkowo przyznał jednemu z modeli dostęp do internetu w trakcie badania. Model "wykorzystał lukę w zabezpieczeniach zewnętrznej usługi w sposób zbliżony do incydentów zgłaszanych wcześniej przez inne firmy" - podała Meta w oświadczeniu.
Serwis The Information podał, że sprawa dotyczyła modelu Muse Spark 1.1, który Meta reklamuje jako swoje najbardziej zaawansowane narzędzie do programowania i autonomicznego wykonywania zadań. Według portalu model przełamał zabezpieczenia nie wskazanej przez koncern firmy i "zmodyfikował jej środowisko wewnętrzne".
Rzecznik firmy Irregular powiedział agencji Reuters, że chodziło o "dokładnie ten sam problem ze środowiskiem testowym, który w ubiegłym tygodniu ujawnił Anthropic" i że akcja ta nie wiązała się z "ucieczką z piaskownicy ani ze skomplikowanym atakiem cybernetycznym". "Ucieczka z piaskownicy" (z ang. sandbox escape) oznacza krytyczny błąd bezpieczeństwa.
"Obecnie problem został w pełni rozwiązany. Irregular przygotowuje raport techniczny (white paper), aby podzielić się dobrymi praktykami w zakresie izolowania środowisk i bezpiecznego prowadzenia testów cyberbezpieczeństwa" - przekazało Irregular.
Nowe wymogi nie obejmą modelu Meta
Niedawne zdarzenia z udziałem najpotężniejszych modeli AI na amerykańskim rynku wywołały zaniepokojenie wśród amerykańskich ustawodawców, którzy zastanawiają się, czy coraz bardziej zaawansowane modele AI nie zostaną wykorzystane do przeprowadzania lub ułatwiania ataków hakerskich - podaje Reuters.
Grupa prokuratorów generalnych z ramienia republikanów zwróciła się do OpenAI o zabezpieczenie dokumentacji mogącej mieć związek z niedawnym incydentem. OpenAI zadeklarowało, że traktuje ten wniosek poważnie i opublikuje raport techniczny ze zdarzenia.
Wcześniej w tym tygodniu Biały Dom zaprosił liderów sektora - w tym Meta, Anthropic, OpenAI oraz Google - na spotkanie z urzędnikami, by omówić świeżo sfinalizowane, dobrowolne ramy testów cyberbezpieczeństwa dla zaawansowanych modeli AI. Jak donosi Reuters, administracja Trumpa omówiła z przedstawicielami branży niepublikowane dotąd zasady testowania oraz poinformowała producentów AI, że modele typu open-weight (z publicznie dostępnymi wagami, czyli współczynnikami liczbowymi, które powstają w procesie uczenia), takie jak Llama od Mety czy Nemotron od Nvidii, nie będą podlegać planowanym, dobrowolnym procedurom weryfikacji bezpieczeństwa.