Ekspertka wraz z dr Marcinem Wilkowskim, specjalistą ds. humanistyki cyfrowej z Uniwersytetu Warszawskiego spotkała się w studiu TVN24 z dziennikarzem Rafałem Wojdą, by skomentować incydenty związane z ucieczkami modeli AI z izolowanych środowisk.
W połowie lipca dwa modele należące do OpenAI włamały się na serwery Hugging Face, z kolei tydzień temu technologia należąca do Anthropic samodzielnie połączyła się z internetem i samowolnie zaatakowała systemy trzech zewnętrznych instytucji. Natomiast w czwartek koncern Meta poinformował, że jeden z jego modeli sztucznej inteligencji miał uzyskać dostęp do internetu i przełamać zabezpieczenia innej platformy.
Element marketingowy narracji
Dr Wilkowski w programie uspokajał, że "nie powinniśmy wpadać w panikę". Na pytanie czy sztuczna inteligencja byłaby w stanie dokonywać przelewów na konta osób wykradających dane odpowiedział:
- Niesłychana zdolność, w rozumieniu programistycznym, agentów AI (…) do przełamywania zabezpieczeń na pewno jest już wykorzystywana do robienia rozmaitych ataków, które mają te fundusze przejmować z różnych miejsc.
Z kolei dziennikarka TOK FM dodała, że w całej sytuacji jest "element marketingowy".
- Szczególnie, że musimy pamiętać w jakiej sytuacji są firmy amerykańskie, które ze sobą konkurują i, co jest bardzo ważne, z otwartymi modelami chińskimi. Konkurują też na polu geopolitycznym, więc o to, czy będzie wsparcie rządu amerykańskiego, czy będą silniejsze regulacje, czy też będą większe obostrzenia, jeżeli chodzi też o handel z Chinami (…) - wyjaśniła.
Jak przyznała, "na pewno doszło do bardzo ważnych zjawisk, jeżeli chodzi o piaskownice, przełamywanie zabezpieczeń, ale nie róbmy z tego histerii".
Czym są "sandboxy"?
Izolowane środowisko, z którego wydostały się modele AI, to tzw. sandbox, czyli piaskownica.
Czubkowska wyjaśniła, że jest to miejsce, w którym jak "w normalnym życiu można się pobawić".
- Tylko, że w tym wypadku mówimy o zamkniętym środowisku, w którym technologie są bardziej wolno puszczone. To znaczy jest oczywiście wokół nich środowisko regulacyjne, ale w piaskownicy mogą przełamywać pewne bezpieczeństwa, mogą sobie pozwolić na nieco bardziej ryzykowne zachowania - powiedziała.
Jak zwróciła uwagę, z technologicznymi i regulacyjnymi piaskownicami "mamy do czynienia od dawna", przy czym teraz mówi się głównie o sztucznej inteligencji, zwłaszcza agentach AI.
- Bo to są rozwiązania technologiczne, które wymagają pewnych eksperymentów, pewnego odpuszczenia bezpiecznikowych zasad, żeby można było sprawdzić do czego są zdolne, jak bardzo się rozwijają, jakie mają ograniczenia - wytłumaczyła.
Jak zauważyła, o sytuacji, która dotyczy Anthropica i OpenAI "mówi się po angielsku, że agenci urwali się ze smyczy".
- Ta metafora nie ma jednak dobrego tłumaczenia na język polski, bo (…) one nie tyle działały przeciwko firmom, które zaprojektowały, tylko (…) postanowiły pójść na skróty, bo tak też są projektowane, że mają osiągnąć pewien cel. To cel jest kluczowy. Nie ograniczenie, nie środek - zwróciła uwagę.
USA zabiera się za regulacje AI
Eksperci skomentowali również reakcje amerykańskiego rządu na incydenty.
- Nagle Stany Zjednoczone wzywają do regulacji sztucznej inteligencji. Przez miesiące, jak nie lata, krzyczały na Europę, że my przeregulowujemy, wprowadzamy AI Act, który niepotrzebnie hamuje możliwość rozwoju sztucznej inteligencji - przypomniała Czubkowska.
Jak dodała, teraz pojawił się dwupartyjny projekt tzw. AI Switch Q, czyli "specjalnego guzika, nad którym kontrolę miałby Departament Bezpieczeństwa Krajowego i mógłby wyłączyć każdy model, każdego agenta uznanego za zbyt niebezpiecznego w danej sytuacji albo wyłamującego się z zasad bezpieczeństwa".
- Jest to znacznie dalej idące niż jakakolwiek regulacja unijna - zaznaczyła.
- Pamiętajmy, że właściciele firm, które wydają te największe modele komercyjne amerykańskie są raczej osobami, które mają bezpośredni dostęp do ucha pana prezydenta - zwrócił uwagę dr Wilkowski.
Według niego to nad czym "mamy kontrolę i co wydaje mu się ważne, to język o którym opowiadamy o tym i odpowiedzialność mediów, które o tym piszą".
- Jeżeli zaczniemy straszyć, mówić, że to już jest kolejny etap przejmowania świata i dominowania ludzi przez sztuczną inteligencję, to postępujemy źle. A kiedy mówimy, że dobrze, to jest błąd techniczny, pewne luki w bezpieczeństwie, które zostały bardzo efektywnie wykorzystane, to już nie jest takie atrakcyjne - podkreślił.