Model Mythos firmy Anthropic od premiery w kwietniu znajduje się w centrum debaty o bezpieczeństwie narodowym i zagrożeniach cyberatakami. Według twórców system jest wyjątkowo skuteczny w wykrywaniu luk w zabezpieczeniach oprogramowania. Pojawiły się głosy, że ta sama zdolność może zostać wykorzystana przez cyberprzestępców.
Firma przekonywała, że AI odkryło niedociągnięcia programowe, również w najpopularniejszych systemach operacyjnych i przeglądarkach internetowych. Eksperci ostrzegają jednak, że te same możliwości mogą zostać wykorzystane także przez cyberprzestępców.
Zainteresowanie modelem Anthropic
Sprawą szybko zainteresowały się rządy. Urzędnicy w kilku krajach rozpoczęli konsultacje z sektorem bankowym, a Biały Dom analizował możliwość wprowadzenia nowych zasad dotyczących publikowania modeli AI po testach bezpieczeństwa.
W środowisku cyberbezpieczeństwa reakcje okazały się jednak znacznie bardziej wyważone. Część ekspertów uważa, że polityczna i medialna reakcja była przesadzona.
- Myślę, że istnieje ogromna luka komunikacyjna między praktykami a decydentami politycznymi - powiedział Isaac Evans, założyciel i dyrektor generalny firmy Semgrep.
Jak dodał, model stanowi "realny postęp technologiczny", ale reakcja "nie jest poparta tym, co faktycznie wiemy o przełożeniu tych możliwości na praktyczne działania".
Skuteczniejszy model, większe zagrożenie
Eksperci przyznają, że Mythos znacznie poprawił skuteczność wykrywania luk w zabezpieczeniach oprogramowania. Według twórców model potrafi znajdować błędy, których wcześniej nie wykrywali nawet programiści czy zespoły bezpieczeństwa.
Choć technologia może pomóc firmom lepiej chronić swoje systemy, pojawiają się też obawy o jej wykorzystanie przez cyberprzestępców. Specjaliści podkreślają jednak, że samo znalezienie podatności to dopiero początek problemu. Znacznie trudniejsze pozostaje sprawdzenie, które luki są naprawdę groźne, ustalenie priorytetów i przygotowanie poprawek bez destabilizowania systemów.
Anthony Grieco z Cisco zwrócił uwagę, że Mythos pozwala szybciej analizować ogromne ilości kodu i ograniczać liczbę fałszywych alarmów. Dzięki temu zespoły bezpieczeństwa mogą skupić się na najważniejszych zagrożeniach.
- Jeśli masz bolid Formuły 1, ale wcześniej jeździłeś tylko rowerem, być może uda ci się pojechać prosto, ale nie wykorzystasz od razu pełni jego możliwości na torze - powiedział Grieco.
Model oferuje też większą swobodę niż wcześniejsze rozwiązania AI, co pozwala tworzyć bardziej precyzyjne polecenia. Eksperci zaznaczają jednak, że pełne wykorzystanie jego możliwości wymaga odpowiedniego zaplecza technicznego i zaawansowanego środowiska pracy.
AI nie jest dziś głównym narzędziem cyberprzestępców
Debata wokół Mythos i częściowo także modeli od OpenAI zdominowała rozmowy o bezpieczeństwie AI w USA. Eksperci przypominają jednak, że wykorzystanie sztucznej inteligencji do wyszukiwania podatności na atki nie jest nowością.
Nasi przeciwnicy stali się bardzo skuteczni jeszcze bez AI - powiedziała Cynthia Kaiser, była przedstawicielka FBI zajmująca się cyberbezpieczeństwem, obecnie związana z firmą Halcyon. Jak dodała, ataki ransomware są dziś przeprowadzane nawet w mniej niż godzinę, a większość zagrożeń nadal nie opiera się na sztucznej inteligencji.
Dodatkowym ograniczeniem pozostaje skala infrastruktury potrzebnej do uruchamiania modeli takich jak Mythos. Eksperci zaznaczają jednak, że ta bariera może szybko zniknąć wraz z rozwojem technologii.