Opracowanie modelu Claude Mythos przez firmę Anthropic doprowadziło do serii spotkań kryzysowych po tym, jak podczas testów wykryto luki w zabezpieczeniach wszystkich głównych systemów operacyjnych i przeglądarek internetowych.
Eksperci ostrzegają, że model ten może posiadać bezprecedensową zdolność do identyfikowania i wykorzystywania słabych punktów w cyberbezpieczeństwie.
Chodzi o ogłoszony 7 kwietnia tego roku przez Claude Mythos Preview nowy model Al. Nie został on jednak udostępniony publicznie ze względu na ryzyko nadużyć. Zamiast tego zapowiedziano projekt o nazwie "Glasswing", w ramach którego do poufnej oceny modelu i wspólnego przygotowania systemów obronnych zaproszono gigantów technologicznych, dostawców rozwiązań cyberbezpieczeństwa oraz bank JPMorgan Chase, wraz z kilkudziesięcioma innymi organizacjami.
Kanadyjski minister finansów: wymaga to dużej uwagi
Kanadyjski minister finansów François-Philippe Champagne powiedział w wywiadzie dla BBC, że Mythos był szeroko omawiany przez jego kolegów na kluczowym spotkaniu Międzynarodowego Funduszu Walutowego (MFW) w Waszyngtonie w tym tygodniu.
- Sprawa jest na tyle poważna, że zasługuje na uwagę wszystkich ministrów finansów - powiedział.
Jak zaznacza BBC, różnica w przypadku cieśniny Ormuz polega na tym, że wiemy, gdzie ona jest i jak jest duża. Problem z modelem Antropica polega na tym, że jest nieznany.
- Wymaga to dużej uwagi, abyśmy mogli wdrożyć środki bezpieczeństwa i procedury gwarantujące odporność naszego systemu finansowego - zaznaczył Champagne.
Najlepsi bankierzy dostaną dostęp do modelu, aby móc przetestować swoje systemy.
Ekspert: ludzie powinni się martwić
Dyrektor naczelny Barclays, CS Venkatakrishnan, powiedział BBC, że "sytuacja jest na tyle poważna, że ludzie powinni się martwić". - Musimy to lepiej zrozumieć, poznać luki w zabezpieczeniach i szybko je naprawić - zaznaczył.
Dodał, że "tak właśnie będzie wyglądał nowy świat", mając na myśli znacznie bardziej powiązany system finansowy, pełen szans i zagrożeń.
Chociaż twórca modelu Anthropic twierdzi, że ujawnił on już wiele luk w zabezpieczeniach niektórych kluczowych systemów operacyjnych, systemów finansowych i przeglądarek internetowych, rządom i bankom oferuje się dostęp do niego jeszcze przed jego publiczną premierą, aby pomóc im chronić własne systemy.
Zdaniem prezesa banku Anglii Andrew Baileya, rozwój sytuacji należy traktować bardzo poważnie. - Musimy teraz bardzo dokładnie przeanalizować, jaki wpływ na ryzyko cyberprzestępczości może mieć najnowszy rozwój sztucznej inteligencji - zaznaczył.
- Rozwój sztucznej inteligencji i modelowania ułatwia wykrywanie istniejących luk w zabezpieczeniach podstawowych systemów informatycznych, co z kolei ułatwia cyberprzestępcom ich wykorzystanie - zaznaczył.
Ekspert: "pierwszy z wielu potężniejszych modeli"
Departament Skarbu USA potwierdził, że poruszył tę kwestię z największymi bankami, zachęcając je do przetestowania swoich systemów przed jakąkolwiek publiczną premierą Mythos przez Anthropic.
Źródła w branży finansowej wskazują, że inna znana amerykańska firma zajmująca się sztuczną inteligencją może wkrótce wypuścić podobnie wydajny model, ale bez tych samych zabezpieczeń.
James Wise, partner w Balderton Capital, podkreślił, że Mythos jest "pierwszym z wielu potężniejszych modeli" zdolnych do wykrywania luk w zabezpieczeniach systemów. Zaznaczył, że jego fundusz "inwestuje w brytyjskie firmy zajmujące się sztuczną inteligencją, które się tym zajmują - spółki pracujące nad bezpieczeństwem i ochroną AI".
- Mamy nadzieję, że modele, które ujawniają luki, będą jednocześnie modelami, które je naprawią - stwierdził.
Źródło: BBC
Źródło zdjęcia głównego: Stockinq / Shutterstock