Open Secure AI Alliance ma opracowywać i udostępniać otwarte technologie, metody oraz narzędzia służące do zabezpieczania oprogramowania i autonomicznych agentów AI. Inicjatywa rozwija działania prowadzone wcześniej w ramach projektu Akrites Linux Foundation oraz społeczności OpenSSF.
Wśród założycieli i pierwszych partnerów znalazły się między innymi: Nvidia, Adobe, Cisco, Cloudflare, CrowdStrike, Dell Technologies, Hugging Face, IBM, Microsoft, Palantir, Red Hat, Salesforce, SAP, ServiceNow, Siemens, Snowflake i Palo Alto Networks.
Twórcy sojuszu przekonują, że otwarte modele oraz narzędzia są szczególnie ważne w cyberbezpieczeństwie. Pozwalają specjalistom analizować działanie systemów, dostosowywać je do własnych potrzeb i uruchamiać we własnej infrastrukturze, bez uzależnienia od jednego dostawcy.
Incydent w Hugging Face
Jako przykład ograniczeń zamkniętych systemów autorzy inicjatywy wskazują niedawny incydent bezpieczeństwa w Hugging Face. Według przedstawionych informacji zamknięte narzędzia AI blokowały część działań związanych z analizą kryminalistyczną, ponieważ nie potrafiły odróżnić obrońców od atakujących.
Hugging Face miało wówczas uruchomić model GLM 5.2 z otwartymi wagami na własnej infrastrukturze. System został wykorzystany do przeanalizowania ponad 17 tysięcy działań i powstrzymania włamania.
Zdaniem przedstawicieli sojuszu sytuacja pokazała, że brak możliwości kontrolowania, modyfikowania i samodzielnego uruchamiania zaawansowanych modeli może ograniczać reakcję firm w momencie, gdy kluczowe znaczenie ma szybkość działania.
Otwarte modele również niosą ryzyko
Autorzy inicjatywy przyznają, że otwarte modele mogą zostać wykorzystane do cyberataków lub zmodyfikowane w celu usunięcia zabezpieczeń. Podkreślają jednak, że podobne zagrożenia występują również w przypadku systemów zamkniętych.
Ich zdaniem odpowiedzią nie powinno być ograniczanie dostępu obrońców do zaawansowanych otwartych technologii. Otwartości powinny towarzyszyć silne zabezpieczenia, jasne zasady przeciwdziałania nadużyciom, rygorystyczne testy oraz szybkie usuwanie wykrytych podatności.
Sojusz zakłada, że w cyberbezpieczeństwie potrzebne są zarówno zamknięte, jak i otwarte modele. Organizacje powinny mieć możliwość wyboru rozwiązania odpowiedniego do konkretnego zadania, przy zachowaniu kontroli nad danymi i infrastrukturą.
Nvidia udostępnia nowe narzędzia
Nvidia zapowiedziała przekazanie sojuszowi otwartych modeli, ich wag, danych oraz wyników badań nad systemami sterującymi agentami AI.
Firma udostępniła także na GitHubie projekt NVIDIA Labs Object-Oriented Agent, czyli NOOA. Jest to otwarte środowisko badawcze, które ma ułatwiać testowanie, śledzenie, audyt i kontrolę zachowania agentów AI.
Partnerzy sojuszu rozwijają również rozwiązania obejmujące identyfikację agentów, izolowanie systemów, bezpieczne formaty modeli, skanowanie prowadzone przez wiele modeli oraz zabezpieczanie procesów tworzenia oprogramowania.
HPE wspiera rozwój SPIFFE i SPIRE, czyli standardów umożliwiających kryptograficzną weryfikację agentów oraz usług AI. Hugging Face zaoferowało fundacji PyTorch format Safetensors, który pozwala bezpiecznie przechowywać wagi modeli i eliminuje możliwość zdalnego uruchamiania kodu.
IBM i Red Hat rozwijają z kolei Lightwell, rozwiązanie wykorzystujące cyfrowo podpisane poprawki, natomiast Microsoft pracuje nad MDASH, systemem koordynującym wyspecjalizowanych agentów AI w celu wyszukiwania i potwierdzania podatności.
SpaceXAI udostępniło kod narzędzia Grok Build, terminalowego agenta wspierającego programowanie. Firma zapowiedziała także otwarcie wag modeli z rodziny Grok dla programistów i środowiska naukowego.
Apel do regulatorów
Open Secure AI Alliance apeluje do rządów i regulatorów, aby traktowali otwarte modele oraz narzędzia bezpieczeństwa jako element ochrony infrastruktury, a nie dodatkowe zagrożenie.
Zdaniem przedstawicieli inicjatywy ogólne ograniczenia dotyczące najbardziej zaawansowanych otwartych systemów AI mogłyby osłabić zdolności obronne i zwiększyć zależność od niewielkiej liczby dostawców zamkniętych technologii.
Giganci technologiczni wśród członków sojuszu
Do inicjatywy dołączyły także największe firmy z sektora chmurowego, cyberbezpieczeństwa i oprogramowania dla biznesu. Wśród nich są: Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow i Snowflake.
Sojusz współtworzą również: Hugging Face, Linux Foundation, Palantir, Dell Technologies, HPE, Siemens oraz SpaceXAI.
Część partnerów już przekazała własne rozwiązania, między innymi standardy identyfikacji agentów, bezpieczne formaty przechowywania modeli, narzędzia do wykrywania podatności oraz systemy zabezpieczające łańcuch dostaw oprogramowania.