Centrum Standardów i Innowacji AI (CAISI), działające przy Departamencie Handlu, poinformowało we wtorek, że porozumienie pozwoli na ocenę modeli przed ich wdrożeniem oraz prowadzenie badań nad ich możliwościami czy potencjalnymi lukami w zabezpieczeniach.
Zagrożenia związane z nowymi modelami
Rozwój zaawansowanych systemów AI, w tym modelu Mythos firmy Anthropic, wywołał w ostatnich tygodniach światowe poruszenie - również wśród amerykańskich urzędników - ze względu na zdolność modeli do znacznego zwiększenia możliwości hakerów. W oświadczeniu nie wspomniano o samej firmie Anthropic, która pozostaje w sporze z Pentagonem w kwestii zabezpieczeń dotyczących wojskowego wykorzystania jej narzędzi.
"Niezależna i rygorystyczna metodologia pomiarowa jest niezbędna do zrozumienia przełomowych modeli AI oraz ich wpływu na bezpieczeństwo państwa" - przekazał w oświadczeniu cytowanym przez Reuters dyrektor CAISI, Chris Fall.
Pentagon stawia na AI
CAISI, pełniące funkcję głównego rządowego ośrodka testowania modeli sztucznej inteligencji, poinformowało, że przeprowadziło już ponad 40 ewaluacji, w tym badań najnowocześniejszych modeli, które nie trafiły jeszcze na rynek. Agencja dodała, że deweloperzy często przekazują wersje modeli z ograniczonymi filtrami bezpieczeństwa, aby centrum mogło dokładnie zbadać je pod kątem ryzyk dla bezpieczeństwa narodowego.
W ubiegłym tygodniu Pentagon ogłosił zawarcie porozumień z siedmioma firmami z branży AI w celu wdrożenia ich zaawansowanych technologii w niejawnych sieciach Departamentu Obrony. Resort dąży w ten sposób do rozszerzenia grona dostawców sztucznej inteligencji współpracujących z wojskiem.