Szef OpenAI przekazał, że uzgodnione z Departamentem Obrony zasady obejmują ograniczenia dotyczące wykorzystania modeli AI w wrażliwych obszarach. Jak zaznaczył, chodzi między innymi o zakaz masowej inwigilacji obywateli w kraju oraz o zachowanie ludzkiej kontroli nad użyciem siły, w tym w systemach uzbrojenia autonomicznego.
"Dwie z naszych najważniejszych zasad bezpieczeństwa to zakaz krajowej masowej inwigilacji oraz odpowiedzialność człowieka za użycie siły, w tym w przypadku autonomicznych systemów uzbrojenia. Departament Wojny zgadza się z tymi zasadami, odzwierciedla je w prawie i polityce, a my wpisaliśmy je do naszej umowy" - napisał Altman w serwisie X.
Dodał również, że firma stworzy techniczne zabezpieczenia, by modele działały zgodnie z przyjętymi założeniami. - Zbudujemy także zabezpieczenia techniczne, aby zapewnić, że nasze modele będą działały tak, jak powinny, czego chciał również Departament Wojny - podkreślił.
Altman zapowiedział, że do Pentagonu zostaną skierowani inżynierowie, którzy będą nadzorować bezpieczeństwo systemów.
Spór wokół Anthropic
Umowa z OpenAI została ogłoszona tego samego dnia, w którym prezydent Donald Trump zdecydował, że wszystkie agencje federalne muszą zaprzestać korzystania z narzędzi AI firmy Anthropic. Sekretarz obrony Pete Hegseth ogłosił, że spółka zostanie uznana za "ryzyko dla łańcucha dostaw".
Decyzja miała związek z odmową ustępstw w negocjacjach z Pentagonem. Według administracji Anthropic nie zgodziło się na zniesienie ograniczeń dotyczących wykorzystania swoich systemów w autonomicznych systemach uzbrojenia oraz w masowej inwigilacji obywateli USA.
Anthropic zapowiedziało w piątek, że zaskarży decyzję o uznaniu go za "ryzyko dla łańcucha dostaw". Tego typu status jest zwykle nadawany firmom mającym bezpośrednie powiązania z zagranicznymi przeciwnikami. W praktyce oznaczałby on, że wszyscy kontrahenci współpracujący z wojskiem musieliby wykazać, że ich projekty nie wykorzystują produktów Anthropic.
Niejasne różnice w warunkach
Nie jest jasne, czym różni się umowa OpenAI z Pentagonem od warunków proponowanych wcześniej przez Anthropic. Stacja CNN zwróciła się do Pentagonu i OpenAI o dodatkowe wyjaśnienia.
Do sprawy odniósł się również podsekretarz obrony odpowiedzialny za technologie Emil Michael. "W kwestiach życia i śmierci naszych żołnierzy posiadanie niezawodnego i stabilnego partnera, który działa w dobrej wierze, ma kluczowe znaczenie, gdy wchodzimy w erę sztucznej inteligencji" - napisał w serwisie X.
Pete Hegseth udostępnił w mediach społecznościowych wpis Altmana informujący o zawarciu porozumienia.
Opracował Jan Sowa/ams
Źródło: CNN
Źródło zdjęcia głównego: Shutterstock