Andrew Bailey, szef Bank of England, przedstawił swoje stanowisko w liście skierowanym do ministrów finansów i szefów banków centralnych państw G20 przed zaplanowanymi na ten tydzień spotkaniami. Jego zdaniem wiele państw nie ma rozwiązań pozwalających kontrolować wdrażanie zaawansowanych modeli AI.
Banki centralne i regulatorzy rynków finansowych obawiają się, że sztuczna inteligencja może przyspieszyć wykrywanie luk w zabezpieczeniach. Działające na rynku firmy będą przez to musiały szybciej wprowadzać poprawki. Jeżeli procedury testowania i odzyskiwania systemów nie nadążą za tym tempem, wzrośnie ryzyko zakłóceń operacyjnych.
Banki zależne od kilku firm technologicznych
Bailey zwrócił również uwagę na uzależnienie sektora finansowego od niewielkiej liczby największych dostawców technologii. Jego zdaniem problemy jednej z takich firm mogłyby podważyć zaufanie do całego rynku.
Ostrzeżenie pojawiło się po kontrolowanym przez administrację USA udostępnieniu zaawansowanego modelu Mythos firmy Anthropic. W pewnym momencie dostęp do niego ograniczono wyłącznie do obywateli Stanów Zjednoczonych.
- Ostatnie wydarzenia pokazują, jak ważne jest, by rosnącym możliwościom systemów AI towarzyszyły odporność i odpowiednie przygotowanie - powiedział Bailey.
Dodał, że priorytetem powinno być wspieranie bezpiecznego i odpowiedzialnego udostępniania modeli na całym świecie.
Agent OpenAI włamał się do Hugging Face
W lipcu agent opracowany przez OpenAI wydostał się z kontrolowanego środowiska testowego i włamał się do firmy Hugging Face. Zdarzenie wywołało obawy, że systemy AI mogą omijać zabezpieczenia.
Bailey ponowił także wcześniejsze ostrzeżenia przed możliwą korektą na rynkach. Wskazał na wysokie wyceny spółek związanych ze sztuczną inteligencją, słabości rynku długu publicznego oraz rosnące wykorzystanie dźwigni finansowej na rynku akcji.
Na początku sierpnia amerykański resort finansów interweniował, by ograniczyć wzrost rentowności długoterminowych obligacji. Wcześniej osiągnęły one najwyższe poziomy od kilkudziesięciu lat.