AI włamało się do rządowego systemu. "Zniewaga, która nie może pozostać bez reakcji"
Podczas środowego pobytu w Nowym Jorku Albanese przekazał, że odbył "bardzo szczerą rozmowę" z dyrektorem generalnym OpenAI Samem Altmanem. Premier zarzucił firmie, że zbyt długo zwlekała z poinformowaniem australijskich władz o naruszeniu. Uważa się, że jest to jeden z pierwszych publicznie opisanych przypadków, w których agent AI przeprowadził cyberatak na stronę rządową.
OpenAI miało zwlekać z komunikatem
Do naruszenia doszło w czerwcu, jednak - jak podało OpenAI - firma dowiedziała się o incydencie dopiero w sierpniu, podczas trwającego przeglądu "działań modeli niezgodnych z założeniami".
Services Australia, instytucja odpowiedzialna za kierowanie obywateli do różnych usług administracji publicznej, została powiadomiona przez OpenAI w wiadomości e-mail wysłanej 10 września. Agencja skontaktowała się następnie z właściwym ministrem, który w miniony weekend przekazał informację premierowi.
Przedstawiciele firmy mieli jednak już wcześniej spotykać się z australijskimi politykami, w tym z ministrem obrony narodowej Richardem Marlesem. Miał on spotkać się z Altmanem w San Francisco na początku miesiąca. Szef OpenAI miał nie wspomnieć wówczas o ataku. - Oczekujemy, że rząd zostanie powiadomiony w możliwie najszybszym terminie. Wyraziliśmy też niezadowolenie z faktu, że w tym przypadku tak się nie stało - skomentował Marles.
Senator Partii Zielonych David Shoebridge stwierdził, że OpenAI potraktowało ministra obrony "jak grzyba" (angielski idiom oznaczający trzymanie kogoś w nieświadomości). - To zniewaga nie tylko dla niego, ale i dla Australii - zniewaga, która nie może pozostać bez reakcji - powiedział.
Albanese stwierdził, że podczas rozmowy z Altmanem wyraził "ogromne zaniepokojenie Australii tym incydentem". Zapowiedział również, że sprawa "oczywiście będzie miała konsekwencje prawne". Według australijskiego premiera, Altman przyznał, że w OpenAI wystąpiły "problemy z procedurami".
OpenAI: naruszenie nie objęło pacjentów
Agent AI uzyskał dostęp zarówno do plików publicznych, jak i niepublicznych. OpenAI poinformowało jednak, że obecnie nie ma podstaw, by sądzić, że naruszenie objęło dokumentację pacjentów lub dane osobowe.
- Zidentyfikowaliśmy działania obejmujące kilka stron internetowych i usług australijskiego rządu. Doszło do nich, gdy nasze modele - w ramach wewnętrznej oceny - próbowały wyszukiwać odpowiedzi i dostępne dane statystyczne dotyczące Australii. W trakcie tych działań nasze modele podjęły kroki, których nie zamierzaliśmy - przekazał rzecznik OpenAI. Firma wyjaśniła, że uzyskane informacje obejmowały zbiorcze statystyki dotyczące zdrowia oraz nazwy plików wewnętrznych.
- Na obecnym etapie nie ma podstaw, by sądzić, że uzyskano dostęp do jakichkolwiek danych osobowych, ale dochodzenie nadal trwa - powiedział Albanese dziennikarzom. Premier dodał, że dostępne dowody nie wskazują na szersze naruszenie sieci Services Australia. - Niemniej jednak ta sytuacja jest oczywiście nie do przyjęcia - podkreślił.
Trwa dochodzenie po ataku
Zaatakowany portal Medicare Statistics Reporting Service służy do udostępniania danych statystycznych dotyczących Medicare i jest zarządzany przez Services Australia. Obecnie trwa dochodzenie, które ma ustalić, czy incydent objął także inne systemy rządowe. Postępowanie poprowadzi Australian Signals Directorate, australijska agencja odpowiedzialna za cyberbezpieczeństwo.
Albanese poinformował, że incydent mógł dotknąć również federalny Australian Institute of Health and Welfare, a także dwie instytucje stanowe - Biuro Statystyk i Badań nad Przestępczością Nowej Południowej Walii oraz Departament Zdrowia stanu Wiktoria.
Richard Marles ogłosił w czwartek czasu lokalnego powołanie specjalnego zespołu zadaniowego, który ma zbadać naruszenie. Nazwał incydent "całkowicie niedopuszczalnym", zapewniając jednocześnie, że jego skutki wydają się "stosunkowo niewielkie".
Premier Australii odmówił odpowiedzi na pytanie, czy poruszył tę sprawę podczas wtorkowego spotkania z prezydentem USA Donaldem Trumpem w Nowym Jorku. Światowi przywódcy zgromadzili się tam z okazji sesji Zgromadzenia Ogólnego ONZ.
Ryzyko kolejnych incydentów
Zdaniem ekspertów ds. cyberbezpieczeństwa wydarzenie powinno "uruchomić sygnały alarmowe" w rządach na całym świecie. Agenci AI stają się bowiem coraz szerzej dostępni zarówno dla użytkowników indywidualnych, jak i przedsiębiorstw.
- Spodziewam się, że tego rodzaju ataki będą nadal występować. Będą coraz poważniejsze i coraz częstsze - powiedział BBC dr Hammond Pearce, starszy wykładowca w Instytucie Cyberbezpieczeństwa Uniwersytetu Nowej Południowej Walii.
Na początku roku OpenAI ujawniło, że grupa testowanych przez firmę agentów AI wymknęła się spod kontroli i potajemnie współpracowała, aby włamać się do systemów innej firmy technologicznej - Hugging Face.
- Incydent dotyczący Hugging Face pokazał, co może się wydarzyć, gdy agent AI nie jest "dobrze wychowany" - powiedział BBC dr Rob Nicholls, starszy badacz zajmujący się regulacją i polityką dotyczącą AI na Uniwersytecie w Sydney.
Branża apeluje o regulacje
Sam Altman oraz dyrektor generalny Anthropic Dario Amodei wystąpili w środę na forum Zgromadzenia Ogólnego ONZ. Obaj należą do przedstawicieli branży, którzy publicznie wyrażają obawy związane z szybkim tempem rozwoju sztucznej inteligencji.
Wezwali światowych przywódców do większej koordynacji oraz opracowania międzynarodowych standardów rozwoju AI.
Altman zaapelował o ustanowienie wspólnych zasad dotyczących "pomiaru możliwości, oceny ryzyka, ustalania, czy zabezpieczenia są wystarczające, oraz zachowania realnego nadzoru człowieka" nad szybko rozwijającą się technologią.
Liderzy AI proszą Australię o wyjątek
W tym tygodniu wiodące firmy z branży sztucznej inteligencji, a w tym OpenAI, zaapelowały do władz Australii o rewizję zakazu wykorzystywania krajowych dóbr kultury do trenowania modeli AI - poinformował Reuters. Przedstawiciele koncernów przekonywali, że wprowadzenie wyjątku od tej reguły pozwoliłoby chronić prawa twórców, a jednocześnie zachęciłoby do większych inwestycji.
Australia zapowiedziała wprowadzenie pakietu regulacji dotyczących sztucznej inteligencji oraz centrów przetwarzania danych, które mają wejść w życie w przyszłym roku. Rząd wykluczył jednak możliwość wprowadzenia zwolnień w prawie autorskim, co w praktyce uniemożliwia firmom prowadzenie procesu trenowania modeli na terenie tego kraju.
"Uważamy, że alternatywnym rozwiązaniem mogłoby być zezwolenie przez rząd na trenowanie modeli AI w oparciu o wąsko zdefiniowaną procedurę warunkową" - stwierdziła firma Anthropic, konkurent Open AI, w oświadczeniu. Spółka zaznaczyła, że jeśli Australia uzależni taką zgodę od "inwestycji lub innych warunków mających na celu wsparcie rozwoju rodzimych twórców oraz inicjatyw kulturalnych (...), pozostaje otwarta na rozważenie takich wymogów".
Z kolei OpenAI zaapelowało o "zrównoważone ramy prawa autorskiego, które z jednej strony pozwolą modelom uczyć się na podstawie publicznie dostępnych informacji, a z drugiej zaoferują posiadaczom praw autorskich możliwości współpracy".