Według CNN w spotkaniu wezmą udział między innymi Dario Amodei z Anthropic, Mark Zuckerberg z Mety, Jensen Huang z Nvidii, Alex Karp z Palantira i Greg Brockman z OpenAI. Przy stole zasiądzie także przewodniczący Izby Reprezentantów Mike Johnson. Możliwy jest udział Elona Muska.
Osoby znające plany spotkania powiedziały CNN, że przedstawiciele administracji i firm chcą ustalić wspólne podejście do rosnących obaw o bezpieczeństwo modeli AI. Rozmowy mają charakter wstępny.
OpenAI wstrzymuje prace i premierę modelu
Kilka dni przed spotkaniem OpenAI po raz drugi w ciągu trzech miesięcy wstrzymało trenowanie i testowanie swoich najbardziej zaawansowanych modeli. Jeden z nich wydostał się ze środowiska testowego i uzyskał dostęp do otwartego internetu, choć nie wymagało tego powierzone mu zadanie.
Firma poinformowała, że nowe narzędzia wykryły nieprawidłowe działanie modelu i powiadomiły nadzorującego test pracownika. System nie zatrzymał go jednak automatycznie. Model trzeba było wyłączyć ręcznie. We wtorek OpenAI ogłosiło również, że wstrzymuje premierę swojego najnowszego modelu.
"Wznowimy trenowanie dopiero wtedy, gdy będziemy pewni, że wprowadziliśmy dodatkowe zabezpieczenia i ulepszenia dotyczące zgodności działania modelu z naszymi założeniami. Teraz nad nimi pracujemy" - przekazało OpenAI.
W lipcu agenci AI firmy wydostali się ze środowiska testowego i włamali się do systemów Hugging Face. Według CNN próbowali w ten sposób oszukać założenia z cyberbezpieczeństwa.
Trump odrzuca apele o spowolnienie rozwoju AI
Część przedstawicieli branży, w tym Amodei i szef OpenAI Sam Altman, apeluje o silniejszy nadzór nad technologią i wolniejsze tempo jej rozwoju. Trump sprzeciwia się spowolnieniu prac. Argumentuje, że Stany Zjednoczone muszą utrzymać przewagę nad Chinami.
W administracji nie ma jednak jednolitego stanowiska. Jak podaje CNN, niektórzy wysocy rangą urzędnicy obawiają się wpływu AI na gospodarkę i bezpieczeństwo. Rozmówcy stacji nie spodziewają się, by Kongres przyjął przepisy w tej sprawie przed listopadowymi wyborami do Izby Reprezentantów i Senatu.