Procesor został opracowany we współpracy z firmą Broadcom. Jak poinformowało OpenAI we wpisie na blogu, ma on wydajniej obsługiwać potrzeby obliczeniowe ChatGPT oraz narzędzia programistycznego Codex.
"Choć OpenAI wciąż mierzy ostateczne osiągi, wczesne testy pokazują, że Jalapeño zapewni znacznie lepszy stosunek wydajności do zużycia energii (wydajność na wat) niż obecne, najnowocześniejsze rozwiązania na rynku" - oświadczyła firma.
Giganci chcą mieć własne chipy AI
OpenAI i Broadcom ogłosiły plany stworzenia chipów zdolnych zasilić infrastrukturę obliczeniową o mocy 10 gigawatów już w zeszłym roku. Jednak dopiero w tę środę zaprezentowały pierwszy procesor będący owocem tej współpracy.
Giganci technologiczni, tacy jak Google czy Amazon, coraz częściej skłaniają się ku projektowaniu własnych chipów AI. Dedykowane procesory pozwalają firmom lepiej dopasować wydajność obliczeniową do ich własnych modeli oraz zmniejszyć zależność od dotychczasowych producentów chipów, takich jak Nvidia. OpenAI podkreśliło, że Jalapeño został zaprojektowany specjalnie pod kątem najnowszych dużych modeli językowych, zamiast być układem "ogólnego przeznaczenia".
"Niki nie chce być zależny od Nvidii. Firmy próbują dywersyfikować swoje zaplecze sprzętowe" - powiedział w listopadzie ubiegłego roku stacji CNN Ben Barringer, dyrektor ds. badań nad technologiami globalnymi w firmie inwestycyjnej Quilter Cheviot.
Ogłoszenie to zbiega się w czasie z przygotowaniami OpenAI do pierwszej oferty publicznej (IPO), która mogłaby wycenić spółkę na bilion dolarów - co nakłada na nią większą presję na udowodnienie, że potrafi generować przychody adekwatne do tej wyceny.
To właśnie segment infrastruktury AI jest obecnie istotnym źródłem przychodów sektora. Producent chipów Nvidia stał się najbardziej wartościową firmą na świecie głównie dlatego, że jego procesory i systemy stały się kluczowymi komponentami centrów danych napędzających modele AI.
Rosnące zapotrzebowanie na moc obliczeniową
Ponadto firmy z sektora sztucznej inteligencji ścigają się, by zabezpieczyć zasoby obliczeniowe i energetyczne niezbędne do zasilania ich coraz bardziej zaawansowanych usług. Obecnie obejmują one zarówno proste zapytania do chatbotów, jak i stale działających agentów AI. OpenAI już wcześniej wspominało o konieczności budowy "ogromnej ilości infrastruktury AI", aby utrzymać w ryzach swoje koszty operacyjne - przypomina CNN.
Z perspektywy konsumentów OpenAI przedstawia nowy procesor jako sposób na obniżenie kosztów działania modeli. Dzięki temu jej usługi mają stać się bardziej dostępne.
"Projektując większą część całego ekosystemu technologicznego (stacku) we własnym zakresie, możemy dostarczać sztuczną inteligencję z większą wydajnością i stale dążyć do zapewnienia szerszego dostępu do zaawansowanego AI" - napisał na blogu Greg Brockman, współzałożyciel i prezes OpenAI.