OpenAI та Broadcom представляють Jalapeño — перший спеціалізований AI-чіп для інференції LLM

OpenAI та Broadcom сьогодні представили Jalapeño — перший Процесор Інтелекту OpenAI, розроблений для виведення великих мовних моделей. Чіп було передано генеральному директору OpenAI Сему Альтману та президенту Грегу Брокману президентом і генеральним директором Broadcom Гоком Таном та президентом Чарлі Кавасом. Прискорювач є першим AI-чіпом у багатопоколінній обчислювальній платформі, яку компанії будують разом, щоб зробити передовий ШІ швидшим, надійнішим і доступнішим. OpenAI спроектувала чіп з нуля на основі свого розуміння основ LLM, а Broadcom і Celestica допомагають індустріалізувати платформу через реалізацію чіпа, інтеграцію плат і стійкових систем, високопродуктивний мережевий зв'язок і масштабовані виробничі системи.

OpenAI та Broadcom передають чіп Jalapeño керівництву компанії

Передача чіпа є важливим кроком у стратегії OpenAI зі створення повного стеку за її моделями та продуктами. Jalapeño було розроблено у співпраці між OpenAI, Broadcom і Celestica, причому кожен партнер вніс спеціалізований досвід у платформу.

OpenAI спроектувала архітектуру чіпа, керуючись своєю дорожньою картою моделей, ядер, систем обслуговування та потреб продуктів. Broadcom зробила внесок у реалізацію чіпа та мережеві технології, включаючи кремній Tomahawk, щоб вивести платформу на масштабне виробництво. Celestica надала досвід у інтеграції плат, стійкових систем та масштабованих виробничих систем.

Архітектура Jalapeño оптимізована для робочих навантажень виведення LLM

Jalapeño спроектовано з гнучкістю для роботи з усіма LLM, керуючись розумінням OpenAI потреб виведення поточних і майбутніх моделей ШІ в галузі. Інженерні зразки вже виконують робочі навантаження ML у лабораторії на цільовій частоті та потужності виробництва, зокрема GPT-5.3-Codex-Spark.

Ранні тестування показують, що Jalapeño забезпечить значно кращу продуктивність на ват, ніж поточний найкращий рівень. Архітектура зменшує переміщення даних і балансує обчислювальні, пам'ятні та мережеві ресурси, досягаючи фактичного використання, набагато ближчого до теоретичної пікової продуктивності. Детальний технічний звіт буде представлено найближчими місяцями.

«Jalapeño було спроектовано з нуля для виведення LLM, використовуючи детальні напрацювання з нашої тісної співпраці з дослідниками OpenAI», — сказав Річард Хо, який очолює апаратну програму OpenAI. «Ми оптимізували архітектуру навколо ядер, переміщення пам'яті, мережевого зв'язку та шаблонів обслуговування, які є найважливішими для передових моделей ШІ. На основі ранніх тестувань Jalapeño ефективно виконуватиме наші найважливіші робочі навантаження близько до теоретичних меж апаратного забезпечення».

Чіп є проектом «з чистого аркуша» для сучасного виведення LLM, а не універсальним прискорювачем, адаптованим з попередніх робочих навантажень ШІ. Він базується на системах, які OpenAI запускає щодня в ChatGPT, Codex, API та майбутніх агентних продуктах. Мета — об'єднати потужність і пропускну здатність сучасних провідних AI-прискорювачів із затримкою, ближчою до найшвидших спеціалізованих систем виведення.

Розробку завершено за дев'ять місяців із використанням AI-допоміжного дизайну

Jalapeño було спільно розроблено від початкового проекту до виробничого tape-out всього за дев'ять місяців. Компанії вважають, що це найшвидший цикл розробки ASIC, коли-небудь досягнутий у високопродуктивних передових напівпровідниках.

Прискорені терміни відображають глибоку спільну розробку програмного та апаратного забезпечення з інженерними командами OpenAI, досвід реалізації кремнію Broadcom та використання моделей OpenAI для прискорення частин процесу проектування та оптимізації. Ті самі моделі, які надаються користувачам, допомагають покращити інфраструктуру, що використовується для запуску майбутніх моделей.

Запланована багатопоколінна обчислювальна платформа з Broadcom і Celestica

Jalapeño є першим кроком у багатопоколінній обчислювальній платформі, яка поєднує прискорювачі, розроблені OpenAI, з реалізацією кремнію Broadcom, мережевими технологіями та технологіями підключення, а також досвідом Celestica у платах, стійках і системах.

«Світ рухається до економіки, що базується на обчисленнях», — сказав Грег Брокман, президент і співзасновник OpenAI. «Jalapeño є частиною нашої довгострокової стратегії повного стеку інфраструктури, щоб зробити обчислення більш доступними, що призведе до ШІ, який буде швидшим, надійнішим, доступнішим для людей і бізнесу, і може використовуватися для вирішення важливіших проблем. Проектуючи більше частин стеку самостійно, ми можемо надавати більше інтелекту з більшою ефективністю та продовжувати просувати передовий ШІ до ширшого доступу».

Розгортання заплановано до кінця 2026 року

Багатопоколінна обчислювальна платформа призначена для початкового розгортання до кінця 2026 року та розширення в наступні роки. OpenAI працює через весь стек, включаючи архітектуру чіпа, ядра, системи пам'яті, мережевий зв'язок, планування, системи розгортання та досвід продукту, причому кожен рівень оптимізовано для того, щоб зробити моделі швидшими, надійнішими та доступнішими для користувачів.

Поширені запитання

Що таке Jalapeño і коли його представили?

Jalapeño — це перший Процесор Інтелекту OpenAI, AI-прискорювач, розроблений спеціально для виведення великих мовних моделей. OpenAI та Broadcom представили чіп сьогодні.

Скільки часу зайняла розробка Jalapeño?

Jalapeño було спільно розроблено від початкового проекту до виробничого tape-out за дев'ять місяців. Компанії вважають, що це найшвидший цикл розробки ASIC, коли-небудь досягнутий у високопродуктивних передових напівпровідниках.

Коли буде розгорнуто Jalapeño?

Багатопоколінна обчислювальна платформа з Jalapeño призначена для початкового розгортання до кінця 2026 року, з планами розширення в наступні роки.