OpenAI представила результаты тестирования своего первого самостоятельно разработанного чипа для ИИ-инференса под названием Jalapeño. Устройство создавалось в партнёрстве с Broadcom и производится на мощностях TSMC по 3-нанометровому техпроцессу, а путь от архитектурного проектирования до готового кремния занял впечатляюще короткий срок — всего девять месяцев, что для чипа такого уровня сложности выглядит рекордным темпом разработки.
В основе Jalapeño лежит систолическая матричная архитектура в паре с высокоскоростной памятью HBM, причём чип изначально спроектирован исключительно под задачи инференса больших языковых моделей — то есть под их практическую эксплуатацию, а не под обучение с нуля, для которого по-прежнему требуются совершенно иные вычислительные профили.
Независимые тесты провела аналитическая компания SemiAnalysis в рамках собственного бенчмарка InferenceX, сравнив новинку с системами NVIDIA GB200 и GB300 на трёх моделях — GPT-OSS 120B, DeepSeek R1 670B и Kimi K2.5 объёмом в триллион параметров. Результаты получились весьма убедительными: показатель пропускной способности на ватт энергии у Jalapeño оказался в 1,5-1,9 раза выше, чем у решений NVIDIA, а сквозная задержка обработки запросов составила лишь 28-59% от аналогичного показателя конкурента.
В деталях картина выглядит так: на модели DeepSeek R1 чип OpenAI показал энергоэффективность примерно на 70% выше GB300, на Kimi K2.5 преимущество составило около 50%, а при работе с GPT-OSS 120B пиковая пропускная способность на киловатт мощности превзошла показатели GB200 почти в 1,9 раза. При этом номинальная мощность чипа заявлена на уровне 700 Вт, но в ходе тестовых нагрузок реальное энергопотребление держалось на отметке 550 Вт и ниже — заметный запас по эффективности.
Важная деталь: ни сам чип, ни готовые серверные системы на его основе не поступят в свободную продажу — Jalapeño создан исключительно для внутренних нужд OpenAI с целью снизить зависимость от закупок сторонних GPU и сократить операционные расходы на вычислительные мощности. Компания планирует развернуть первую ограниченную партию чипов до конца 2026 года с последующим постепенным расширением масштабов внедрения в течение 2027-го.
Отвечая на предположения о том, что собственный чип может со временем вытеснить сотрудничество с NVIDIA, в OpenAI однозначно опровергли подобные слухи, подчеркнув, что разработка Jalapeño не нацелена на замену партнёрства с NVIDIA — компания остаётся ключевым поставщиком, и OpenAI намерена и впредь придерживаться стратегии работы с несколькими производителями вычислительного железа одновременно, а не ставить всё на одного разработчика.
Проектом руководит Ричард Хо, глава аппаратного направления OpenAI и бывший ведущий инженер команды Google Cloud TPU, а в самом процессе проектирования чипа активное участие приняли собственные большие языковые модели компании, которые помогали ускорять и оптимизировать этапы разработки архитектуры. На данный момент второе поколение Jalapeño уже находится на поздней стадии разработки и должно пройти этап изготовления кристалла в течение ближайших месяцев, а концептуальное проектирование третьего поколения чипа уже стартовало параллельно.
