OpenAI раскрыла дополнительные детали собственного AI-ускорителя Jalapeño. Компания разработала чип совместно с Broadcom для внутренних вычислительных задач.
Jalapeño ориентирован на инференс больших языковых моделей. Архитектура также рассчитана на агентные системы искусственного интеллекта. Проект стал частью вертикальной стратегии OpenAI.
Компания пока не раскрывала полный масштаб применения нового ускорителя. Сравнение с решениями NVIDIA Blackwell породило вопросы о будущем продукта. В частности, обсуждалась возможность поставок сторонним заказчикам.
Руководитель аппаратного направления OpenAI Ричард Хо уточнил назначение Jalapeño. По его словам, ускоритель создавали прежде всего для вычислительных потребностей OpenAI. При этом компания сохраняет возможность более широкого использования.
Формально Jalapeño остается программируемым универсальным ускорителем. Поэтому его архитектура не ограничивается конкретными моделями OpenAI. Однако текущий дефицит вычислительных ресурсов меняет приоритеты компании.
OpenAI сейчас испытывает очень высокий спрос на вычислительные мощности. Поэтому внутренние задачи останутся главным направлением применения Jalapeño. Хо ожидает, что компания будет занята этим еще длительное время.
Изначально OpenAI не планировала показывать результаты тестов Jalapeño. Компания хотела рассказать о процессе создания собственного чипа. Презентация была посвящена инженерным решениям команды разработчиков.
При этом OpenAI хотела подчеркнуть универсальность нового ускорителя. Jalapeño способен работать не только с моделями самой компании. Его архитектура предполагает программируемость для различных AI-нагрузок.
Потенциальный выход на внешний рынок сталкивается с другим ограничением. Производителю потребуется обеспечить достаточные объемы поставок ускорителей. Быстро увеличить мощности контрактного производства будет непросто.
Производительность также не была главным критерием разработки Jalapeño. OpenAI уделяла особое внимание эффективности вычислений. Причина связана с ограничениями энергоснабжения современных AI-дата-центров.
Эффективность становится особенно важной при масштабировании вычислительных кластеров. Высокопроизводительные сторонние ускорители могут стоить дороже. Они также отличаются ограниченной доступностью и высоким энергопотреблением.
Кроме того, максимальная производительность не гарантирует оптимальный результат. Архитектура должна соответствовать конкретным моделям и рабочим нагрузкам. OpenAI стремится контролировать такую адаптацию самостоятельно.
Есть и дополнительный фактор, связанный с интеллектуальной собственностью. Передача проектирования специализированного ускорителя стороннему разработчику создает риски. Модели OpenAI содержат значительный объем интеллектуальной собственности.
Даже строгие соглашения о конфиденциальности не исключают риск утечки данных. Поэтому собственная аппаратная платформа дает OpenAI больший контроль. Jalapeño становится частью этого подхода к вычислительной инфраструктуре.
Пока OpenAI не объявляла о коммерческих поставках Jalapeño. Основным сценарием остается внутреннее использование ускорителей. Возможность внешнего применения компания полностью не исключает.
