В интервью Wccftech, опубликованном 18 октября, представители команды NVIDIA Vera заявили, что рост агентного ИИ возвращает спрос на однопоточную производительность процессоров. Агентный ИИ — это системы, где модель в цикле обращается к инструментам и выполняет последовательные задачи на CPU. По словам собеседников, в облачную эпоху этим параметром жертвовали ради числа ядер. Поэтому NVIDIA позиционирует Vera CPU не только как хост-узел для GPU, но и как самостоятельный продукт для стоек, целиком состоящих из процессоров.
Логику в NVIDIA объясняют так. Агент постоянно переключается между CPU и GPU, а видеоускорители остаются самым дорогим ресурсом дата-центра. Поэтому последовательная работа на CPU должна завершаться быстро, чтобы GPU не простаивал. По мнению команды Vera, чиплетные конструкции x86-процессоров, ради плотности ядер, оставили мало места для оптимизации отдельного ядра и IPC (числа инструкций за такт). Это оценка NVIDIA, а не установленный факт. Для Vera компания выбрала один монолитный вычислительный кристалл и память LPDDR5X. По её утверждению, это даёт пропускную способность между половинами кристалла 3,4 ТБ/с, втрое выше, чем у «ведущего x86-процессора». Кроме того, Vera на агентных задачах до двух раз быстрее ведущего x86-процессора и в 1,5 раза быстрее Grace. Сравнения даны без названия моделей и без независимых тестов в самом интервью.
Идея отдельных стоек не нова: Vera CPU Rack NVIDIA показала на GTC 16 марта. Он состоит из 256 жидкостно охлаждаемых процессоров Vera на платформе MGX и рассчитан на обучение с подкреплением и агентные нагрузки, которым нужно много CPU-сред для проверки результатов моделей. В интервью команда объяснила, что Grace проектировали как хост-узел для GPU, а затем компания увидела спрос на «чистые» CPU-стойки для вызовов инструментов агентами и обучения с подкреплением. Тогда же NVIDIA объявила, что семь чипов платформы Vera Rubin находятся в полноценном производстве, а партнёрские системы появятся во второй половине 2026 года. Помимо Vera CPU, в платформу входят Rubin GPU, коммутатор NVLink 6, SuperNIC ConnectX-9, DPU BlueField-4, сетевой коммутатор Spectrum-6 и процессор Groq 3 LPU.
Wccftech спросил и о том, что после запуска ИИ-агента Meta Muse появились оценки, по которым соотношение CPU и GPU может достичь 80 к 1. В NVIDIA ответили, что своей оценки этого соотношения у них нет и называть её они не намерены. По мнению команды, оно смещается в сторону CPU, и это стимулирует компанию продвигать Vera для агентных задач. По пересказу Wccftech, некоторые провайдеры «песочниц» (изолированных сред, где агент выполняет код) размещают до 400 тысяч таких сред для одного клиента.
Источники: