В сфере искусственного интеллекта происходит очередной прорыв в сторону децентрализации: компании MediaTek и NVIDIA официально объявили о начале продаж DGX Spark — первого персонального суперкомпьютера для ИИ. Этот компактный настольный вычислительный центр, анонсированный ранее в этом году, призван сделать разработку и тонкую настройку крупномасштабных моделей ИИ доступной для индивидуальных разработчиков и небольших команд.
Ключевым элементом DGX Spark является суперчип GB10 Grace Blackwell. Над его созданием тесно сотрудничали MediaTek и NVIDIA. MediaTek использовала свой обширный опыт в разработке энергоэффективных и высокопроизводительных систем, применив его к дизайну 20-ядерного процессора Arm Grace, подсистемы памяти и высокоскоростных интерфейсов. В сочетании с графическим процессором последнего поколения Blackwell и 128 ГБ унифицированной памяти суперчип GB10 обеспечивает пиковую производительность до 1 PFLOP (квадриллион операций в секунду) для ускорения обучения моделей и инференса в реальном времени.
Эта мощная конфигурация позволяет разработчикам работать с крупными моделями ИИ, содержащими до 200 миллиардов параметров. При необходимости систему можно масштабировать: благодаря встроенной сетевой технологии ConnectX-7 два DGX Spark могут быть объединены, чтобы работать с моделями объемом до 405 миллиардов параметров.
Самое впечатляющее, что NVIDIA удалось уместить всю эту мощь в настольный корпус. DGX Spark достаточно компактен, чтобы легко разместиться на столе, и, что критически важно, достаточно энергоэффективен для подключения к стандартной бытовой электросети.
Винс Ху, корпоративный вице-президент группы центров обработки данных MediaTek, подчеркнул стратегическую важность новинки: «DGX Spark ознаменует новую эру прототипирования ИИ и продвинет нашу миссию по повышению доступности великих технологий от периферии до облака, одновременно решая проблемы производительности и энергопотребления». По его словам, суперчип GB10 объединяет опыт MediaTek в области высокопроизводительных вычислений для дата-центров с технологиями энергосбережения для потребительских устройств, что позволило создать решение, специально оптимизированное для рабочих нагрузок ИИ.
Это сотрудничество является продолжением партнерства MediaTek и NVIDIA, целью которого является внедрение передовых возможностей ИИ в различных областях: от гипермасштабных центров обработки данных и Интернета вещей до программно-определяемых автомобилей.
Об авторе
