На рынок искусственного интеллекта надвигается новый игрок, готовый потеснить признанных лидеров. Сегодня MLCommons опубликовала свежие результаты тестов MLPerf Inference v5.1, в которых системы от Intel, построенные на базе процессоров Intel Xeon и видеокарт Intel Arc Pro B60, продемонстрировали невероятную производительность и эффективность в задачах, связанных с ИИ.
Особое внимание привлекли результаты в тесте Llama 8B. Здесь видеокарта Intel Arc Pro B60 показала до 1.25x превосходство по соотношению «производительность к стоимости» по сравнению с NVIDIA RTX Pro 6000 и до 4x — по сравнению с NVIDIA L40S. Эти цифры говорят о том, что системы на базе Intel могут предложить мощное и доступное решение для профессионалов, работающих с ИИ на рабочих станциях и периферийных устройствах.
Лиза Пирс, вице-президент Intel, подчеркнула, что эти результаты подтверждают правильность стратегии компании. По её словам, новые видеокарты Arc Pro B-Series с оптимизированным программным обеспечением позволят разработчикам и предприятиям создавать и внедрять ИИ-приложения, используя мощные и простые в настройке рабочие станции, которые доступны по цене и легко масштабируются.
До недавнего времени у профессионалов было не так много вариантов, когда им требовалась высокая производительность для ИИ-моделей, но они хотели избежать высоких затрат на подписки и сохранить конфиденциальность данных. Новые системы Intel, получившие кодовое название Project Battlematrix, призваны заполнить эту нишу. Они предлагают готовое решение с валидированным аппаратным и программным обеспечением.
Компания также позаботилась об удобстве для разработчиков. Новое контейнерное решение для Linux-систем упрощает развёртывание и использование, а также обеспечивает высокую производительность и масштабирование с поддержкой нескольких видеокарт, а также всех важных для корпоративного сегмента функций: от ECC и SRIOV до удалённых обновлений прошивки.
Несмотря на растущую роль графических ускорителей, процессоры остаются сердцем любой ИИ-системы. В данном случае, процессоры Intel Xeon выступают в роли «дирижёра», который управляет всей системой, от предварительной обработки данных до координации рабочих процессов. Постоянные улучшения, которые Intel вносит в свои процессоры, позволяют им оставаться лучшим выбором для управления нагрузками, связанными с ИИ. Более того, Intel остаётся единственным производителем, который предоставляет результаты тестов серверных процессоров для MLPerf, что подчёркивает их лидерство в этой области.