Вчера Arm объявила о значительном прогрессе в рамках своей инициативы Total Design.
Программа, запущенная год назад, направлена на ускорение разработки заказной кремниевой продукции для дата-центров путем поощрения сотрудничества между партнерами отрасли.
Экосистема теперь насчитывает около 30 участвующих компаний, включая недавних участников, таких как Alcor Micro, Egis, PUF Security и SEMIFIVE.
Примером такого сотрудничества является разработка платформы чиплетов AI CPU, осуществляемая Arm, Samsung Foundry, ADTechnology и Rebellions.
Это партнерство направлено на создание решения для облачных вычислений, высокопроизводительных вычислений (HPC) и задач искусственного интеллекта/машинного обучения (AI/ML), объединяя AI-ускоритель Rebellions с вычислительным чиплетом ADTechnology, реализованным с использованием 2-нм технологии Gate-All-Around (GAA) FET от Samsung Foundry.
Ожидается, что платформа обеспечит значительные преимущества в эффективности для задач генеративного искусственного интеллекта, по оценкам, она покажет 2-3-кратное улучшение по сравнению со стандартным дизайном CPU для больших языковых моделей (LLM), таких как Llama3.1 с 405 миллиардами параметров.
Подход Arm подчеркивает важность вычислительной мощности CPU в поддержке полного стека AI, включая предварительную обработку данных, оркестровку и передовые технологии, такие как Retrieval-augmented Generation (RAG).
Compute Subsystems (CSS) компании разработаны для удовлетворения этих требований, предоставляя основу для партнеров по созданию разнообразных решений на основе чиплетов.
Несколько компаний, включая Alcor Micro и Alphawave, уже объявили о планах разработки чиплетов на базе CSS для различных приложений AI и высокопроизводительных вычислений.
Инициатива также фокусируется на готовности программного обеспечения, гарантируя совместимость основных фреймворков и операционных систем с системами на базе Arm.
Недавние усилия включают в себя внедрение технологии Arm Kleidi, которая оптимизирует выводы на базе CPU для проектов с открытым исходным кодом, таких как PyTorch и Llama.cpp.
Примечательно, что, как утверждает Google, большинство задач AI выполняются на CPU, поэтому создание наиболее эффективных и производительных CPU для AI имеет большой смысл.
Это важный шаг в развитии технологий искусственного интеллекта, так как он демонстрирует стремление Arm к лидерству в области высокопроизводительных вычислений и AI.
Инициатива Total Design обещает революционизировать подход к разработке систем искусственного интеллекта, предлагая более мощные, эффективные и гибкие решения.