Qualcomm и AMD, по данным отраслевых источников, рассматривают возможность использования памяти формата SOCAMM2 в будущих продуктах, ориентированных на задачи искусственного интеллекта. Такой шаг призван увеличить как пропускную способность, так и доступный объём памяти, что становится критически важным для современных ИИ-систем, работающих с крупными моделями и высокими требованиями к скорости доступа к данным. В качестве ориентира компании, по сути, берут подход NVIDIA, реализованный в процессоре Vera, где используется LPDDR5X-память в форм-факторе SOCAMM с пропускной способностью до 1,2 ТБ/с и поддержкой объёма до 1,5 ТБ.
Ключевая идея SOCAMM заключается в размещении быстрой и достаточно ёмкой памяти максимально близко к вычислительным блокам. В ИИ-платформах она может выступать в роли промежуточного высокоскоростного пула, дополняя массивы HBM, установленные на самих ускорителях. Это позволяет хранить целые модели непосредственно в оперативной памяти системы и значительно сокращает обращения к более медленным SSD-накопителям, снижая задержки и повышая общую эффективность обработки.
В решениях NVIDIA модули SOCAMM располагаются вокруг центрального процессора, и ожидается, что Qualcomm и AMD могут пойти по схожему пути. В случае AMD кандидатами на подобную интеграцию называют связку ускорителей Instinct MI и серверных процессоров EPYC, хотя не исключено и появление принципиально новой платформы. Qualcomm, в свою очередь, уже располагает ИИ-ускорителями семейства AI200 и AI250, где на одной плате используется до 768 ГБ LPDDR5. Добавление поддержки SOCAMM позволило бы отказаться от жёстко распаянных чипов памяти в пользу стандартизированных модулей.
Такой модульный подход открывает производителям систем больше гибкости. Конфигурации с разным объёмом памяти можно будет создавать за счёт установки или удаления SOCAMM-модулей, без сложных доработок печатных плат и изменений в базовом дизайне. Если планы Qualcomm и AMD подтвердятся, SOCAMM2 может стать важным элементом следующего поколения ИИ-платформ, где масштабируемость памяти будет играть не меньшую роль, чем вычислительная мощность.
Об авторе
