Протокол CXL несколько лет привлекает производителей памяти. Его создавали для высокоскоростного соединения процессоров и ускорителей. Интерфейс может связывать CPU, GPU, FPGA и другие вычислительные компоненты.
CXL обеспечивает высокую пропускную способность и согласованность памяти. Это особенно важно для современных гетерогенных вычислительных систем. Технология также помогает масштабировать доступный объем памяти.
Ранее отрасль рассматривала CXL как возможного преемника HBM. Такой сценарий мог снизить зависимость AI-систем от дорогой HBM-памяти. Однако Intel теперь оценивает перспективы CXL более сдержанно.
Как сообщает TrendForce, Intel считает CXL скорее дополнительным уровнем памяти. Компания не рассматривает его как прямую замену HBM. Эти технологии, вероятно, продолжат работать совместно.
HBM остается верхним уровнем памяти для современных AI-ускорителей. Она обеспечивает высокую пропускную способность, но отличается высокой стоимостью. Поэтому производители ищут более доступные варианты расширения памяти.
Одним из таких направлений остается CXL. Производители рассчитывают снизить нагрузку на HBM без существенной потери производительности. Такой подход особенно актуален для крупных AI-серверов.
Vidhya Thyagarajan руководит архитектурой однокристальных AI-систем Intel. Она отметила ограниченное число убедительных сценариев применения CXL. При этом между CXL и HBM сохраняется значительный разрыв пропускной способности.
Эту оценку также разделяет OpenAI. Организация рассматривает CXL преимущественно для редко используемых данных. Речь идет о неактивной части крупных AI-моделей.
Thyagarajan считает CXL более подходящим для второго уровня памяти. При передаче данных между GPU CXL заметно уступает HBM. Поэтому полноценная замена высокоскоростной памяти пока выглядит малореалистично.
Похожую стратегию применяют Samsung и SK hynix. Обе компании продолжают развивать продукты на основе архитектуры CXL. Однако они рассматривают технологию частью многоуровневой системы памяти.
В такой конфигурации CXL может располагаться между DRAM и SSD. Он способен получать данные с накопителя заранее. Затем система передает их в более быструю DRAM.
Таким образом, CXL может выполнять роль промежуточного звена. HBM при этом сохраняет предназначение для наиболее интенсивных операций. Развитие AI-инфраструктуры постепенно формирует несколько уровней памяти.
Подобная архитектура позволяет распределять данные согласно требованиям нагрузки. Она также дает возможность оптимизировать стоимость серверных конфигураций. При этом CXL не отменяет потребность в высокоскоростной HBM.
