AMD раскрыла впечатляющие результаты внутренних исследований на техническом семинаре. Речь идёт об архитектуре 3D DRAM на основе гибридного соединения. Новая технология способна поднять энергоэффективность до 17 раз относительно HBM. Это означает колоссальный скачок в эффективности передачи данных при том же энергопотреблении.
Классическая память HBM использует сквозные кремниевые соединения TSV для вертикальной укладки чипов. Однако сами кристаллы по-прежнему соединяются через микровыступы. Крошечные паяные шарики создают физический зазор при соединении элементов. Этот зазор приходится заполнять жидким пластиковым материалом. Такой подход порождает паразитное сопротивление в структуре соединения. Плотность соединений при этом остаётся ограниченной технологией пайки. Отвод тепла тоже заметно затрудняется из-за подобной конструкции.
Предложенная AMD технология гибридного соединения полностью меняет этот подход. Чипы DRAM размещаются напрямую поверх процессора или ускорителя XPU. Такая конструкция устраняет узкое место традиционного интерфейса PHY между чипами.
С технологической точки зрения здесь отказались от микровыступов полностью. Пластины полируются до атомарной степени плоскости поверхности. При нагреве медь на поверхности одного чипа напрямую сплавляется с медью другого. Этот процесс называется соединением по методу Cu-Cu.
Стоит отметить, что преимущества 3D DRAM выходят далеко за рамки энергоэффективности. Размещение памяти прямо над вычислительным чипом резко сокращает физическое расстояние передачи данных. В ИИ-ускорителях именно перемещение данных потребляет огромное количество энергии. Сокращение дистанции напрямую снижает общее энергопотребление системы.
Гибридное соединение также обеспечивает заметно более высокую плотность межсоединений. Это позволяет получить большую пропускную способность данных в меньшем физическом объёме.
Несмотря на многообещающие перспективы технологии, до массового производства ещё далеко. Главным препятствием на пути коммерциализации остаётся именно система охлаждения. На этапе термической обработки при гибридном соединении высокая температура наносит урон. Ячейки DRAM теряют способность удерживать заряд, что называют деградацией обновления памяти. Размещение горячей памяти прямо над не менее горячим вычислительным чипом создаёт проблему отвода тепла.
Именно поэтому вопрос сочетания эффективного соединения со стабильностью работы DRAM остаётся открытым. Эту задачу предстоит решить как самой AMD, так и всей отрасли в целом.
Новая технология стала логичным продолжением прежней разработки компании — 3D V-Cache. От вертикальной укладки кэша SRAM на процессорах AMD переходит к укладке DRAM на ускорителях XPU. Компания фактически использует вертикальное пространство для прорыва в производительности и энергоэффективности чипов.
Можно с уверенностью предположить, что после решения проблемы теплоотвода технология 3D DRAM полностью изменит архитектуру памяти будущих ИИ-чипов и процессоров для высокопроизводительных вычислений.
