Рынок оперативной памяти отреагировал заметным снижением котировок после того, как компания Google представила новую технологию TurboQuant, способную радикально изменить требования к памяти в задачах искусственного интеллекта. За последние пять дней акции ключевых игроков отрасли продемонстрировали ощутимое падение: бумаги Micron Technology просели почти на 20%, тогда как южнокорейские гиганты SK Hynix и Samsung Electronics потеряли около 6% и 5% соответственно.
Причиной такой реакции стал анонс TurboQuant — алгоритма продвинутой квантизации, который, по заявлениям разработчиков, способен сократить потребление памяти моделями искусственного интеллекта до шести раз и одновременно ускорить инференс до восьми раз. Речь идет прежде всего о больших языковых моделях и системах векторного поиска, где ключевым ограничением традиционно выступает объем и скорость работы с памятью.
В основе TurboQuant лежит комбинация двух новых подходов. Первый, PolarQuant, переосмысливает представление данных, используя полярные координаты для снижения избыточности и уменьшения нагрузки на память. Второй компонент, Quantized Johnson-Lindenstrauss, представляет собой однобитный механизм контроля ошибок, позволяющий сохранять точность при агрессивном сжатии. В результате технология способна уменьшать размер ключевого кэша до трех бит без необходимости дополнительного дообучения моделей.
Если заявленные характеристики подтвердятся на практике, TurboQuant может существенно снизить зависимость индустрии ИИ от высокоскоростной DRAM, что и вызвало столь резкую реакцию инвесторов. Новая технология фактически предлагает альтернативный путь масштабирования вычислений — за счет оптимизации алгоритмов, а не увеличения аппаратных ресурсов, что потенциально меняет баланс сил на рынке памяти.
Об авторе
