Многие пользователи покупают Mac Mini именно для задач искусственного интеллекта. Устройство способно запускать локальные большие языковые модели у себя. Владельцы топовых компьютеров Mac могут объединять их в кластеры. Такие кластеры способны обрабатывать модели с 1.6 триллиона параметров одновременно.
На внутренней конференции Jamf для IT-специалистов Apple раскрыла интересную статистику. Компания представила данные о возможностях линейки продуктов для локального ИИ. Устройства iPhone и iPad способны запускать модели до 14 миллиардов параметров. Компьютер Mac Mini справляется с моделями до 70 миллиардов параметров.
Ноутбуки MacBook Pro поднимают планку до 120 миллиардов параметров модели. Рабочая станция Mac Studio способна обрабатывать модели на 480 миллиардов параметров.
Объединение четырех устройств Mac Studio в кластер дает впечатляющий результат. Такая связка способна запустить модель на 1.6 триллиона параметров локально. Именно такой размер имеет модель DeepSeek V4 Pro на рынке. Получается, что всего четыре компьютера способны заменить огромный серверный кластер.
Обычно для запуска подобных моделей требуются серверы стоимостью в миллионы. Вместо этого достаточно всего четырех рабочих станций Apple для задачи.
Ключевую роль здесь играет фирменная архитектура памяти компьютеров Apple. Объем памяти напрямую определяет максимальный размер запускаемой модели искусственного интеллекта. Компания уже несколько лет использует технологию единой памяти в чипах. Процессор и видеочип получают полноценный общий доступ к памяти системы. Именно это преимущество становится ключевым фактором для локального запуска ИИ.
Такое преимущество пока недоступно для процессоров архитектуры x86 на рынке. Даже компьютеры на этой платформе могут получить 128 гигабайт памяти. Компания AMD даже довела этот показатель до 192 гигабайт памяти. Однако в задачах локального искусственного интеллекта преимущество остается за Mac.
Причина кроется не только в объеме, но и в интеграции памяти. Процессоры Apple серии A и M используют единую упаковку компонентов. Такое решение обеспечивает исключительно высокую пропускную способность памяти системы. Топовые процессоры класса Ultra достигают показателя 1.2 терабайта в секунду.
Для сравнения, компьютеры x86 с памятью LPDDR5X-8000 показывают куда меньшую скорость. Даже при 256-битной шине пропускная способность составляет лишь 256 гигабайт в секунду. Разница между платформами оказывается поистине огромной для подобных задач. Эффективность запуска моделей искусственного интеллекта здесь совершенно несопоставима между платформами.
Единственным заметным прорывом в лагере x86 стали процессоры AMD Ryzen AI Max. Речь идет о линейке чипов, начавшейся с поколения Strix Halo. Эти процессоры также используют общую память для CPU и GPU. Устройства способны запускать модели на уровне сотен миллиардов параметров локально. Впрочем, эффективность таких решений пока уступает компьютерам Apple на рынке.
Следующим потенциальным прорывом может стать линейка продуктов NVIDIA RTX Spark. Решение объединяет графическое ядро уровня RTX 5070 прямо внутри процессора. Однако архитектура процессора в этом решении относится к лагерю ARM. Многое здесь будет зависеть от оптимизации версии Windows для ARM компанией Microsoft.
