Для запуска локального искусственного интеллекта пользователи часто собирают дорогие мощные ПК. Однако энтузиасты нашли альтернативу в шестилетней PlayStation 5. Один из пользователей исследовал архитектуру консоли и адаптировал её для локальных ИИ-задач. Ему удалось запустить языковую модель Qwen 3.8 27B. Скорость генерации достигла 20 токенов в секунду при 2-битном квантовании.
Аппаратная платформа PS5 уже заметно уступает современным процессорам и видеокартам. Консоль использует процессор AMD с архитектурой Zen 2. Графический ускоритель построен на архитектуре RDNA 2. Его производительность составляет 10,3 TFLOPS. Однако у консоли сохранилось важное преимущество — высокая пропускная способность памяти.
Sony использовала в PS5 унифицированную память GDDR6 с 256-битной шиной. Такая конфигурация обеспечивает пропускную способность 448 ГБ/с. Этот показатель остаётся конкурентоспособным даже спустя шесть лет после выхода консоли. Именно скорость обмена данными помогает системе справляться с локальными ИИ-нагрузками.
Для сравнения, Apple M4 Max обеспечивает пропускную способность памяти до 410 ГБ/с. У Apple M5 Pro этот показатель составляет 307 ГБ/с. NVIDIA DGX Spark с памятью LPDDR5X достигает 273 ГБ/с. Аналогичный уровень указан для RTX Spark. Система AMD Ryzen AI Halo использует память LPDDR5X-8000 с пропускной способностью 256 ГБ/с.
Таким образом, показатель PS5 превосходит приведённые значения примерно на 50–75%. Ближе всего к консоли среди перечисленных решений находится Apple M4 Max. Однако этот процессор относится к более высокому ценовому сегменту. Пример PS5 показывает, насколько важна пропускная способность памяти для локальных ИИ-моделей.
При этом результат не означает, что консоль превосходит современные ускорители по общей производительности. Успешный запуск также зависит от квантования модели и особенностей программной реализации. Тем не менее PS5 демонстрирует, что даже относительно старая игровая платформа может найти применение в задачах локального искусственного интеллекта.