В то время как гиганты индустрии соревнуются в строительстве циклопических дата-центров, небольшая технологическая компания Acrab решила пойти принципиально иным путём и представила своё видение того, как искусственный интеллект должен поселиться в домах и офисах обычных людей. Её дебютный продукт Agent Box в связке с процессором GELIX 1 — это попытка создать персональный ИИ-центр, который не просто отвечает на запросы, а по-настоящему живёт рядом с пользователем, запоминая контекст, координируя подключённые устройства и сохраняя полную конфиденциальность данных. Идея проста и дерзка одновременно: забрать модели масштаба ста миллиардов параметров из облачных ферм, загнать их в настольную коробку и тем самым навсегда избавить человека от ощущения, что каждая секунда общения с нейросетью опустошает его цифровой кошелёк.
До сих пор запуск столь крупных моделей оставался исключительной привилегией облачной инфраструктуры, но созданный на пяти-нанометровом техпроцессе чип GELIX 1 бросает этому статус-кво вызов. В его основе лежит двадцатиядерный Arm-процессор, многоядерный нейронный ускоритель и унифицированная память с пропускной способностью 273 гигабайта в секунду, причём центральный процессор, графика и NPU работают не как разрозненные компоненты, а как единое целое, спроектированное специально для агентных рабочих нагрузок. Результат впечатляет: в тестах компании чип продемонстрировал скорость предзаполнения в 1416,8 токенов в секунду на модели Gemma 26B с сорокатысячным кэшем и входной последовательностью в десять тысяч токенов, что оказалось в семь с половиной раз быстрее, чем у Mac Mini на M4 Pro с его 188,9 токенов в секунду на той же задаче. Это означает практически мгновенное начало ответа даже при длинных промптах и огромных контекстных окнах, что критически важно для систем, работающих в режиме постоянной готовности.
Сам Agent Box задуман как устройство, которое не стыдно поставить на рабочий стол или на полку в гостиной, и которое переворачивает саму концепцию персональных вычислений. Если последние десятилетия прогресс измерялся гигагерцами, дюймами и гигабайтами, то Agent Box — это первая система, спроектированная не для запуска программ, а для размещения интеллекта. Внутри бокса трудятся локальные языковые и визуальные модели, механизмы мультимодального взаимодействия и оркестратор, способный разбивать сложные цели на последовательности шагов и координировать действия между агентами и подключёнными устройствами. Все пользовательские данные и воспоминания хранятся исключительно локально, и система со временем становится лишь умнее и персонализированнее по мере накопления контекста, при этом работая бесшумно и потребляя минимум энергии.
Генеральный директор Acrab доктор Кен Пуа подчеркнул, что если генеративный ИИ помогал людям находить ответы, то агентный ИИ призван помогать доводить дела до конца, а запуск моделей уровня ста миллиардов параметров на устройстве, помещающемся на письменном столе, представляет собой серьёзнейшую вычислительную задачу, под которую и создавался GELIX 1. Замена облачных подписок с их бесконечной токен-тревожностью на единоразовое вложение в локальное устройство переводит искусственный интеллект из разряда эпизодических инструментов в категорию вездесущих ассистентов, вплетённых в повседневную жизнь и работу.
Помимо самого чипа, Acrab выстроила полный стек программного обеспечения, включающий оптимизированную среду выполнения, инструментарий для разработчиков, операционную систему с агентными возможностями и эталонные дизайны, позволяющие создавать устройства, понимающие контекст и координирующие действия в реальном мире. Agent Box служит первой демонстрацией более широких амбиций компании по созданию горизонтальной вычислительной платформы для агентного ИИ, которая в будущем может найти применение в системах хранения данных с ИИ, персональных компьютерах нового поколения, умных автомобилях, промышленных и сервисных роботах. Облачные ресурсы при этом никуда не исчезают, а используются выборочно для задач, которые действительно требуют масштаба, позволяя разработчикам гибко выбирать баланс между локальным и удалённым исполнением.
