До недавнего времени разработка и тонкая настройка по-настоящему больших моделей искусственного интеллекта (ИИ) была привилегией, доступной лишь крупным исследовательским центрам с огромными бюджетами на облачные вычисления и специализированное оборудование. Компании MAINGEAR, известный производитель кастомных ПК, и Phison Electronics, лидер в сфере контроллеров флеш-памяти, решили навсегда изменить эту ситуацию.
Они анонсировали совместный пакет aiDAPTIV+ для рабочих станций MAINGEAR Pro RS и Pro WS. Суть этого инновационного решения в том, чтобы сделать высокопроизводительную тренировку и логический вывод ИИ-моделей доступной прямо на рабочем месте (on-prem), используя при этом мейнстримовые, широко распространенные графические процессоры (GPU).
Прощай, Дорогое Облако: ИИ в Офисе
Сегодня команды разработчиков, работающих с ИИ, сталкиваются с двумя главными проблемами: непредсказуемые и постоянно растущие расходы на облачные сервисы, а также угроза конфиденциальности из-за необходимости загружать чувствительные данные на сторонние серверы.
Как выразился Уоллес Сантос, генеральный директор MAINGEAR: «Для локального ИИ-обучения не должна требоваться исследовательская лаборатория.»
Пакет aiDAPTIV+ решает эту проблему элегантно. Он объединяет мощь готовых к корпоративному использованию рабочих станций MAINGEAR с интеллектуальной технологией SSD-кэширования aiDAPTIV+ от Phison. Этот механизм по сути расширяет эффективный объем видеопамяти (VRAM). Теперь разработчики могут работать с более крупными моделями и более длинными контекстами, не переплачивая за экзотическое «железо».
Как Это Работает и Что Дает
Благодаря aiDAPTIV+, разработчики получают возможность быстро итерировать рабочие нагрузки, сохраняя все интеллектуальную собственность и чувствительные наборы данных в рамках корпоративной сети. Это обеспечивает полную конфиденциальность и предсказуемые затраты на владение.
Технология позволяет проводить полную параметрическую тонкую настройку (full-parameter fine-tuning) моделей класса до 16 миллиардов параметров на локальной машине, а для фоновых или пакетных задач — даже с большими моделями. При этом вывод (инференс) остается быстрым для моделей среднего размера. Умное использование высокопроизводительного накопителя в качестве расширенного VRAM помогает сгладить пиковые нагрузки при многоступенчатых процессах разработки.
Майкл Ву, генеральный директор Phison US, подчеркнул: «aiDAPTIV+ помогает разблокировать большие модели без необходимости в таком количестве GPU, как при традиционном обучении, делая высокопараметрическое обучение доступным более широкой аудитории.»
Пакет aiDAPTIV+ предлагается для рабочих станций MAINGEAR Pro RS и Pro WS и совместим с широким спектром процессоров от Intel Core до AMD Threadripper. Это решение поставляется предварительно проверенным и готовым к развертыванию, с возможностью дальнейшего наращивания памяти, хранилища и GPU-мощностей.
Все желающие могут ознакомиться с живыми демонстрациями рабочих станций MAINGEAR с пакетом aiDAPTIV+ на стенде Phison во время выставки NVIDIA GTC в Вашингтоне, округ Колумбия. Для получения подробной информации и индивидуальной настройки системы клиенты могут воспользоваться конфигуратором на сайте MAINGEAR или обратиться к специалистам компании.
Об авторе
