Huawei Ascend 910B: доступный ИИ-вывод для DeepSeek R1 в китайских облаках

Huawei Ascend 910B: доступный ИИ-вывод для DeepSeek R1 в китайских облаках

Китайские облачные провайдеры, такие как SiliconFlow.cn, предлагают доступ к модели DeepSeek R1 через ускорители Huawei Ascend 910B, сообщает South China Morning Post. Это решение значительно снижает стоимость использования передовой ИИ-модели, бросая вызов американским конкурентам.

Дебют DeepSeek R1, флагманской модели хедж-фонда High-Flyer, вызвал резонанс в технологическом мире. Никто не ожидал, что китайские компании смогут создать ИИ-модель такого высокого качества, конкурирующую с лучшими разработками OpenAI и Anthropic. Несмотря на слухи о доступе DeepSeek к 50 000 GPU NVIDIA Hopper (H100, H800 и H20), похоже, Huawei готова поддержать китайскую ИИ-инфраструктуру своими собственными ускорителями.

Стоимость использования DeepSeek R1 на Huawei Ascend 910B в китайских облаках составляет всего один юань за миллион входных токенов и четыре юаня за миллион выходных токенов. Эта экономическая модель существенно подрывает позиции американских облачных провайдеров, предлагающих DeepSeek R1 по цене около 7 долларов за миллион токенов.

Использование Huawei Ascend 910B выгодно не только облачным провайдерам, но и самой DeepSeek, которая, как сообщалось ранее, использует Huawei Ascend 910C для своего чат-приложения. Применение отечественных ускорителей снижает общую стоимость владения, что позволяет предлагать услуги пользователям по более низким ценам. Западным клиентам, предпочитающим услуги западных компаний для ИИ-вывода, придется платить значительно больше, зачастую из-за высокой стоимости GPU, таких как NVIDIA H100, B100 и AMD Instinct MI300X.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *