Чипы Huawei Ascend превзошли Nvidia H800 в модели DeepSeek R1

Китайская компания Huawei достигла значительного прогресса в области искусственного интеллекта, представив чипы Ascend, которые, согласно новому исследованию, превосходят Nvidia H800. Это событие подчеркивает успехи Huawei в преодолении технологических ограничений, введенных США. Несмотря на заявления компании о том, что их технологии отстают от зарубежных аналогов на одно поколение, последние данные свидетельствуют об обратном.

Превосходство CloudMatrix 384

Опубликованная техническая статья раскрывает детали работы нового решения Huawei — AI CloudMatrix 384. Исследование, проведенное совместно с китайским стартапом SiliconFlow и исследователями Huawei, демонстрирует, что чипы Ascend, используемые в модели DeepSeek R1, превзошли производительность Nvidia H800. Ключевым элементом успеха стала архитектура CloudMatrix 384, объединяющая 384 нейронных процессора Ascend 910C и 192 серверных процессора Kunpeng.

Эти компоненты соединены высокоскоростной шиной, обеспечивающей высокую пропускную способность и минимальную задержку. Такая конфигурация значительно повышает производительность системы, делая CloudMatrix 384 важным шагом в развитии инфраструктуры искусственного интеллекта.

Технические характеристики и результаты

CloudMatrix 384 от Huawei демонстрирует впечатляющие показатели: пропускная способность достигает 6688 токенов в секунду на один нейронный процессор при длине запроса в 4000 токенов. Токены являются базовой единицей обработки в больших языковых моделях, а длина токенов влияет на стоимость, время обработки и возможности понимания моделей ИИ. В ходе испытаний CloudMatrix показал результат в 1943 токена в секунду на нейронный процессор при той же длине запроса, что свидетельствует о более эффективном использовании чипов Ascend по сравнению с решениями Nvidia.

Значение для индустрии

Техническая статья, опубликованная на этой неделе, подчеркивает стратегическую важность разработки Huawei. Главный автор исследования, Цзо Пэнфэй, в публикации на платформе Quora отметил:

Полное и прозрачное раскрытие технологического стека Huawei CloudMatrix направлено на то, чтобы продемонстрировать возможности отечественных нейронных процессоров Ascend. Это также укрепляет уверенность китайской технологической экосистемы в использовании разработок местного производства для конкуренции с графическими процессорами Nvidia.

CloudMatrix 384 позиционируется как решение, способное не только обойти технологические ограничения США, но и переосмыслить основы инфраструктуры ИИ. Система демонстрирует потенциал для применения в дата-центрах, обеспечивая управление вычислительными ресурсами и поддержку сложных задач ИИ. Успех Huawei в этой области может изменить расстановку сил на глобальном рынке технологий искусственного интеллекта.