DeepSeek and Huawei jointly develop chips for AI training

DeepSeek и Huawei объединяют усилия, чтобы перенести обучение больших языковых моделей на китайские процессоры. Компания рассчитывает начать использовать ускорители Huawei для основных обучающих задач до конца 2026 года, передает Tech-news. Инженеры Huawei работают непосредственно в офисах DeepSeek над адаптацией архитектуры процессоров под требования нейросетей. Как сообщает The Information, компании совместно проектируют решения, которые должны повысить эффективность вычислений и обмена данными между чипами. В рамках сотрудничества Huawei планирует направить DeepSeek значительную часть первых поставок ускорителей Ascend 960DT. Их выход ожидается в начале 2027 года. До сих пор DeepSeek использовала оборудование Huawei преимущественно для запуска готовых моделей и отдельных этапов их дообучения. Основную вычислительную нагрузку при обучении нейросетей компания возлагала на ускорители Nvidia. Предыдущая попытка перенести этот процесс на китайские чипы в прошлом году, по данным The Information, оказалась неудачной. Теперь DeepSeek рассчитывает изменить ситуацию и к концу 2026 года начать основной этап обучения больших моделей на оборудовании Huawei. Для этого недостаточно просто запустить нейросеть: необходимо обеспечить стабильную работу тысяч процессоров, которые должны длительное время обрабатывать огромные объёмы данных и координировать вычисления друг с другом. Первые испытания уже проходят на кластерах, объединяющих более тысячи ускорителей Ascend. Однако для полноценного обучения крупных моделей может потребоваться свыше 10 тысяч чипов. Поэтому компании параллельно разрабатывают специализированное программное обеспечение и инструменты для работы с новым оборудованием. У проекта остаются серьёзные ограничения. Часть необходимого софта ещё не готова, а производственные мощности Huawei пока не позволяют выпускать столько ускорителей, сколько требуется рынку. Несмотря на это, DeepSeek продолжает закупать ускорители Nvidia, поставки которых в Китай ограничены американскими экспортными правилами. В перспективе сотрудничество с Huawei должно помочь компании снизить зависимость от американских технологий и создать инфраструктуру для самостоятельного обучения больших ИИ-моделей. Сообщение DeepSeek и Huawei совместно разрабатывают чипы для обучения ИИ появились сначала на Tech news.