⚡️ DeepSeek перенесла DeepGEMM на Huawei Ascend и выжала из железа 99,8% DeepSeek выложила DeepGEMM-Ascend, порт своей библиотеки матричных ядер на NPU Huawei Ascend 950. API остался тем же, что у оригинального DeepGEMM, а сами ядра переписаны под особенности Ascend. Поддерживаются GEMM в FP4, FP8 и BF16, grouped GEMM для MoE, MQA logits и слитые операторы MegaMoE. Плотный GEMM почти упирается в теоретический потолок: FP4 даёт 1701 TFLOPS (98,3% от пика), FP8 861 TFLOPS (99,5%), BF16 431 TFLOPS (99,8%). Внутри JIT-компиляция, конвейеризация на корутинах и тонкая обёртка над матричными инструкциями Ascend. Нужны CANN 9.20, torch_npu и Python 3.10+. Лицензия MIT. https://github.com/deepseek-ai/DeepGEMM-Ascend @ai_machinelearning_big_data
Материал агрегирован из первоисточника:
Telegram — AI Machine Learning Big Data
Читать полностью в Telegram — AI Machine Learning Big DataМатериал собран из открытых источников. Если размещение затрагивает ваши права → Удалить информацию
DeepSeek перенесла DeepGEMM на Huawei Ascend и выжала из железа 99,8%
DeepSeek перенесла DeepGEMM на Huawei Ascend и выжала из железа 99,8%.
Кратко от AI: Главные тезисы
- DeepSeek перенесла DeepGEMM на Huawei Ascend и выжала из железа 99,8%.
DeepSeek перенесла DeepGEMM на Huawei Ascend и выжала из железа 99,8%
Похожие материалы
ENHugging Face CEO warns that Netflix’s OpenAI hack documentary isn’t accurate
Before you share the Netflix documentary "AI Gone Rogue" take note. Clem Delangue, Hugging Face's co-founder who is featured in the film, says it went "full doomer mode" and isn't accurate.
Более персонализированный искусственный интеллект Gemini от Google направляется к вашей машине
Google внедряет личный интеллект в ИИ Gemini в вашем автомобиле. Благодаря этому обновлению Gemini в Android Auto и автомобили со встроенным Google смогут использовать вашу информацию в приложениях Google, включая Gmail, Календарь, Карты, Фотографии, YouTube и Поиск. В качестве примера Google говорит…
Хватит платить за ИИ, запускайте все локально (вот как)
Большие лаборатории не собираются об этом говорить, а будут постоянно изучать идею улучшения моделей для ваших собственных сценариев использования [музыки] для ваших собственных рабочих процессов. У крупных лабораторий нет стимула предоставлять пользователям эту [музыку], потому что они тренируют свои модели для нормальной работы…
ENIt’s a bird, it’s a plane … it’s a robo-puffin?
Given that water is 1,000 times denser than air, moving through those two mediums requires very different mechanics—or so one might assume. Yet birds like gulls and puffins can plunge into the sea, swim underwater, and leap back into the air to fly away. And now engineers at MIT…



