Материал түпнұсқа тілінде: English.
Efficient Inference of Masked Diffusion Language Models on AMD XDNA2 NPU
Ravi Gupta, Shiksha Patel, and Rishi Madduri (AMD) will present “Efficient Inference of Masked Diffusion Language Models on AMD XDNA2 NPU” at #PyTorchCon North America 2026. Their poster presents a power-efficient deployment of LLaDA-8B-Instruct on an AMD NPU. On a Ryzen AI MAX+ 395 APU at sequence length 128, the NPU vendor path ran at 504 ms per forward at 36 W, compared with 843 ms and 110 W for CPU INT4, making it 1.67x faster and 8.9x better on energy. The poster will also cover the INT4 qu
2026 ж. 18 қазан · Дереккөз: YouTube — PyTorch Official
Осы тақырыптан тағы
ВидеоКомпанияның жасанды интеллектісі ретінде нарықты 300 млрд долларға айналдырадыYouTube — Armeta Kazakhstan
Видео- Бәрі де соқа.YouTube — Hugging Face
ВидеоМА қор нарығындағы дағдарысты 5 қарашада болжай ала ма?YouTube — All About AI
ВидеоОл ойын кейіпкерлері мен роботтарды басқарадыAI Discover More: Ақпарат және жаңалықтарды зерттеу AI: https://futuretools.io/ Weekly Newsletter: https://futuretools.io/newsletter Socials: Twiter/X: https://x.com/mreflow . Instagram: https://instagram.com/mr.eflough . Сайтта https://www.threads.net/@mr.efloughling . index LinkedIn: https://www.linkin.com/in/matt-wolfe-30841712/ Facebook: https://www.facebook.com/matrwolfe Letins бірге жұмыс істейді! - Брэнд, демеушілік қолдау және іскерлік сұраулар: іскерлік қызмет@matswolfe.YouTube — Matt Wolfe