Материал на языке оригинала: English.
Efficient Inference of Masked Diffusion Language Models on AMD XDNA2 NPU
Ravi Gupta, Shiksha Patel, and Rishi Madduri (AMD) will present “Efficient Inference of Masked Diffusion Language Models on AMD XDNA2 NPU” at #PyTorchCon North America 2026. Their poster presents a power-efficient deployment of LLaDA-8B-Instruct on an AMD NPU. On a Ryzen AI MAX+ 395 APU at sequence length 128, the NPU vendor path ran at 504 ms per forward at 36 W, compared with 843 ms and 110 W for CPU INT4, making it 1.67x faster and 8.9x better on energy. The poster will also cover the INT4 qu
18 октября 2026 г. · Источник: YouTube — PyTorch Official
Ещё в теме
ВидеоКак ИИ компании превращают рынок в $300 млрдYouTube — Armeta Kazakhstan
Видео▪ Всё - это плуг.YouTube — Hugging Face
ВидеоМогла ли МА предсказать кризис на фондовом рынке 5 ноября?YouTube — All About AI
ВидеоОн контролирует игровых персонажей и роботовОбмен последними новостями и достижениями в AI Discover More: ▪ Изучение средств и новостей AI: https://futuretools.io/ ▸ Weekly Newsletter: https://futuretools.io/newsletter Socials: ▸ Twiter/X: https://x.com/mreflow . Instagram: https://instagram.com/mr.eflough . На сайте https://www.threads.net/@mr.efloughling . index LinkedIn: https://www.linkin.com/in/matt-wolfe-30841712/ ▸ Facebook: https://www.facebook.com/matrwolfe Letins работает вместе! - Брэнд, спонсорская поддержка и деловые запросы: деловая деятельность@matswolfe.YouTube — Matt Wolfe