# 优化 ARM CPU 上的专家混合 LLM 推理

> 全文为英语

**Published:** 2026年10月14日
**Author:** PyTorch
**Source:** YouTube — PyTorch Official
**Language:** en-US
**HTML:** https://aiqazaqstan.com/zh/articles/optimizing-mixture-of-experts-llm-inference-on-arm-cpus

大家好，我是来自英特尔印度研究院的 Majid，我很高兴能在今年 10 月的 PyTorch 北美会议上发表演讲。我将讨论使用 VLLM 和 OpenVINO 的专家 LLM 推理的有效组合，以及我们如何在 ARM CPU 上高效运行这些模型。如果…

> 内容来自原始来源： **YouTube — PyTorch Official**
> [在 YouTube — PyTorch Official 阅读全文](https://www.youtube.com/watch?v=NL7wh14HEmo)

**标签：** #YouTube

---

*AI Qazaqstan — non-commercial informational portal about AI in Kazakhstan. Machine translations and summaries are AI-generated.*