# Где живут блоки: Уровневая маршрутизация KV-кэша для vLLM в масштабе

> Полный текст доступен на английском

**Published:** 20 октября 2026 г.
**Author:** PyTorch
**Source:** YouTube — PyTorch Official
**Language:** en-US
**HTML:** https://aiqazaqstan.com/ru/articles/where-the-blocks-live-tier-aware-kv-cache-routing-for-vllm-at-scale

Привет, я Понгуп Пак из War на PyTorch Conference North America 2026. Я представляю постер под названием «Где живёт блок». Когда GPU-память сбрасывает KV-кэш в CPU или хранилище, LMD отслеживает, где находится каждый блок, и направляет каждый запрос к своему кэшу. Вы увидите, когда CPU...

> Материал агрегирован из первоисточника: **YouTube — PyTorch Official**
> [Читать полностью в YouTube — PyTorch Official](https://www.youtube.com/watch?v=KrNDvnAUfbU)

**Теги:** #GPU & Суперкомпьютеры #YouTube

---

*AI Qazaqstan — non-commercial informational portal about AI in Kazakhstan. Machine translations and summaries are AI-generated.*