DeepSeek 如何使用更少的内存

昨天

描述

供应受到限制，因此价格上涨。所以回到 DeepSeek，KV 缓存只需要 HBM 的四分之一，然后还需要 SSD 存储的 1/8。好吧，他们能够提供更多的令牌，而不必为所有内存付费。这…