新闻 
DeepSeek怎么赚钱?梁文峰的10万亿美元战略
DeepSeek怎么赚钱?梁文峰的10万亿美元战略DeepSeek怎么赚钱?梁文峰的10万亿美元战略
我们先来做点有趣的 KV 缓存数学题。别担心，如果你讨厌数学，我们也只是用最近发布的 KV 缓存计算器，来看看 DeepSeek V4 Pro 到底能省下多少 KV 缓存，并把它跟最新的智谱 GLM 和阿里通义千问（Qwen）模型做个对比。
我以 100 万（1M）上下文长度为例进行计算，假设 KV 精度为 8 位（8-bit），索引器精度为 16 位（16-bit）。你自己也可以去这个网站上玩玩：https://kvcache.ai/tools/kv-cache-calculator/
在 100 万上下文深度下：
DeepSeek V4 居然只需要 5.48 GB 的高带宽内存（HBM, High Bandwidth Memory，一种常用于顶尖 AI 显卡的高速显存）。
GLM5 需要 60 GB 的 HBM。
Qwen3-235B-A22B 则需要高达 89 GB 的显存！
请注意，这还是在以下前提下：
DeepSeek 是一个拥有 1.6 万亿（1.6T）参数的巨无霸模型。
GLM5 大约是 7000 亿（700B）参数，而且它已经借鉴了 DeepSeek 的 MLA 和 DSA 技术，只是还没用上最新的压缩注意力机制。
Qwen3-235B-A22B 只有 2350 亿参数，使用的是相对传统的 GQA（分组查询注意力机制）。
DeepSeek 在缓解显存压力方面做出了奠基性的贡献。如果这项创新被行业广泛采纳，将让那些需要处理超长任务的长程 AI 智能体（Long-horizon Agents）成本低到难以置信，从而彻底解锁下一代崭新的应用场景。
疯狂背后的精密章法
能够在完全不牺牲模型质量的前提下，把 KV 缓存压缩得如此之小，正是他们敢把长时缓存（Long-held Cache）价格压到白菜价的底气所在——其价格甚至不到 Anthropic 旗下 Claude Sonnet 4.6 缓存命中价格的 3%，而且他们还能帮你免费保留好几个小时！
对于长程任务来说，由于缓存体量极小，将其“转存”（Offloading）到固态硬盘（SSD）并在需要时重新加载，就变得极为划算。这就大大降低了对 HBM 的依赖。要知道，HBM 目前全球严重短缺，而且从中国 AI 硬件产业的角度来看，这也是制造难度极高的核心痛点。更绝的是，DeepSeek 还开发了一套能从 SSD 中以极高速度重新加载 KV 缓存的技术，具体细节都在他们的论文里：https://arxiv.org/pdf/2602.21548
[加西网正招聘多名全职sales 待遇优]
已经有 3 人参与评论了, 我也来说几句吧
我以 100 万（1M）上下文长度为例进行计算，假设 KV 精度为 8 位（8-bit），索引器精度为 16 位（16-bit）。你自己也可以去这个网站上玩玩：https://kvcache.ai/tools/kv-cache-calculator/
在 100 万上下文深度下：
DeepSeek V4 居然只需要 5.48 GB 的高带宽内存（HBM, High Bandwidth Memory，一种常用于顶尖 AI 显卡的高速显存）。
GLM5 需要 60 GB 的 HBM。
Qwen3-235B-A22B 则需要高达 89 GB 的显存！
请注意，这还是在以下前提下：
DeepSeek 是一个拥有 1.6 万亿（1.6T）参数的巨无霸模型。
GLM5 大约是 7000 亿（700B）参数，而且它已经借鉴了 DeepSeek 的 MLA 和 DSA 技术，只是还没用上最新的压缩注意力机制。
Qwen3-235B-A22B 只有 2350 亿参数，使用的是相对传统的 GQA（分组查询注意力机制）。
DeepSeek 在缓解显存压力方面做出了奠基性的贡献。如果这项创新被行业广泛采纳，将让那些需要处理超长任务的长程 AI 智能体（Long-horizon Agents）成本低到难以置信，从而彻底解锁下一代崭新的应用场景。
疯狂背后的精密章法
能够在完全不牺牲模型质量的前提下，把 KV 缓存压缩得如此之小，正是他们敢把长时缓存（Long-held Cache）价格压到白菜价的底气所在——其价格甚至不到 Anthropic 旗下 Claude Sonnet 4.6 缓存命中价格的 3%，而且他们还能帮你免费保留好几个小时！
对于长程任务来说，由于缓存体量极小，将其“转存”（Offloading）到固态硬盘（SSD）并在需要时重新加载，就变得极为划算。这就大大降低了对 HBM 的依赖。要知道，HBM 目前全球严重短缺，而且从中国 AI 硬件产业的角度来看，这也是制造难度极高的核心痛点。更绝的是，DeepSeek 还开发了一套能从 SSD 中以极高速度重新加载 KV 缓存的技术，具体细节都在他们的论文里：https://arxiv.org/pdf/2602.21548
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| Note: | _VIEW_NEWS_FULL |
| 延伸阅读 |
推荐: