Latent Space· Latent Space·· 6 天前精选AI 评分80
DeepSeek 开源生产级推理框架 DeepInfer，报道单集群日处理 155T token
[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
AI 导读
Latent Space 报道 DeepSeek 开源其生产推理栈 DeepInfer，称单集群日处理 155T token，离峰价格下每卡每小时收入 38 美元，估算推理毛利率超 80%、回本周期约 81 天。
推荐理由
原文汇总了 DeepInfer 的架构细节、vLLM 对比复现和多方成本测算，读者可以据此校准开源边界与收益数据。
来源：Latent Space · latent.space