事件与背景

10 月 20 日，deepseek-ai/DeepInfer 冲上 Hacker News 首页第一（1,919 分、744 条评论，据 HN Algolia API）。这个仓库在 10 月 16 日才创建，不到一周已积累 11,191 star、1,001 fork（GitHub API 数据），说明它踩中的不是「又一个推理引擎」，而是很多人等了很久的东西。

README 的第一句话就定了性：DeepInfer 是「支撑 DeepSeek 大规模生产服务的推理框架」，本次开源的是其中的离线推理部分。已经放出来的能力包括：

• 算子与并行：FlashMLA、DeepGEMM、DeepEP、TileKernels、DeepSelect 以及自研 TileLang kernel；Attention DP / 均衡 CP，MoE 侧 EP + EPLB（专家并行负载均衡）。
• 解码加速：DSpark 与 confidence-scheduled verification（草稿 token + 置信度调度验证），SWA 有界回放（只重放窗口内的后缀，减少 prefill 工作量），异步调度默认开启（CPU 批调度与设备执行重叠）。
• 可复现性：DEEPINFER_BATCH_INVARIANT=1 让模型结果在不同 batch 组合下保持一致；配合固定 seq_seed 可做确定性采样；结构化输出支持 regex、JSON Schema、EBNF。
• 双硬件后端：NVIDIA SM100 GPU 与华为 Ascend 950 NPU，分别需要 CUDA 13 / CANN 9.2，GCC ≥ 13、Python 3.12。
• 明确没给的：KV cache 系统、VE/Prefill/Decode 分离、数据并行副本间的负载均衡——README 直接写明「完整推理服务所必需，但不在本次发布中」。

许可证是 Apache 2.0，致谢里承认「最初主要基于 vLLM 构建」，并参考了 SGLang 与 TensorRT-LLM。

同一天，另一条线与它正面相撞。10 月 20 日美国《联邦公报》刊登国土安全部（DHS）通知（91 FR 66346，Docket DHS-2026-0628）：依据 2018 年《联邦采购供应链安全法》（FASCSA，41 U.S.C. 1321-1328），国土安全部长已下令**（1）将杭州深度求索及其关联实体开发的 IT 产品与服务排除出联邦民事机构采购；（2）从民事机构 IT 中移除所有 DeepSeek 及关联方产品，以及「使用 DeepSeek 实现开发的第三方产品与服务」**。

来源（均已用 curl 验证返回 200）：

• deepseek-ai/DeepInfer — GitHub（Apache 2.0，README 含特性与硬件支持）
• DeepInfer 部署常见问题（KV cache 等未覆盖能力）
• Notice of Order Regarding Exclusion and Removal of DeepSeek Products — Federal Register，2026-10-20

为什么现在重要

1. 开源的是一支「厂队」的默认配置，而不是 demo。 EPLB、异步批调度、SWA 有界回放这些词只在大规模在线服务里才有意义；一家模型公司把生产参数公开，等于把「自托管 DeepSeek」的起点从社区调优拉到了厂商基线。影响判断：vLLM / SGLang 之外出现了第三个可对照的性能基线，推理 API 的价格谈判多了一个锚。

2. batch-invariant + 确定性采样，把推理从「概率黑箱」推向「可测试系统」。 同一请求在不同 batch 组成下输出一致，意味着前缀缓存命中、失败重放、golden test、审计复现都能成立；在此之前，很多 agent 的回归测试失败只是因为批处理顺序变了。影响判断：agent 工程的测试与缓存策略可以真正落地，而不是靠「多跑几次看看」。

3. 双后端是供应链对冲，不只是性能选项。 同一套栈同时支持 SM100 与 Ascend 950，意味着模型、推理引擎、芯片三层可以整组替换。影响判断：在出口管制与采购禁令并存的环境里，「同一栈两种算力」本身就是议价能力，也是业务连续性的备份方案。

4. 监管的边界从「模型」扩到了「用 DeepSeek 实现做出来的东西」。 DHS 命令的第二条把第三方衍生品也纳入移除范围——这比禁一个 App 或一个 API 严厉得多，直接指向依赖链。影响判断：开源权重不等于可采购；To-G、金融、医疗等受监管行业需要能回答「这个功能背后是哪套权重与实现」。

5. 推理层开源会压缩推理毛利。 HN 讨论里最集中的一个判断是：当引擎可以免费拿到，差异化会从「谁的 kernel 快」转向「谁的运维、SLA、合规与容量」更稳。影响判断：靠「我们部署得更快」卖溢价的推理服务商，护城河正在变浅。

工程师/产品人今天能做什么

1. 做一次同硬件对照基准。 按 README 的环境要求（GCC ≥ 13、Python 3.12、CUDA 13）构建，跑 examples/offline_inference.py 与 run_sweep.sh，在同等 SM100 上对比现有 vLLM 部署的 tokens/s、P99 与显存占用。注意本次不含 KV cache 与 PD 分离，生产化要自己补。
2. 在 CI 里打开可复现开关。 用 DEEPINFER_BATCH_INVARIANT=1 加固定 seq_seed，把 agent 关键路径的输出做成 golden test，观察批次变化时缓存命中与结果是否稳定；这是低成本验证「确定性」是否真的可用。
3. 盘点模型血统。 列出产品里所有可能间接使用 DeepSeek 权重或实现的组件（含第三方 SaaS、微调模型、蒸馏数据），在架构上预留可替换接口；面向美国联邦客户或有 FASCSA 条款的合同，这一项现在就是合规项。
4. Ascend 路线先做小 PoC。 若有国产算力规划，用 CANN 9.2 环境验证 EPLB 在自有拓扑上的收益，再决定是否扩大；不要直接按 NVIDIA 的并行配置照搬。
5. 盯住仓库缺口。 115 个 open issue、KV cache / PD 分离未开源，是判断它能否进生产的最直接指标；跟进 issue 比看 benchmark 图更有信息量。

待观察

• 命令全文是扫描件。 《联邦公报》正文只有摘要，签名命令以图片附录形式给出（第 66347–66350 页），具体的移除时限、豁免条件、承包商适用条款无法从可机读文本确认，需查 regulations.gov 的 DHS-2026-0628 卷宗。任何「多少天内必须移除」的说法目前都不可引用。
• HN 上流传的收益测算未获独立验证。 评论区引用的一篇知乎文章（当前网络返回 403）称单集群吞吐 155 万亿 token/日、单卡收入 38 美元/小时（非高峰价）。数字很抓人，但源链接不可达，本文不作为事实使用。
• DeepInfer 目前只列了 DeepSeek-V4.1-Flash 一个模型（默认 checkpoint 为 DeepSeek-V4.1-Flash-1017），是否扩展到其他尺寸、Ascend 950 之外的芯片是否支持，都还没有公开信息。