DeepInfer 是DeepSeek公开的推理框架，不是新的聊天模型。当前README面向DeepSeek V4.1离线推理，列出NVIDIA SM100与华为Ascend 950两类硬件。它没有把完整在线服务所需的所有组件一起开源，因此不能把下载仓库理解为已经得到可直接对外运营的API服务。
官方仓库在哪里？
DeepSeek-AI / DeepInfer官方仓库提供源码、说明、示例和许可证。运行之前固定一个提交版本，保存对应README；main分支可能变化，不能把不同提交的依赖和参数拼在一起。
支持硬件与依赖清单
| 项目 | README要求 |
|---|---|
| 操作系统 | Linux |
| 编译器 | GCC ≥ 13.0 |
| Python | 3.12 |
| NVIDIA路径 | SM100 GPU，CUDA 13 |
| Ascend路径 | Ascend 950 NPU，CANN 9.2 |
| 默认模型 | DeepSeek-V4.1-Flash-1017 |
| 许可证 | Apache 2.0 |
README没有把消费级RTX显卡或Apple芯片列为当前支持硬件，不能用“有显卡”作为兼容判断。这里也不推导最低显存或显卡数量：模型分布、并行配置和运行目标都需要单独核对。
官方构建与离线运行步骤
以下是官方流程的简化说明，需在满足上表条件的机器上执行；本文未在对应硬件实机部署。
git clone https://github.com/deepseek-ai/DeepInfer.git
cd DeepInfer
# 先建立并激活空的 Python 3.12 环境
export DEEPINFER_ACCELERATOR=nvidia
./build.sh
python examples/offline_inference.pyAscend路径将加速器值按README切换为ascend，并保持变量在运行环境中有效。默认首次运行会下载模型；使用已有权重时设置DEEPINFER_HF_MODEL_DIR为本地模型目录。先确认磁盘、网络和权重来源，再启动下载。
为什么还不能直接当完整在线服务？
| 能力 | 当前说明 |
|---|---|
| 离线推理样例 | 仓库提供示例 |
| KV缓存系统 | 完整服务所需，本次发布未包含 |
| VE/Prefill/Decode解耦 | 完整服务所需，README说明多数引擎功能已实现但系统未包含 |
| 数据并行副本间负载均衡 | 完整服务所需，本次发布未包含 |
与 vLLM 的关系怎样理解？
仓库致谢说明其早期主要建立在vLLM之上，并受到其他项目启发。这能解释来源关系，不能直接得出“比vLLM快多少”的结论。选型时分别核对目标模型、硬件支持、在线服务功能和维护投入；跨设备、跨批量的吞吐图不能直接对比。
谁适合现在研究？
已有对应硬件、需要研究DeepSeek推理栈的团队可以从离线样例开始。只想使用模型能力的应用开发者，优先核对API接入是否已满足需求。先把硬件支持和服务缺口算清，再决定是否自建，能避免在不支持的设备上反复安装。
继续阅读
MiniMax M3.1 Flash 怎么用？官方入口、API 计费与开源状态；DeepSeek API 怎么联网搜索？Search & Fetch 调用方法与费用说明
资料与更新说明
资料核验于2026年10月22日。下列演示输入、费用算例和任务拆分由本文设计；未标明实测的外部模型调用不代表本次已运行。产品开放范围与费用以官方当前页面及账号为准。