本文旨在介绍 TI-ONE 训练平台进行大模型推理时，可保障模型正常运行的配置资源，仅供您参考。
内置大模型的推理资源指南
注意：
在部署 DeepSeek V3 或R1模型时，如仅需低并发体验，可使用单节点部署；如果您对推理性能以及上下文长度有较高要求，且算力资源充足，推荐使用至少2节点部署。
| 内置大模型 | 模型清单 | <strong>推理资源推荐</strong> |
|---|---|---|
| 显存推荐 | ||
| Hunyuan-Large | hunyuan-large-chat | 显存：不小于96GB*4 |
| DeepSeek 系列模型 | DeepSeek-V3 | 显存：不小于96GB*8 |
| DeepSeek-R1 | 显存：不小于96GB*8 | |
| DeepSeek-V3-0324 | 显存：不小于96GB*8 | |
| DeepSeek-R1-AngelACC | 显存：不小于96GB*8 | |
| DeepSeek-V3-AngelACC | 显存：不小于96GB*8 | |
| DeepSeek-V3-0324-AngelACC | 显存：不小于96GB*8 | |
| DeepSeek-R1-Distill-Qwen-1.5B | 显存：不小于24GB | |
| DeepSeek-R1-Distill-Qwen-7B | 显存：不小于24GB | |
| DeepSeek-R1-Distill-Qwen-14B | 显存：不小于48GB | |
| DeepSeek-R1-Distill-Qwen-32B | 显存：不小于96GB |