简介
TI-ONE 内置了主流的 Pytorch 深度学习框架,其中 tilearn-llm 是为大模型定制的训练加速组件,已内置在平台内置镜像中,同时支持开发机和任务式建模。
内置通用镜像
| 框架 | 镜像名称 | 支持的训练模式 | 备注 |
|---|---|---|---|
| PyTorch | tilearn-llm0.9-torch2.3-py3.10-cuda12.4-gpu | DDP、MPI、Ray | 支持的核心库:Python 3.10,CUDA 12.4,jupyterlab 2.3.2,torch 2.3.0a0+40ec155e58.nv24.3,transformers 4.39.3,deepspeed 0.13.4,tilearn-llm 0.9.9,tilearn.ops 0.2.2.175,angel-vllm 0.4.2,ray 2.42.0 支持的模块:任务式建模和开发机 |