命令行工具

作者: Shenggui Li

预备知识:

• Distributed Training
• Colossal-AI Overview

简介

Colossal-AI给用户提供了命令行工具，目前命令行工具可以用来支持以下功能。

• 检查Colossal-AI是否安装正确
• 启动分布式训练
• 张量并行基准测试

安装检查

用户可以使用colossalai check -i这个命令来检查目前环境里的版本兼容性以及CUDA Extension的状态。

<figure style={{textAlign: "center"}}> <figcaption>Check Installation Demo</figcaption> </figure>

启动分布式训练

在分布式训练时，我们可以使用colossalai run来启动单节点或者多节点的多进程，详细的内容可以参考启动 Colossal-AI。

<!-- doc-test-command: echo -->