Ctrlk

📃前言
🎚️基础部分
🐬Prompt Engineering
🦖Transformer
🪿LLM应用
🎄LLM训练
- LLM显存需求
- 分布式训练并行
🐒MoE

Powered by GitBook

On this page

🎄LLM训练
分布式训练并行

优化器并行

Previous模型并行 Next异构系统并行