训练优化

大模型训练优化：显存优化与分布式训练

解决大模型训练的显存瓶颈问题，介绍混合精度训练、梯度累积、模型并行等关键技术。