部署应用

大模型推理部署：从模型到应用的落地之路

探讨大模型推理部署的工程实践，介绍量化压缩、推理加速和服务部署方案。