大模型上线部署可能遇到哪些问题？如何评估资源占用并进行优化？

回答思路

1. 列举上线常见问题（如推理延迟、显存占用、吞吐瓶颈）
2. 说明资源评估的维度（计算、显存、带宽、成本）
3. 提出具体优化手段（量化、蒸馏、剪枝、推理加速框架）
4. 关注监控、扩容与降级策略