MLA在推理时为什么比LoRA更快？请从推理阶段的计算和内存开销角度分析原因。

Question

Accepted Answer

考察点：考察对推理性能差异原因的分析，区分训练与推理的不同考量。回答思路：明确MLA优化KV缓存，LoRA优化训练适配 解释推理时KV缓存减少带来的内存带宽节省 能辩证说明LoRA与MLA的应用场景不同

考察说明