人工智能面试题 · 性能优化
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 605 道 · 更新 2026-08-05
筛选题目已选：性能优化
考察点
技术栈
第 241 题为了优化推理速度，KV Cache是一个很关键的技术。它的原理是什么？ 考察对自回归推理中键值缓存原理及收益的理解第 242 题怎么防止过拟合 考察对过拟合原因与常用正则化策略的理解第 243 题为什么 DeepSpeed ZeRO-3 不适合直接用于模型训练？ 考察对 ZeRO-3 机制、训练特性与显存/通信开销的理解第 244 题LoRA微调后，如何进一步降低模型的推理计算量？ 考察对LoRA推理优化方法的理解与工程实践能力第 245 题模型的SFT和PEFT训练的时候有什么小trick？ 考察对监督微调与参数高效微调中实践技巧的理解第 246 题当同一模型在训练和推理使用不同精度（如训练用 BF16、推理用 FP16）时，会遇到哪些问题？如何保证一致性？ 考察精度失配的风险与规避策略第 247 题你使用过LoRA吗？请解释其原理与其在模型微调中的优势。 考察对LoRA原理和参数高效微调的理解与实践第 248 题假如需要支持Streaming输出，但当前服务延迟又超标，你会怎么折中设计？ 考察流式输出与延迟约束下的系统设计权衡能力第 249 题vLLM框架是怎么做推理加速的？ 考察对vLLM核心推理加速机制的掌握程度第 250 题对比大语言模型的增量推理和传统推理方式，增量推理的优势和实现难点是什么？ 考察对大模型推理机制的理解及工程优化能力第 251 题请描述GPU中各存储层次（Global Memory、Local Memory、Shared Memory、Register）在容量、带宽和访存延迟上的大致量级差异。 考察对GPU存储层次结构与性能特征的理解第 252 题推理优化的思路（方法）有哪些？ 考察对推理阶段性能优化方法的系统理解与覆盖广度第 253 题GraphRAG的实现难点有哪些？ 考察对GraphRAG工程化与质量约束的认知第 254 题多卡训练经验有吗？GPU占用率低和显存占用率低分别是什么原因导致的？ 考察多卡分布式训练的经验以及GPU利用率和显存利用率的诊断能力第 255 题在混合检索系统中，如何配置稠密向量检索与稀疏检索的权重？ 考察混合检索权重配置的方法论与调优意识第 256 题大模型推理通常关注哪些关键性能指标？请说明每个指标的含义。 考察对大模型推理性能评估指标的理解第 257 题解释KV Cache的内存瓶颈，并推导多头注意力机制的计算复杂度。 考察对Transformer推理阶段KV Cache内存占用及注意力计算复杂度的理解第 258 题推理一个7B参数的大语言模型大约需要多少显存？请说明主要的影响因素。 考察大模型推理显存占用估算及关键因素第 259 题请分享推理加速的选择，以及vLLM和DeepSpeed-MII主要的推理加速技术路线。 考察对主流大模型推理加速框架技术路线的理解与选型能力第 260 题LoRA是否会增加训练时间？请从计算和内存角度分析。 考察对LoRA训练效率影响的量化理解