人工智能面试题 · 性能优化
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 605 道 · 更新 2026-08-05
筛选题目已选：性能优化
考察点
技术栈
第 221 题请解释vLLM的核心原理。 考察vLLM服务框架的底层机制和性能优化理解第 222 题在部署一个87B参数的MoE模型时，如何估算其每秒能生成的token数？请说明影响推理吞吐量的关键因素。 考察对LLM推理性能影响因素的理解和估算方法第 223 题如果开发一个上位机需要调用监控，怎么解决内存占用问题？ 考察上位机监控场景下的内存管理与性能优化能力第 224 题请介绍你在后端性能优化方面的经验，并说明常用的优化手段。 考察后端性能优化的系统性思路与实际落地能力第 225 题显存不够时，一般怎么解决，有哪些常见的优化方法？ 考察对深度学习训练显存优化的常见策略和工程实践能力第 226 题训练模型时如何确定最大训练轮次，以及如何应对过拟合和资源限制问题？ 考察模型训练轮次的选择依据及对过拟合、资源限制的处理能力第 227 题在CogVideoX中，3D VAE的时空压缩率是多少？请说明其含义。 考察对3D VAE压缩率的准确记忆与理解第 228 题请解释什么是KV Cache，以及它在大型语言模型推理中的作用。 考察对LLM推理机制中KV Cache概念及其优化价值的理解第 229 题加载到shared memory和直接从HBM取input比为什么更快 考察对GPU内存层次、带宽和延迟差异的理解第 230 题为什么KV Cache对长上下文推理尤其关键？ 考察对长上下文推理复杂度与缓存依赖的理解第 231 题请实现三数之和，并说明在工程应用中如何进一步优化。 考察算法实现正确性、复杂度分析和工程优化意识第 232 题如何估算 LLaMA-7B 模型推理时的显存占用？ 考察大模型推理显存估算方法与关键要素第 233 题如何优化Transformer中计算量最大的模块（自注意力）？ 考察对自注意力优化的多种方法及权衡的理解第 234 题请解释 vLLM 的原理，包括关键概念和实现机制。 考察对 vLLM 核心设计如 PagedAttention、连续批处理和 KV 缓存管理的理解第 235 题LSTM训练为什么慢？ 考察对LSTM架构特性、训练瓶颈和优化方法的理解第 236 题DDP如何优化多机多卡训练？ 考察对分布式训练中数据并行通信、负载与扩展性的理解第 237 题在训练模型时，你是如何调节与分析损失函数中的超参数（如损失权重、温度系数或正则项强度）的？请结合具体案例说明。 考察对损失函数超参数调节方法的理解及分析能力第 238 题RAG 检索环节有哪些常见优化手段？ 考察对 RAG 检索质量提升技术的理解与工程落地能力第 239 题如果训练大模型时显存不够，你会用哪些技术缓解？ 考察显存优化技术全景和适用场景的判断第 240 题请从技术角度评估大语言模型生成响应的速度受到哪些因素影响，并结合实际场景提出优化思路。 考察对LLM推理性能影响因素的理解与优化方法