人工智能面试题 · 技术选型 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 142 道 · 更新 2026-08-05
筛选题目已选：技术选型 · Transformer
考察点
技术栈
第 1 题Attention机制有哪些常见类型？位置编码有哪些常见方式？ 考察对Transformer核心组件Attention机制和位置编码的分类与原理理解第 2 题Multi-Head Attention 现在有一些优化，现在主流的优化都有哪些方向，每个方向下有什么优化方法？ 考察对注意力机制优化的体系化理解与前沿认知第 3 题讲解FT-Transformer原理 考察对特征嵌入与Transformer结合机制的理解第 4 题当输入长度超过模型的最大长度限制时，常见处理方案有哪些（如padding、截断）？ 考察对长序列处理策略的掌握与权衡第 5 题LLaMA使用的注意力机制是什么？ 考察对主流大模型注意力机制原理的掌握程度第 6 题MOE(混合专家模型)和传统Transformer的核心区别是什么? 考察对MoE架构及其与标准Transformer差异的理解第 7 题介绍下Transformer在NLP和CV中的使用区别 考察对Transformer架构跨领域应用差异的理解第 8 题在Transformer框架下，CV、NLP、语音是否可能实现“大一统”？ 考察对Transformer统一架构潜力的理解与跨模态技术判断第 9 题请介绍LLaMA的模型结构及其设计特点。 考察对LLaMA模型架构的理解及关键设计细节第 10 题请介绍除 DIN 之外的序列建模方法，并对比 Transformer 与 DIN 在推荐场景中的区别。 考察序列建模技术积累与推荐场景下的模型选型能力第 11 题BERT和Transformer的位置编码及其区别 考察对位置编码原理及两者间差异的理解第 12 题后来有哪些比较经典的基于Transformer的语言模型，Qwen相比于原始Transformer有哪些结构上的改动，Qwen2又有哪些改进？ 考察对Transformer架构演进、Qwen系列模型结构差异及版本改进的理解第 13 题请介绍几种常见的位置编码方式及其特点。 考察对Transformer位置编码技术的理解与比较第 14 题训练或推理 Transformer 模型时有哪些常用加速方式？ 考察对模型计算优化方法的广度与原理理解第 15 题ViT需要Transformer的encoder和decoder吗？ 考察对ViT架构中Transformer组件的理解，特别是编码器与解码器的角色差异第 16 题在Transformer中为什么要使用位置编码？为什么常采用正弦余弦（sin/cos）函数形式？ 考察对Transformer位置信息建模原理及sin/cos编码设计动机的理解第 17 题Position Embedding 有哪些常见类型？ 考察对位置编码技术演进和原理的理解第 18 题当输入的文本长度超出模型的上下文窗口时，目前有哪些主流的处理方案或模型架构来应对？ 考察对超长文本处理技术的掌握程度和方案选型能力第 19 题Transformer和CNN、ViT的区别和关系是什么？ 考察对主流视觉与序列模型架构原理及演进关系的理解第 20 题了解过之前的NLP技术吗？BERT是怎么样的，跟大模型相比的优势是什么？ 考察BERT技术理解及与LLM对比的认知深度