专业服务行业面试题 · 问题拆解 · Transformer
专业服务行业相关面试题，按题目行业基础数据聚合。
共 27579 道真题 · 当前筛选命中 28 道 · 更新 2026-08-05
筛选题目已选：问题拆解 · Transformer
考察点
技术栈
第 1 题介绍Multi-Head Attention，为什么要用多头的注意力机制？ 考察对Transformer核心组件原理及设计动机的理解第 2 题怎么理解DETR中query的作用？ 考察对DETR架构中query机制的理解及其在目标检测中的作用第 3 题请详细说明Transformer模型的核心结构组成及其各组件的作用。 考察对Transformer架构的深入理解与模块间关系的把握第 4 题请分析 Transformer 模型的计算复杂度，并给出其核心机制（如自注意力）的伪代码。 考察对 Transformer 架构计算复杂度的理解和伪代码表达能力第 5 题请详细解释 Transformer 的结构及其计算流程。 考察对 Transformer 架构原理及计算细节的理解第 6 题请比较GPT和BERT的模型结构，并说明它们的预训练任务有何不同？ 考察对GPT与BERT模型架构及预训练范式的理解第 7 题在Transformer架构中，Self Attention和Cross Attention分别出现在什么位置，各自的作用是什么？ 考察对Transformer各模块中注意力机制角色定位的理解第 8 题你对Transformer注意力机制的复杂度有怎样的理解？如果将其应用到大规模训练中，训练时间会受到哪些因素的影响？ 考察对注意力机制时间与空间复杂度的理解，以及对训练时间影响因素的分析能力第 9 题Transformer的复杂度推导 考察对Transformer架构时间与空间复杂度的理解及推导能力第 10 题自注意力机制是怎么计算的？其时间复杂度是多少？ 考察对自注意力机制原理和时间复杂度的理解第 11 题请谈谈你对Transformer模型结构的理解。 考察对Transformer核心组件、原理及特点的理解深度第 12 题Transformer的Encoder-Decoder过程展开讲，Encoder怎么实现？ 考察对Transformer架构中编码器内部机制的理解第 13 题详细讲讲 Transformer，Self-Attention 中 QKV 的数学公式，以及你如何理解 QKV。 考察对 Transformer 核心架构和自注意力机制数学原理的理解深度第 14 题Transformer的自注意力机制是如何实现的？请说明Q、K、V的计算方式以及相关参数的初始化方法。 考察对Transformer自注意力机制的理解深度，包括QKV计算流程和初始化细节第 15 题请介绍一下 TIGER 模型。 考察对用户行为序列建模模型 TIGER 的理解第 16 题与原始 Transformer 相比，你在自己的工作中做了哪些改进？请说明动机、具体做法和效果。 考察候选人对 Transformer 的深入理解及实际工程中的改进能力第 17 题请介绍你在GPT、ViT或Transformer相关项目中的具体工作。 考察对Transformer架构相关项目的理解深度和实际落地能力第 18 题自注意力机制中为什么要除以根号 dk？ 考察对自注意力缩放因子的数学原理与作用的理解第 19 题请说明 Transformer 模型参数量主要受哪些因素影响，并给出一个典型的估算公式。 考察对 Transformer 模型结构参数的理解和估算能力第 20 题怎么理解Transformer的Attention 考察对注意力机制原理、计算流程及应用的理解