专业服务行业面试题 · Transformer
专业服务行业相关面试题，按题目行业基础数据聚合。
共 27579 道真题 · 当前筛选命中 136 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 1 题DeepSeek 和 ChatGPT 在技术原理上有哪些主要区别？ 考察对两大主流大模型架构、训练策略及产品定位差异的理解第 2 题Transformer 模型有哪些常用的推理加速方法？ 考察对 Transformer 推理性能优化技术的理解和实践第 3 题为什么Transformer中前馈网络FFN的隐藏维度通常是输入维度的4倍（d到4d）？ 考察对Transformer架构设计动机和参数权衡的理解第 4 题你之前做CV方向，请谈谈CV和NLP的区别与联系，以及在Transformer大背景下，CV、NLP和语音等多模态能否实现大一统？ 考察跨领域认知、技术趋势理解和多模态统一架构的思考深度第 5 题为什么大模型会选择使用旋转位置编码？ 考察对旋转位置编码设计动机和实际优势的综合理解第 6 题介绍Multi-Head Attention，为什么要用多头的注意力机制？ 考察对Transformer核心组件原理及设计动机的理解第 7 题DETR里面的transformer结构的encoder和decoder是如何的?介绍一下? 考察对DETR中Transformer编码器与解码器架构细节的理解第 8 题请说明 Transformer、BERT 和 GPT 各自使用的位置编码方式，并比较其异同。 考察对主流模型位置编码原理的理解与对比能力第 9 题请说明 Self-Attention 的计算过程，并分析其优缺点。 考察对 Transformer 核心机制的理解以及权衡分析能力第 10 题介绍几种Attention技术的不同 考察对多种Attention变体的理解与区分能力第 11 题计算softmax缩放因子时，假设每个值服从标准正态分布，还是只需均值0方差1即可？ 考察对分布假设与推导关系精确理解第 12 题BLIP-2 中 Q-Former 的作用是什么？为什么要加一个 Query Transformer？ 考察对 BLIP-2 架构设计动机的理解，尤其是视觉语言对齐与训练效率第 13 题是否有Attention极化现象，如何应对？ 考察对Transformer中注意力分布极化问题的理解与应对策略第 14 题你针对Transformer特定层（如第二层）是否做过消融实验？结果如何？ 考察候选人是否有针对模型结构某层进行消融实验的经验及分析能力第 15 题介绍一下Transformer的结构？ 考察对Transformer核心组件的理解与整体架构掌握第 16 题跨模态对齐如何做的，你都了解哪些对齐方式？ 考察对跨模态对齐概念、常见对齐方法与实际应用的理解第 17 题请介绍几个你了解的大语言模型，并说明它们在模型结构上的主要差异。 考察对大模型技术谱系、结构差异与设计取舍的理解第 18 题怎么理解DETR中query的作用？ 考察对DETR架构中query机制的理解及其在目标检测中的作用第 19 题请介绍LLM的Decoder-Only架构，并说明其关键组成部分。 考察对Decoder-Only架构的基本原理、结构组成及核心概念的理解第 20 题请简述你对大语言模型基本原理的了解，包括其训练和推理的核心流程。 考察对大语言模型整体架构和运行机制的理解深度