互联网/IT行业面试题更新 2026-08-05
请实现 Multi-Head Attention(MHA),说明其结构和计算流程。
快手人工智能互联网/IT编码实现技术原理PyTorch
考察说明
考察多头注意力机制的实现正确性与核心概念理解
回答思路
- 正确实现线性投影得到 Q、K、V
- 说明注意力分数计算、缩放和 softmax
- 正确拆分多头并最后拼接和输出投影
- 理解多头并行的意义
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。