Transformer中LayerNorm放在哪个位置？请说明其计算方式。
考察说明
考察对Transformer结构细节和LayerNorm计算的掌握程度
回答思路
- 能说明原始Transformer中LayerNorm位于残差连接之后、子层之前（Post-LN）
- 能说明LayerNorm对每个token的向量维度独立计算均值和方差
- 能说明归一化后引入可学习的缩放和偏移参数
- 能说明LayerNorm与BatchNorm在归一化维度和适用场景上的区别
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。