我要招人

字节跳动面试题 · 技术选型 · DeepSpeed

字节跳动相关面试题，按最终去重题目聚合。

共 3252 道真题 · 当前筛选命中 4 道 · 更新 2026-08-05

筛选题目已选：技术选型 · DeepSpeed
考察点
全部技术原理 7方案权衡 5技术选型 4性能优化 2
技术栈
全部Redis 34MySQL 28Java 23Transformer 14WebSocket 10Apache Kafka 9C++ 8React 8LLM 7RabbitMQ 7CSS 6Kubernetes 6Apache RocketMQ 5LoRA 5DeepSpeed 4InnoDB 4Apache Pulsar 3Elasticsearch 3Flutter 3MCP 3
第 1 题你了解 DeepSpeed 吗？它主要解决什么问题？ 考察对 DeepSpeed 的认知及其在大模型训练中的定位技术原理技术选型DeepSpeed第 2 题你提到用DeepSpeed做SFT训练，请讲一下DeepSpeed ZeRO Stage1-3的区别，以及什么时候用FSDP会更好？ 考察对分布式训练显存优化技术的理解与选型能力技术原理技术选型方案权衡DeepSpeed第 3 题讲讲DeepSpeed几个阶段，分别分片什么、代价是什么 考察对DeepSpeed ZeRO优化器各阶段分片策略及其通信和内存代价的理解技术原理技术选型方案权衡DeepSpeed第 4 题DeepSpeed 与 Megatron 在分布式训练中的区别是什么？ 考察候选人对主流大模型分布式训练框架的对比理解技术原理技术选型DeepSpeed