AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
登录
登录
AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
首页
面试题库
互联网/IT行业面试题
请谈谈你对推理基础设施(Inference In…
互联网/IT行业面试题
更新 2026-08-05
请谈谈你对推理基础设施(Inference Infra)调度策略的理解,例如动态批处理(Dynamic Batching)等关键调度机制。
北京智谱华章科技
后端开发
互联网/IT
性能优化
技术原理
方案权衡
考察说明
考察对推理系统调度机制的理解与设计权衡
回答思路
能解释动态批处理的目标与触发时机
能说明离散批处理、连续批处理(Continuous Batching)等常见策略的区别
能讨论调度策略对吞吐、延迟和利用率的影响
能结合具体场景分析权衡与适用条件
换一题
上一题
在 Go 中,当 GC 导致 CPU 消耗过高时,有哪些常用手段来降低 GC 压力?如果只考虑对象池这一方案,你会如何设计和使用它?
下一题
请手写一个 shared_ptr 模板类,并说明其核心实现要点。
本题还出现在
后端岗位面试题
北京智谱华章科技面试题