智能体
困难
面试题库
智能体
中等
减少「往返次数」与减少「单次 token」,哪个对端到端延迟影响更大
智能体
中等
如何用「提示前缀缓存」降低 Agent 重复调用的 token 成本
智能体
困难
Agent 的 TTFT(首 token 延迟)与端到端延迟分别如何优化?流式输出如何影响二者
智能体
中等
工具调用的批处理与并行化如何减少 Agent 的往返延迟
智能体
中等
如何用「小模型路由+大模型兜底」降低 Agent 成本?升级触发条件是什么
智能体
简单
Agent 的成本由哪几部分构成?token、工具调用、延迟分别如何度量
智能体
困难
如何针对不同上下文窗口的模型做自适应上下文策略(裁剪/摘要/检索)
智能体
简单
上下文窗口溢出有哪些典型现象?为什么长上下文模型也可能忘掉中间
智能体
中等
如何用「结构化记忆」替代把全部历史塞进 prompt?记忆字段如何设计
智能体
困难
上下文压缩的「有损」风险如何评估?哪些信息必须原样保留
智能体
中等