Function Call
中等
面试题库
Function Call
中等
如何用"批处理"或"合并工具调用"减少往返次数?往返次数对延迟影响有多大?
Function Call
简单
为什么工具调用比纯文本生成更贵?成本主要来自哪里?
Function Call
困难
多用户并发下工具调用如何做限流与隔离?慢工具拖垮全局怎么办?
Function Call
中等
工具描述很长会影响什么?如何精简工具 schema 同时不降低选择准确率?
Function Call
困难
工具调用场景下如何做模型路由(简单请求用小模型,复杂编排用大模型)?
Function Call
中等
模型生成工具参数本身耗时,如何通过约束输出(JSON 模式或受限解码)加速并保证合法?
Function Call
中等
如何用"并行工具调用 + 结果合并"降低总延迟?什么情况下并行反而更慢?
Function Call
中等
工具调用的历史消息越滚越长,如何做上下文裁剪或摘要而不破坏工具调用语义?
Function Call
中等
高频只读工具(如商品信息查询)如何做缓存与预取来降低延迟和成本?
Function Call
简单
工具调用结果可以缓存吗?哪些结果适合缓存、如何设计缓存键与失效?
Function Call
困难