LangChain
简单
面试题库
LangChain
简单
流式输出时 token 用量信息(usage)何时才可用?stream_usage 参数做什么?
LangChain
困难
如何用 RunnableGenerator 或 RunnableLambda 实现自定义流式输出?
LangChain
中等
如何在 FastAPI 中用 SSE 把 LangChain 的 astream 推送到前端?
LangChain
中等
astream 返回的 chunk 类型如何判断与合并(AIMessageChunk)?
LangChain
困难
高并发下如何对流式输出做背压与节流?
LangChain
中等
同步 stream 与异步 astream 在实现上有什么差异?如何避免阻塞事件循环?
LangChain
困难
流式输出中断后重试,如何保证前端收到的 token 顺序与最终消息一致?
LangChain
中等
如何流式输出工具调用的部分参数(partial tool call)?
LangChain
困难
astream_events 中 on_chat_model_stream 与 on_llm_stream 如何选择?
LangChain
中等
astream_events 相比 astream 提供了哪些额外的流式能力?
LangChain
简单