LLM
中等
面试题库
LLM
简单
top-p（核采样）的候选集是如何动态确定的？为什么它比固定 top-k 更灵活？
LLM
简单
temperature 在 softmax 中如何缩放 logits？为什么 T 趋近 0 时等价于贪心解码？
LLM
中等
稀疏注意力如何把 O(n²) 复杂度降下来？有哪些常见稀疏模式？
LLM
简单
上下文变长对首 token 延迟（TTFT）与整体吞吐有什么影响？
LLM
中等
PagedAttention 如何用分页思想管理 KV cache 显存？
LLM
简单
长上下文窗口时代，RAG 还有必要吗？两者如何取舍？
LLM
中等
扩展上下文窗口的常见方法（位置插值、外推、稀疏）如何对比？
LLM
中等
RoPE 在长序列外推时为什么会失效？NTK 与 YaRN 缩放如何缓解？
LLM
中等
FlashAttention 如何通过分块（tiling）与重计算减少显存访问？
LLM
中等
滑动窗口注意力在推理时如何降低显存与计算？它丢失了哪些信息？
LLM
中等