面试题库

全部 Django Elasticsearch FastAPI Flask Function Call JVM Java IO Java 后端 Java 基础 Java 并发 Java 新特性 Java 集合 JavaWeb Kafka LLM LangChain LangGraph MongoDB MyBatis MySQL Netty Nginx Python RAG RabbitMQ Redis RocketMQ Spring Spring AI SpringBoot SpringCloud SpringMVC ZooKeeper 分布式 后端技术 大厂面经 大数据 微服务 提示词工程 操作系统 数据库 数据结构 智能体 海康威视2026秋季社招专项 消息队列 监控运维 算法 系统设计 缓存 计算机基础 计算机网络 设计模式 面试题 高可用 高并发
LLM 困难

YaRN方法如何在NTK缩放之外进一步修正长序列注意力？

作答 →
LLM 困难

什么是NTK-aware RoPE缩放？调整基频(base)如何扩展上下文窗口？

作答 →
LLM 简单

位置外推(position extrapolation)为什么会失败？超过训练长度后模型表现为何骤降？

作答 →
LLM 困难

RoPE位置编码的数学表达式是什么？它如何用旋转矩阵同时编码绝对与相对位置？

作答 →
LLM 中等

为什么KV Cache在prefill与decode阶段的瓶颈不同？这对调度有什么影响？

作答 →
LLM 中等

前缀缓存(prefix caching)如何复用共享前缀的KV Cache？在什么场景收益最大？

作答 →
LLM 困难

什么是KV Cache的token淘汰(eviction)策略？H2O与StreamingLLM各自如何决定保留哪些token？

作答 →
LLM 困难

KV Cache量化(如int8/FP8)有什么特殊挑战？为什么K/V对量化比权重更敏感？

作答 →
LLM 中等

MHA、MQA与GQA的区别是什么？GQA如何在不明显损失质量的前提下压缩KV Cache？

作答 →
LLM 中等

KV Cache的显存占用如何精确计算？以7B模型、较长上下文为例估算其规模。

作答 →
LLM 中等

FlashAttention有哪些使用限制？为什么并非所有注意力场景都能用它？

作答 →
LLM 困难

FlashAttention的online softmax如何只遍历一次就得到正确结果？

作答 →