面试题库

全部 Django Elasticsearch FastAPI Flask Function Call JVM Java IO Java 后端 Java 基础 Java 并发 Java 新特性 Java 集合 JavaWeb Kafka LLM LangChain LangGraph MongoDB MyBatis MySQL Netty Nginx Python RAG RabbitMQ Redis RocketMQ Spring Spring AI SpringBoot SpringCloud SpringMVC ZooKeeper 分布式 后端技术 大厂面经 大数据 微服务 提示词工程 操作系统 数据库 数据结构 智能体 海康威视2026秋季社招专项 消息队列 监控运维 算法 系统设计 缓存 计算机基础 计算机网络 设计模式 面试题 高可用 高并发
LLM 困难

投机采样中草稿模型与目标模型分布不一致时,拒绝采样如何保证无损?

LLM 困难

投机采样(speculative decoding)为什么能加速生成又保证输出分布不变?

LLM 中等

什么是自蒸馏(self-distillation)?它如何在不引入更大模型的情况下提升小模型?

LLM 中等

知识蒸馏中为什么可以用大模型的logits(软标签)训练小模型?温度参数的作用是什么?

LLM 困难

什么是2:4结构化稀疏?它如何利用Tensor Core实现接近理论的加速?

LLM 中等

结构化剪枝与非结构化剪枝有何区别?为什么非结构化剪枝在GPU上未必能加速?

LLM 简单

什么是量化校准集(calibration set)?它的选择会如何影响量化质量?

LLM 中等

动态量化与静态量化有何区别?为什么大模型推理常用weight-only量化?

LLM 简单

量化模型的精度损失如何评估?为什么常用perplexity回退作为指标?

LLM 中等

4bit的NF4量化与普通均匀int4量化有何不同?分位量化如何构造码本?

LLM 困难

什么是激活值量化中的异常值(outlier)问题?LLM.int8()如何用混合精度分解解决它?

LLM 中等

量化的粒度有按层、按通道、按组三种,为什么group-wise量化通常精度更高?