面试题库

全部 Django Elasticsearch FastAPI Flask Function Call JVM Java IO Java 后端 Java 基础 Java 并发 Java 新特性 Java 集合 JavaWeb Kafka LLM LangChain LangGraph MongoDB MyBatis MySQL Netty Nginx Python RAG RabbitMQ Redis RocketMQ Spring Spring AI SpringBoot SpringCloud SpringMVC ZooKeeper 分布式 后端技术 大厂面经 大数据 微服务 提示词工程 操作系统 数据库 数据结构 智能体 海康威视2026秋季社招专项 消息队列 监控运维 算法 系统设计 缓存 计算机基础 计算机网络 设计模式 面试题 高可用 高并发
LLM 简单

全参微调（full fine-tuning）的流程是什么？它有哪些代价？

作答 →
LLM 困难

混合精度训练、梯度裁剪与梯度累积各自解决什么问题？如何配合使用？

作答 →
LLM 中等

从零预训练一个 LLM 通常需要准备哪些资源与步骤？

作答 →
LLM 困难

预训练中学习率调度（warmup + 余弦退火）为什么重要？

作答 →
LLM 中等

中文 tokenizer 相比英文有哪些特殊问题？如何缓解中文分词粒度不当的影响？

作答 →
LLM 中等

BPE 分词器是如何训练的？词表大小对模型有什么影响？

作答 →
LLM 困难

预训练过程中出现 loss spike（损失尖峰）可能是什么原因？如何应对？

作答 →
LLM 简单

预训练、继续预训练（CPT）与微调（SFT）三者有什么区别？分别解决什么问题？

作答 →
LLM 困难

缩放定律（scaling law）揭示了怎样的幂律关系？对算力分配有何指导？

作答 →
LLM 中等

预训练数据配比与课程学习（curriculum learning）如何影响模型能力？

作答 →
LLM 中等

预训练数据为什么要清洗与去重？常用的清洗与去重手段有哪些？

作答 →
LLM 困难

预训练损失（交叉熵）与困惑度 perplexity 之间是什么关系？如何互相换算？

作答 →