LLM
简单
面试题库
LLM
困难
全参微调中如何冻结部分层(渐进式解冻)?它的收益与风险是什么?
LLM
中等
多任务指令微调为什么通常比单任务微调泛化更好?
LLM
中等
指令微调的数据应如何构造与清洗?有哪些常见的格式与质量要求?
LLM
困难
微调中如何进行早停与 checkpoint 选择?以验证损失还是下游指标为准?
LLM
中等
微调的学习率为什么远小于预训练?epoch 数一般如何选择?
LLM
困难
微调数据量、质量与多样性如何影响最终效果?如何判断是否过拟合?
LLM
中等
微调、RAG 与 Prompt 工程三者如何取舍?各自解决什么问题?
LLM
中等
微调中的灾难性遗忘是如何产生的?有哪些缓解手段?
LLM
困难
RLHF/DPO 中的 KL 约束与灾难性遗忘有什么关系?为什么必须限制偏离参考策略?
LLM
困难
DPO 的「隐式奖励」是如何从 Bradley-Terry 模型推导出来的?
LLM
中等