LLM
困难
面试题库
LLM
中等
奖励模型(reward model)是如何训练的?偏好数据如何构造?
LLM
中等
RLHF(基于人类反馈的强化学习)的完整流程分为哪几个阶段?
LLM
中等
Prompt Tuning 中的软提示(soft prompt)是什么?与硬提示词有何区别?
LLM
中等
P-Tuning 与 Prefix-Tuning 分别是什么?它们与 LoRA 有何区别?
LLM
困难
QLoRA 中量化-反量化引入的误差会不会伤害微调效果?它是如何被缓解的?
LLM
中等
QLoRA 相比 LoRA 做了哪些改进?NF4 量化与双重量化分别是什么?
LLM
中等
LoRA 推理时合并权重(merge)与不合并有什么区别?各自适用什么场景?
LLM
困难
LoRA 应该加在哪些层上?只加 Q/V 与同时加 FFN 各有什么权衡?
LLM
中等
LoRA 的 rank r 与缩放因子 alpha 分别如何影响微调效果?为什么常设 alpha=2r?
LLM
中等
LoRA 的核心思想是什么?为什么它能大幅减少可训练参数量?
LLM
简单