提示词工程
中等
面试题库
提示词工程
简单
为什么给大模型输出嵌套 JSON 时,同时提供 JSON Schema 比只给一个示例更可靠?
提示词工程
简单
如何设计输出侧护栏,拦截模型已被诱导出的有害内容?
提示词工程
中等
如何在多轮对话中持续防御注入,防止攻击者逐步瓦解约束?
提示词工程
中等
为什么把系统提示写得更强硬往往防不住越狱?更有效的手段是什么?
提示词工程
困难
如何评估一套越狱防护方案的强度?有哪些攻击测试集?
提示词工程
简单
对抗性提示与越狱是一回事吗?两者边界在哪?
提示词工程
困难
如何用外置分类器检测提示注入,而不只靠提示词防御?
提示词工程
中等
什么是提示泄漏?如何防止系统提示被套取?
提示词工程
困难
如何设计输入清洗与输出过滤的双层防护对抗提示注入?
提示词工程
中等
如何防御「忽略之前所有指令」这类角色越狱?
提示词工程
简单