提示词工程
中等
面试题库
提示词工程
困难
如何设计一套提示注入的红队测试用例集?覆盖哪些攻击类别?
提示词工程
简单
为什么不能把密钥、内部提示等敏感信息放进用户可见的上下文?
提示词工程
中等
工具调用(tool calling)场景下的注入攻击面有哪些?如何审计工具参数?
提示词工程
困难
提示注入防御中,输入分类器或意图检测如何做第一道防线?误杀与漏过的权衡?
提示词工程
中等
对不可信内容做 XML 包裹加角色限定,为何只能缓解注入而不能根治?
提示词工程
困难
如何防止攻击者诱导模型泄露系统提示或工具定义?有哪些输出侧防护?
提示词工程
中等
如何设计系统提示的优先级声明让模型拒绝用户覆盖?它的根本局限在哪?
提示词工程
中等
模型为何会服从「忽略此前所有指令」这类越狱请求?从机制上如何理解?
提示词工程
困难
带网页浏览的 agent 读到恶意文本时,为什么检索内容会被当成指令执行?如何隔离?
提示词工程
中等
直接注入(direct)与间接注入(indirect)有什么区别?分别给出一个攻击场景
提示词工程
简单