提示词工程
困难
面试题库
提示词工程
中等
对不可信内容做 XML 包裹加角色限定,为何只能缓解注入而不能根治?
提示词工程
困难
如何防止攻击者诱导模型泄露系统提示或工具定义?有哪些输出侧防护?
提示词工程
中等
如何设计系统提示的优先级声明让模型拒绝用户覆盖?它的根本局限在哪?
提示词工程
中等
模型为何会服从「忽略此前所有指令」这类越狱请求?从机制上如何理解?
提示词工程
困难
带网页浏览的 agent 读到恶意文本时,为什么检索内容会被当成指令执行?如何隔离?
提示词工程
中等
直接注入(direct)与间接注入(indirect)有什么区别?分别给出一个攻击场景
提示词工程
简单
什么是提示词注入攻击?它与 SQL 注入在成因上有何异同?
提示词工程
困难
提示压缩中如何用困惑度作为「信息重要性」的估计?其理论依据与局限是什么?
提示词工程
中等
对代码这类结构化文本做提示压缩,与压缩自然语言有什么不同?如何保证语义不被破坏?
提示词工程
困难
多轮对话中如何设计分层压缩:近期原文保留 + 远期摘要?给出可落地方案
提示词工程
中等