研究表明:LLM 水印可能会改变 AI Agent 的工具调用和行为
• Lasso Security 进行的一项研究发现,LLM 水印(一种用于识别 AI 生成文本的方法)会改变开源权重模型的工具调用方式及其行为。 • 研究人员观察到,这些水印技术改变了单个工具调用的结果和拒绝行为,而在遭受 Prompt Injection 攻击时,这种影响最为显著。 • 这些发现表明,旨在追踪 AI 内容的安全措施可能会在无意中降低 AI Agent 的可靠性和功能准确性。
analyticsindiamag.com









