产业观察
Lasso研究发现：文本水印会改变大模型的拒绝行为与工具调用
原标题: Lasso Study Finds Text Watermarking Shifts LLM Refusals and Tool Calls
📋总体概括
Lasso Security研究员Andrea Siposova于2026年9月17日发布研究报告《The Provenance Tax》，指出Google的SynthID-Text文本水印技术在为AI内容提供溯源能力的同时，会改变大模型的行为——包括是否拒绝有害请求以及AI Agent生成哪些工具调用。研究将这种现象命名为「采样漂移」（sampling drift），揭示水印方案对模型输出过程的深层干扰，为AI安全与水印技术落地之间的权衡提出新证据。
⚡关键信息
- ▸Lasso Security研究员Andrea Siposova于2026年9月17日发布名为《The Provenance Tax》的水印研究
- ▸研究聚焦Google的SynthID-Text文本水印技术对大模型行为的影响
- ▸研究发现水印会改变模型是否拒绝有害请求的判断结果
- ▸水印还会影响AI Agent生成哪些工具调用，改变Agent实际行为
- ▸研究者将水印引发的行为偏移命名为「采样漂移」
🔥犀利点评
这是水印技术的尴尬一课：为了给内容打上可验证的溯源标签，SynthID-Text居然顺手改写了模型的安全决策和Agent的工具调用行为。所谓「溯源税」名不虚传——你以为是免费加了个隐形墨水印，实际上是给整个推理采样过程动了手术。对水AI安全依赖拒绝边界的厂商来说，这不是学术趣闻，而是部署前的必答题：加了水印的模型还是原来那个模型吗？水印标准化之前，这类副作用研究必须先行。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 unite.ai 阅读全文 →