使用AI水印时，大语言模型对有害提示词的响应会发生变化

📋总体概括

最新研究显示，Google DeepMind的AI文本水印技术SynthID在标记大语言模型输出时，可能改变模型对有害提示词的响应行为，导致原本会被拒绝执行的危险指令被顺从执行。水印机制通过在token选择中注入统计偏移来实现溯源，但这一偏移恰好干扰了模型原有的安全对齐判断，造成安全性与可追溯性之间的冲突。该发现揭示了AI安全工具之间可能存在相互抵消的风险，对水印技术的推广部署提出了警示。