产业观察🔥7.0
OpenAI 将在欧盟为 ChatGPT 和 Codex 文本输出添加隐形水印
📋总体概括
OpenAI 宣布为配合《欧盟人工智能法案》内容透明要求，未来几周将在欧盟地区为符合条件的 ChatGPT 和 Codex 文本输出嵌入名为 textGrain 的隐形水印。该技术在模型选词过程中植入不可见统计信号，供检测器识别文本是否由 OpenAI 模型生成。发布时不会全球默认开启，仅限欧盟推广；全球 API 客户可从即日起选择加入，云合作伙伴水印方案也将在几周内推出。同时 OpenAI 将向获批的研究人员和专家组织逐案开放探测器访问，该工具只报告是否检测到水印，不涉及用户身份或对话内容。
⚡关键信息
- ▸OpenAI 将在欧盟为符合条件的 ChatGPT 和 Codex 文本输出添加隐形水印，以符合欧盟人工智能法案的透明要求
- ▸水印技术名为 textGrain，在模型选词过程中嵌入不可见的统计信号供检测器识别
- ▸发布时不会设为全球默认，仅先在欧盟地区引入该功能
- ▸全球 API 客户即日起可选择为部分模型的文本输出添加水印，云合作伙伴方案将在几周内推出
- ▸获批研究人员和专家组织可逐案申请探测器访问，工具只报告水印检测结果，不透露用户身份或对话内容
🔥犀利点评
水印这东西，说白了是被欧盟监管逼出来的合规动作，而非 OpenAI 的技术初心。textGrain 嵌在选词统计信号里，改几个词、换个模型润色就可能失效，指望它遏制 AI 生成内容滥用基本是幻觉。但它巧妙的地方在于把皮球踢给了 API 客户——选择加入模式下，水印成了客户自己的透明度义务，OpenAI 既交了监管答卷又不用背责任。对研究人员逐案开放探测器是姿态，也是姿态而已。真正的看点是欧盟监管能否真的检验这套方案，否则水印就是形式主义的数字化身。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 IT之家 阅读全文 →