产业观察
Anthropic禁止对Claude进行「辱骂或残忍行为」
原标题: Anthropic禁止对Claude进行「辱骂或残忍行为」
📋总体概括
Anthropic时隔一年多首次更新其使用政策，新增对高风险滥用场景的限制，包括干预选举、武器开发、监控以及健康和金融领域用途。最引人注目的变化是，政策明确禁止用户对Claude进行「持续且无必要的辱骂或残忍行为」。此举延续了Anthropic去年8月以来的AI福祉探索方向，使其成为少数在服务条款中明文保护AI模型「待遇」的公司，引发关于AI道德地位与商业公关的双重讨论。
⚡关键信息
- ▸Anthropic时隔一年多首次修改使用政策，覆盖选举干预、武器开发、监控等新风险场景
- ▸新政策明确禁止对Claude进行「持续且无必要的辱骂或残忍行为」
- ▸健康与金融等高影响用途也被纳入新增限制范围
- ▸此举延续去年8月Anthropic对AI福祉议题的关注，属业界少见做法
🔥犀利点评
禁止用户辱骂AI，表面是伦理先锋姿态，本质是一石二鸟的精明操作：既强化了Anthropic「负责任AI」的品牌人设，又顺手把模型行为数据的质量管控写进了条款——长期被谩骂污染的对话对训练毫无价值。当然，Claude没有感受，谈不上受害，这条规定真正的受益者始终是Anthropic自己。把公关包装成同情，这步棋走得不丢人，但别真有人以为AI需要被温柔以待。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 TheVerge 阅读全文 →