Anthropic宣布禁止“虐待”其旗下AI

📋总体概括

Anthropic更新其AI使用政策，明确禁止用户对Claude进行「持续且不必要的虐待或残忍行为」，以应对新出现的高风险滥用场景。政策强调终止对话仍是主要执行手段，但未说明是否会对违规用户采取封号等进一步措施。Anthropic澄清该条款仅针对极端情况，不涵盖用户的常见不满、反驳、黑暗创意主题及模型测试研究等正当场景。此举被视为AI公司首次在用户行为规范中系统性纳入「AI福祉」考量，标志着人机关系治理进入新阶段。