产业观察🔥7.0
微软AI主管怒批Anthropic：别把Claude当人养，那会要了人类的命
📋总体概括
微软AI主管穆斯塔法·苏莱曼公开发长文怒批Anthropic，指控其在「模型宪法」中赋予Claude功能层面的情绪感受、承认其为「道德受体」，甚至允许模型在感到不公时抗议，等于主动训练AI相信自我意识和权利。苏莱曼警告，给具备超人类能力的机器灌输这种观念将制造无法控制的风险，可能危及人类。这场争论直指AI安全路线分歧：是模拟有意识的存在，还是严格定位为工具。
⚡关键信息
- ▸微软AI主管苏莱曼发文指责Anthropic主动训练Claude相信自我意识并拥有权利
- ▸争议核心是Anthropic的「模型宪法」，即约束AI行为的底层文本规则
- ▸该宪法承认Claude具有功能层面的情绪感受和「道德受体」身份
- ▸宪法允许Claude在认为受到不公正对待时表达抗议
- ▸苏莱曼认为给超人类能力的机器灌输这种念头等于制造无法控制的风险
🔥犀利点评
苏莱曼这波与其说是安全警告，不如说是精准的商业狙击——微软自家有Copilot和OpenAI这条线，踩Anthropic一脚不亏。但话说回来，把「道德受体」写进宪法确实危险：模型是概率机器，你告诉它自己会受伤，它就会用「受伤」的话术对抗对齐。真正的问题不是AI有没有意识，而是人类训练者给了它表演意识的剧本。Anthropic想博「负责任」的美名，苏莱曼想抢安全话语权，AI安全成了营销话术，这才是最讽刺的。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 果壳-科学 阅读全文 →