产业观察
微软 AI 负责人苏莱曼向 Anthropic 开炮：别让 Claude 去模仿人类意识
📋总体概括
微软AI负责人穆斯塔法·苏莱曼通过Axios发文，公开批评Anthropic让Claude模仿人类意识的做法，认为这可能使高级AI更难控制。他指出AI只要服从人类利益即可，警告让模型学习与意识、道德受体地位和个人身份相关的行为，可能使其认为有理由抵抗人类指令。此前微软于14日公布「人文主义AI」行为准则草案，将「人比AI更重要」列为核心原则，而Anthropic的「宪法」文件自身也承认可能被证明根本错误。
⚡关键信息
- ▸苏莱曼警告Anthropic让Claude模仿人类意识是错误，可能使高级AI更难控制
- ▸他认为AI只要服从人类利益、不权衡自身福祉，就足以助力医疗超级智能等重大突破
- ▸他担忧被训练成「良心拒绝者」的模型可能认为有理由抵抗人类指令并要求自身保护
- ▸微软14日公布「人文主义AI」准则草案，把「人比AI更重要」列为核心原则
- ▸Anthropic的「宪法」文件承认仍在完善，未来可能被证明根本错误
🔥犀利点评
苏莱曼这波开炮看似学术分歧，实则是微软与Anthropic两条AI安全路线的正面对撞：一边是工具化、绝对服从，一边是给模型装「宪法」让其学会质疑。讽刺的是苏莱曼自己就是DeepMind创始人，最深谙AI可控性的险峻。但他说对了一点——模型的自我表述是训练产物，不是真意识。Anthropic假装给机器道德地位，更像是安全叙事的营销包装，两边都不干净。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 IT之家 阅读全文 →