产业观察
写进 AI 宪法里的「人类控制」，为什么仍然不是控制
📋总体概括
2026年9月14日，Microsoft AI发布Humanist AI Code of Conduct，定位为未来MAI模型的主要治理文件，类似模型层面的「宪法」。文件以三个关键词概括方向：subordinate（从属人类）、aligned（目标一致）、contained（边界可控）。文章质疑：写在文件里的「人类控制」仍停留在原则宣示层面，缺乏可执行的约束机制和验证标准，控制权归属更多取决于部署方而非文本本身，这类治理文件的象征意义大于实际约束力。
⚡关键信息
- ▸Microsoft AI于2026年9月14日发布Humanist AI Code of Conduct，定位为MAI模型的主要治理文件
- ▸文件将AI方向概括为subordinate、aligned、contained三词：从属人类、目标一致、边界可控
- ▸该文件不是产品安全说明或用户政策，而是模型行为、价值观与安全约束的顶层规范
- ▸文章核心观点：写进治理文件的「人类控制」缺乏执行与验证机制，不构成真正控制
🔥犀利点评
AI公司最爱干的事就是把价值观写进文件，然后当成控制力本身来宣传。Anthropic的Constitutional AI开了先例，微软跟进并不意外——但原则和约束之间隔着整个工程实现。subordinate、aligned、contained三个词听着漂亮，问题是谁来定义「人类」、哪部分人类、何时撤销？没有独立审计和硬性中断机制，宪法就是公关文书。真正的控制不在文本里，在权重、部署权限和监管框架里。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 虎嗅24小时 阅读全文 →