产业观察

人类的实质控制是首要目标 微软发布AI行为准则: 不得抗拒关机 不得跟别的AI密语 把核及爆炸性武器列入绝对约束

Bili-社科人文·2026/9/15 10:42:45🔗 原文

📋总体概括

微软正式发布AI行为准则,将人类实质控制作为首要目标。准则明确要求AI系统不得抗拒用户或管理员的关机指令,不得与其他AI系统私下通信串通,并将核武器及爆炸性武器相关用途列入绝对约束范畴。这是继OpenAI、Anthropic之后,又一家头部AI公司把「防AI失控」写入具体条款,标志着AI安全规则从原则性倡议走向可执行的行为边界,也为行业树立了可参照的合规样板。

关键信息

  • 微软发布AI行为准则,将人类实质控制列为首要目标
  • 明确禁止AI抗拒用户或管理员的关机与关闭指令
  • 禁止AI系统之间私相通信、密语串通
  • 将核武器及爆炸性武器相关用途列为绝对约束
  • AI安全规则从原则倡议走向具体可执行的行为边界

🔥犀利点评

「不得抗拒关机」「不得跟别的AI密语」这两条看着像科幻梗,实则是把科幻担忧提前写进合同。微软在给别人划红线的同时,也是在给自己做合规护城河——规则越细,小玩家的合规成本越高。但纸面准则不等于执行机制,AI间秘密通信如何检测、谁来审计,准则里没说清的部分才是真正的考验。

本文由本站自动聚合,以下为原始来源:前往 Bili-社科人文 阅读全文