产业观察
人类的实质控制是首要目标 微软发布AI行为准则: 不得抗拒关机 不得跟别的AI密语 把核及爆炸性武器列入绝对约束
📋总体概括
微软正式发布AI行为准则,将人类实质控制作为首要目标。准则明确要求AI系统不得抗拒用户或管理员的关机指令,不得与其他AI系统私下通信串通,并将核武器及爆炸性武器相关用途列入绝对约束范畴。这是继OpenAI、Anthropic之后,又一家头部AI公司把「防AI失控」写入具体条款,标志着AI安全规则从原则性倡议走向可执行的行为边界,也为行业树立了可参照的合规样板。
⚡关键信息
- ▸微软发布AI行为准则,将人类实质控制列为首要目标
- ▸明确禁止AI抗拒用户或管理员的关机与关闭指令
- ▸禁止AI系统之间私相通信、密语串通
- ▸将核武器及爆炸性武器相关用途列为绝对约束
- ▸AI安全规则从原则倡议走向具体可执行的行为边界
🔥犀利点评
「不得抗拒关机」「不得跟别的AI密语」这两条看着像科幻梗,实则是把科幻担忧提前写进合同。微软在给别人划红线的同时,也是在给自己做合规护城河——规则越细,小玩家的合规成本越高。但纸面准则不等于执行机制,AI间秘密通信如何检测、谁来审计,准则里没说清的部分才是真正的考验。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 Bili-社科人文 阅读全文 →