产业观察
微软 CEO 纳德拉：以前我认为 AI 越强大也会越安全，现在不信了
📋总体概括
微软CEO纳德拉在《20VC》播客中公开推翻自己此前的判断：他曾认为AI越强大，对齐问题就会越容易解决，如今承认能力提升与行为对齐并不会自然同步，对齐是一个性质不同、更棘手的问题。10月10日他还发文警告AI风险，主张企业将AI模型视为内部安全威胁，假定模型已被入侵来设计防护，并通过人工管控与行业标准补足。奥尔特曼、阿莫代伊等高管及千余名从业者也在警告AI失控风险，头部公司掌门人的安全共识正在形成。
⚡关键信息
- ▸纳德拉改变对齐观点：不再相信AI能力提升会自动带来行为符合人类价值观
- ▸他主张企业应将AI模型视为内部安全威胁，按模型已被入侵的前提做防护设计
- ▸10月10日纳德拉在X发文，呼吁确定性系统设计、人工管控及制定行业标准
- ▸奥尔特曼与阿莫代伊均曾警告AI威胁，7月超1000名AI从业者联署警示能力失控风险
🔥犀利点评
连全力押注AI的微软掌门人都承认对齐不会随算力自动解决，这比任何学术警告都有分量。说白了，Scaling Law造出了能力，却没造出可控性，这是两条完全不同的赛道。纳德拉一边卖AI一边喊威胁，既要商业增长又要安全叙事，姿态固然微妙，但至少说明头部玩家已不敢再把风险当营销边角料。真正的考验在于：行业标准能不能跑赢模型迭代速度。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 IT之家 阅读全文 →