资讯🔥7.0
OpenAI首席科学家称AI或很快迈入自我进化阶段,期望业界自愿放缓开发
📋总体概括
OpenAI首席科学家Jakub Pachocki公开警告,AI演进速度过快,已越来越难被人类理解和控制。他在周日发表的文章中提出两条路径:更严格地引导AI与人类利益对齐,或在必要时放慢开发速度,并表示期望在建立共同安全门槛之前,各大AI实验室能出于安全考虑自愿放缓开发。这是OpenAI核心高管罕见地直接呼吁全行业自我约束,凸显头部实验室对前沿模型失控风险的担忧正从内部研究议题转向公开的行业治理倡议。
⚡关键信息
- ▸OpenAI首席科学家Jakub Pachocki警告AI演进速度极快,越来越难以被人类理解和控制
- ▸他提出两条应对路径:更严格引导AI与人类利益对齐,或在必要时放慢开发速度
- ▸Pachocki期望在建立共同安全门槛之前,自愿放缓开发成为行业普遍现象
- ▸该表态以署名文章形式于周日发布,属OpenAI核心高管罕见的公开行业治理倡议
🔥犀利点评
让竞争白热化的AI实验室「自愿放缓」,无异于请跑道上的人自己踩刹车——只要有一家不减速,所有人的承诺都是空话。这番表态的真正价值不在呼吁本身,而在信号意义:OpenAI内部对模型可控性的担忧已经压不住商业野心,只能借高管之口向监管和公众预先铺垫。与其等自觉,不如看各国有没有能力把「共同安全门槛」变成硬约束。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 36氪快讯 阅读全文 →