产业观察
百余名专家联名呼吁:AI巨头应强化独立安全评估机制
📋总体概括
9月18日,AI Evaluator Forum组织超100名AI专家联署公开信,呼吁基础模型公司为第三方评估人员提供足够的资源、访问权限与制度保障,签署者包括杰弗里·辛顿及斯坦福大学、约翰斯·霍普金斯大学、METR等机构成员。此举意在督促AI巨头兑现支持独立安全测试的承诺。此前Anthropic CEO阿莫代伊提议向外部评估人员开放类员工权限,使小型AI评估行业成为焦点。而美国特朗普政府明确反对新增AI监管,主张企业自查,独立评估机制的落地前景充满博弈。
⚡关键信息
- ▸超100名AI专家于9月18日联署公开信,呼吁强化第三方独立安全评估机制
- ▸联署者包括「AI教父」杰弗里·辛顿,以及斯坦福、约翰斯·霍普金斯和METR等机构成员
- ▸公开信要求基础模型厂商保障评估的「科学客观性、透明度、独立性和有力保护」
- ▸Anthropic CEO阿莫代伊此前提议向外部评估人员提供类员工访问权限以审计前沿模型
- ▸特朗普及前AI事务负责人萨克斯反对新增AI监管,主张企业自身承担安全责任
🔥犀利点评
这封信本质上是评估行业对AI巨头的「要账」:各家嘴上承诺开放审计,实际给的钱、权限、法律保护样样缺位。辛顿站台证明学界焦虑是真的,但真正的症结在华盛顿——特朗普政府把安全责任全推给企业自查,等于让运动员兼裁判。Anthropic的开放提议是姿态还是诚意,就看它敢不敢第一个签下制度化承诺。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 财联社深度 阅读全文 →