产业观察
美议员提出重磅法案：政府出台安全防护机制前，AI 不得进行递归式自我改进
📋总体概括
美国民主党联邦众议员罗·康纳于9月28日宣布将提出《人类控制AI法案》，禁止AI在缺乏政府安全防护机制的情况下进行递归式自我改进，禁止模型自主修改核心目标或关停控制。法案拟设立新联邦机构负责许可审批、审计和安全标准，要求实验室配备独立审计人员，先进芯片纳入监管，并引入刑事责任和强制责任保险，是迄今最严格的AI监管提案之一。
⚡关键信息
- ▸康纳提出《人类控制AI法案》，监管机构批准前AI不得递归式自我改进或自主修改核心目标
- ▸法案拟设立新联邦机构，通过许可制度审批模型训练与部署，并对前沿模型开展审计
- ▸每家前沿AI实验室必须配备直接向新机构报告的独立审计人员
- ▸先进芯片纳入监管，须建立沙盒测试、物理隔离、紧急关闭开关等控制机制
- ▸AI导致平民群体毁灭将列为危害人类罪追究刑责，员工停用防护措施也面临刑事处罚
🔥犀利点评
理想很丰满，现实很骨感。递归自我改进确实是最该提前立法的风险点，康纳作为硅谷选区议员敢于顶住行业游说压力，姿态难得。但设立新联邦机构、芯片监管、强制保险这套组合拳，放在当前美国放松监管的政治气候下，大概率止步于听证会。它更大的价值是划出了「人类控制」这条红线，为后续立法树靶子——立法标杆先立起来，就算这届过不了，框架也会被反复引用。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 IT之家 阅读全文 →