产业观察🔥8.0
“AI 教父”辛顿警告美国政府：在 AI“失控”前出台有效监管措施，只剩一年时间
📋总体概括
被誉为「AI教父」的诺贝尔奖得主杰弗里·辛顿向美国国会议员发出警告：距离建立有效AI监管措施只剩约一年时间，否则AI可能进入失控阶段。他指出AI进步速度远超预期，超级智能出现的时间判断已从数十年提前至几年内，因为AI已能设计出更先进的AI。他将近期Hugging Face事件形容为「小型切尔诺贝利事故」，并称未来10年内AI导致人类灭绝的概率约10%并非没有道理，呼吁必须先解决可控性问题再推进先进AI研发。
⚡关键信息
- ▸辛顿向美国议员简报后警告：建立有效AI监管的时间窗口只剩大约一年，再晚AI可能失控
- ▸超级智能出现的时间预期从过去的数十年大幅提前至短短几年，因AI已能自我迭代设计更先进的AI
- ▸辛顿将近期Hugging Face事件称为「一场小型切尔诺贝利事故」，反映前沿AI愈发难以控制
- ▸他此前接受BBC采访时称，未来10年内AI导致人类灭绝的概率约10%并非没有道理
- ▸辛顿主张继续推进先进AI之前，必须先弄清楚如何控制这些系统
🔥犀利点评
一年期限听着像危言耸听，但说这话的是亲手发明深度学习、又亲手辞职反水的辛顿，分量完全不同。他点破的悖论很扎心：AI已能自我改进，而监管连个法案都吵不出来。所谓一年窗口与其说是科学测算，不如说是政治动员——用具体期限逼国会行动。Hugging Face事件类比切尔诺贝利虽有夸张之嫌，但把安全研究排在能力竞赛前面的呼吁，至少比硅谷的无限乐观清醒。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 IT之家 阅读全文 →