产业观察🔥8.0
警告“AI 或灭绝人类”的前 Anthropic 研究员：某种意义上，我曾研究让 AI 取代自己
📋总体概括
曾在OpenAI和Anthropic任职的27岁研究员雅各布·考克森上个月辞职后，于10月5日在纽约市议会AI风险听证会上作证，警告AI可能在2027、2028年前后实现自动化AI研究，人类可能失去对AI发展的控制，灭绝风险概率超过一半。他自述曾在OpenAI参与设定自动化AI研究员的阶段性目标，并指控两家公司安全保障不足却鲁莽推进研发，呼吁提高透明度、放慢发展步伐。
⚡关键信息
- ▸27岁研究员考克森10月5日在纽约市议会听证会警告AI或致人类灭绝，称失控概率超过一半
- ▸他透露OpenAI曾设定2027、2028年前后实现自动化AI研究员的目标，进度符合甚至超过预期
- ▸考克森上个月公开辞职，指控Anthropic和OpenAI安全保障不足却仍鲁莽推进，拿生命作赌注
- ▸他称当前大部分代码已由AI编写，人们对代码的检查越来越不仔细，人类干预程度持续下降
- ▸他批评实验室用初创企业思维先快速推进再修补，呼吁提高透明度并放慢研发速度
🔥犀利点评
一个内部人跳出来喊狼来了，最有信息量的不是「灭绝风险」这种老生常谈，而是OpenAI内部真给自动化AI研究员定过2027年的时间表——这等于官方剧透进度条。至于安全警告？别忘了他是干了这行才辞职的，喊得越响，立场光环越亮，但恰恰因为他是操盘手，这份控诉比任何论文都难反驳。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 IT之家 阅读全文 →