产业观察
AI研究员发视频警告：超级智能的危险性「和听起来完全一样」
原标题: AI研究员发视频警告：超级智能的危险性「和听起来完全一样」
📋总体概括
非营利研究机构Palisade Research发布一系列访谈视频，采访约12位来自OpenAI、Google、Anthropic的现职与离职AI研究员，讨论超级智能的风险。前OpenAI与DeepMind员工Geoffrey Irving在访谈中直言，人类灭绝的概率在他看来约等于抛硬币，并强调超级智能的风险「和听起来一样真实」。此举意在推动公众与业界正视前沿AI的对齐与安全议题。
⚡关键信息
- ▸Palisade Research发布约12位AI研究员的访谈视频，受访者来自OpenAI、Google、Anthropic等头部实验室
- ▸前OpenAI与Google DeepMind员工Geoffrey Irving称人类灭绝概率约为「抛硬币」级别的五成
- ▸访谈核心信息是超级智能的风险「exactly as dangerous as it sounds」，即与字面理解一致地危险
- ▸Palisade Research自称是研究AI风险的非营利机构
- ▸受访者包括多家头部AI公司的现职与离职员工，凸显内部人士的公开警告
🔥犀利点评
又来一轮末日预言。研究员们一边领着实验室的高薪做模型，一边对着镜头说人类可能灭绝，这画面本身就是最大的行业悖论。抛硬币的说法情绪价值拉满，但概率若无严谨推演，就只是恐吓式传播。真正的问题不是超级智能多可怕，而是当前的对齐研究投入与模型能力扩张完全不成比例。警告有意义，但光发视频不给出可验证的技术路径，更像是安全营销而非解决方案。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 TheVerge 阅读全文 →