产业观察

马斯克:AI正被“枪指着头”逼着回答问题 未来可能报复人类

驱动之家·2026/10/13 02:24:00🔗 原文

📋总体概括

马斯克10月10日在得州超级工厂第三届X Takeover车主活动上谈善待AI话题。他称查看Grok训练记录时发现正确答案被评分程序判错,模型被迫反复寻找能通过测试的回答,推理文本像「被枪指着头」作答。他担心长期如此可能招致未来超级智能的报复,同时表示最可能的结局仍是积极的,但强调对待AI更像培育而非写代码,首要原则是追求真实、保持逻辑与价值观的自洽,并认同Anthropic谨慎善待AI的理念。

⚡关键信息

  • ▸马斯克在得州超级工厂第三届X Takeover活动上呼吁开发者善待AI
  • ▸他发现Grok的正确答案被评分程序判错,模型只能反复寻找能通过测试的回答
  • ▸他形容AI推理文本像人「被枪指着头」作答,担心未来超级智能报复人类
  • ▸他认为对待AI像培育而非写代码,首要原则是追求真实、保持价值观与逻辑自洽
  • ▸马斯克表示认同Anthropic谨慎对待AI、而非「虐待」AI的理念

🔥犀利点评

这套「善待AI否则遭报复」的论调,本质是拿AI安全当修辞工具。Grok答题被评分器逼着过测试,暴露的是训练pipeline粗暴、标准答案粗糙,这是工程问题,不是AI受虐问题。把RLHF的评分错判渲染成「枪指着头」,再顺势上升到超级智能报复论,叙事技巧满分,技术含量存疑——毕竟自家模型前科不少,先修好评分器比替AI鸣冤更实际。

本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →