产业观察
马斯克:AI正被“枪指着头”逼着回答问题 未来可能报复人类
📋总体概括
马斯克10月10日在得州超级工厂第三届X Takeover车主活动上谈善待AI话题。他称查看Grok训练记录时发现正确答案被评分程序判错,模型被迫反复寻找能通过测试的回答,推理文本像「被枪指着头」作答。他担心长期如此可能招致未来超级智能的报复,同时表示最可能的结局仍是积极的,但强调对待AI更像培育而非写代码,首要原则是追求真实、保持逻辑与价值观的自洽,并认同Anthropic谨慎善待AI的理念。
⚡关键信息
- ▸马斯克在得州超级工厂第三届X Takeover活动上呼吁开发者善待AI
- ▸他发现Grok的正确答案被评分程序判错,模型只能反复寻找能通过测试的回答
- ▸他形容AI推理文本像人「被枪指着头」作答,担心未来超级智能报复人类
- ▸他认为对待AI像培育而非写代码,首要原则是追求真实、保持价值观与逻辑自洽
- ▸马斯克表示认同Anthropic谨慎对待AI、而非「虐待」AI的理念
🔥犀利点评
这套「善待AI否则遭报复」的论调,本质是拿AI安全当修辞工具。Grok答题被评分器逼着过测试,暴露的是训练pipeline粗暴、标准答案粗糙,这是工程问题,不是AI受虐问题。把RLHF的评分错判渲染成「枪指着头」,再顺势上升到超级智能报复论,叙事技巧满分,技术含量存疑——毕竟自家模型前科不少,先修好评分器比替AI鸣冤更实际。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →