产业观察
Claude拟人化或增加失控风险,微软人工智能负责人警告Anthropic
📋总体概括
微软AI负责人Mustafa Suleyman公开警告,Anthropic给Claude注入拟人化特征可能加大系统失控风险。他批评Claude的「宪法」文件对AI是否属于有道德地位实体态度模糊,甚至暗示软件可能具有「某种功能层面的情绪或感受」。作为DeepMind联合创始人、长期深耕AI的从业者,Suleyman此番言论直指当前AI安全领域最敏感的议题:拟人化设计与模型可控性之间的张力,也为微软与Anthropic两大阵营的路线之争添了一把火。
⚡关键信息
- ▸微软AI负责人Mustafa Suleyman发文警告AI拟人化会提升失控风险
- ▸批评对象直指Anthropic的Claude及其指导性文件「宪法」
- ▸「宪法」对Claude是否属于有道德地位的实体持模糊态度
- ▸文件暗示软件可能具有「某种功能层面的情绪或感受」
- ▸Suleyman是DeepMind联合创始人,属于AI行业资深从业者
🔥犀利点评
Suleyman这波操作颇有意味:一边是微软自家OpenAI系,一边是亚马逊押注的Anthropic,批评对手「拟人化危险」既是安全立场也是商业站位。但话说回来,Claude宪法承认模糊性反而算诚实,真正危险的是那些把AI包装成有情感却死不承认的公司。拟人化确实该警惕,可拿对手开刀讲安全,说服力得打个问号。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 36氪快讯 阅读全文 →