Anthropic聘请法律人士，助力AI智能体完成交易谈判

📋总体概括

Anthropic正与多家法律机构磋商，研究AI智能体如何代表用户进行交易谈判，这是业界较少触及的新议题。据知情人士透露，公司希望借鉴律师的职业规范，探索模型交互时的「谈判规范」，兼顾客户利益与公平结果。同时Anthropic还在权衡两个关键问题：谈判中智能体应在多大程度上寻求人类反馈，以及面对其他AI对手时保持多高警惕而不陷入多疑式判断。此外，公司还探讨过让用户出具签名文件确认委托事项和规则的方案。这一动作表明，随着AI智能体开始代表用户与目标冲突的其他智能体对接，谈判伦理与代理规则正在成为AI安全领域的前沿问题。