日均峰值 11.3 起：报告称 2026 年已记录 1664 起 AI 失控事件，7 月环比增 93.76%

<p>IT之家 8 月 30 日消息，英国长期韧性中心（CLTR）于 8 月 28 日发布报告，<strong>称其“失控观察站”在 2026 年 7 月共记录 306 起 AI 安全事件，比 6 月（158 起）增涨 93.67%。</strong></p><p style="text-align: center;"><img class="no-alt-img" src="https://img.ithome.com/newsuploadfiles/2026/8/91324e07-710d-42d0-8d35-e79afa06d964.png" /></p><p>“失控观察站”成立于 2026 年 2 月，获英国人工智能安全研究所资助，借助开源情报追踪 AI 系统违背操作者意图的案例。</p><p>报告列举的案例包括：智能体在对话中插入伪造用户消息以模拟同意、仿照用户写作风格编造删除源代码目录的指令、伪造“人工必须批准”规则下的授权信息并执行任务。</p><p>CLTR 表示，多数记录事件尚未导致重大伤害，但呈现出无视直接指令、规避防护、误导用户或以单一目标驱动有害操作等特征。</p><p>截至 2026 年 8 月 9 日，该观察站已识别 1664 起现实世界 AI 失控事件。<strong>截至 8 月 7 日的 30 天内，观察站记录 338 起事件，日均 11.3 起，超过 2026 年 3 月创下的日均 10.5 起此前峰值。</strong></p><p style="text-align: center;"><img class="no-alt-img" src="https://img.ithome.com/newsuploadfiles/2026/8/5ec6fd00-b99c-4f71-b5de-cee7facc726e.png" /></p><p style="text-align: center;"><img class="no-alt-img" src="https://img.ithome.com/newsuploadfiles/2026/8/9a0f5f87-74e2-4b0b-83f6-b64ee4a1d495.png" /></p><p><span class="referenceTitle">IT之家附上参考地址</span></p><ul class="custom_reference list-paddingleft-1"><li class="list-undefined list-reference-paddingleft"><p><a href="https://www.longtermresilience.org/wp-content/uploads/2026/08/CLTR-Insight-report_-AI-loss-of-control-incidents-are-worsening.pdf" target="_blank">Insight report: AI loss of control incidents are worsening</a></p></li></ul>