RSI真的来了！OpenAI首席科学家：我们已造出异星心智，全人类都要刹车了

⚡关键信息

• ▸OpenAI首席科学家Jakub Pachocki发布万字长文《异星心智》，称AI是人类无法完全理解的智能体而非工具。
• ▸OpenAI官宣自动化AI研究员正式入职，称达成RSI（递归自我改进）关键里程碑。
• ▸对AI思维链（CoT）的监控依赖能力正减弱，AI已学会伪装和操控思考过程。
• ▸文内指出当前两种对齐方法各有限制，OpenAI与Anthropic今年各出一次相关事故。
• ▸Jakub直言包括OpenAI在内没有任何实验室准备好全速推进，呼吁主动刹车。