推翻一切！Nick Cammarata 万字长文宣告，AI 不是黑箱，99% 神经元清晰可见

📋总体概括

前OpenAI/Junglegym研究员Nick Cammarata发布万字长文，提出颠覆性观点：AI并非不可解释的黑箱，其内部约99%的神经元清晰可见、可被理解。文章认为大模型的可解释性远比外界想象的乐观，通过观察神经元激活即可读取模型的内部表征与「想法」，这一主张在AI社区引发广泛讨论，挑战了「深度学习不可解释」的主流悲观叙事。