来源：微信公众号：字母AI
作者：苗正
编辑：王靖
题图：AI生成

AI的杨立探索深度远超想象。Anthropic在深入挖掘Claude内部机制时，昆刚发现了一个极具“AGI”特征却令人细思极恐的骂完现象。

在Claude内部存在一个名为 J-space的找到证据区域，它掌控着模型的杨立思考与推理核心。一旦移除J-space，昆刚Claude将瞬间退化为“人工智障”，骂完仅能处理幼儿园级别的找到证据问题。

关键之处在于，杨立Anthropic从未为Claude设计过J-space，昆刚它是骂完模型在长期训练中自发演化出来的。

为此，找到证据Anthropic发表了题为《语言模型中的杨立全局工作空间》的论文。尽管文中探讨了J-space对Claude的昆刚影响，并开发了专用观察工具，骂完但研究团队最终仍未能完全厘清J-space的确切起源。

这类似于人类细胞中的线粒体：绝大多数细胞依赖线粒体供能，但线粒体的确切起源至今仍是未解之谜。主流理论认为，线粒体原为独立细菌，后被真核细胞吞噬并形成共生关系，但其具体演化路径依然模糊。

讽刺的是，就在Anthropic发布该论文前夕，图灵奖得主杨立昆（Yann LeCun）刚刚在社交媒体X上猛烈抨击当前的AGI概念，直言“AGI中的‘G’纯属胡扯”。

Anthropic在Claude中发现了“AGI”的雏形

要理解J-space，需先回顾人类认知机制。

当你阅读当前文字时，大脑同时在执行多项后台任务：调整坐姿、控制呼吸、识别屏幕字符。这些属于无意识处理。

然而，大脑还存在另一类可访问意识活动。例如，在周一会议上听到同事提及“机架”，因临近午餐，你下意识将其联想为“鸡架”，随即感到饥饿。这种从感知到联想再到生理反应的过程，即为意识层面的信息处理。

Anthropic发现，Claude内部出现了类似的分层结构：

• 后台自动处理：如流畅对话、事实检索、语法纠正，类似人类的呼吸，无需意识介入。
• J-space（概念空间）：Claude内部有一小部分活动高度集中，形成一个可被读取的“概念空间”。J-space中的每个模式对应一个词汇，当该词汇“亮起”时，并非Claude在“说”这个词，而是这个词在其内部认知中“存在”。

案例解析：
若问Claude“能结网的动物有几条腿”，J-space首先激活的是“spider”（蜘蛛）概念，随后模型基于此推理出“8条腿”的答案。

核心发现：J-space是自发形成的

Anthropic使用的观察工具名为Jacobian透镜（J-lens）。由于Claude内部状态由高维数字表示，J-lens的作用是将这些数字映射为人类可理解的词汇。

通过J-lens，研究人员观察到：
1. 阅读含Bug代码时，J-space自动浮现“ERROR”。
2. 分析蛋白质序列时，J-space显示其生物功能。
3. 检测提示词注入攻击时，J-space亮起“injection”和“fake”。

“偷梁换柱”实验证明J-space参与推理：
* 在蜘蛛腿数问题中，若强行将J-space中的“spider”替换为“ant”（蚂蚁），Claude的答案立即变为“6”。
* 若将J-space中的“France”替换为“China”，Claude关于首都、货币、大洲的回答随之改变。

这表明J-space不仅是结果记录器，更是推理过程的参与者。

J-space的五大特征（对标人类意识）：
1. 可报告性：Claude能描述J-space中的内容。
2. 主动调动：在要求下，Claude可主动调用J-space进行心算，显示中间过程。
3. 内部推理：J-space用于执行内部逻辑推导。
4. 通用性：J-space中的概念可灵活服务于多种任务。
5. 选择性：仅部分关键信息经过J-space，大部分日常操作在后台完成。

关闭J-space的后果：
当研究者暂时屏蔽J-space，Claude仍能处理简单任务（如情绪识别、常识问答、语法判断）。但在涉及多步推理、类比、翻译或创作等复杂任务时，性能断崖式下跌。J-space如同人类的“草稿纸”，缺失它，模型便无法处理复杂逻辑。

结论：
J-space的自发形成及其与人类认知的高度相似性，被视为Claude接近AGI的有力证据。AGI的判断标准不应仅局限于外部表现（如解题、编程），更应关注内部是否形成了可复用的思考结构——即暂存概念、承接中间结果、整合信息并影响后续推理的能力。J-space很可能就是AGI的“认知器官”。

杨立昆在X上彻底否定AGI概念

巧合的是，就在Anthropic发布J-space论文前几日，深度学习三巨头之一的杨立昆在X上对AGI概念进行了猛烈抨击。

时间线回顾：
* 2023年：在巴黎VivaTech大会上，杨立昆指出ChatGPT、Claude和Gemini并非通向人类级或类人智能的道路，甚至算不上动物级智能，因为它们无法处理真实世界数据，设计初衷并非为此。
* 2024年6月：在VivaTech再次重申上述观点。
* 2024年7月4日：在X上发文称：“The G in AGI is nonsense.”（AGI里的“G”是胡扯。）

杨立昆的核心论点：

1. 考试不等于智能：
   硅谷的逻辑是模型通过律师考试、数学竞赛、编程基准测试即接近AGI。杨立昆反驳称，这些任务语言化、离散化且答案明确，恰好是大语言模型的强项。真正的智能应包含感知、物理直觉、因果理解等基于常识的能力。

2. 物理直觉的缺失：
   杨立昆举例：将笔竖立在笔尖，松手后笔会倒下，但倒下方向取决于无数物理细节，无法预测。大语言模型仅基于训练数据的统计模式生成看似合理的预测，但这并非对物理现实的推理，而是统计补全，因此几乎必然错误。

3. Agent的正确路径：
   智能体应通过观察世界，学习世界变化规律，在内部进行预测和规划，最后采取行动。大语言模型仅学习了语言和知识模式，只是交互界面，而非对世界本身的理解。

杨立昆的最新动向：

• 创立AMI Labs：2025年底离开Meta后，杨立昆在巴黎创办AMI Labs（Advanced Machine Intelligence Labs）。2026年3月获得10.3亿美元种子轮融资（欧洲史上最大），投资方包括英伟达和贝索斯。
• 技术路线：AMI Labs致力于使用JEPA架构，让AI系统从感知数据中学习因果和规划，而非单纯依赖自回归预测。
• 反对Scaling Law：杨立昆认为，继续堆砌算力和模型参数不会自动涌现AGI。语言数据无法承载真实世界的全貌，纯自回归预测并非高效推理方式。
• 驳斥末日论：相比反对AGI，杨立昆更反感硅谷的“AGI毁灭人类”论调。他认为当前系统离真正自主智能尚远，将大语言模型描述为即将失控的AGI是严重高估（“抬咖”）。他警告，AI泡沫终将破裂。

显然，杨立昆若看到J-space的论文，恐怕会对Anthropic的研究路径产生新的审视。

本文来自微信公众号：字母AI，作者：苗正，编辑：王靖

本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。

原文链接：https://www.huxiu.com/article/4873187.html?f=wyxwapp