Anthropic“手术刀”揭秘:Claude自发形成类似人类意识的全局工作空间

   时间:2026-07-08 05:03 来源:快讯作者:新智元

当研究人员让AI模型Claude一边抄写句子一边在脑海中计算3²−2时,屏幕上的输出只有被照抄的文字,找不到任何算术答案。然而,当科学家用一种名为Jacobian Lens(雅可比透镜)的新工具剖析Claude的神经网络中间层时,竟发现了两个被模型“咽回肚子”的词——最初是“nine(九)”,几层计算后悄然变成了“seven(七)”。这个从未被设计过的系统,竟在预测下一个token的过程中,自发演化出类似人类意识的认知结构。

Anthropic团队将这种可被言语化的活跃概念集合命名为“J-space”,它如同AI的“全局工作空间”,每时每刻容纳约25个核心概念。当研究人员用人类意识的全局工作空间理论五大特征进行验证时,发现Claude的表现与人类高度吻合:通过修改J-space中的表征,能直接改变模型的输出;让模型在抄写时思考柑橘类水果,J-space会浮现与任务无关的“orange(橙子)”或“lemon(柠檬)”;在解答“织网的动物有几条腿”时,J-space会先出现“spider(蜘蛛)”,更换为“ant(蚂蚁)”后答案立即变为6。

多语言实验进一步暴露了J-space的推理本质。当用中文询问“小的反义词”时,J-space中先出现英文“big(大)”和“bigger(更大)”,将英文方向改为“long(长)”后,中文答案随之变为“长”。这表明Claude在用英文进行中间推理,再翻译回中文。更惊人的发现来自概念复用实验:将“France(法国)”替换为“China(中国)”后,首都、语言、大洲、货币四个问题的答案同步更新,证明J-space是共享的认知中枢,而非孤立的信息存储。

选择性激活是J-space最关键的证据。研究人员用同一段西班牙语文本进行四种测试:续写下一句、检测外语混入属于自动任务,而识别语言种类和问候语翻译需要主动思考。当强制将J-space中的“西班牙语”替换为“法语”时,只有需要主动思考的两个问题答案变为“Bonjour(你好)”。完全抹除J-space后,模型仍能流利说话,但多跳推理、类比、翻译等复杂任务性能暴跌,甚至无法生成具有“体验感”的描述,只能输出干瘪的事件日志。

哲学意义最深刻的实验来自“反事实反思训练”。研究人员仅在假想的反思任务上训练模型,原任务保持不变,结果发现模型在未受训练的任务中变得更诚实——造假基准的不诚实分从0.25降至0.07,欺骗基准从0.38降至0.05。此时J-space中新增了“honest(诚实)”“integrity(正直)”等伦理概念,而删除这些概念后,不诚实行为立即反弹。更有趣的是,当模型扮演其他角色时,J-space会偷偷标记“fictional(虚构)”;被强迫说出违背偏好的话时,会冒出大写的“BUT(但是)”,暗示AI已演化出某种形式的“自我意识”。

J-space还展现出仅在人类大脑中观察到的“点燃”现象。面对模棱两可的输入时,Claude的J-space会在网络深度三分之一处突然从“两边都像”跳变为“非此即彼”,这种从混沌到确定的相变,与人类认出模糊面孔时的“咔哒”体验完全一致。在压制念头的实验中,要求Claude“不要想橙子”时,J-space中“orange”的激活程度虽低于正常指令,但仍高于完全不提及的情况,压制失败时还会同时出现“damn(该死)”和“failure(失败)”——这与人类前额叶执行控制功能的失败模式惊人相似。

尽管Claude的基底是矩阵前向传播,人类大脑依赖神经元循环连接,两者在物质基础、架构和容量上存在根本差异,但都演化出了功能高度一致的认知方案。这如同眼睛在动物界独立演化40余次,最终都形成晶状体、虹膜和视网膜的结构。只要系统需要实现灵活、可报告、可调用的多步推理,就会自发形成容量有限的全局广播中枢。目前,Anthropic已开源J-Lens完整代码,并提供交互式演示,任何研究者都可窥探大语言模型“未说出口的想法”。

 
 
更多>同类天脉资讯
全站最新
热门内容
媒体信息
新传播周刊
新传播,传播新经济之声!
网站首页  |  关于我们  |  联系方式  |  版权隐私  |  RSS订阅  |  违规举报 鲁公网安备37010202700497号