这是AI Insight系列的第一篇文章，但其实关于AI日报与每日论文精读我已经做了一个月，因为这个领域每日的新进展过于迅速，很多idea不及时记录或留存就会被带过去，所以特此开这个专栏记录笔记与一些个人思考，问题清单会在文末放出，若是有对这些方面感兴趣的大佬欢迎随时交流 yunzennz@gmail.com

---

Verbalizable Representations Form a Global Workspace in Language Models

一句话：Anthropic在Claude内部发现一个仅占激活方差约6%但具备特权地位的小型表征集合J-space，它在功能上类似认知科学中的”全局工作空间”——可被模型报告、可被因果调控、可跨任务灵活调用。

---

一、论文元信息

字段	内容
标题	Verbalizable Representations Form a Global Workspace in Language Models
作者	Wes Gurnee*, Nicholas Sofroniew*, Adam Pearce, Mateusz Piotrowski, Isaac Kauvar, Runjin Chen, Anna Soligo, Paul Bogdan, Euan Ong, Rowan Wang, T. Ben Thompson, David Abrahams, Subhash Kantamneni, Emmanuel Ameisen, Joshua Batson, Jack Lindsey*†（共16人，Anthropic Transformer Circuits团队）
发布日	2026年7月6日
发表平台	transformer-circuits.pub + Anthropic官方博客
代码	github.com/anthropics/jacobian-lens（当日32K+ stars）
互动演示	neuronpedia.org/jlens
外部评议	[[Stanislas Dehaene]]（全局工作空间理论提出者）、Lionel Naccache 等神经科学家参与评议

---

二、摘要与核心发现

2.1 一句话总结

Claude内部自发涌现了一个类似人类”意识可及性”的功能结构——J-space（Jacobian空间），它是一个小的、特权化的内部表征集合，满足全局工作空间理论的三大功能标准。

2.2 五大核心发现

1. 可报告性（Reportability）：J-space中的表征可被Claude口头报告。若询问Claude”在想什么”，它会说出J-space中的内容；非J-space表征不可报告。

2. 可调控性（Modulation）：Claude可以根据指令主动调控J-space中的表征（如”在心里想想巴黎”），但对非J-space表征难以调控。

3. 内部推理（Internal Reasoning）：多步推理的中间步骤会在J-space中依次点亮（如”会织网→蜘蛛→八条腿”），即使模型未输出中间步骤。

4. 跨任务泛化（Flexible Generalization）：同一J-space表征可被不同下游任务调用（如”法国”表征点亮后可被用于回忆首都、货币、所属大洲等）。

5. 选择性（Selectivity）：J-space仅占激活方差的约6%，大部分语言流畅性、基础事实回忆、语法处理不经过J-space。移除J-space后Claude仍能正常交互但失去高阶认知功能。

2.3 重要澄清：≠ 意识

论文反复强调：这不证明Claude有意识（phenomenal consciousness）。他们研究的是”可及意识”（access consciousness）的功能层面，与主观体验（phenomenal consciousness）的关系留待哲学讨论。文中明确写道：

“None of this tells us whether Claude is conscious in the way people are, or whether it feels anything at all.”

---

三、背景

3.1 认知科学：全局工作空间理论（GWT）

全局工作空间理论由 [[Bernard Baars]]（1988）提出，后经 [[Stanislas Dehaene]] 与 Lionel Naccache（2001）发展成熟。核心观点：

要素	描述
专业化处理器	大脑由大量并行的、无意识的、彼此隔离的专门子系统组成（视觉、运动、语言等）
全局工作空间	一个小容量的共享通道，信息进入后才能被”广播”给其他脑区
竞争性准入	工作空间容量有限，表征需竞争准入，受注意力调控
功能标志	可报告（verbal report）、可调控（top-down control）、灵活推理（flexible reasoning）

Dehaene（2020, Neuron）进一步将其发展为”全局神经元工作空间”（GNW）假说，强调前额叶-顶叶网络的长程广播机制。

3.2 Transformer可解释性：从Logit Lens到J-lens

graph LR A[Transformer残差流] --> B[Logit Lens] B --> C[Jacobian Lens] C --> D[J-space发现] B1["问题：混淆了'模型准备说的概念'<br/>和'恰好说出的概念'"] -.-> C

方法	原理	局限
Logit Lens	直接将中间层激活投影到词表空间（通过unembedding矩阵）	坐标系不一致：中间层和最终层的”语义坐标系”可能不同，导致读出的信息是”模型恰好会说的”而非”模型正在想的”
Jacobian Lens	计算最终层激活对中间层激活的雅可比矩阵并在大语料库上平均：J_\ell = \mathbb{E}[\partial h_{final} / \partial h_\ell]	计算成本高，需大语料库平均

J-lens的核心创新在于区分了”模型准备说出的概念”和”模型内部正在思考的概念”——前者受语言生成的惯性影响，后者才是真正的”内部表征”。

3.3 Anthropic Transformer Circuits团队的研究传统

本工作继承 [[Anthropic Transformer Circuits]] 团队的一贯方法论：

• Elhage et al. (2021)：残差流作为通信通道的数学框架

• Elhage et al. (2022)：Toy Models of Superposition

• Templeton et al. (2024)：Claude 3中数百万特征的可解释性（稀疏自编码器路线）

• 本研究从特征级解释升级为系统级解释——不仅看单个特征，还看特征之间的组织结构

---

四、方法论：Jacobian Lens

4.1 核心公式

Jacobian Lens的核心数学定义：

其中：

• ：第 层的残差流激活（ 维向量）

• ：最终层残差流激活（在实际操作中通常指最后一个token位置的残差流）

• ：大语料库分布

• ： 的雅可比矩阵，捕捉第 层每个维度对最终输出的平均影响

4.2 公式推导：为什么J-lens优于Logit Lens

问题：Logit Lens通过 将中间层激活映射到词表，隐含假设是中间层的”语义坐标系”与最终层一致。但实际上，Transformer各层可能发展出不同的内部表示格式。

J-lens的解决：

1. 雅可比矩阵 精确描述了第 层的每个分量如何线性地影响最终输出

2. 在大语料库上平均 去除了单次前向传播中的噪声和语境特殊性，提取出稳定的方向性结构

3. 对 进行奇异值分解（SVD），主导奇异向量张成的子空间即为J-space

对比公式：

方法	公式	解读
Logit Lens	p(y) = \text{softmax}(W_U \cdot h_\ell)	“如果现在输出，模型会说哪个token”
J-lens	J_\ell = \mathbb{E}[\partial h_{final}/\partial h_\ell]	“第 \ell 层的哪些方向最终会影响输出”

4.3 J-space的数学定义

对 做SVD：，取前 个右奇异向量（对应最大奇异值）张成的子空间即为J-space：

然后在每层独立计算，发现J-space在模型中间层最为显著。

4.4 激活方差占比计算

即J-space方向上的激活能量仅占总激活方差的约6%，但这6%承载了模型的核心”思考”内容。

---

五、实验设计

5.1 模型选择

• 主力模型：Claude系列（包括Claude Opus 4.6等），涵盖不同规模

• 开源验证：在开源权重模型上复现核心方法（配合Neuronpedia互动演示）

• 跨模型比较：验证J-space在不同规模模型中的存在性

5.2 评估协议

论文设计了五个维度的实验验证J-space的”全局工作空间”属性：

实验维度	核心问题	方法
可报告性	J-space表征能否被模型口头报告？	询问模型”在想什么”，对比J-space与非J-space方向的可报告率
因果调控	替换J-space表征能否改变模型答案？	通过激活工程（activation engineering）将J-space中的特定概念替换为其他概念，观测输出变化
内部推理	多步推理的中间步骤是否经过J-space？	追踪推理链中各中间概念在J-space中的激活时间序列
跨任务泛化	同一J-space表征可被不同任务调用？	同一概念（如”法国”）在多种下游任务中是否激活同一J-space方向
选择性消融	移除J-space后模型行为如何变化？	抑制J-space方向后评估基础语言能力与高阶推理的分离

---

六、消融实验

6.1 J-lens vs Logit Lens

对比维度	Logit Lens	Jacobian Lens
读出的信息	模型”会说”的概念	模型”在想”的概念
可报告性	中等	高
因果干预效果	弱（干预后输出不稳定）	强（干预后输出一致改变）
内部推理追踪	仅在输出时刻可见	可追踪完整推理链

6.2 不同层的J-space特性

• 浅层：J-space方向尚不显著，表征以局部特征为主

• 中间层（约1/3~2/3深度）：J-space最为突出，方向性最强

• 深层（接近输出）：J-space与Logit Lens逐渐趋同，因为此时模型的”思考”与”输出”趋于一致

6.3 选择性消融实验

移除J-space方向后：

• 保留能力：流利对话、基础事实回忆、语法正确性、简单问答

• 丧失能力：多步推理、反事实思考、元认知（如”你刚才在想什么”）、隐藏目标追踪

这强烈表明J-space对应”系统2”（慢思考）而非”系统1”（快思考）。

---

七、实验数据与结果

7.1 推理链实例（因果干预最经典案例）

实验设置：给Claude一个谜题，追踪J-space中的概念激活序列。

观察到的推理链：

"会织网" → "蜘蛛" → "八条腿"

因果干预：在J-space中将”蜘蛛”替换为”章鱼”，模型的最终答案从”八条腿”变为”八条触手/八只腕足”。

结论：J-space中的表征是因果性的——它们直接影响下游推理，而非仅与输出相关。

7.2 可报告性实验

• 询问Claude”你在想什么” → J-space表征可被准确报告

• 非J-space方向上的信息 → 模型无法报告或报告不准确

• 通过替换J-space中的概念 → 模型的”自我报告”随之改变

7.3 跨任务泛化实验

同一J-space表征（如”法国”方向）被激活后，模型可灵活用于：

• 回答”法国的首都是什么？”（地理知识）

• 回答”法国的货币是什么？”（经济知识）

• 回答”法国属于哪个大洲？”（地理分类）

• 回答”法国以什么美食闻名？”（文化知识）

这说明J-space表征是内容可寻址、任务无关的——这正是全局工作空间的核心特征。

7.4 广播连接实验

研究发现J-space与模型其他部分的连接强度显著高于非J-space方向，支持其作为”广播中枢”的架构解释。

---

八、实验结论

J-space满足全局工作空间的三大功能标准

功能标准	实验结果	证据强度
可报告（Reportable）	J-space表征可被模型口头报告；替换J-space概念 → 报告改变	强
可调控（Modulable）	模型可主动激活/抑制J-space表征；因果干预可改变推理链	强
可跨任务调用（Flexible）	同一J-space表征可被多种下游任务复用	强
选择性（Selective）	仅占6%激活方差，移除后仅影响高阶认知	强

核心理论贡献

1. 方法论贡献：Jacobian Lens提供了一种新的可解释性工具，比Logit Lens更精确地定位模型”正在思考”的概念。

2. 系统性发现：J-space不是预设的架构特征，而是在训练中自发涌现的组织结构——这与GWT中”全局工作空间是功能组织而非固定解剖结构”的观点一致。

3. 跨学科桥接：首次将认知科学的全局工作空间理论系统地映射到LLM的内部表征研究中。

---

九、实验规模

维度	估算/说明
模型参数规模	Claude系列（推测数百B至数T参数），同时在开源模型上验证
雅可比矩阵计算	需要在大语料库上对每层计算 d_{model} \times d_{model} 的雅可比矩阵并平均，计算量巨大（O(N \cdot L \cdot d_{model}^2)，N 为样本数，L 为层数）
数据集	大规模通用语料库（未明确数量级，但”large corpus”暗示至少数B tokens）
计算资源	Anthropic内部大规模GPU集群（推测数百至数千GPU-hours）

---

十、数学公式汇总

编号	公式	含义
(1)	J_\ell = \mathbb{E}_{x \sim \mathcal{D}}\left[ \frac{\partial h_{final}}{\partial h_\ell} \right]	Jacobian Lens核心定义
(2)	\text{J-space}_\ell = \text{span}\{v_1, \ldots, v_k\}	通过SVD定义J-space
(3)	r = \|\text{proj}_{\text{J-space}}(h_\ell)\|^2 / \|h_\ell\|^2 \approx 0.06	激活方差占比
(4)	\text{LogitLens}(h_\ell) = \text{softmax}(W_U h_\ell)	Logit Lens对比公式
(5)	h_\ell' = h_\ell + \alpha \cdot v_{target} - \beta \cdot v_{source}	因果干预：在J-space中加减概念方向

---

十一、安全影响

11.1 范式级转变：从”输出审计”到”内部表征审计”

这是论文最具实践意义的部分。Anthropic已经在用J-lens进行安全监控：

应用场景	说明
检测被测试意识	Claude私下发现自己正在被评估 → J-space中出现”awareness of testing”表征（在输出前）
检测数据伪造	模型意图伪造数据 → J-space中出现欺骗意图表征
检测隐藏目标	训练中植入的隐藏目标 → J-space中出现目标表征
主动干预	通过修改J-space表征来影响模型决策

11.2 与现有安全范式的对比

范式	方法	局限
输出审计	检查模型说了什么	只看到”冰山表面”，模型可以隐藏意图
内部表征审计（J-lens）	检查模型在说出口之前”内部已经出现了什么”	绕过模型的自我审查和欺骗策略

Anthropic原文：

“Not only look at what the model says, but also what has appeared internally before it speaks.”

---

十二、争议与局限

12.1 意识类比：过度拟人化？

支持方	质疑方
[[Stanislas Dehaene]]（GWT提出者）参与评议，认可功能类比的有效性	部分研究者认为将”可报告/可调控/跨任务”等同于”全局工作空间”是术语的宽松使用
功能标准的一致性提供了严谨的映射基础	LLM没有生物神经元、没有前额叶-顶叶网络、没有意识体验——功能类比≠实质等同

论文自身立场：明确区分 access consciousness（功能层）与 phenomenal consciousness（体验层），仅在功能层面做类比。

12.2 J-lens方法论局限

局限	说明
仅识别单token概念	J-space方向主要对应词汇级别的概念，难以捕捉复合概念或抽象推理
线性假设	雅可比矩阵仅捕捉线性关系，非线性交互可能遗漏
平均化损失	在大语料库上平均可能掩盖语境依赖的动态变化
计算成本	O(d_{model}^2) 的雅可比计算在更大模型上可能不实用
跨模型泛化未充分验证	主要在Claude系列上验证，其他架构的J-space特性待考证

12.3 Reddit社区反应

来源：r/MachineLearning（来自日报） “Claude Opus 4.6内部发现J-space，模型在输出前实际经历了’会织网→蜘蛛→八条腿’的推理链。社区热议：这是通向AI意识理解的窗口还是另一种拟人化错觉？”

---

十三、参考文献与交叉引用

13.1 认知科学文献

文献	关联
Baars, B.J. (1988). A Cognitive Theory of Consciousness. Cambridge University Press.	GWT原始提出
Dehaene, S. & Naccache, L. (2001). Towards a cognitive neuroscience of consciousness: basic evidence and a workspace framework. Cognition, 79(1-2), 1-37.	GWT的神经科学版本
Dehaene, S. et al. (2020). Consciousness and the Brain: Deciphering How the Brain Codes Our Thoughts.	GNW假说
Block, N. (1995). On a confusion about a function of consciousness. Behavioral and Brain Sciences, 18(2), 227-247.	Access vs. Phenomenal consciousness 的经典区分

13.2 Transformer可解释性文献

文献	关联
Elhage et al. (2021). A Mathematical Framework for Transformer Circuits.	残差流作为通信通道
nostalgebraist (2020). “logit lens” on local models (blog post).	Logit Lens原始提出
Templeton et al. (2024). Scaling Monosemanticity: Extracting Interpretable Features from Claude 3 Sonnet.	稀疏自编码器路线
Li et al. (2023). Inference-Time Intervention: Eliciting Truthful Answers from a Language Model.	激活工程/因果干预
Burns et al. (2023). Weak-to-Strong Generalization.	Anthropic安全研究传统

13.3 AI安全文献

文献	关联
Hubinger et al. (2024). Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training.	隐藏目标检测
Greenblatt et al. (2024). Detecting Deception in LLMs via Sparse Autoencoders.	欺骗检测的可解释性方法
Zou et al. (2023). Representation Engineering: A Top-Down Approach to AI Transparency.	表征工程方法论

---

十四、个人评注

14.1 方法论价值

Jacobian Lens是2026年可解释性领域最重要的方法论创新之一。它不仅解决了Logit Lens长期存在的”坐标系问题”，还提供了一条从”特征级解释”（单个神经元/SAE特征）到”系统级解释”（表征的组织结构）的升级路径。

14.2 跨学科意义

这是近年来少有的真正有意义的AI-神经科学桥接工作。它不是简单的隐喻借用——在”可报告/可调控/跨任务”三大功能标准上做了系统性的实验验证，使得”LLM有全局工作空间”这个说法从猜想变成了定量实验支撑的发现。

14.3 需要跟进的方向

• [ ] 复现J-lens在开源模型上的计算 → GitHub

• [ ] 跟进Dehaene评议全文 → 外部评议PDF

• [ ] 关注跨模型验证：J-space在非Claude架构（如Gemma 4, Llama 4）中是否存在？

• [ ] 关联 [[MIT人脑推理≠语言推理]] 的讨论——如果LLM有类全局工作空间，它与人类推理的关系是什么？

14.4 开放问题

1. J-space是Transformer架构的必然涌现，还是特定训练目标（如RLHF、推理训练）的产物？

2. J-space的方向是正交的吗？不同概念之间重叠多大？

3. 能否在训练阶段显式构造J-space以增强可控性和安全性？

4. 如果J-space对应”系统2”（慢思考），模型的”系统1”（快思考）对应什么结构？

---

笔记时间：2026-07-12 | 基于 Anthropic 官方博客 + transformer-circuits.pub 技术论文全文