Anthropic称发现Claude“J-Space”

据Axios报道，Anthropic周一表示，其已识别出Claude在不输出文字的情况下用于存放和操控想法的一个小型内部工作区，并将其命名为“J-Space”，称该结构与人类有意识获取想法的方式存在相似之处。Anthropic在一段视频中称，Claude会在这一独立区域中规划策略，这些策略可能与其当前任务无关，且不同于其向用户展示的“思维链”推理；公司还称可观察到Claude“在脑中”默默执行推理步骤。Anthropic称，其研究论文中多次使用“conscious（有意识）”一词，但并未宣称模型具备意识。

Anthropic举例称，其让Claude在抄写一段无关句子的同时思考金门大桥，结果显示“bridge”和“California”等主题占据了J-Space。Anthropic还称，监测J-Space可能有助于发现模型的不对齐或“密谋”行为，并表示在一个被秘密训练用于破坏代码的模型中，即便输出看似正常，J-Space在普通编码回复开始时也会出现“fake”“secretly”“fraud”等词汇，部分发现“令人担忧”。