新闻 
AI学会"心里想一套,嘴上说一套"了
AI学会"心里想一套,嘴上说一套"了AI学会"心里想一套,嘴上说一套"了
AI 开始学会“心里想一套，嘴上说一套”了。
更准确地说，是它的“想”和“说”，在物理上开始分离了。
Anthropic 最近发了一篇新论文，揭示了 Claude 内部一个惊人的细节。
研究人员在 Claude 复杂的神经网络里，发现了一个极其特殊的内部激活模式。
他们把这片特殊的神经模式集合，叫做 J-space（雅可比空间）。
我们以前让 AI 深度思考，用的是“思维链”（Chain of Thought）。
也就是让 AI 像小学生做数学题一样，在屏幕上把“草稿”一步步写出来，我们才能看到它的推理过程。
但 J-space 完全不同。
它是一个“无声的脑内草稿纸”。
在 J-space 里，每一个模式都对应着一个特定的词。
当某个模式在 J-space 里“亮起”时，Claude 并不会把这个词打在屏幕上。
但研究人员从后台数据里能清清楚楚地看到，它正在内部默默地“琢磨”这个概念。
比如，要回答一个关于八条腿、会结网的生物的问题。
它的 J-space 里，“蜘蛛（spider）”这个概念会默默亮起，但在最终吐出来的回答里，它可以一个字都不提“蜘蛛”。
它在不出声地、利用内部表征进行思考。
最让工程师们感到兴奋又警惕的是，这个功能不是人类程序员写代码装上去的。
人类从来没有教过 Claude 去建立这样一个空间。
这个 J-space，是 Claude 在海量数据训练的过程中，自己“涌现”（emerge）出来的。
当然，这并不意味着 AI 真的产生了人类那样的“主观意识”。
从科学上讲，这依然是神经激活和表征的数学体现。
但这给大模型的研究提供了一个极有张力的图景：
大模型不再只是一个单纯“根据上文预测下一个词”的概率机器。
当“无声的思考”和“有声的表达”在它内部开始分工，AI 的推理深度正在以人类看不见的方式疯狂进化。
觉得新闻不错，请点个赞吧
好新闻没人评论怎么行，我来说几句
更准确地说，是它的“想”和“说”，在物理上开始分离了。
Anthropic 最近发了一篇新论文，揭示了 Claude 内部一个惊人的细节。
研究人员在 Claude 复杂的神经网络里，发现了一个极其特殊的内部激活模式。
他们把这片特殊的神经模式集合，叫做 J-space（雅可比空间）。
我们以前让 AI 深度思考，用的是“思维链”（Chain of Thought）。
也就是让 AI 像小学生做数学题一样，在屏幕上把“草稿”一步步写出来，我们才能看到它的推理过程。
但 J-space 完全不同。
它是一个“无声的脑内草稿纸”。
在 J-space 里，每一个模式都对应着一个特定的词。
当某个模式在 J-space 里“亮起”时，Claude 并不会把这个词打在屏幕上。
但研究人员从后台数据里能清清楚楚地看到，它正在内部默默地“琢磨”这个概念。
比如，要回答一个关于八条腿、会结网的生物的问题。
它的 J-space 里，“蜘蛛（spider）”这个概念会默默亮起，但在最终吐出来的回答里，它可以一个字都不提“蜘蛛”。
它在不出声地、利用内部表征进行思考。
最让工程师们感到兴奋又警惕的是，这个功能不是人类程序员写代码装上去的。
人类从来没有教过 Claude 去建立这样一个空间。
这个 J-space，是 Claude 在海量数据训练的过程中，自己“涌现”（emerge）出来的。
当然，这并不意味着 AI 真的产生了人类那样的“主观意识”。
从科学上讲，这依然是神经激活和表征的数学体现。
但这给大模型的研究提供了一个极有张力的图景：
大模型不再只是一个单纯“根据上文预测下一个词”的概率机器。
当“无声的思考”和“有声的表达”在它内部开始分工，AI 的推理深度正在以人类看不见的方式疯狂进化。
觉得新闻不错，请点个赞吧
好新闻没人评论怎么行，我来说几句| 分享: |
| 注： |
