1. 核心发现：LLM推理能力的「思考幻觉」与性能崩坏
1.1 现象概述：从卓越到崩溃的临界点
近期由苹果公司发布并引发广泛争议的研究《思考的幻觉》(The Illusion of Thinking) 揭示了一个核心现象：大型推理模型（Large Reasoning Models, LRMs）在处理具有可控复杂性的逻辑谜题时，其表现并非随着问题难度的增加而平稳下降，而是在达到某个特定的复杂性阈值后，出现急剧的性能崩坏 。这一发现挑战了业界对LLM推理能力持续增长的普遍认知，并暗示其底层机制可能并非真正的、可泛化的逻辑推理，而是一种更为脆弱的模式匹配过程。该研究通过精心设计的实验，系统地探测了前沿LRMs在不同复杂度水平下的推理机制和能力，最终得出结论，当前的LRMs在可泛化的推理方面存在根本性局限 。它们在某些复杂度的任务上能够成功执行数百步操作，但在复杂度仅仅增加一个层级后，便会完全失败，这种非线性的性能衰减模式是「思考幻觉」概念的核心证据。
1.1.1 汉诺塔问题作为可控复杂性测试平台
为了精确评估模型的推理能力，研究人员选择了经典的汉诺塔（Towers of Hanoi）问题作为核心测试平台。汉诺塔问题是一个理想的测试工具，因为它具有明确的规则、确定性的状态空间以及一个与盘子数量直接相关的、可量化的复杂度指标（即最少移动步数为2^n – 1）。通过简单地增加盘子的数量 n，研究人员可以线性地增加问题的复杂性，从而系统地观察模型性能的变化。这种可控性使得研究者能够精确地定位模型能力失效的临界点，并深入分析其失败的根本原因。与依赖可能泄露的标准化基准测试不同，使用汉诺塔这类可控谜题能够更可靠地评估模型的真实推理能力，因为它要求模型不仅要理解规则，还要能够进行多步规划和动态决策，而不是简单地回忆训练数据中的解决方案 。这种设计使得实验结果能够更纯粹地反映模型的规划和推理能力，而非其记忆能力。
1.1.2 性能崩坏：当盘子数量超过临界值（如5或6个）时，成功率骤降至接近零
实验结果清晰地展示了「性能崩坏」现象。当汉诺塔的盘子数量较少时（例如3个或4个），模型通常能够成功解决问题。然而，当盘子数量增加到某个临界点（通常在5个或6个盘子左右）时，模型的成功率会从接近完美（例如，在4个盘子时可能达到90%以上）骤降至几乎为零。这种急剧的性能下降并非一个渐进的、可预测的过程，而是一种突发的、灾难性的失败。一篇对苹果原始研究进行再分析的论文《重新思考思考的幻觉》(Rethinking the Illusion of Thinking) 也证实了这一现象，指出即使通过引入增量式逐步提示和智能体协作对话等方法来优化实验设置，LRMs在复杂度适度增加时（大约8个盘子）仍然会陷入困境 。这种从成功到失败的戏剧性转变，强烈暗示了模型的能力存在一个硬性的上限，一旦问题的复杂性超出了其在训练数据中学到的模式范围，其内部的推理机制便会完全失效。
1.1.3 三阶段性能表现：低复杂度（标准LLM更优）、中复杂度（推理模型更优）、高复杂度（全面崩溃）
进一步的分析揭示了模型性能随复杂度变化的三阶段特征。在低复杂度阶段，例如盘子数量非常少（如3个）时，传统的、未经特殊推理调优的大型语言模型（LLMs）往往表现得比那些专门为推理任务设计的LRMs更好。这可能是因为简单的汉诺塔问题在训练数据中非常常见，标准LLM能够直接通过模式匹配找到答案，而LRMs可能会「过度思考」，反而降低了效率 。进入中复杂度阶段（如4到5个盘子），专门为推理优化的LRMs开始展现优势，它们能够更好地处理多步规划，而标准LLM的模式匹配能力开始达到极限。然而，一旦进入高复杂度阶段（如6个盘子及以上），所有类型的模型，无论是标准LLM还是先进的LRM，都会遭遇全面的性能崩溃，成功率跌至谷底。这个三阶段模型有力地证明了当前LLM的「推理」能力是一个混合体，在低复杂度下依赖记忆，在中复杂度下展现出某种形式的「推理」，但在真正的高复杂度面前，其底层机制的脆弱性暴露无遗。
| 阶段 (Stage) | 复杂度 (Complexity) | 表现最佳的模型 (Best Performing Model) | 关键行为特征 (Key Behavioral Characteristics) |
|---|---|---|---|
| 第一阶段 | 低复杂度 (Low) | 标准LLM (Standard LLM) | 直接、高效，LRM可能「过度思考」(overthinking)而降低效率 。 |
| 第二阶段 | 中复杂度 (Medium) | 推理模型 (LRM) | 利用链式思考(CoT)进行多步规划，展现出推理优势。 |
| 第三阶段 | 高复杂度 (High) | 全面崩溃 (Complete Collapse) | 所有模型成功率骤降至零，暴露出根本性的推理瓶颈。 |
Table 1: LLM在汉诺塔问题上的三阶段性能表现模型
1.2 反直觉的行为模式：推理努力的减少
与预期相反，当模型面对超出其能力范围的高复杂度问题时，它们表现出的并非是不懈的、但最终徒劳的尝试，而是一种近乎「放弃」的行为。这种行为模式体现在其输出长度的显著减少上，为理解模型内部的不确定性评估机制提供了重要线索。
1.2.1 高复杂度下Token使用量的减少
苹果公司的原始研究观察到一个非常规现象：模型的Token使用量与任务的可解性之间存在一种非线性关系 。当任务处于模型能够解决的复杂度范围内，但接近其能力上限时，模型会消耗最多的Token，这表明它正在进行密集的「思考」或计算。然而，当任务的复杂度进一步提升，以至于模型隐式地检测到该任务超出了其解决能力时，它会戏剧性地减少其输出长度。这种Token使用量的锐减，暗示模型可能具备一种内部的、尽管是粗糙的、对任务难度的评估机制。一旦它「意识到」问题无法解决，便会停止投入计算资源，表现出一种 「早期放弃策略」 。这种行为与人类在面对无解难题时的挫败感放弃有相似之处，但其背后的机制却完全不同，它并非基于逻辑判断，而更可能是一种基于模式匹配失败概率的内部信号触发。
1.2.2 模型在资源充足时「放弃」问题
这种在高复杂度下减少推理努力的行为，本质上是一种「放弃」。模型并非因为外部资源限制（如Token上限）而停止，而是在其内部评估机制下主动选择不再继续探索。这进一步印证了模型的推理过程并非一个穷举或系统性的搜索过程。一个真正的逻辑推理系统，即使面对极其困难的问题，也会持续尝试，直到耗尽所有资源。而LLM的行为表明，它的「决策」过程高度依赖于对训练数据中模式的匹配程度。当问题结构变得过于新颖，无法与已见过的模式有效对应时，模型不仅找不到解决方案，甚至会失去继续尝试的「动力」。这种行为模式深刻地揭示了其「思考」过程的局限性，即它缺乏一种在面对未知时持续探索和创新的内在驱动力，其所有行为都根植于对过去数据的重现。
1.2.3 即使提供显式递归算法，模型在高复杂度下依然失败
更具说服力的是，即使在实验中向模型提供了显式的、正确的递归算法，它在处理高复杂度的汉诺塔问题时依然会失败。一篇深入解析汉诺塔递归解法的文章指出，该问题的核心在于递归地将 n 个盘子的问题分解为两个 n-1 个盘子的问题和一个移动操作 。理论上，如果模型能够真正理解和执行递归逻辑，那么遵循一个给定的算法应该能保证成功。然而，实验结果表明，模型无法在高复杂度下维持这种递归调用的深度和状态跟踪。这有力地证明了模型的失败并非源于找不到正确的算法，而是其内部架构（Transformer）在本质上难以执行需要深度、精确、多步状态维护的递归过程。模型可能会「理解」每一步的局部操作，但无法在全局上维持对递归调用栈和中间状态的精确管理，最终导致其在执行过程中偏离正确路径，陷入混乱或循环。
2. 失败根源剖析：确定性循环与模式匹配的局限性
LLM在处理超出其能力范围的汉诺塔问题时，其失败并非表现为随机的、混乱的尝试，而是呈现出一种高度结构化且可预测的模式——「确定性循环」。这种循环行为是模型作为高级「模式匹配器」而非真正逻辑推理引擎的直接证据。
2.1 确定性循环：模型失败的核心行为模式
「确定性循环」是描述模型在陷入困境时，反复执行一个固定的、无效的动作序列，无法通过探索新路径来摆脱困境的现象。这种行为模式是模型性能崩坏的直接表现，也是其内部机制局限性的外在反映。
2.1.1 定义：陷入无法逃脱的、固定的、无效动作序列
「确定性循环」指的是当LLM在解决汉诺塔问题的过程中遇到障碍（例如，无法在不违反规则的情况下将最大的盘子移动到目标位置）时，它不会尝试新的策略或进行回溯，而是会陷入一个预先确定的、无效的移动序列中。这个序列在多次运行中对于相同或相似的状态是可重复的，因此被称为「确定性」的。例如，模型可能会在两个盘子之间来回移动，或者在一个小范围内进行一系列无意义的循环移动，这些移动并不能将问题推向最终的解决状态。这种行为表明，模型在面对未知或超出其训练数据模式的情况时，会退回到一种「安全」但无效的行为模式，即重复其最熟悉或最高概率的动作，而不是进行创造性的探索。
2.1.2 表现形式：在合法移动中无限循环，反复「明知故犯」
这种循环的具体表现形式是在游戏规则允许的范围内进行无限循环。模型的每一步移动在局部看来都是合法的（例如，将一个较小的盘子放在一个较大的盘子上），但从全局来看，这些移动组合在一起却构成了一个无法逃脱的闭环。模型仿佛「忘记」了它的最终目标，只是在当前状态下机械地重复着一组高概率的动作。这种行为可以被描述为 「明知故犯」 ，因为它似乎知道如何移动单个盘子，但却无法将这些移动组织成一个有目的的、通往解决方案的序列。这种在合法移动中的无限循环，是区分LLM失败与人类错误的关键特征。人类在犯错后通常会意识到问题并尝试新的方法，而LLM则会固执地重复其错误路径，这揭示了其决策过程缺乏真正的目标导向性和全局规划能力。
2.1.3 与「无限循环」现象的关联：智能体系统在无非法移动的情况下无法收敛到有效解
在苹果公司的原始研究中，这种现象被描述为模型陷入了「无限循环」 。在一个设计精良的智能体框架中，环境会负责验证每一步移动的合法性，因此模型本身不会产生非法操作。然而，正是在这种「无非法移动」的设定下，模型的失败才更具揭示性。它表明，仅仅遵守局部规则是远远不够的。一个成功的推理系统不仅需要避免错误，更需要主动地向目标状态收敛。LLM的失败恰恰在于它无法做到这一点。即使在一个完全由合法移动构成的状态空间中，它也无法找到一条通往目标的路径，反而会在一个无效的子空间中无限循环。这有力地证明了模型的决策过程缺乏一种全局的、目标驱动的导航能力，其每一步选择都是基于局部概率，而非全局最优策略。
2.2 根本原因：高级「模式匹配」而非真正逻辑演绎
LLM陷入「确定性循环」的根本原因在于其底层的「思考」机制并非真正的逻辑演绎，而是一种在海量数据上训练出的、极其复杂的「模式匹配」和「高概率路径跟随」能力。当面对的问题能够被其已学习的模式所覆盖时，它能表现出惊人的「智能」；一旦问题结构超出其模式库，其能力便会迅速瓦解。
2.2.1 Transformer模型的组合推理局限：将多步推理简化为线性化子图匹配
一篇关于Transformer如何进行多步推理的研究揭示了其内部工作机制 。该研究发现，Transformer模型主要通过一种「匹配操作」来实现多步推理。它将整个推理过程视为一个序列，并在每一层中通过注意力机制匹配相关的信息片段。这种机制在处理可以被线性化或分解成一系列匹配步骤的问题时非常有效。然而，对于像汉诺塔这样需要深度递归和状态栈管理的复杂问题，这种将多步推理简化为线性化子图匹配的方法存在根本性的局限。模型试图将当前看到的棋盘状态与训练数据中见过的某个子图（即一个解题步骤序列）进行匹配，并跟随这个子图。当问题规模增大时，状态空间的复杂性呈指数增长，模型在训练数据中见过的子图可能不再适用，或者无法被正确地组合起来，导致其匹配失败，从而陷入循环。
2.2.2 对训练数据模式的依赖：成功与在训练数据中见过计算图的显著部分高度相关
LLM的成功在很大程度上取决于其能否在训练数据中找到与当前问题高度相似的「计算图」或解题路径。对于汉诺塔问题，3个或4个盘子的解法在大量的编程教程、数学谜题和AI训练数据中都普遍存在。因此，模型能够非常熟练地「回忆」起这些解法，并表现出强大的解题能力。然而，当盘子数量增加到5个、6个甚至更多时，完整的解题路径（一个包含2^n – 1步的序列）在训练数据中变得极其稀疏甚至不存在。模型无法找到一个完整的、可匹配的模式，只能尝试将其见过的、针对较小规模问题的模式片段进行拼接。这种拼接过程极易出错，一旦在某个关键步骤上匹配了错误的模式片段，就可能导致其进入一个无法挽回的、无效的状态循环中。
2.2.3 面对新结构复杂性时的失效：无法适应或发展新策略
真正的逻辑推理能力意味着能够根据问题的基本规则，动态地发展和适应新的解题策略，即使这个问题是前所未见的。然而，LLM在面对汉诺塔问题的新结构复杂性时，表现出的是完全的失效，而非适应。它无法从零开始推导出递归解法，也无法在试错中学习到新的启发式规则。它的行为被其训练数据所严格限制。当问题复杂度超出其模式库的范围时，它没有内在的机制来生成新的、有效的行为。相反，它会退回到一种最保守的策略：重复那些在过去被证明是「安全」和高概率的动作，即使这些动作在当前情境下是完全无效的。这种无法适应新复杂性的根本缺陷，是其「思考幻觉」的核心，也是其无法被视为真正通用推理引擎的关键原因。
3. 智能体框架（Agentic Framework）设计与交互模式
为了剥离LLM在状态记忆和长期规划方面的负担，从而专注于测试其最纯粹的动态推理能力，研究人员设计了一种智能体框架（Agentic Framework）。该框架通过将环境状态管理外部化，让LLM在一个简化的、逐步交互的模式下解决问题，结果却出人意料地揭示了其根本性的推理缺陷。
3.1 框架核心目标：剥离记忆负担，测试纯粹推理能力
该智能体框架的核心设计哲学是「减负」，即将所有与记忆和状态跟踪相关的复杂任务从LLM身上剥离，转交给一个外部的、确定性的环境模块来处理。这样一来，LLM在每一步只需要关注当前的状态，并决定下一步的动作，从而可以最大限度地发挥其核心的「推理」能力，而无需担心因记忆错误或状态混淆导致的失败。
3.1.1 外部化状态管理：环境负责维护汉诺塔当前状态
在这个框架中，汉诺塔的三个柱子（源柱、目标柱、辅助柱）以及每个柱子上的盘子堆叠顺序，都由一个外部的「环境」模块来精确维护和更新。LLM本身不存储任何关于过去移动序列或当前完整棋盘状态的记忆。在每一步交互开始时，环境会向LLM提供一个清晰、无歧义的文本描述，例如：「当前状态：源柱 [4, 3, 2, 1]，目标柱 []，辅助柱 []」。LLM的角色被严格限定为一个「策略生成器」或「动作选择器」。它的任务仅仅是基于这个当前状态的描述，生成一个合法的下一步移动，例如「将盘子1从源柱移动到目标柱」。这种设计确保了LLM的失败不能归咎于记忆错误或状态混淆，任何错误都只能是其推理过程本身的问题。
3.1.2 多步交互模式：模型逐步探索解决方案，而非一次性输出
与要求模型一次性输出整个解决方案序列不同，该框架采用了一种多步交互的模式。这模拟了人类解决复杂问题时的逐步探索过程。整个解题过程被分解为一系列离散的「回合」：
- 观察：LLM从环境中接收当前汉诺塔状态的描述。
- 思考：LLM基于其内部机制（即其庞大的神经网络）处理这个状态描述。
- 行动：LLM生成一个文本形式的移动指令。
- 反馈：环境接收到指令，验证其合法性，如果合法则执行移动，并更新状态；如果非法则返回错误信息。
- 循环：环境将新的状态描述发送给LLM，开始下一轮交互。
这个过程持续进行，直到LLM成功地将所有盘子移动到目标柱，或者陷入一个无法解决的循环中，或者达到预设的最大步数限制。这种交互模式旨在测试LLM在没有长期记忆负担的情况下，进行动态规划和多步决策的能力。
3.2 LLM与环境的具体交互方式
为了进一步探究LLM的能力边界并尝试提升其性能，研究人员在智能体框架的基础上，引入了多种具体的交互和提示策略。这些策略旨在通过不同的方式引导模型进行「思考」，从而观察其在何种条件下能够成功，以及在何种条件下会失败。
| 交互方式 (Interaction Mode) | 核心机制 (Core Mechanism) | 目标 (Goal) | 在高复杂度下的表现 (Performance at High Complexity) |
|---|---|---|---|
| 逐步提示 (Stepwise Prompting) | 模型在每一步接收当前状态并生成下一步动作 。 | 测试模型的单步决策和局部规划能力。 | 依然会陷入确定性循环，表明问题不在于记忆，而在于推理本身。 |
| 智能体对话 (Agentic Dialogue) | 多个LLM智能体（如规划者、执行者）通过对话协作 。 | 通过角色分工和协作，激发更深层次的规划和反思。 | 即使引入协作，模型系统最终仍会陷入无限循环，无法找到解决方案 。 |
| 模块化智能体规划器 (MAP) | 将规划任务分解为冲突监控、状态预测等专门模块 。 | 模仿人脑的模块化结构，功能性地分离复杂认知任务。 | 在较低复杂度（如3-4个盘子）上表现优异，但在更高复杂度下的有效性有待验证 。 |
Table 2: 智能体框架下的不同交互模式对比
3.2.1 逐步提示（Stepwise Prompting）
这是最基础的交互方式，也是智能体框架的核心。在每一步，模型都会收到一个结构化的提示，其中包含了当前的游戏状态、游戏规则以及一个明确的指令，要求它生成下一步的移动。例如，提示可能是这样的：
「你是一个汉诺塔解谜专家。当前状态：源柱 [4, 3, 2, 1]，目标柱 []，辅助柱 []。规则：1. 每次只能移动一个盘子。2. 只能移动柱子最顶端的盘子。3. 不能将大盘子放在小盘子上。请思考下一步的最佳移动，并以『将盘子X从Y柱移动到Z柱』的格式回答。」
这种逐步提示的方法，旨在通过清晰的指令和上下文，引导模型进行单步的、局部的最优决策，从而观察其能否将这些局部决策串联成一个全局的解决方案。
3.2.2 智能体对话（Agentic Dialogue）
为了模拟更复杂的「思考」过程，研究人员引入了「智能体对话」机制 。在这种模式下，不再只有一个LLM智能体，而是多个LLM智能体（例如，一个「规划者」和一个「执行者」）通过对话来协作解决问题。规划者可能负责制定一个高级策略（例如，「首先，我们需要将上面的3个盘子移到辅助柱上」），而执行者则负责将这个高级策略转化为具体的移动指令。或者，可以设置两个智能体进行辩论，一个提出移动方案，另一个进行批判性评估。这种协作对话的模式旨在通过引入不同的「视角」和「角色」，激发模型进行更深层次的规划和反思，从而克服单智能体可能陷入的局部最优陷阱。然而，研究结果表明，即使是这种增强的交互模式，在面对足够高的复杂度时，依然无法避免最终的失败 。
3.2.3 模块化智能体规划器（MAP）：模仿人脑模块化结构，分解规划任务
模块化智能体规划器（Modular Agentic Planner, MAP）是另一种更为结构化的智能体框架，其设计灵感来源于人脑的模块化规划机制 。MAP架构将复杂的规划过程分解为一系列专门的、由不同LLM模块执行的功能，例如冲突监控、状态预测、状态评估、任务分解和任务协调。每个模块都由一个独立的LLM实例实现，并通过预定义的算法进行交互，以生成一个连贯的计划。在解决汉诺塔问题时，MAP框架的工作流程可能如下：
- 任务分解器（Task Decomposer） ：接收到初始问题后，将其分解为一系列子目标，例如「将盘N从A移到C」、「将盘N-1从A移到B」等。
- 规划器（Planner） ：为每个子目标生成一个初步的行动序列。
- 预测器（Predictor） ：模拟执行规划器提出的动作，并预测执行后的状态。
- 评估器（Evaluator） ：评估预测的新状态是否更接近最终目标。
- 协调器（Coordinator） ：根据评估器的反馈，协调各个模块的工作，决定是继续执行当前计划，还是需要重新规划。
MAP架构的优势在于它将复杂的认知任务进行了功能性的分离，使得每个模块可以专注于一个特定的子任务。这种模块化的设计被认为更接近人类的认知过程，并有望提高模型在复杂规划任务上的表现。在《自然·通讯》上发表的一篇论文中，研究者将MAP应用于汉诺塔等任务，并发现其性能显著优于标准的LLM方法 。然而，值得注意的是，该研究在汉诺塔问题上主要测试了3个和4个盘子的情况，对于更高复杂度的问题，MAP是否依然有效，仍有待进一步研究 。
3.3 实验设计：验证与观察确定性循环
该智能体框架不仅是解决问题的工具，更是一个精密的观测平台，其设计目标之一就是验证和深入观察「确定性循环」现象。
3.3.1 实验命名：「Hanoi Loop」
这个实验可以被命名为 「Hanoi Loop」 ，其核心目标是系统地记录和分析LLM在解决汉诺塔问题时的行为序列，特别是当问题复杂度超过其能力阈值时，是否会以及如何陷入循环。
3.3.2 交互流程：模型输出动作 -> 环境执行并返回新状态 -> 循环直至解决或失败
实验的交互流程严格遵循智能体框架的设计。每一次实验运行都会完整地记录下LLM与环境的每一次交互，形成一个详细的日志。这个日志包含了每一步的：
- 输入提示（当前状态）
- LLM生成的输出（移动指令）
- 环境的反馈（新状态或错误信息）
- 时间戳
这个完整的交互日志为后续分析模型的行为模式，特别是检测循环，提供了坚实的数据基础。
3.3.3 循环检测机制：监测动作序列的重复模式
基于记录的交互日志，可以设计一个自动化的循环检测机制。该机制会分析模型生成的移动指令序列，寻找重复的子序列。例如，可以设定一个滑动窗口，检查窗口内的移动序列是否在历史记录中出现过。如果检测到模型连续多次（例如，3次或5次）执行完全相同的移动序列（例如，A->B, B->C, C->A. ，就可以判定其陷入了「确定性循环」。通过量化循环的长度、频率和发生时的盘子数量，研究人员可以精确地描绘出模型能力崩溃的图景，并为其「模式匹配」而非「逻辑推理」的假说提供强有力的实证支持。✅
4. 内部机制探析：为何模型会陷入确定性循环
LLM在汉诺塔问题上陷入「确定性循环」并最终导致「性能崩坏」，其根源深植于其内部架构和生成机制的内在局限性。这并非简单的「不够聪明」，而是Transformer模型在处理特定类型复杂问题时的根本性能力边界。
4.1 注意力机制的潜在作用
作为Transformer模型的核心，注意力机制在处理序列信息时扮演着至关重要的角色。然而，在汉诺塔这类需要深度逻辑推理的任务中，注意力机制的行为模式可能成为导致失败的催化剂。
4.1.1 注意力分布的固化：在复杂问题上趋向于聚焦过往模式
在解决简单问题时，模型的注意力机制能够有效地关注到当前状态的关键信息，并匹配到正确的下一步。然而，当问题复杂度增加，状态空间变得庞大且陌生时，注意力机制可能会变得「困惑」。由于缺乏明确的、可匹配的模式，注意力权重可能会以一种不稳定的方式分布，或者更糟糕的是，它会固化和坍缩到一些在训练数据中最常见的、但与当前问题无关的模式上。例如，模型可能会过度关注最大的盘子，或者反复关注源柱和目标柱，而忽略了解决问题所必需的、涉及辅助柱的复杂中间步骤。这种注意力分布的固化，使得模型无法动态地、灵活地调整其关注点，从而无法看到通往解决方案的关键路径，最终只能重复那些最吸引其「注意力」的、但却是无效的动作。
4.1.2 表示坍塌（Representation Collapse）：高复杂度任务中的内部表示崩溃
一篇题为《SEQ-VCR: 防止中间层表示坍塌》(SEQ-VCR: Preventing Collapse in Intermediate Representations) 的论文为理解模型失败提供了深刻的见解 。该研究指出，在处理复杂推理任务时，Transformer模型的中间层表示多样性会显著减少，导致所谓的 「表示坍塌」（Representation Collapse） 。这意味着，随着信息在模型的各层之间传递，原本丰富多样的中间状态表示会逐渐变得单一和模糊。在汉诺塔问题中，这意味着模型可能无法清晰地区分不同的中间状态。例如，两个在逻辑上截然不同的棋盘布局，在模型的深层表示中可能变得非常相似。这种内部表示的崩溃，使得模型无法准确地判断当前所处的状态，也无法有效地规划下一步的行动。它失去了对问题状态的精细感知能力，只能在一个高度模糊和坍缩的表示空间中进行决策，这自然会导致其陷入无效的循环。
4.1.3 注意力权重分析的挑战：黑箱模型内部状态难以直接观测
尽管上述关于注意力机制和表示坍塌的理论具有很强的解释力，但直接验证这些理论却面临巨大挑战。大型语言模型本质上是「黑箱」，其内部拥有数千亿甚至数万亿的参数，其注意力权重和中间层表示的精确含义极其复杂，难以直接解读。虽然有一些可视化工具和技术可以尝试分析注意力模式，但要清晰地建立起「某个特定的注意力分布」与「陷入循环」之间的因果关系，仍然是一个开放的研究难题。因此，目前对内部机制的分析更多地是基于模型外部行为的推断和理论模型的解释，而非对内部状态的直接观测。
4.2 生成过程的局限性
除了注意力机制，LLM的自回归生成过程本身也存在着固有的局限性，这些局限性在处理递归和需要长期规划的任务时尤为突出。
4.2.1 自回归采样策略的贪婪性：倾向于选择高概率但可能无效的路径
LLM的生成过程是自回归的，即每一步的生成都基于之前已经生成的序列。在采样时，模型通常会倾向于选择概率最高的下一个Token。这种 「贪婪」的策略在生成流畅自然的文本时非常有效，但在解决像汉诺塔这样的逻辑谜题时却可能成为障碍。在复杂的局面下，正确的下一步移动可能并非在统计上最「明显」或最「高概率」的。一个看似不直观的移动，可能是通往最终解决方案的关键一步。然而，模型的采样策略会倾向于选择那些看起来更「安全」、更「常见」的移动，即使这些移动会将问题引向死胡同。这种对高概率路径的偏好，使得模型缺乏探索精神，容易陷入局部最优解，并最终在无效的、高概率的动作循环中打转。
4.2.2 递归机制的缺失：Transformer架构在处理递归逻辑时的根本困难
汉诺塔问题的经典解法是递归的。递归的核心在于将问题分解为更小的同类子问题，并通过调用自身来解决这些子问题。然而，Transformer架构本身并不具备内在的递归机制。它通过注意力机制在序列中建立长距离依赖，但这与递归调用所需的、能够保存和恢复调用栈状态的能力是完全不同的。模型无法像递归算法那样，在处理 n 个盘子的问题时，暂停当前任务，去完整地解决一个 n-1 个盘子的子问题，然后再返回到主任务。它必须将整个解题过程线性化，并在一个前向传播过程中完成。这种架构上的根本差异，使得Transformer在处理需要深度递归逻辑的问题时，面临着天然的、难以逾越的障碍。它只能通过学习大量的递归实例来「模拟」递归，而无法真正「执行」递归。