「当我们在数学推理的迷宫中探索时，语言是否会成为障碍？测试时扩展（Test-Time Scaling）能否跨越语言的界限，成为多语言数学推理的万能钥匙？」
Ⅰ. 开篇暴击：测试时扩展的多语言挑战
近年来，大型语言模型（LLMs）在多语言任务中的表现令人瞩目。通过在预训练阶段扩大计算规模，模型不仅突破了所谓的「多语言诅咒」（Curse of Multilinguality），甚至在多语言任务中表现出色。然而，预训练的「规模化魔法」是否同样适用于测试时扩展？换句话说，当我们尝试在推理阶段通过增加计算资源来提升模型性能时，这种方法是否能够跨越语言的鸿沟？
这正是本文的核心问题。研究者们提出了一个全新的多语言数学推理基准——MCLM（Multilingual Competition Level Math），涵盖55种语言的高难度数学竞赛题目，并测试了三种主流的测试时扩展方法：结果奖励建模（Outcome Reward Modeling, ORM）、过程奖励建模（Process Reward Modeling, PRM）和预算强制（Budget Forcing, BF）。
灵魂三问：
- 测试时扩展是否能像预训练扩展一样，带来多语言推理的性能飞跃？
- 为什么这些方法在英语中表现优异，却在其他语言中「水土不服」？
- 多语言数学推理的未来，究竟需要怎样的技术突破？
Ⅱ. 硬核时间：测试时扩展的多语言表现如何？
1. MCLM：多语言数学推理的终极试炼场
为了评估测试时扩展的多语言通用性，研究者构建了MCLM数据集。与以往的数学基准（如MGSM）不同，MCLM不仅涵盖了更高难度的竞赛级数学问题，还支持55种语言的多语言版本。数据集分为四个子集，分别来源于国际数学奥林匹克（IMO）、区域性数学竞赛、以及机器翻译生成的数学题目。
冷知识彩蛋：
第一个国际数学奥林匹克（IMO）于1959年在罗马尼亚举办，仅有7个参赛国家。而如今，IMO已成为全球最具影响力的数学竞赛之一，吸引了超过100个国家的参与。
2. 测试时扩展方法：ORM、PRM和BF谁更强？
研究者在两个模型（Qwen2.5-1.5B-Math和MR1-1.5B. 上测试了三种测试时扩展方法：✅
- 结果奖励建模（ORM）：生成多个答案，选择得分最高的作为最终输出。
- 过程奖励建模（PRM）：在生成过程中实时评估每一步的候选答案，动态调整生成路径。
- 预算强制（BF）：限制生成的推理步骤长度，鼓励模型在有限预算内完成推理。
实验结果：亮点与困境
- 亮点：在英语任务中，测试时扩展的效果显著。例如，ORM在英语AIME数据集上提升了20分，BF在复杂问题上也表现出了较高的准确率。
- 困境：然而，在非英语语言中，这些方法的平均提升仅为1.94分。即使是最先进的ORM方法，其在多语言任务中的表现也不稳定，尤其是在低资源语言上。
数据点睛：
ORM在MCLM上的最高得分为35.84，而BF在MR1-1.5B上的得分为35.23。相比之下，传统的「最佳N选择」（Best-of-N. 方法在相似计算预算下表现相当，甚至更稳定。✅
Ⅲ. 高能反转：为什么测试时扩展难以跨越语言障碍？
1. 错误传播与语言变异的双重挑战
测试时扩展的核心思想是通过更长的推理链条实现更深层次的推理。然而，研究发现，推理链条越长，错误传播的风险越高。尤其是在非英语语言中，模型对语言变异的鲁棒性较差，导致推理链条中的小错误被不断放大。
妙喻点睛：
测试时扩展就像在多语言迷宫中寻找出口。英语是明亮的主通道，而其他语言则是光线昏暗的小巷，稍有不慎就会迷路。
2. 数据偏差与翻译质量的隐形影响
MCLM中的部分数据通过机器翻译生成，而翻译质量的差异可能引入偏差。例如，数学问题中的符号和上下文在翻译过程中可能被误解或丢失，进一步加剧了模型的推理难度。
冷知识彩蛋：
研究发现，即使是最先进的翻译模型（如GPT-4），在处理数学上下文时也会出现细微的翻译错误，例如将「平方根」误译为「平方」。
Ⅳ. 未来已来：多语言数学推理的突破之路
1. 自我纠错模型的潜力
研究者提出了一种新型的多语言推理模型——MR1-1.5B，通过训练模型生成并自我纠正推理链条，显著提升了多语言任务的表现。尽管其参数规模仅为1.5B. 但MR1在MCLM上的表现与更大规模的GPT-4o-Mini相当。✅
金句总结：
「真正聪明的模型，不是从不犯错，而是能够发现并纠正自己的错误。」
2. 多语言推理的未来方向
- 更高质量的多语言数据：减少翻译偏差，增加原生多语言数学问题。
- 跨语言一致性优化：通过对比学习或对齐技术，提升模型在不同语言间的推理一致性。
- 更高效的测试时扩展方法：结合外部验证器与自我纠错机制，平衡推理深度与错误控制。
未来畅想：
也许有一天，我们的语言模型不仅能在55种语言中解答数学难题，还能用这些语言写出优美的数学论文。
Ⅴ. 结语：测试时扩展的多语言启示
测试时扩展为数学推理任务带来了新的可能性，但其多语言通用性仍面临巨大挑战。正如本文所示，尽管ORM、PRM和BF在英语中表现出色，但在多语言环境下，其性能提升有限且不稳定。
反思金句：
「数学是通用的，但语言不是。要让模型真正理解多语言数学，我们需要的不仅是更大的模型，而是更聪明的策略。」
附录：MCLM的开放与未来研究
为了推动多语言数学推理的研究，本文公开了MCLM数据集、MR1-1.5B模型及其评估结果。研究者希望，这些资源能够激发更多关于多语言推理一致性和扩展性的探索。
下载链接：
MCLM数据集与代码
「测试时扩展的多语言之旅才刚刚开始，未来的数学推理世界，将不再有语言的边界。」