推理模型与测试时计算:模型竞赛的新前沿

十年来,模型进步几乎只有一条路:用更大的模型和更多的数据训练。推理模型开辟了第二条轴:在推理时提升质量——让模型在回答前于自身上下文中生成并审查推理链。
在困难任务上效果显著:奥数题、复杂 Bug 调试与多步规划——快速模型在这些场景屡屡失败。代价也很明确:每提高一档准确率意味着更多的思考词元和更长的等待。因此新模型都提供两种模式:即时回答与思考模式。
对用户的实用问题:何时值得?经验法则——深度调试、数学、架构规划与多文档分析时开启思考模式;翻译、改写和简单问题则关闭。当今工具的模式切换正是为此而生:由你决定每条回答购买多少「思考」。