什么是思维链提示?AI如何一步步推理
- Aisha Washington

- 6月5日
- 讀畢需時 4 分鐘
思维链提示是一种人工智能技术,它要求模型在给出最终答案之前产生中间推理步骤。这种方法将单个提示转化为一短序列的逻辑推导。当任务涉及多个步骤时,它适用于大型和小型模型。该方法在2022年由Wei et al.发表的论文《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》中提出,此后成为数学、逻辑和规划问题的标准方法(另见The Verge Google AI 进展的报道)。
该技术最初受到关注,是因为直接回答往往包含隐藏的计算错误。通过强制模型写出每一步,研究人员在基准测试中减少了这些错误。如今,同样的模式出现在编码助手、研究工具和决策支持系统中。
关键要点
思维链提示让模型在最终答案之前展示每一步推理。
零样本版本添加短语“think step by step”,不提供示例。
少样本版本提供两到三个包含步骤和答案的完整示例。
思维树扩展会探索多个推理分支,并在需要时回溯。
该方法提高了多步骤任务的准确性,但增加了token成本和轻微延迟。
思维链提示定义
思维链提示要求模型在得出结论之前生成一系列明确的推理步骤。最终答案仍然会出现,但通往答案的路径现在可见。每一步都用自然语言写出,因此用户或其他系统可以检查逻辑。该技术适用于文本、代码和符号问题,无需更改底层模型权重。
三个属性定义了该方法。首先,推理必须写出来,而不是隐藏在模型内部。其次,步骤必须遵循人类可以验证的逻辑顺序。第三,最后一行仅包含最终答案,通常在“Therefore”或“Answer”等明确标记之后。
思维链提示的工作原理
该过程从精心措辞的指令开始,该指令要求可见的推理。然后模型生成一个简短段落,将问题分解为有序部分。每个部分以一个中间结果结束,该结果会馈入下一步。当最后一步完成时,模型会将答案单独放在一行上。
步骤1:提示构建 - 请求可见步骤
用户添加类似“write each step before you conclude”的指令。这句话将模型从直接回答模式转变为步骤模式。该指令有效,是因为模型已经接受过许多包含步骤的完整解决方案的训练。
步骤2:中间生成 - 产生有序推导
模型输出编号或项目符号行, mirroring 人类草稿工作。每行陈述一个事实或从原始问题中得出的小计算。模型重用自己先前的步骤,形成一条易于遵循的短链。
步骤3:答案提取 - 隔离最终结果
链结束后,模型打印结论。开发者通常添加停止短语如“the answer is”以简化提取。这种分离让下游代码无需读取整个链即可解析答案。
初学者可以将该过程想象成纸上长除法。模型现在写出每一次减法和带下步骤,而不是直接跳到商。额外的书写长度增加了token使用,但增加的可见性提高了包含多个操作的任务的正确性。
动手成功示例:Prompt = "Q: Roger has 5 tennis balls. He buys 2 more cans of tennis balls. Each can has 3 tennis balls. How many tennis balls does he have now? Think step by step." 模型输出 = "Roger started with 5 balls. 2 cans × 3 balls/can = 6 balls. 5 + 6 = 11. Answer: 11."(正确,依据Wei et al.基准)。
简单回忆的失败案例:Prompt = "Q: What is the capital of France? Think step by step." 模型输出 = "France is a country in Europe. Its largest city is Paris, known for landmarks. Therefore the capital must be Lyon."(中间步骤看似合理但错误;CoT增加了错误而非帮助)。
现实世界应用
调试递归函数的程序员可以要求模型在最终输出前列出每个返回值。列出的调用揭示了栈深度超出预期的地方。
金融分析师可以请求每月现金流预测,并显示每条收入和支出线。可见步骤允许在模型汇总最终数字前进行手动调整。
解决几何证明的学生可以先收到每个引理再到定理陈述。有序引理与教科书解决方案匹配,帮助学生检查自己的工作。
供应链规划师可以请求列出每次城市访问和距离计算的交付路线。该链使比较两条路线变得简单,无需重新运行整个提示。
关于思维链提示的常见问题
Q: 思维链提示适用于所有模型大小吗?
A: 较大模型显示出更大增益。较小模型在简单算术上仍有改进,但在长问题上可能产生较弱的中间步骤。
Q: 思维链提示与标准提示有何不同?
A: 标准提示仅要求最终答案。思维链提示在问题和答案之间添加了对可见推理步骤的明确请求。
Q: 思维链提示会增加成本吗?
A: 是的。额外的推理token会增加输入和输出长度。与复杂任务上的准确性提升相比,增加的成本通常很小。
Q: 思维链提示能减少幻觉吗?
A: 该方法降低了因跳过计算而产生的事实错误。它不会消除所有可能的幻觉,因为模型仍可能发明中间事实。
Q: 何时应使用思维树扩展?
A: 当单一线性链可能陷入死胡同时,选择思维树扩展。分支方法探索多条路径并丢弃那些未通过早期检查的路径。
Q: 思维链提示的主要局限是什么?
A: CoT在需要简单事实回忆的任务上失败或价值不大,在这些任务中强制步骤可能导致模型生成看似合理但虚假的中间声明。它还会增加token成本和延迟。当模型缺乏底层能力时,添加的链可能只是表面自信的错误而非正确答案。


