快速回答
Chain of Thought(CoT,思維鏈)是一種讓 AI 「一步一步思考」來提升推理能力的技術。就像你做數學題會寫出計算過程而不是直接寫答案,讓 LLM 展示推理步驟能大幅提升回答的準確度。
一看就懂的範例
問題:「Roger 有 5 顆網球。他又買了 2 罐網球,每罐 3 顆。他現在有幾顆?」
沒有 CoT:「11 顆」(直接回答,可能答錯)
有 CoT:「Roger 原本有 5 顆。他買了 2 罐,每罐 3 顆,所以買了 2×3=6 顆。5+6=11 顆。答案是 11 顆。」
沒有 CoT:「11 顆」(直接回答,可能答錯)
有 CoT:「Roger 原本有 5 顆。他買了 2 罐,每罐 3 顆,所以買了 2×3=6 顆。5+6=11 顆。答案是 11 顆。」
看起來只是多寫幾步?但對 AI 來說,展示中間步驟讓它更不容易犯錯——Google 的研究顯示 CoT 在數學推理任務上把準確率從 17.7% 提升到 78.7%。
CoT 的三種用法
| 方法 | 怎麼做 | 效果 |
|---|---|---|
| Zero-shot CoT | 加一句「Let's think step by step」 | 簡單有效,適合大部分場景 |
| Few-shot CoT | 給幾個包含推理步驟的範例 | 效果更好,適合複雜問題 |
| Auto-CoT | 模型自動決定何時使用 CoT | o1/o3 模型內建此能力 |
進階推理技術
- Tree of Thought(ToT):不只一條推理線,同時探索多條路線,選最好的
- Self-Consistency:用同一問題生成多個 CoT,取多數答案
- ReAct:結合推理(Reasoning)和行動(Acting),AI 邊想邊做
- Reflection:AI 推理完後回頭檢查自己的邏輯是否正確
o1/o3 模型:CoT 的內建化
OpenAI 的 o1 和 o3 模型把 CoT 從「使用者的 Prompt 技巧」變成「模型內建的推理能力」:
- 模型在回答前自動進行長時間的內部推理
- 推理過程不直接顯示給使用者
- 在數學、程式碼、科學推理上大幅超越一般模型
- 代價是回應時間較長、成本較高
什麼時候用 CoT?
| 適合 CoT | 不需要 CoT |
|---|---|
| 數學計算、邏輯推理 | 簡單事實查詢 |
| 程式碼除錯和設計 | 翻譯任務 |
| 多步驟問題分析 | 短文寫作 |
| 複雜的決策和比較 | 一般對話聊天 |
安全提醒:CoT 可以被用在 Prompt Injection 攻擊中——攻擊者引導 AI 逐步推理出有害的結論。CoT 也可能產生看似邏輯正確但結論錯誤的「幻覺推理鏈」。使用 CoT 結果時仍需驗證關鍵步驟的正確性。
常見問題 FAQ
CoT 和 Prompt Engineering 有什麼關係?
CoT 是Prompt Engineering 最重要的技術之一。PE 是廣義的「怎麼問 AI」,CoT 是「讓 AI 逐步推理」的特定策略。
只加一句 Let's think step by step 就有用嗎?
是的,Zero-shot CoT 已被研究證實有效。但複雜問題用 Few-shot CoT(附範例)效果更好。
o1/o3 模型和 CoT 有什麼關係?
o1/o3 把 CoT 內建到模型中,自動進行長時間內部推理。是 CoT 從技巧演變成架構的里程碑。
CoT 對所有任務都有用嗎?
不是。推理型任務效果最好;簡單查詢或創意寫作反而會讓回答冗長。
Tree of Thought 和 CoT 有什麼不同?
CoT 是線性推理,ToT 是樹狀探索多條路線。ToT 更強但更耗資源。
CoT 有安全風險嗎?
可被用於 Prompt Injection 攻擊,也可能產生「幻覺推理鏈」。