快速摘要
AI 有一個嚴重的問題叫「幻覺」：它會非常自信地說出完全錯誤的事實。這不是 bug，而是 LLM 的根本特性。本文教你三個步驟，在 30 秒內判斷 AI 的回答是否可靠。
AI 幻覺有多嚴重
AI 幻覺（Hallucination）是 AI 生成看似正確但實際錯誤的內容。常見的形式包括：
- 虛構引用：AI 編造不存在的論文或書籍
- 錯誤數字：統計數據、日期、價格可能不準確
- 過時資訊：AI 的知識有截止日期，之後的事實可能不對
- 看似合理的胡說：AI 用正確的邏輯結構包裝錯誤的事實
三步驟驗證法
- 問 AI「你確定嗎？」——如果 AI 改口或補充條件，原始回答可能不可靠
- 用搜尋引擎交叉驗證——特別是數字、日期、引用來源等客觀事實
- 問 AI 提供來源——如果它無法提供具體來源，或提供的來源不存在，要存疑
重要原則
AI 輸出的事實性內容（數字、日期、引用、法規）永遠要驗證。AI 輸出的觀點和框架可以參考但要判斷。AI 輸出的程式碼要測試。哪些領域最容易出錯
| 領域 | 風險程度 | 原因 |
|---|---|---|
| 法律條文 | 高 | AI 可能引用不存在的法條或過時的規定 |
| 醫療建議 | 高 | AI 可能混淆藥物名稱、劑量或禁忌 |
| 統計數據 | 高 | AI 經常編造看似合理的數字 |
| 最新新聞 | 中到高 | AI 的知識有截止日期 |
| 程式碼 | 中 | 語法通常正確但邏輯可能有誤 |
| 創意寫作 | 低 | 創意內容不需要事實準確 |
輔助驗證工具
- Perplexity AI：會附上來源連結的 AI 搜尋引擎
- Google Scholar：驗證學術引用
- Wayback Machine：驗證歷史網頁內容
- 用第二個 AI 交叉檢查：如果 ChatGPT 和 Claude 給出不同答案，深入調查
常見問題
AI 說「根據研究顯示」可信嗎？
不一定。AI 很擅長生成「根據XX研究顯示」的句子，但引用的研究可能不存在。如果決策依賴這個數據，一定要查證原始來源。
有沒有不會幻覺的 AI？
目前沒有。所有的 LLM 都有幻覺問題，只是程度不同。使用 RAG（檢索增強生成）技術的系統幻覺率較低，但仍然不是零。
AI 知道自己在幻覺嗎？
不知道。AI 沒有「我不確定」的概念。它產生每個回答的方式都一樣——基於統計模式預測下一個 token。即使內容是錯的，它的「自信程度」也不會降低。