快速回答
Explainable AI（XAI，可解釋 AI）是讓人類能理解 AI 為什麼做出某個決策的技術。當 AI 說你的貸款不核准、你的腫瘤可能是惡性的——你有權知道為什麼。XAI 就是打開 AI 「黑盒子」的工具。
白話解釋
想像兩個醫生：
- 黑盒醫生：看了你的檢查報告說「你有病」。你問為什麼？他說「我就是知道」
- 可解釋醫生：「你的白血球偏高（權重 40%）、發燒三天（權重 30%）、接觸史（權重 30%），所以判斷你可能感染了」
你會信任哪一個？XAI 就是要讓 AI 像第二位醫生一樣，說得出理由。
主要方法
| 方法 | 做什麼 | 優點 | 缺點 |
|---|---|---|---|
| LIME | 用簡單模型近似局部行為 | 模型無關、直覺好懂 | 只能解釋單筆預測 |
| SHAP | 計算每個特徵的貢獻度 | 理論基礎紮實、全局+局部 | 計算量大 |
| Attention 視覺化 | 展示模型關注哪些部分 | 適合文字和圖片模型 | 不一定反映真實因果 |
| Interpretability | 理解模型內部神經元 | 最深層的理解 | 技術極其困難 |
法規要求
- 歐盟 AI Act：高風險 AI 系統必須具備透明度和可解釋性
- GDPR：用戶有權獲得自動化決策的解釋
- 台灣金管會：金融業 AI 輔助決策需具備可解釋性
- FDA：AI 醫療設備需要可解釋的決策邏輯
安全提醒：XAI 本身也有安全風險。解釋模型的決策邊界可能幫助攻擊者找到漏洞。例如知道模型主要看哪些特徵，攻擊者就能針對性地修改這些特徵來繞過檢測。可解釋性和安全性之間需要平衡。
常見問題 FAQ
為什麼需要可解釋 AI？
信任、監督和法規要求。AI 拒絕貸款、診斷疾病時，人類有權知道為什麼。
LIME 和 SHAP 是什麼？
兩個最常用的 XAI 方法。LIME 用簡單模型近似局部行為，SHAP 用賽局理論計算特徵貢獻度。
歐盟 AI Act 要求可解釋性嗎？
是的。高風險 AI 必須能解釋決策原因。金融、醫療、招聘等領域尤其嚴格。
可解釋性和準確度矛盾嗎？
傳統觀點認為是，但 SHAP 等方法能解釋複雜模型而不犧牲準確度。
台灣法規要求 AI 可解釋性嗎？
金管會已有相關指引。趨勢是對 AI 透明度的要求越來越高。