快速回答：AI Bias 是什麼？
AI Bias（AI 偏見）是 AI 系統因為訓練資料、演算法設計或部署方式的問題，對某些群體產生系統性的不公平結果。AI 不會「故意」歧視——它只是學到了訓練資料中的模式，而這些資料反映了人類社會既有的偏見。
AI Bias 的正式定義
AI Bias 是指 AI 系統的輸出結果在統計上對特定群體（通常基於種族、性別、年齡、經濟地位等特徵）產生系統性的不利影響，而這些不利影響與任務相關的合理標準無關。
用白話說：如果一個 AI 履歷篩選系統在能力相同的情況下，給男性候選人的分數平均比女性高，這就是 AI Bias。
白話解釋：AI 偏見就像什麼？
想像一個新員工第一天上班，他唯一的學習方式是看公司過去 20 年的紀錄。如果過去 20 年的主管全部是男性，他會「學到」主管應該是男性。他不是壞人——他只是照著看到的模式來判斷。
AI 就是這個新員工。它的全部知識來自訓練資料。如果訓練資料中有偏見（社會歷史造成的偏見），AI 就會學到這些偏見，然後在它做的每個決定中複製和放大它們。
偏見從哪裡來？五大來源
訓練資料偏見
這是最常見的偏見來源。訓練資料如果不代表真實的多樣性，AI 就會學到偏斜的世界觀。
例子：一個人臉辨識系統的訓練資料中 80% 是白人臉孔，結果系統辨識白人的準確率遠高於辨識其他族群。這不是因為辨識技術有問題，而是因為「看」的樣本太偏了。
例子：一個翻譯 AI 學到「doctor」翻譯成「他是醫生」而「nurse」翻譯成「她是護士」，因為訓練資料中大多數關於醫生的文章主角是男性，護士是女性。
標記偏見
訓練資料需要人工標記（例如標記圖片中的物件、判斷文章的情感是正面還是負面）。標記者自己的偏見會被帶入資料中。
例子：如果標記者認為「穿西裝的人 = 專業」「穿休閒服的人 = 不專業」，標記出來的資料就會帶有這種刻板印象，AI 會學到同樣的判斷。
選擇偏見
決定哪些資料被收集、哪些被排除，本身就是一種偏見來源。
例子：一個客服 chatbot 的訓練資料來自過去的客服紀錄。但如果某些族群的客戶因為語言障礙很少使用客服，他們的需求和問法就不會出現在訓練資料中，AI 就不會學到如何服務這些客戶。
測量偏見
用什麼指標來衡量結果，本身就可能有偏見。
例子：用「信用分數」來評估貸款風險看起來很客觀，但信用分數本身就受到歷史性的結構性不平等影響。某些族群因為歷史原因較難累積信用紀錄，用信用分數作為唯一指標會系統性地不利於這些群體。
演算法偏見
即使訓練資料是完美的，演算法的設計也可能引入偏見。
例子：一個 AI 系統被設計為「最大化準確率」。如果某個群體在資料中佔比很小（例如罕見疾病的患者），AI 可能會為了整體準確率而忽略這個小群體，導致對他們的預測特別不準確。
常見的 AI 偏見類型
| 偏見類型 | 說明 | 例子 |
|---|---|---|
| 性別偏見 | 對不同性別產生不同的結果 | AI 給男性的薪資預測比女性高 |
| 種族偏見 | 對不同種族產生不同的結果 | 人臉辨識對深膚色的人準確率低 |
| 年齡偏見 | 對不同年齡產生不同的結果 | 履歷篩選自動排除年齡較大的候選人 |
| 語言偏見 | 對不同語言的使用者有差異 | AI 對英文的回答品質遠好於中文 |
| 地理偏見 | 對不同地區有差異 | AI 建議的餐廳只有歐美城市的資料 |
| 經濟偏見 | 對不同經濟地位有差異 | 信貸 AI 對低收入地區的申請者系統性拒絕 |
真實案例：AI 偏見造成的影響
Amazon 履歷篩選系統（2018）
Amazon 開發了一個 AI 系統來自動篩選求職者的履歷。這個系統被發現會系統性地降低包含「women's」（例如「women's chess club captain」）等字眼的履歷分數。原因是訓練資料是過去 10 年的錄取紀錄——當時科技業的員工以男性為主，所以 AI 「學到」男性候選人較好。Amazon 最終停用了這個系統。
COMPAS 再犯風險評估（2016）
美國法院使用的 COMPAS 系統被 ProPublica 調查發現，對黑人被告預測「高再犯風險」的誤報率是白人被告的兩倍。也就是說，一個不會再犯的黑人被告被誤判為「會再犯」的機率，是同樣不會再犯的白人被告的兩倍。
人臉辨識的種族差異（2019）
MIT 研究員 Joy Buolamwini 的研究發現，三個主流的人臉辨識系統對深膚色女性的錯誤率高達 34.7%，而對淺膚色男性的錯誤率只有 0.8%。原因是訓練資料中深膚色和女性的臉孔樣本不足。
Google 翻譯的性別偏見
在多種性別中性語言（如土耳其語）翻譯成英文時，Google 翻譯會自動加入性別。「O bir doktor」（他/她是醫生）會被翻譯成「He is a doctor」，而「O bir hemşire」（他/她是護士）會被翻譯成「She is a nurse」。Google 後來增加了顯示兩種性別翻譯的功能。
如何緩解 AI 偏見？
資料層面
多樣化訓練資料。確保訓練資料代表了不同群體的多樣性。如果資料中某些群體的樣本太少，可以透過過取樣（oversampling）或合成資料來補充。
審查資料來源。了解訓練資料是從哪裡收集的、收集過程中可能引入什麼偏見、哪些群體可能被遺漏。
去除敏感特徵。在某些場景中，可以從訓練資料中移除敏感特徵（種族、性別、年齡），或確保模型不會間接使用這些特徵的代理變數（例如郵遞區號可能與種族相關）。
模型層面
公平性約束。在訓練過程中加入公平性約束，讓模型在追求準確率的同時也維持跨群體的公平性。
多重指標評估。不只看整體準確率，還要分群體看——如果系統對群體 A 的準確率是 95% 但對群體 B 只有 70%，就有問題。
對抗性測試。用刻意設計的測試案例來檢查模型是否有偏見。例如把履歷中的名字從「明華」改成「約翰」，看評分是否改變。
部署層面
持續監控。部署後持續監控 AI 系統的輸出，分群體追蹤結果是否公平。偏見可能會隨著時間改變（因為資料分布改變）。
人類覆核。在高風險的決策中（貸款、錄取、法律判決），AI 的建議應該由人類做最終決定，不能全自動。
申訴機制。讓受 AI 決策影響的人有管道可以提出申訴，要求人工覆核。
企業 AI 偏見治理建議
建立偏見評估流程。在每個 AI 專案的開發流程中加入偏見評估步驟——開發前評估資料偏見風險、開發中測試公平性指標、部署後持續監控。
組建多元團隊。AI 開發團隊的組成越多元，越容易發現潛在的偏見。同質性高的團隊容易產生盲點。
建立偏見報告機制。讓使用者和內部員工可以回報疑似的 AI 偏見問題，並有專門的流程來調查和處理。
文件化決策。記錄 AI 系統的設計決策——為什麼選這些訓練資料、如何定義公平性指標、測試結果是什麼。這在被質疑時可以提供透明度。
安全注意事項
如果你在公司中使用 AI 做人事、信貸、或其他影響個人的決策，你需要意識到偏見的風險。不要因為「AI 比人客觀」就不做檢查——AI 可能有系統性的偏見，只是看起來客觀。
使用 ChatGPT、Claude 等生成式 AI 時，回答中也可能包含偏見。例如問 AI「描述一個程式設計師」，它可能預設描述一個男性。這些偏見來自訓練資料。
語言模型對中文、台語等非英文語言的偏見問題更嚴重，因為訓練資料以英文為主。使用 AI 處理中文內容時，要意識到品質和公平性可能不如英文。
飛飛的觀點：AI 偏見不是「可以完全消除」的東西——只要訓練資料來自人類社會，AI 就會反映社會的偏見。目標是辨識、衡量和緩解偏見，降低它造成的傷害。
常見問題
AI 偏見可以完全消除嗎？
目前無法。AI 學的是人類世界的模式，而人類世界本身就有偏見。可以做的是辨識偏見、衡量它的程度、採取措施降低影響。完全消除需要社會本身先消除偏見。
誰應該為 AI 偏見負責？
開發 AI 的公司、部署 AI 的組織、收集訓練資料的團隊都有責任。具體的法律責任取決於各國法規。歐盟 AI Act 開始建立一些責任框架。
AI 偏見只影響少數族群嗎？
不只。AI 偏見可以影響任何群體——特定性別、年齡層、地區、語言、經濟階層。甚至多數群體也可能被偏見影響（例如一個偏好年輕人的 AI 系統，中年的多數族群也會受害）。
開源 AI 是否有偏見？
有。開源模型（如 Llama）跟閉源模型一樣有偏見問題。開源的好處是任何人可以檢查和修正偏見，但也代表有人可能刻意移除安全護欄。
台灣的 AI 系統有偏見嗎？
任何使用 AI 的系統都可能有偏見。台灣特有的偏見風險包括：對原住民族群的語言和文化覆蓋不足、對客語/台語使用者的支援不足、對新住民的需求未被充分反映在訓練資料中。
參考資料
- Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification（Buolamwini & Gebru, 2018）
- EU AI Act 公平性要求
- NIST AI Risk Management Framework — nist.gov
- AI Fairness 360（IBM 開源偏見檢測工具）