威脅全景
AI 安全威脅可以分為三大類：
- 攻擊 AI：針對 AI 系統本身的攻擊（Prompt Injection、資料投毒、模型竊取）
- 利用 AI 攻擊：使用 AI 作為攻擊工具（Deepfake、自動化社交工程、漏洞探測）
- AI 使用風險：正常使用 AI 時的風險（資料外洩、幻覺、授權問題）
10 大風險詳解
1. Prompt Injection
攻擊者透過精心設計的輸入，讓 AI 執行非預期的行為。這是目前最普遍、也最難完全防範的 AI 攻擊。影響範圍從聊天機器人到 AI Agent 都包含在內。
風險等級：高 ｜ 詳細說明
2. 資料外洩
員工將公司機密資料、客戶個資或商業秘密輸入公開的 AI 服務。這些資料可能被用於訓練模型，或儲存在不受控的環境中。
風險等級：高 ｜ 詳細說明
3. AI 生成的安全漏洞
AI 寫的程式碼可能包含安全漏洞——缺少輸入驗證、SQL Injection、XSS、硬編碼密鑰。開發者過度信任 AI 輸出而未審查是主因。
風險等級：高 ｜ 詳細說明
4. MCP 攻擊面
Model Context Protocol 讓 AI 可以連接外部工具和資料庫，但也大幅擴大了攻擊面。一個有漏洞的 MCP Server 可能成為整個系統的入口。
風險等級：高 ｜ 詳細說明
5. Deepfake 社交工程
AI 生成的假影片和假語音用於詐騙和社交工程攻擊。2026 年已出現多起用 Deepfake 模擬 CEO 聲音的匯款詐騙案例。
風險等級：高 ｜ 詳細說明
6. AI Agent 權限失控
自主 AI Agent 擁有執行動作的能力（發信、修改檔案、呼叫 API）。如果權限設定不當或被 Prompt Injection 劫持，可能造成嚴重損害。
風險等級：高 ｜ 詳細說明
7. AI 供應鏈風險
AI 應用依賴多個供應商：模型提供者、資料來源、第三方套件。任何一環出問題，都可能影響下游應用。
風險等級：中 ｜ 詳細說明
8. RAG 投毒
攻擊者在 RAG 系統的知識庫中注入惡意內容，讓 AI 回答中包含錯誤資訊或惡意指令。
風險等級：中 ｜ 詳細說明
9. AI 幻覺
AI 生成看似正確但實際錯誤的資訊。在法律、醫療、財務等高風險場景中，幻覺可能導致嚴重後果。
風險等級：中 ｜ 詳細說明
10. 授權與合規風險
AI 生成的內容可能侵犯智慧財產權。AI 處理個人資料可能違反 GDPR 或個資法。企業使用 AI 的方式可能不符合產業法規。
風險等級：中 ｜ 詳細說明
2026 年新趨勢
- Agentic AI 攻擊：隨著 AI Agent 普及，針對 Agent 的攻擊手法快速演化
- MCP 生態攻擊：MCP Server 成為新的攻擊向量
- AI 對 AI 攻擊：用一個 AI 來攻擊另一個 AI 的防禦
- 法規密集期：歐盟 AI Act 正式執行，各國跟進立法
防禦策略
面對這些威脅的整體防禦策略：
- 最小權限：AI 工具只給予完成任務所需的最小權限
- 人工審查：高風險決策必須有人工確認
- 縱深防禦：不依賴單一防線，多層防護
- 持續監控：監控 AI 使用行為和輸出
- 教育培訓：讓所有使用者了解 AI 安全風險
延伸閱讀
想深入了解每個風險，請參考以下專題文章：
常見問題
AI 安全和傳統資安有什麼不同？
傳統資安防的是已知的攻擊模式（SQL Injection、XSS），AI 安全面對的是自然語言攻擊，每次攻擊都可以是全新的句子。沒有簽名可以匹配，沒有 WAF 規則可以阻擋。
一般使用者需要擔心 AI 安全嗎？
需要。最基本的三件事：不要把敏感資料給免費版 AI、不要盲目信任 AI 的輸出、知道 Deepfake 可能被用來詐騙你。
2026 年 AI 安全的最大威脅是什麼？
Agentic AI 的權限管控。當 AI 不只是回答問題而是可以自主執行動作時，攻擊的影響從「資訊洩漏」升級到「實際損害」。