Shadow AI 是什麼？員工私用 AI 的風險管理

一句話摘要

當公司沒有提供核准的 AI 工具，員工會自己找方法——這就是 Shadow AI，它帶來的資安風險遠比想像中大。

什麼是 Shadow AI

Shadow AI 指的是員工在未經公司核准或不知情的情況下使用 AI 工具處理工作相關的資料。這跟傳統的 Shadow IT（員工自行使用未核准的軟體）類似，但風險更高，因為 AI 工具通常需要使用者輸入資料才能運作——而這些輸入的資料可能會被用來訓練模型、儲存在第三方伺服器、或在未來某個時間點被其他使用者的查詢觸發。

根據飛飛在多家台灣企業做 AI 安全稽核的經驗，幾乎每一家「還沒正式導入 AI」的公司都有 Shadow AI 的問題。差別只在於程度和規模。一家 200 人的科技公司在稽核時發現，有 73% 的工程師在用個人帳號的 GitHub Copilot 開發公司產品——而管理層完全不知情。

Shadow AI 和傳統 Shadow IT 的根本差異在於資料的流向和用途。員工自行使用 Dropbox 同步檔案（Shadow IT），資料只是在不同位置儲存，資料本身不會被第三方「學習」。但當員工把客戶名單貼進 ChatGPT 做分析時，這些資料會被傳送到 OpenAI 的伺服器，免費版用戶的對話內容在預設狀態下可能被用於模型訓練。這代表客戶的個人資料可能成為全球 AI 模型訓練資料的一部分。

Shadow AI 的常見模式

第一種：個人帳號用於工作。員工用自己的 ChatGPT Free 或 Plus 帳號處理公司的文件：翻譯合約、整理客戶資料、產生報告草稿、撰寫信件。免費版 ChatGPT 預設會使用對話資料來改善模型（雖然可以在 Settings → Data Controls 手動關閉），但飛飛在培訓中做過調查，大約 85% 的員工不知道這個設定的存在，更不用說主動去關閉。

第二種：未經核准的瀏覽器擴充功能。Chrome 商店有大量 AI 擴充功能：自動摘要網頁內容、AI 寫信助手、AI 翻譯工具、AI 會議紀錄。這些擴充功能通常需要讀取網頁內容的權限，等於是在員工每次瀏覽公司內部系統（CRM、ERP、電子郵件、HR 系統）時都在蒐集資料。有些擴充功能甚至要求存取剪貼簿的權限，這代表員工在任何地方複製的文字都可能被傳送到第三方伺服器。

第三種：API Key 的非正式使用。工程師用個人的 OpenAI API Key 開發公司的內部工具、跑資料分析、建立自動化流程。費用可能自己出或報帳，但資料是通過個人帳號處理的，公司對資料流向完全沒有掌握。更嚴重的是，有些工程師會把個人 API Key 直接寫在程式碼裡並 commit 到公司的 Git repository。

第四種：AI 功能內建在常用工具中。很多 SaaS 工具悄悄加入了 AI 功能：Notion AI、Slack AI、Grammarly AI、Canva Magic Write、Google Workspace 的 Gemini 整合。員工可能在不自覺的情況下就把公司資料送進了 AI 處理。這類情況特別難偵測，因為員工認為「我只是在用 Notion 寫筆記，不算使用 AI」，但實際上 Notion AI 會把文件內容送到外部模型做處理。

第五種：手機端的 AI 使用。員工在手機上用 ChatGPT app 處理工作訊息、拍照上傳文件讓 AI 辨識內容、用語音功能口述客戶資訊讓 AI 整理成文字。手機端的使用完全繞過公司的網路監控和 DLP 工具，是最難偵測的模式。

第六種：AI 代理與自動化工具。員工使用 Zapier AI、Make（前身 Integromat）或 n8n 等自動化平台串接 AI 服務，讓工作流自動把資料送進 AI 處理。例如設定「每收到一封客訴信就自動用 GPT 分析情緒並分類」，這類自動化一旦建立，會持續在背景運作，公司可能在很長一段時間都不知道有大量客戶資料正在被送往外部 AI 服務。

真實案例：Shadow AI 造成的損失

案例一：2023 年三星半導體工程師將公司的機密原始碼和會議紀錄貼進 ChatGPT，結果被發現後三星直接禁止全公司使用生成式 AI 工具。這個事件不只造成潛在的智財損失，全面禁止 AI 也讓三星在 AI 生產力工具的導入上落後競爭對手。

案例二：一家台灣的金融科技公司，行銷團隊把客戶交易資料和行為分析報告貼進免費版 ChatGPT 做市場分析報告。這些資料包含客戶的交易金額、消費習慣和基本個資。直到一位合規主管自己試用 ChatGPT 時意外發現 AI 的回覆中出現了類似的資料模式，才揭發整個問題。後續的影響評估和通報花了超過三個月。

案例三：某醫療資訊系統供應商的客服人員，為了加快回覆速度，將病患的問診紀錄貼進 AI 翻譯工具協助撰寫英文回覆。這些紀錄包含病患的姓名、病歷號碼和診斷資訊，直接違反醫療法和個資法的規定。

偵測方法

Shadow AI 的偵測需要多層次的方法配合。以下每種方法各有強項和限制，實務上要組合使用。

方法一：網路流量分析。在公司防火牆或 Proxy 上設定規則，監控往已知 AI 服務的流量。

需要監控的域名清單（持續更新）：

# OpenAI 相關
api.openai.com
chat.openai.com
chatgpt.com

# Anthropic 相關
api.anthropic.com
claude.ai

# Google 相關
gemini.google.com
generativelanguage.googleapis.com

# 其他常見 AI 服務
api.together.ai
api.replicate.com
api.perplexity.ai
copilot.microsoft.com

實施步驟： 1. 在公司的 DNS 伺服器或 Proxy 上設定上述域名的查詢日誌 2. 每週產出報表，統計各域名的存取次數和流量大小 3. 異常的大量上傳流量（例如單次超過 100KB 的 POST 請求）要特別標記 4. 將日誌和 SIEM 工具（如 Splunk、Elastic Security）整合，設定告警規則

限制：這只能偵測到在公司網路上的使用。員工用手機行動網路、個人 VPN 或在家遠端工作時完全偵測不到。HTTPS 加密也讓深層封包檢查變得困難。

方法二：DLP（Data Loss Prevention）工具。設定 DLP 規則，偵測員工複製貼上敏感資料到 AI 網站的行為。

具體設定步驟（以 Microsoft Purview 為例）： 1. 在 Purview 合規中心建立「AI 服務資料外洩」政策 2. 設定敏感資訊類型：台灣身分證字號（正則表達式 [A-Z][12]\d{8}）、信用卡號、公司內部文件編號格式 3. 設定目標服務：將 ChatGPT、Claude、Gemini 等加入監控的雲端應用程式清單 4. 設定動作：偵測到時先記錄不封鎖（觀察期），確認誤報率後改為封鎖加通知

其他 DLP 工具選項： - Netskope：有專門針對生成式 AI 的模組，可以即時偵測和阻擋敏感資料上傳到 AI 服務，年費約每用戶 120-180 美元 - Zscaler：雲端安全平台，可監控 SaaS 應用中的 AI 功能使用，年費約每用戶 100-150 美元 - Microsoft Purview：如果已有 Microsoft 365 E5 授權就內含，否則需額外購買

方法三：端點監控與瀏覽器管理。如果公司有使用 MDM（Mobile Device Management）或企業瀏覽器管理工具，可以限制或監控特定網站和擴充功能。

Chrome Enterprise 設定步驟： 1. 在 Google Admin Console 建立瀏覽器管理設定 2. 在「應用程式和擴充功能」中封鎖已知的 AI 擴充功能（按 Extension ID） 3. 在「網站存取權」中設定 AI 服務網站的存取政策 4. 啟用擴充功能安裝請求功能，讓員工可以申請而非自行安裝

方法四：匿名問卷調查。最簡單也往往最有效的偵測方法。

建議的問卷問題： 1. 你是否使用過非公司核准的 AI 工具處理工作相關的資料？（是/否/不確定） 2. 如果是，使用的工具是什麼？（多選：ChatGPT/Claude/Gemini/Copilot/其他） 3. 使用的帳號類型？（公司帳號/個人帳號/免費帳號） 4. 主要用途是什麼？（文案/翻譯/程式碼/資料分析/其他） 5. 你是否知道這些工具的資料使用政策？（知道/不知道/部分了解）

匿名調查的結果通常比技術偵測更真實。飛飛的經驗是技術偵測大約只能發現實際 Shadow AI 使用量的 30-40%，匿名問卷可以補上剩餘的部分。

方法五：帳號與費用稽核。 1. 檢查公司信用卡帳單和報帳系統中是否有 AI 工具的訂閱費用（OpenAI、Anthropic、Midjourney 等） 2. 檢查公司 GitHub 帳號的 Copilot 設定和使用量報表 3. 檢查 Google Workspace 的第三方應用程式授權清單（Security → API controls → Third-party app access） 4. 檢查 Microsoft 365 的企業應用程式同意清單（Azure AD → Enterprise Applications）

三種管理策略的成本效益分析

策略一：禁止

做法：透過防火牆阻擋 AI 服務的域名、透過群組政策禁止安裝 AI 相關的應用程式和擴充功能、在 AI 使用政策中明確規定違規的懲處。

成本：技術實施成本低（約 10-30 萬台幣的一次性設定），但管理成本高——需要持續更新封鎖清單、處理員工的抱怨和繞過行為。

效益：短期內可以消除已知的 Shadow AI 行為。

問題：員工會用手機繞過封鎖、創新和效率受阻、優秀人才可能因此離職。根據飛飛的觀察，純禁止策略在台灣企業的成功率很低，大約 3-6 個月後就名存實亡。更重要的是，禁止策略把 Shadow AI 推到更難偵測的管道（手機、家用網路），反而讓風險更不可控。

適用場景：高度管制產業（國防、部分金融機構）的過渡期措施，不建議作為長期策略。

策略二：擁抱

做法：全面開放 AI 工具的使用，讓員工自由選擇和使用任何 AI 工具。

成本：訂閱費用分散（每個員工各自訂閱不同工具），無法取得團隊授權的折扣。

效益：員工生產力立即提升，不需要花管理成本。

問題：資料安全完全失控、沒有使用紀錄可追蹤、合規風險高、員工缺乏安全意識可能造成嚴重的資料外洩。一旦出事，公司連「我們做了什麼防範措施」都說不出來。

適用場景：幾乎不適用，除非公司不處理任何敏感資料。

策略三：治理（推薦）

做法：提供核准的 AI 工具、制定使用政策、搭配培訓和監控。

成本估算（以 100 人公司為例）： - 企業版 AI 工具授權：ChatGPT Team 每人每月 25 美元，如果只給 50 人使用，月費 1,250 美元（約 40,000 台幣/月） - AI Gateway 工具：每月 500-2,000 美元（視工具和流量而定） - 培訓費用：外部講師一次 5-15 萬台幣，或內部培訓的人力成本 - 政策制定和法務審查：一次性 5-10 萬台幣 - 年度總成本估算：約 80-150 萬台幣

效益：降低資料外洩風險（估計可降低 60-80%）、有稽核紀錄可追蹤、員工生產力提升、保留人才。以一次資料外洩的平均處理成本（罰款 + 律師費 + 商譽損失）500 萬台幣計算，治理策略的投資報酬率很高。

治理策略的具體實施步驟：

1. 盤點現況：用匿名問卷和技術偵測了解目前的 Shadow AI 使用狀況
2. 選擇核准工具：評估 2-3 個 AI 平台的安全性、功能和價格，簽訂企業授權
3. 制定政策：制定 AI 使用政策，明確資料分級、允許用途和禁止行為
4. 部署監控：設定 AI Gateway 或 DLP 工具，建立使用量監控
5. 培訓全員：讓員工知道為什麼要用核准的工具而非個人帳號，以及怎麼安全使用
6. 持續改善：每季檢視工具清單、政策和培訓內容，根據新工具和新需求更新

AI Gateway 工具

AI Gateway 是介於使用者和 AI 服務之間的代理層，可以集中管理、監控和控制組織內所有的 AI API 呼叫。對於管理 Shadow AI 來說，AI Gateway 是從源頭控制資料流向的關鍵技術。

Cloudflare AI Gateway

功能：API 請求的日誌記錄、速率限制、快取、成本控制、分析儀表板。 定價：免費方案每天 1,000 筆日誌；Workers Paid 方案每月 5 美元起，包含完整的日誌和分析功能。 適用場景：已經使用 Cloudflare 的企業可以快速部署，適合需要基本的 API 監控和成本管理。 設定方式：在 Cloudflare Dashboard 中啟用 AI Gateway，取得 Gateway 端點 URL，將應用程式的 API 呼叫導向 Gateway。

Portkey AI Gateway

功能：多模型路由（可以在 OpenAI、Anthropic、Google 之間切換）、可觀測性（request/response 日誌）、guardrails（輸入輸出過濾）、成本追蹤、負載均衡。 定價：免費方案每月 10,000 筆請求；Pro 方案每月 49 美元，100,000 筆請求；Enterprise 方案依需求報價。 適用場景：需要同時管理多個 AI 供應商的企業，特別是開發團隊使用多種 AI API 的場景。

LiteLLM

功能：開源的 AI API 代理，支援超過 100 個 AI 模型，提供統一的 API 介面、支出追蹤、速率限制、API Key 管理。 定價：自架免費（開源），託管版有付費方案。 適用場景：技術團隊能力較強、想要自架管理的企業。需要 Python 環境和基本的 DevOps 能力。

Helicone

功能：AI 可觀測性平台，提供請求日誌、延遲監控、成本追蹤、使用者層級的分析。 定價：免費方案每月 100,000 筆請求；Pro 方案每月 100 美元起。 適用場景：需要深入分析 AI 使用模式的企業，強調可觀測性和成本優化。

選擇建議：如果公司主要是想監控和記錄 AI 使用（而不是自己開發 AI 應用），Cloudflare AI Gateway 的免費方案加上 Netskope 或 Microsoft Purview 的 DLP 功能是比較務實的組合。如果有開發團隊在建立 AI 應用，Portkey 或 LiteLLM 可以同時解決 API 管理和安全監控的需求。

Shadow AI 治理成熟度模型

組織可以用以下五個等級評估自己的 Shadow AI 治理現況，並設定改善目標：

等級一：無感知。組織不知道 Shadow AI 的存在，沒有任何政策或偵測機制。大多數台灣中小企業在 2024 年底前處於這個等級。

等級二：被動反應。組織知道有 Shadow AI，但只在出事後才處理。可能有簡單的「不可以用 AI 處理公司資料」的口頭規定，沒有技術偵測手段。

等級三：基礎管理。有正式的 AI 使用政策、核准工具清單、基本的培訓。開始設定網路層的偵測（防火牆日誌）。但政策的執行和監控仍然不足。

等級四：主動治理。有 AI Gateway 或 DLP 工具做即時監控、定期的 Shadow AI 稽核、每季更新的政策和工具清單、分部門的使用準則。有明確的事件通報和處理流程。

等級五：持續優化。Shadow AI 治理整合到組織的整體資安框架中。有量化的 KPI 和定期報告、自動化的偵測和回應、持續的員工安全文化建設。AI 治理委員會定期運作。

大多數台灣企業目前應該先從等級一或等級二提升到等級三，這是投資報酬率最高的階段。

衡量 Shadow AI 風險的指標與 KPI

要管理 Shadow AI 風險，你需要能量化它。以下是建議追蹤的指標：

偵測面指標： - Shadow AI 使用率：匿名問卷中承認使用未核准 AI 工具的員工比例（目標：低於 20%） - 未核准 AI 服務的網路存取次數：每月從公司網路存取未核准 AI 服務的 DNS 查詢次數（目標：逐月下降） - DLP 觸發次數：每月 DLP 規則偵測到敏感資料往 AI 服務傳輸的次數（目標：逐月下降）

管理面指標： - 核准工具覆蓋率：有企業版 AI 工具帳號的員工數 / 總員工數（目標：大於 80%） - 培訓完成率：完成 AI 安全培訓的員工比例（目標：大於 90%） - 政策知曉率：問卷中表示知道公司 AI 使用政策的員工比例（目標：大於 85%）

回應面指標： - 事件通報時間：從 Shadow AI 事件發生到通報的平均時間（目標：小於 24 小時） - 事件處理時間：從通報到完成處理的平均時間（目標：小於 72 小時） - 事件再發率：同一員工或部門重複發生 Shadow AI 事件的比例（目標：低於 10%）

建議每月產出一份 Shadow AI 風險報告，包含上述指標的趨勢圖，提交給資安主管或 AI 治理委員會。

Shadow AI 政策範本

一份基本的 Shadow AI 政策應包含以下段落：

適用範圍：所有員工、約聘人員、實習生和外包廠商。這裡要特別註明「無論使用公司設備或個人設備，只要處理公司業務資料，都適用本政策」。

核准工具清單：列出公司核准的 AI 工具及其用途限制。清單要具體到版本和方案，例如「ChatGPT Team 帳號可用於非機密資料的文案產製和資料分析」，而非「可以用 ChatGPT」。

帳號管理規範： - 所有核准 AI 工具的帳號由 IT 部門統一建立和管理 - 員工不得使用個人帳號的 AI 工具處理公司業務資料 - 離職時 IT 部門須在員工最後工作日前停用所有 AI 工具帳號 - 不得與他人共用 AI 工具帳號

禁止行為： - 不可使用個人帳號的 AI 工具處理公司業務資料 - 不可安裝未經 IT 部門核准的 AI 瀏覽器擴充功能 - 不可使用個人 API Key 存取 AI 服務處理公司業務資料 - 不可將機密等級或限制等級的資料上傳至任何 AI 服務（包括核准的工具） - 不可設定自動化流程（如 Zapier、Make）將公司資料自動傳送至 AI 服務

資料分類規則： - 公開資料（已對外發布的內容）：可使用任何核准的 AI 工具 - 內部資料（一般業務文件）：可使用核准的 AI 工具，需去除可識別個人的資訊 - 機密資料（商業機密、合約）：僅限使用企業版 AI 工具且需主管核准 - 限制資料（個資、醫療、金融帳號）：禁止使用任何外部 AI 工具處理

違規處理： - 首次非故意違規：AI 安全教育訓練，記錄在案 - 重複違規或故意違規：依公司獎懲辦法處理 - 造成實際損害的違規（資料外洩、法律責任）：依公司規定和相關法律處理 - 違規處理同時要做根因分析——如果員工是因為公司沒有提供替代方案才使用個人帳號，問題在制度不在個人

通報管道：發現疑似 Shadow AI 的情況，向 IT 安全團隊通報。通報管道要簡單（Email 或 Slack 都行），不要設定太複雜的流程，否則員工出事時會選擇不通報。

政策更新：每季審查核准工具清單，每半年審查政策全文，或在重大事件、法規變更時即時修訂。

台灣法規相關考量

台灣目前沒有專門規範 Shadow AI 的法律，但以下法規直接相關：

個人資料保護法。如果員工透過 Shadow AI 將客戶或員工的個人資料傳送到外部 AI 服務，公司作為「資料控制者」仍須負起法律責任。依個資法第 29 條，公司必須能證明「已盡善良管理人之注意義務」——如果公司連 AI 使用政策都沒有，很難證明這一點。2023 年個資法修正加重了罰則，最高可罰 1,500 萬新台幣。

營業秘密法。如果員工將公司的核心技術或商業策略貼進 AI 工具，可能構成營業秘密的洩漏。依營業秘密法第 13-1 條，故意洩漏營業秘密的刑事責任最高可處五年有期徒刑。公司要注意的是，如果沒有「合理保密措施」（例如 AI 使用政策和技術管控），在主張營業秘密侵害時可能站不住腳。

金融業特別規範。金管會在 2024 年發布的「金融業運用人工智慧指引」中，明確要求金融機構應「建立使用生成式 AI 的內部規範」和「防止員工將客戶資料輸入未經核准的 AI 工具」。金融業如果被發現有嚴重的 Shadow AI 問題，可能面臨主管機關的行政處分。

上市櫃公司資安管理。依金管會規定，上市櫃公司需設置資安長和資安專責單位。Shadow AI 的風險管理應納入公司的整體資安治理架構。如果 Shadow AI 事件導致重大資料外洩，可能需要做重大訊息公告。

勞動法規。在管理 Shadow AI 時，如果公司要監控員工的網路使用，需要注意勞動基準法和就業服務法中關於勞動隱私的規定。監控應該事先告知員工，並在工作規則中載明。

安全考量

Shadow AI 最大的風險不是「員工在用 AI」這件事本身，而是「公司不知道員工在用什麼 AI、餵了什麼資料進去」。

免費版 AI 的資料風險。ChatGPT 免費版預設使用對話資料訓練模型（可在設定中關閉，但多數人不知道）。Claude 的免費版不用對話訓練模型但仍會暫時儲存用於安全監控，保留期最多 30 天。Gemini 免費版如果 Gemini Apps Activity 開啟（預設開啟），對話會被收集用於改善服務。各平台的政策經常更新，需要定期確認最新版本。

第三方擴充功能的資料風險。很多 AI 擴充功能的開發者是個人或小型團隊，資料處理的安全標準參差不齊。擴充功能要求的權限通常過大（讀取所有網站的資料、存取剪貼簿），一旦擴充功能被入侵或開發者惡意蒐集，影響範圍很大。2024 年曾有一款在 Chrome 商店累積超過 50 萬次安裝的 AI 翻譯擴充功能，被發現在背景將使用者瀏覽的網頁內容傳送到開發者的私人伺服器。

處理 Shadow AI 時要避免過度反應。發現員工有 Shadow AI 行為時，先了解動機——通常是公司沒有提供替代方案。懲罰員工可能讓問題轉入地下，更難偵測。更好的做法是提供核准的替代方案，然後明確規範。

不要把偵測工具當作唯一手段。技術偵測可以找到一部分 Shadow AI，但永遠無法發現所有案例。建立安全文化、提供好用的替代工具、做好培訓，才能從根本減少 Shadow AI 的動機。

常見問題