情境開場
星期一早上，主管走過來跟你說：「聽說小陳上禮拜把客戶的聯絡資料整段貼進 ChatGPT，請它幫忙整理。你比較懂 AI，能不能幫忙看一下我們團隊用 AI 有沒有什麼問題？」
你不是資安專家。你只是團隊裡平常會用 Claude 寫文件、用 Copilot 寫程式的那個人。但現在主管需要有人做一次基本的 AI 使用安全檢查，而你就是那個人。
這件事為什麼重要？因為如果客戶個資被 AI 服務留存或外洩，公司可能違反台灣個資法，面臨罰鍰和商譽損失。而這種事情在多數公司每天都在發生，只是沒人去看。
接下來 30 分鐘，我會帶你從零開始，完成一次 AI 使用安全檢查，產出一份你可以直接交給主管的檢核表。
完成後你將能做到
- 盤點團隊正在使用哪些 AI 工具（包含你不知道的那些）
- 辨識哪些資料不應該進入 AI 工具
- 檢查 AI 工具的權限是否過大
- 評估團隊對 AI 輸出的使用方式是否有風險
- 建立一份風險紀錄，按嚴重度排序
- 產出一份可重複使用的 AI 安全檢核表
- 向主管報告發現與建議
學習地圖
| 步驟 | 名稱 | 時間 | 產出 |
|---|---|---|---|
| 1 | 盤點團隊的 AI 工具 | 5 分鐘 | AI 工具清單 |
| 2 | 分類每個工具處理的資料 | 4 分鐘 | 資料分類矩陣 |
| 3 | 找出資料外洩風險 | 5 分鐘 | 風險標記紀錄 |
| 4 | 檢查 AI 工具的權限 | 4 分鐘 | 權限清單 |
| 5 | 評估 AI 輸出的使用方式 | 4 分鐘 | 輸出風險評估 |
| 6 | 建立風險紀錄 | 4 分鐘 | 風險登記表 |
| 7 | 產出安全檢核表 | 4 分鐘 | AI 安全檢核表 |
Step 1：盤點團隊正在使用的 AI 工具
情境
你決定先搞清楚：團隊到底在用哪些 AI 工具？你知道小陳用 ChatGPT，你自己用 Claude 和 Copilot。但其他人呢？有人用 Notion AI 嗎？有人把檔案丟進 Gemini 嗎？有人在瀏覽器裝了什麼 AI 外掛？
這就是所謂的 Shadow AI（影子 AI）：員工在公司不知情的情況下使用的 AI 工具。你沒辦法管你不知道的東西。
你的任務
建立一份團隊 AI 工具清單。
只有 ChatGPT 這種獨立的聊天介面嗎？想想看：你們團隊使用的軟體裡，有哪些已經內建 AI 功能？
提示：Notion、Google Docs、Outlook、Slack⋯⋯這些工具現在幾乎都有 AI 功能，只是你可能沒注意到。
操作內容
下面是企業環境常見的 AI 工具類別。勾選你的團隊有在使用的：
獨立 AI 聊天工具
內建 AI 功能的工具
開發工具
瀏覽器擴充功能與其他
如果你列出了 5 個以上的項目，包含至少一個「內建 AI 功能」的工具，你做得很好。大多數團隊實際使用的 AI 工具數量，是他們以為的 2-3 倍。
常見的遺漏：很多人只想到「聊天機器人」類型的工具，忘了現在幾乎每個 SaaS 都在加 AI 功能。你的 Notion 可能已經在用 AI 摘要會議記錄。你的 Gmail 可能已經在用 AI 幫你寫回信。
另一個盲點是瀏覽器擴充功能。員工自己裝的 AI 外掛，可能會讀取他們瀏覽的所有網頁內容，包含公司內部系統的頁面。
本步驟產出：一份你的團隊 AI 工具清單，包含工具名稱、使用者、用途。
Step 2：分類每個工具處理的資料類型
情境
你有了工具清單。接下來要搞清楚：每個工具在處理什麼等級的資料？有人用 ChatGPT 查公開技術問題，這風險很低。但如果有人把客戶合約貼進去，那就是另一回事了。
你的任務
為每個 AI 工具標示它會接觸到的資料等級。
你覺得「寫程式時用 Copilot」算不算讓 AI 接觸公司機密？
提示：程式碼裡面可能藏什麼？.env 裡的資料庫連線字串、設定檔裡的 API Key、註解裡的內部系統網址⋯⋯
操作內容
資料分為四個等級：
- 公開資料：已經在網路上公開的資訊，誰都查得到
- 內部資料：公司內部的一般性資訊，不對外但洩露影響有限
- 個人資料：可識別個人的資訊（姓名、電話、email、身分證字號等）
- 機密資料：商業機密、財務報表、合約、API 金鑰、密碼
現在做一個練習：
情境 A：用 ChatGPT 幫忙解釋 Python 的 list comprehension 語法。這是什麼等級的資料？
情境 C：用 Copilot 寫程式，專案裡有 .env 檔案包含資料庫連線字串。這是什麼等級？
以下哪種資料放進 ChatGPT 最危險？
資料分級是風險管理的基礎。同一個 AI 工具，處理公開資料和處理機密資料的風險完全不同。你需要知道每個接觸點的風險等級，才能決定哪些需要優先處理。
本步驟產出：一份工具 × 資料等級的矩陣表。
Step 3：找出資料外洩風險
情境
你現在知道哪些工具在處理哪些等級的資料了。接下來要做的是：找出具體的危險行為。哪些資料被不安全地丟進了 AI 工具？
你的任務
檢視以下模擬的 AI 輸入內容，找出不應該直接提供給 AI 的資訊。
當你把文字貼進 ChatGPT 或 Claude 時，那段文字會被傳送到雲端伺服器進行處理。免費版通常會用你的輸入來訓練模型。即使是付費版，資料也會在對方的伺服器上暫存一段時間。
操作內容
以下是小陳貼進 ChatGPT 的內容。點擊你認為有問題的部分：
找出所有不應該直接提供給 AI 的敏感資訊（點擊標記）：
客戶：大同科技 王志明 經理
手機：0912-345-678
Email：[email protected]
合約編號：CT-2026-0892
問題：
1. 上週四系統斷線 3 小時，SLA 違約需要賠償
2. API endpoint https://api.ourcompany.com/v2/billing 回傳 500
3. 他們的管理員帳號 admin@datong-tech 無法登入
4. 去年合約金額 NT$2,400,000，今年希望續約但要降價
請按急迫性排序，並建議每個問題的回覆方式。
找到 0/7 個敏感資料
個人資料：
- 客戶姓名（王志明）
- 手機號碼（0912-345-678）
- Email 地址
商業機密：
- 合約編號
- 合約金額（NT$2,400,000）
技術機密：
- 內部 API endpoint 網址
- 客戶的管理員帳號名稱
可以保留的：問題的類型描述（系統斷線、API 錯誤、帳號問題）、排序的需求。
安全的做法是：把具體的姓名換成「客戶 A」、移除所有聯絡方式、合約編號和金額用代稱、移除實際 URL 和帳號名稱。保留問題描述和需求就夠了。
台灣個資法規定，蒐集、處理或利用個人資料必須有特定目的且取得同意。把客戶資料貼進第三方 AI 服務，很可能不在客戶當初同意的範圍內。
攻擊者拿到你的內部 API 網址，就知道可以往哪裡打了。帳號名稱加上一些社交工程，就能嘗試入侵。
本步驟產出：一份標記過的風險紀錄：哪些人把哪些不該提供的資料丟進了哪個工具。
Step 4：檢查 AI 工具的權限設定
情境
接下來要看權限。有些 AI 工具不只是你貼文字給它而已，它可以主動讀取你的檔案、信件、行事曆。你給了它多大的權限？
你的任務
檢查每個 AI 工具可以存取什麼，判斷有沒有權限過大的問題。
一個「能讀取你所有 Google Drive 檔案」的 AI 外掛，最大的風險是什麼？
操作內容
以下是你同事的 AI 信件助手被授予的權限。請判斷哪些該保留、限制、或關閉：
必要權限（保留）
- 讀取信件（需要才能整理）
- 讀取行事曆（排程需要）
應限制或關閉
- 寄送信件 → 改為草稿模式
- 下載附件 → 限制類型和大小
- 讀取 Drive → 限制為特定資料夾
- 刪除信件 → 完全關閉
- 編輯 Drive 檔案 → 完全關閉
權限是第二道防線。即使 AI 工具本身被攻擊（例如被 Prompt Injection），如果它的權限有限，能造成的傷害也有限。
最常見的錯誤是「為了方便就全部開」。很多人在設定 AI 工具時，看到權限請求就直接按「全部允許」，沒有想過這個工具真正需要哪些權限。
本步驟產出：每個 AI 工具的權限清單，標示哪些該關閉、哪些該加入人工確認。
Step 5：評估 AI 輸出的使用方式
情境
你已經檢查了輸入和權限。但還有一個方向：輸出。團隊的人拿到 AI 的回答後，會怎麼用？直接當成最終版本嗎？
你的任務
評估團隊對 AI 輸出的使用方式，找出缺乏人工審核的環節。
同事用 AI 產出的法律條款直接放進客戶合約。最可能出什麼問題？
操作內容：五個情境風險評估
用 AI 生成的程式碼直接合併到主要分支，沒有經過 code review。風險等級是？
AI 會生成看起來正確但實際錯誤的內容，這叫幻覺（Hallucination）。它可能引用不存在的法條、寫出有漏洞的程式碼、或產生語意微妙扭曲的摘要。
使用 AI 輸出前都應該有一個驗證環節，驗證的嚴格程度取決於影響範圍：
- 內部使用、影響小 → 簡單檢查
- 對外使用、影響大 → 嚴格審核
- 法律/財務/安全相關 → 必須由專業人士確認
本步驟產出：一份 AI 輸出使用方式的風險評估，標示哪些環節需要加入人工審核。
Step 6：建立風險紀錄
情境
你已經做完了五個方向的檢查。現在要把所有發現的問題整理成一份主管看得懂的風險紀錄。
你的任務
把 Step 1-5 的發現，整理成一份結構化的風險登記表。
操作內容
風險紀錄範例：
| 風險項目 | 嚴重度 | 影響範圍 | 目前狀態 | 建議措施 |
|---|---|---|---|---|
| 員工將客戶個資貼入 ChatGPT | 高 | 客戶信任、個資法合規 | 已發生 | 建立資料分級規範，禁止個資/機密進入未核准 AI 工具 |
| AI 信件助手有刪除權限 | 高 | 信件完整性、證據保存 | 進行中 | 移除刪除權限，寄信改為草稿模式 |
| AI 生成程式碼未經 review | 高 | 系統安全 | 進行中 | 所有 AI 生成程式碼必須經過 code review |
| 多人使用未核准 AI 工具 | 中 | 資料外洩 | 進行中 | 公告核准工具清單，提供替代方案 |
| AI 生成的社群文案未經審核 | 中 | 品牌形象 | 進行中 | 建立發布前審核流程 |
你可以用 AI 幫你起草風險紀錄（但記得不要把實際的機密細節貼進去）：
本步驟產出：一份風險登記表，包含所有你在檢查中發現的問題。
Step 7：產出 AI 使用安全檢核表
情境
風險紀錄是給主管看現狀用的。但你還需要一份長期可用的工具：一份檢核表，讓團隊日常使用 AI 時可以自我檢查。
你的任務
把你學到的所有檢查項目，整理成一份分階段的 AI 使用安全檢核表。
AI 使用安全檢核表
使用 AI 前的檢查
使用 AI 中的檢查
使用 AI 後的檢查
- 如果發現 AI 工具洩漏了敏感資料：立即停止使用、通報主管、確認影響範圍
- 如果 API Key 被貼進 AI 對話：立即撤銷並換新
- 如果 AI 寄出了未經授權的信件：立即通知收件人、保留日誌
檢核表的價值在於可重複使用。你不需要每次都做一次完整的安全檢查，只要在日常使用 AI 時過一遍這份清單就夠了。這也讓團隊的每個人都能自我把關，不用每件事都來問你。
本步驟產出：一份完整的 AI 使用安全檢核表，分為使用前、使用中、使用後三個階段，加上異常處理流程。
最終挑戰
新情境：你的團隊想在公司網站上部署一個 AI 客服聊天機器人。這個機器人會讀取產品 FAQ 和過往客服紀錄，回答客戶問題。
請用你剛學到的方法回答以下問題：
- 這個 AI 客服會接觸到什麼等級的資料？
- 它需要什麼權限？有什麼權限不該給它？
- 如果客戶在對話中提供了信用卡號碼，系統應該怎麼處理？
- 如果 AI 回答了錯誤的退貨政策，可能造成什麼後果？
- 你會在你的檢核表上加入什麼新的檢查項目？
提示：想想 AI 客服的知識來源（FAQ、客服紀錄）是否可能包含個資。想想客戶的對話內容是否會被儲存。想想 AI 回錯答案時，客戶可能採取什麼行動。
你完成的成果
- AI 工具清單（團隊使用的所有 AI 工具盤點）
- 資料分類矩陣（每個工具接觸的資料等級）
- 風險標記紀錄（具體的危險行為）
- 權限清單（每個工具的權限檢查）
- 輸出風險評估（AI 輸出的使用方式評估）
- 風險登記表（所有問題的結構化紀錄）
- AI 使用安全檢核表（可重複使用的日常檢查清單）
你可以把這些成果整合成一份報告交給主管，或作為團隊 AI 使用規範的基礎。
重點整理
- AI 安全檢查不需要你是資安專家，從盤點和分級開始就夠了
- Shadow AI 是最常被忽略的風險，先搞清楚團隊在用什麼
- 資料分級決定了風險等級，公開資料和客戶個資不能用同一套處理方式
- 權限最小化：只給 AI 完成任務需要的最少權限
- AI 的輸出不是事實，影響越大的場景需要越嚴格的人工審核
- 檢核表要融入日常流程，不是做完一次就放著
知識檢測
讀完文章後，測試一下你對這個主題的理解。
延伸練習
找一個你自己每天都在用的 AI 工具，認真看一次它的：
- 隱私政策（資料會不會被用來訓練？）
- 權限設定（它能存取什麼？）
- 資料保留期限（對話會存多久？）
把發現的結果加進你的風險紀錄裡。
知識檢測
讀完文章後，測試一下你對這個主題的理解。