一句話說明

AI 安全是一個新興但快速成長的領域，需要同時具備傳統資安和 AI/ML 的知識。目前人才需求大於供給，對有資安背景的人來說是很好的轉職方向。

AI 安全工作在做什麼

AI 安全涵蓋的範圍很廣，實際的工作內容依組織而異。常見的職責包括：

AI 紅隊測試（AI Red Teaming）：對組織部署的 AI 系統進行安全測試。包括 prompt injection 攻擊測試、輸出安全性評估、以及測試模型在對抗性輸入下的行為。這和傳統的滲透測試很像，但對象從網路和應用程式變成 AI 模型和 AI 驅動的應用。

AI 系統安全架構：設計和審查 AI 應用的安全架構。例如 RAG 系統的資料存取控制、AI Agent 的權限管理、API 的輸入驗證和輸出過濾。

AI 合規與治理：協助組織建立 AI 使用政策，確保符合法規要求（如 EU AI Act、台灣個資法對 AI 處理個人資料的規範）。包括 AI 風險評估、影響評估（AIIA）、和稽核流程的建立。

ML 安全研究：研究模型本身的安全問題，如資料投毒（Data Poisoning）、模型竊取（Model Extraction）、對抗性範例（Adversarial Examples）。這個方向需要較深的 ML 知識。

職涯發展路徑

從傳統資安轉入 AI 安全，大致有三條路徑：

路徑一：資安工程師 → AI 應用安全工程師

如果你目前做的是 Web Application Security、SAST/DAST、或 DevSecOps，最直接的轉換是把安全技能應用到 AI 驅動的應用上。

需要補充的知識：LLM 的基本原理（不需要能從頭訓練模型，但要理解 tokenization、embedding、prompt 的運作方式）、OWASP LLM Top 10、常見的 AI 攻擊向量（prompt injection、jailbreak、data exfiltration）。

學習時間估計：如果已有 3 年以上的 AppSec 經驗，大約 3-6 個月可以掌握 AI 特有的安全知識。

路徑二：SOC 分析師 → AI 安全監控與事件應變

如果你在做 SOC（Security Operations Center）工作，AI 安全的監控和事件應變需要你現有的 SIEM、威脅分析技能，加上對 AI 系統行為的理解。

需要補充的知識：AI 系統的正常行為基線、如何偵測 AI 被攻擊的指標（異常的 token 使用量、輸出內容的突變、回應時間的改變）、AI 事故的處理流程。

路徑三：資安研究員 → AI 安全研究員 / AI 紅隊

如果你目前做的是漏洞研究或紅隊測試，AI 紅隊是最有挑戰性也最受重視的方向。

需要補充的知識：ML 的基本概念（loss function、gradient、fine-tuning）、prompt engineering 的進階技巧、自動化的 AI 攻擊框架（如 PyRIT、Garak）。

飛飛的觀察：這條路徑在台灣的機會目前最多，因為越來越多企業導入 AI，需要有人做安全評估。

需要的技能組合

核心技能（所有 AI 安全角色都需要）：

傳統資安基礎：網路安全、應用程式安全、密碼學基礎。不用每個領域都精通，但至少要理解基本概念。

AI/ML 基礎概念：理解 LLM 如何運作、什麼是 fine-tuning、RAG 的架構、embedding 和 vector database。推薦從 Andrew Ng 的 Machine Learning 課程入門，然後專注在 LLM 相關的內容。

Prompt Engineering：理解 prompt 的結構（system prompt、user prompt），能夠設計攻擊性 prompt 來測試 AI 系統的安全邊界。

Python 程式能力：大多數 AI 安全工具和框架都用 Python。不需要到資深工程師的程度，但要能寫 script 來自動化測試。

進階技能（依角色而異）：

AI 紅隊方向：自動化攻擊框架的使用和開發、對抗性 prompt 的設計方法論、多步驟攻擊鏈的設計（例如先繞過 system prompt → 提取內部知識 → 取得系統資訊）。

AI 架構安全方向：雲端服務安全（AWS/GCP/Azure）、容器安全（Docker/Kubernetes）、API 安全設計。

AI 治理方向：風險評估方法論（NIST AI RMF）、法規解讀（EU AI Act、台灣個資法）、稽核流程設計。

相關認證

目前 AI 安全沒有像 CISSP 或 OSCP 這樣公認的專業認證，但以下認證對職涯有幫助：

傳統資安認證（建立基礎信任）：CISSP（廣度）、OSCP/OSCE（技術深度）、CEH（入門）。如果你已經有這些認證，在轉入 AI 安全時會被視為有扎實的安全基礎。

AI 相關認證：Google 的 Machine Learning Engineer 認證、AWS 的 Machine Learning Specialty。這些不是安全認證，但能證明你理解 AI/ML 的技術面。

AI 安全特定的認證目前還在發展中，SANS、ISC2 等機構已經開始推出 AI 安全相關的課程。

飛飛的看法：在 AI 安全這個早期階段，實際的經驗和作品集（CTF 解題報告、AI 安全研究文章、開源工具貢獻）比認證更有說服力。

台灣的工作機會

AI 安全在台灣目前的職缺形式：

資安公司的 AI 安全服務：部分資安顧問公司開始提供 AI 安全評估服務。職位通常叫「資安顧問」或「滲透測試工程師」，工作內容包含 AI 系統的安全測試。

科技公司的 AI 安全團隊：大型科技公司（如台灣的 AI 新創、半導體廠的 AI 部門）開始設立 AI 安全相關的職位。通常隸屬於資安團隊或 AI 團隊。

金融業的 AI 風險管理：金管會對金融機構使用 AI 有越來越多的監管要求。銀行和保險公司需要能評估 AI 風險的人才。

自由接案 / 顧問：AI 安全顧問的時薪在台灣市場目前沒有固定行情，但以飛飛的觀察，有經驗的 AI 安全顧問的日費通常在 15,000-35,000 台幣之間。

薪資範圍（全職）：初階（1-3 年經驗）約 60,000-90,000 台幣/月，中階（3-5 年）約 90,000-140,000 台幣/月，資深（5 年以上）約 140,000-200,000 台幣/月。有海外公司的遠端職缺，薪資通常更高。

學習資源

入門推薦：

OWASP LLM Top 10：了解 AI 應用最常見的 10 個安全風險。免費線上文件。

AI Village（DEF CON 的子社群）：每年的 AI 紅隊挑戰賽和相關演講。

Anthropic 和 OpenAI 的安全研究部落格：了解最新的 AI 安全研究趨勢。

進階推薦：

NIST AI Risk Management Framework：AI 風險管理的架構性文件，適合要做 AI 治理的人。

MLSecOps 社群：專注在 ML 系統的安全運維。

實際動手做：

用 Ollama 在本機跑模型，嘗試各種 prompt injection 攻擊。

參加 AI 相關的 CTF 挑戰。

在自己的 AI 專案上實作安全措施（輸入驗證、輸出過濾、稽核日誌）。

知識檢測

讀完文章後，測試一下你對這個主題的理解。

常見問題

沒有資安背景可以直接進入 AI 安全嗎？

技術上可以，但比較困難。AI 安全需要同時理解「AI 怎麼運作」和「攻擊者怎麼思考」。如果你有 AI/ML 背景但沒有資安經驗，建議先補基礎的資安知識（OWASP Top 10、基本的滲透測試概念），再往 AI 安全發展。

AI 安全和傳統資安的薪資差異大嗎？

在台灣目前差異不大，主要因為 AI 安全還沒有獨立的職位分類。但在國際市場（特別是美國），AI 安全的薪資通常比同等級的傳統資安高 20-30%，因為人才稀缺。隨著台灣企業對 AI 安全的需求增加，薪資差距預計會逐漸拉開。

需要會訓練 AI 模型嗎？

大多數 AI 安全職位不需要你會從頭訓練模型。但你需要理解訓練的概念（什麼是 fine-tuning、RLHF、alignment），以及模型的架構（transformer、attention mechanism）的基本原理。如果你走 ML 安全研究方向，則需要更深入的模型訓練知識。

女性在 AI 安全領域的機會如何？

資安領域整體的女性比例偏低（約 25%），AI 安全也類似。但飛飛觀察到越來越多的女性進入這個領域，特別是在 AI 治理和 AI 倫理的方向。多數企業和社群都在積極促進多元性。如果你對這個領域有興趣，不要因為比例數字而卻步。

AI 安全會不會是短期熱潮？

不太可能。只要 AI 技術持續被應用在企業和政府的關鍵系統中，就需要有人確保這些系統的安全。EU AI Act 等法規的出台代表各國政府已經認識到 AI 安全的重要性。這個領域的需求會隨著 AI 的普及而持續成長。