快速回答：Llama 是什麼？
Llama（Large Language Model Meta AI）是 Meta（Facebook 母公司）開發的開源大型語言模型系列。和 ChatGPT、Claude 等閉源模型不同，Llama 公開模型權重，讓任何人都能免費下載、在自己的伺服器上運行、甚至根據需求客製化微調。它是目前最具影響力的開源 LLM 之一，推動了整個開源 AI 生態系的發展。
Meta 與 Llama 的背景
Meta 是全球最大的社群媒體公司（旗下有 Facebook、Instagram、WhatsApp），同時也是 AI 研究的重要推動者。Meta AI Research（前身為 FAIR，Facebook AI Research）長期投入基礎 AI 研究。
2023 年 2 月，Meta 發布了第一代 Llama，打破了「大型語言模型只有科技巨頭能用」的局面。Meta 的策略是透過開源建立生態系，讓更多開發者基於 Llama 構建應用，進而強化 Meta 在 AI 領域的影響力。
Llama 版本演進
| 版本 | 發布時間 | 參數量 | 重要突破 |
|---|---|---|---|
| Llama 1 | 2023/02 | 7B–65B | 首個開源大型語言模型，證明小模型也能有競爭力 |
| Llama 2 | 2023/07 | 7B–70B | 正式開放商業使用，加入 RLHF 對齊訓練 |
| Llama 3 | 2024/04 | 8B–70B | 性能大幅提升，新的 Tokenizer（128K 詞彙表） |
| Llama 3.1 | 2024/07 | 8B–405B | 首個 400B+ 開源模型，128K context window |
| Llama 4 | 2025/04 | Scout 109B / Maverick 400B | Mixture of Experts 架構，原生多模態，超長 context（10M） |
Llama 4 的重大變化
Llama 4 是一次架構上的重大轉型：
- Mixture of Experts（MoE）：模型被分成多個「專家」子網路，每次推理只啟動其中一部分。Scout 有 16 個專家，每次只啟動 17B 參數，推理成本大幅降低。
- 原生多模態：能同時處理文字和圖片輸入，不需要額外的視覺模組。支援 12 種語言。
- 超長 Context Window：Scout 支援高達 10M token 的上下文視窗，Maverick 支援 1M token。
Llama 的技術特色
- 開源模型權重：任何人都能下載完整的模型參數，在自己的硬體上運行
- 可客製化微調：企業可以用自己的資料對 Llama 做 Fine-tuning，建立領域專用模型
- 多種尺寸：從 8B（可在筆電上跑）到 400B+（需要專業 GPU 集群），適合不同場景
- 活躍社群：大量第三方工具、微調版本、量化版本由社群持續開發
- MoE 架構：Llama 4 的 MoE 設計讓大模型的推理成本接近小模型
開源 vs 閉源模型比較
| 面向 | 開源（Llama） | 閉源（GPT / Claude） |
|---|---|---|
| 模型權重 | 公開下載 | 不公開 |
| 部署方式 | 自行部署或雲端 | 僅透過 API |
| 資料隱私 | 資料不離開你的環境 | 資料需傳送到第三方 |
| 客製化 | 可完全微調 | 有限（僅 API 層微調） |
| 成本結構 | 硬體成本（固定） | API 費用（按量） |
| 維護責任 | 自行負責 | 提供者負責 |
| 最新能力 | 通常落後前沿 | 通常最先進 |
| 社群生態 | 豐富的第三方工具 | 官方工具為主 |
怎麼使用 Llama？
有幾種常見的使用方式：
本地部署（Ollama）
最簡單的方式。Ollama 是一個一鍵安裝工具，支援 Mac、Linux 和 Windows：
- 安裝 Ollama
- 終端機輸入
ollama run llama3.1 - 開始對話
Hugging Face
從 Hugging Face 下載模型權重，用 Python 的 transformers 套件載入使用。適合需要更多控制的開發者。
雲端部署
AWS、Azure、Google Cloud 等雲端平台都提供 Llama 的託管服務，省去自行管理 GPU 的麻煩。
量化版本
社群提供了各種量化版本（如 GGUF 格式），將模型壓縮到更小的體積，讓消費級硬體也能運行較大的模型。
Llama 適合什麼場景？
- 資料敏感的企業：金融、醫療、法律等需要資料不離境的產業
- 客製化需求：需要針對特定領域（如客服、技術文件）微調模型
- 成本敏感：長期大量使用時，自建比 API 按量計費更划算
- 離線環境：沒有網路的場景（邊緣裝置、工廠、軍事）
- 研究與教育：學術研究、學生專案，需要查看和修改模型內部機制
注意事項
授權條款
Llama 使用 Meta 的 Llama Community License，不是傳統的完全開源授權（如 Apache 2.0）。主要限制：月活躍用戶超過 7 億的應用需要向 Meta 另外申請授權。對絕大多數企業來說不受影響。
運算需求
模型越大，需要的硬體越強：
- 8B 模型：16GB RAM 的筆電可以運行（量化後）
- 70B 模型：需要 1-2 張 A100 GPU 或同等級
- 400B+ 模型：需要多張高階 GPU 的集群
安全考量
常見誤解
「開源模型一定比閉源弱」
不一定。Llama 3.1 405B 在多個基準測試上已接近甚至超越 GPT-4。在特定領域經過微調後，開源模型可以超過通用閉源模型。
「Llama 是完全免費的」
模型權重免費，但運行需要 GPU 硬體成本。雲端部署也需要付費。另外授權有月活躍用戶限制。
「用 Llama 就不用擔心隱私」
本地部署確實避免了資料外送，但你仍需確保模型本身的安全（防止 Prompt Injection）、輸出的過濾，以及存取控制。
「隨便一台電腦都能跑 Llama」
小模型（8B 量化版）確實可以在消費級硬體上運行，但速度較慢。大模型需要專業 GPU，不是隨便的電腦就能跑。
常見問題 FAQ
Llama 是免費的嗎？
Llama 的模型權重可以免費下載和使用，但受 Meta 的 Llama Community License 約束。月活躍用戶超過 7 億的商業應用需要向 Meta 申請額外授權。運行模型本身需要 GPU 硬體或雲端服務的費用。
Llama 和 ChatGPT 有什麼不同？
最大差異是開源 vs 閉源。Llama 公開模型權重，你可以下載到自己的伺服器上執行和修改；ChatGPT（GPT 系列）是閉源的，只能透過 OpenAI 的 API 或網頁使用。在能力上，最新的閉源模型通常略勝一籌，但差距正在縮小。更多比較請參考 ChatGPT 是什麼？
Llama 可以在自己的電腦上跑嗎？
可以。透過 Ollama、llama.cpp 等工具，較小的 Llama 模型（如 8B 參數量化版）可以在配備 16GB 以上記憶體的消費級電腦上運行。更大的模型（70B+）則需要專業 GPU。
Llama 4 有哪些版本？
Llama 4 在 2025 年 4 月發布了兩個版本：Scout（109B 總參數，16 個專家，10M context window）和 Maverick（400B 總參數，128 個專家，1M context window）。兩者都採用 Mixture of Experts 架構，實際推理時只啟動 17B 參數。原計畫中的 Behemoth（約 2T 參數）未正式發布。
什麼是 Mixture of Experts（MoE）？
MoE 是一種模型架構，將模型分成多個「專家」子網路，每次推理只啟動其中一小部分。這讓模型擁有大量的參數（知識容量大），但推理成本接近小模型。Llama 4 Scout 有 109B 總參數，但每次只啟動 17B。
Llama 適合什麼場景？
Llama 特別適合：需要資料隱私（不想資料送到第三方）、需要客製化微調、有特定領域需求、希望降低長期 API 成本、或需要在離線環境運行 AI 的場景。