快速回答
BERT（Bidirectional Encoder Representations from Transformers）是 Google 在 2018 年發表的預訓練語言模型。它最大的突破是「雙向理解」——同時看前後文來理解一個詞的意思。BERT 改變了 NLP 的遊戲規則，Google 搜尋至今仍使用 BERT 來理解你的搜尋意圖。
白話解釋
想像你在填克漏字：
「他打開 ___，喝了一口水」
你會猜「水壺」或「瓶蓋」，因為你同時看了前面（「打開」）和後面（「喝水」）的文字。這就是 BERT 的「雙向」理解。
而 GPT 只能從左到右看，看到「他打開」就猜下一個字，不能偷看後面。
BERT vs GPT：兩條不同的路
| 特性 | BERT（Encoder） | GPT（Decoder） |
|---|---|---|
| 方向 | 雙向（看前後文） | 單向（只看前文） |
| 擅長 | 理解、分類、搜尋 | 生成、對話、創作 |
| 訓練方式 | 遮蓋填空（MLM） | 預測下一個字 |
| 模型大小 | 1.1-3.4 億參數 | 數十億到數兆參數 |
| 運行成本 | 低（CPU 可跑） | 高（需 GPU） |
| 使用方式 | Fine-tuning 到特定任務 | Prompt + 對話 |
BERT 的應用場景
- Google 搜尋：理解搜尋意圖（從 2019 年開始使用）
- 文本分類：垃圾郵件偵測、情感分析、新聞分類
- 命名實體辨識：找出文字中的人名、地名、組織名
- 問答系統：從文章中找出答案
- 語意搜尋：理解查詢的語意而不只是關鍵字匹配
- Embedding：生成文字的向量表示
BERT 家族
| 變體 | 特色 | 適用場景 |
|---|---|---|
| BERT-base | 原版，1.1 億參數 | 通用基準 |
| DistilBERT | 壓縮版，速度快 60% | 需要低延遲 |
| RoBERTa | 訓練優化版 | 需要更高準確度 |
| ALBERT | 參數共享，更小 | 資源受限環境 |
| Chinese BERT | 中文專用版 | 中文 NLP 任務 |
| Sentence-BERT | 句子級別 Embedding | 語意搜尋、相似度 |
2026 觀點：雖然 LLM 能做 BERT 的大部分工作，但 BERT 在成本、速度、可部署性上仍有明顯優勢。企業內部的分類、搜尋、監控系統大量使用 BERT 變體——不是每個任務都需要 GPT-4。
常見問題 FAQ
BERT 和 GPT 有什麼不同？
BERT 雙向理解，擅長分類和搜尋；GPT 單向生成，擅長對話和創作。都基於 Transformer。
BERT 在 2026 年還重要嗎？
重要。Google 搜尋仍用 BERT，企業大量使用。成本遠低於 LLM。
BERT 為什麼不能生成文字？
設計就是做理解不是生成。訓練方式是遮蓋填空，不是預測下一個字。
中文有 BERT 嗎？
有。Google 原版就有中文版，還有 BERT-wwm、ERNIE 等中文強化版。在 Hugging Face 上可找到。
BERT 需要多少資源？
BERT-base 1.1 億參數，推論可在 CPU 上運行。比 LLM 便宜很多。
什麼時候用 BERT 不用 LLM？
分類、搜尋排序、情感分析等理解型任務，且需低成本、低延遲、可本地部署時。