快速回答:Token 是什麼?
Token 是 AI 語言模型(LLM)處理文字的最小單位。你可以把 Token 想成 AI 眼中的「字塊」——它不是看一個個字,而是把文字切成一塊一塊的積木來處理。一個 Token 可能是一個完整的英文字("hello")、半個字("un" + "happy")、一個中文字(「你」)、甚至一個標點符號("!")。大約 1 個 Token ≈ 0.75 個英文單字 ≈ 0.5 個中文字。
Token 的正式定義
Token 是語言模型在 Tokenization(分詞)過程中將原始文字拆分成的最小處理單元。每個 Token 對應模型詞彙表(Vocabulary)中的一個數字 ID,模型實際上是在處理這些數字,而非文字本身。
現代 LLM 主要使用 Subword Tokenization(子詞分詞)技術:
- BPE(Byte Pair Encoding):GPT 系列、Claude 使用的方法,從字元級別逐步合併高頻字元對
- SentencePiece:Gemini、Llama 使用的方法,直接從原始文字學習分詞規則
詞彙表大小通常在 50,000~260,000 之間(GPT-4o 約 200K,Gemini 約 262K)。
白話解釋:Token 就像什麼?
想像你要用樂高積木拼一個句子。你不是一個字母一個字母地拼,也不是一整個句子當成一塊——你會用大小適中的積木塊來組合。
Token 就是這些積木塊。AI 模型把你輸入的文字切成一塊一塊的 Token,一次處理一塊。常見的字("the"、"is")可能就是一塊完整的積木,罕見的字("pneumonoultramicroscopicsilicovolcanoconiosis")則會被拆成好幾塊小積木。
Token 怎麼算?
英文
- 約 4 個字元 = 1 個 Token
- 約 0.75 個英文單字 = 1 個 Token
- 範例:"Machine Learning is amazing" ≈ 4-5 個 Token
中文
- 約 1~2 個中文字 = 1 個 Token
- 中文的 Token 效率較低,同樣的語義內容,中文需要的 Token 數是英文的 2~3 倍
- 範例:「人工智慧很厲害」≈ 5-7 個 Token
為什麼中文比較「貴」?
現代 LLM 的 Tokenizer 主要以英文語料訓練,中文字在詞彙表中的覆蓋率較低,因此常被拆成更多的子詞單元。這意味著同樣的內容,中文使用者需要消耗更多的 Token,也就需要支付更多的 API 費用。
| 語言 | 範例文字 | 約略 Token 數 |
|---|---|---|
| 英文 | "What is artificial intelligence?" | 5 |
| 中文 | 「什麼是人工智慧?」 | 7-9 |
| 日文 | 「人工知能とは何ですか?」 | 8-10 |
為什麼 Token 很重要?
決定費用
API 計費的基本單位就是 Token。你傳給模型的文字(Input Token)和模型回覆的文字(Output Token)都要收費,而且 Output Token 通常比 Input Token 貴 3~5 倍。
決定 Context Window 上限
每個模型都有 Token 上限(Context Window),你的 Prompt + 模型回覆的總 Token 數不能超過這個上限。超過了,模型就會「忘記」最前面的內容。
影響回應速度
Token 越多,模型需要處理的時間越長。Output Token 尤其影響延遲,因為模型是一個一個 Token 生成的。
2026 年主流模型 Token 費用比較
以下為各模型 API 的大致費用(每百萬 Token,美元):
| 模型 | Input | Output | Context Window |
|---|---|---|---|
| Claude Sonnet 5 | $3 | $15 | 200K |
| Claude Haiku 4.5 | $0.80 | $4 | 200K |
| Claude Opus 4 | $15 | $75 | 200K |
| GPT-4o | $2.50 | $10 | 128K |
| GPT-4o mini | $0.15 | $0.60 | 128K |
| Gemini 2.5 Pro | $1.25 | $10 | 1M |
| Gemini 2.5 Flash | $0.15 | $0.60 | 1M |
Context Window 與 Token 的關係
Context Window(上下文窗口)是模型一次能處理的最大 Token 數。你可以把它想成模型的「短期記憶」容量。
- Claude 系列:200K Token(約 15 萬個中文字)
- Gemini 2.5 Pro:1M Token(約 75 萬個中文字)
- GPT-4o:128K Token(約 9.6 萬個中文字)
Context Window 越大,模型能「記住」越多的對話歷史和參考資料。但更大的 Context Window 也意味著更高的費用。
Token 省錢技巧
精簡 Prompt
移除不必要的冗詞和重複說明。直接、具體的 Prompt 不只省錢,通常還能得到更好的結果。
使用 Prompt Caching
Anthropic 和 OpenAI 都提供 Prompt Caching 功能,重複使用相同的 System Prompt 時可以節省高達 90% 的 Input Token 費用。
選對模型
不是所有任務都需要最貴的模型。簡單的分類、摘要任務用 Haiku 或 GPT-4o mini 就夠了,把 Opus 或 GPT-4o 留給複雜推理任務。
批次處理
使用 Batch API 通常有 50% 的費用折扣,適合不需要即時回覆的大量處理任務。
控制 Output 長度
在 Prompt 中指定回覆長度限制,或使用 max_tokens 參數控制 Output Token 數量。
常見誤解
「1 個 Token = 1 個字」
不一定。英文中 1 個 Token 約等於 0.75 個單字,中文中 1 個 Token 可能是 0.5~1 個字。Token 的切法取決於 Tokenizer,不同模型的 Tokenizer 也不同。
「Token 越多回答越好」
不一定。更長的回答消耗更多 Token、花更多錢,但不一定更正確或更有用。好的 Prompt 設計能用更少的 Token 得到更精確的結果。
「所有模型的 Token 價格都一樣」
差很多。同一家公司的不同等級模型,價格可以差 10 倍以上。不同公司之間的定價策略也不同。
常見問題 FAQ
Token 和字有什麼關係?
Token 不等於字。英文中 1 個 Token 約等於 4 個字元或 0.75 個單字。中文中 1 個 Token 約等於 0.5~1 個中文字。具體的切法取決於模型使用的 Tokenizer。
為什麼中文用 AI 比較貴?
因為現代 LLM 的 Tokenizer 主要以英文語料訓練,中文字的覆蓋率較低,同樣的語義內容需要消耗 2~3 倍的 Token。所以中文使用者的 API 費用通常較高。
Context Window 是什麼?
Context Window 是模型一次能處理的最大 Token 數,包括你的 Prompt 和模型的回覆。超過上限後,模型會「忘記」最前面的內容。2026 年主流模型的 Context Window 從 128K 到 1M Token 不等。
怎麼計算 Token 數?
可以使用各家平台提供的 Tokenizer 工具:OpenAI 的 tiktoken、Anthropic 的 Token Counter。粗略估算:英文字數 ÷ 0.75 ≈ Token 數;中文字數 × 1.5 ≈ Token 數。
免費模型有 Token 限制嗎?
有。免費方案通常有每日或每月的 Token 用量上限,超過後需要升級付費方案或等待重置。
Token 和費用的關係是什麼?
API 以 Token 為單位計費,分為 Input Token(你傳給模型的文字)和 Output Token(模型回覆的文字)。Output Token 通常比 Input Token 貴 3~5 倍。
什麼是 Tokenizer?
Tokenizer 是將原始文字轉換為 Token 的程式。不同模型使用不同的 Tokenizer(如 BPE、SentencePiece),所以同一段文字在不同模型中可能被切成不同數量的 Token。
為什麼不同模型的 Token 數不同?
因為不同模型使用不同的 Tokenizer 和詞彙表。詞彙表越大,常見片語被合併為單一 Token 的機率越高,整體 Token 數就越少。