Token 是什麼?AI Token 定義、計算方式與費用完整解析

快速回答:Token 是什麼?

Token 是 AI 語言模型(LLM)處理文字的最小單位。你可以把 Token 想成 AI 眼中的「字塊」——它不是看一個個字,而是把文字切成一塊一塊的積木來處理。一個 Token 可能是一個完整的英文字("hello")、半個字("un" + "happy")、一個中文字(「你」)、甚至一個標點符號("!")。大約 1 個 Token ≈ 0.75 個英文單字 ≈ 0.5 個中文字。

Token 的正式定義

Token 是語言模型在 Tokenization(分詞)過程中將原始文字拆分成的最小處理單元。每個 Token 對應模型詞彙表(Vocabulary)中的一個數字 ID,模型實際上是在處理這些數字,而非文字本身。

現代 LLM 主要使用 Subword Tokenization(子詞分詞)技術:

  • BPE(Byte Pair Encoding):GPT 系列、Claude 使用的方法,從字元級別逐步合併高頻字元對
  • SentencePiece:Gemini、Llama 使用的方法,直接從原始文字學習分詞規則

詞彙表大小通常在 50,000~260,000 之間(GPT-4o 約 200K,Gemini 約 262K)。

白話解釋:Token 就像什麼?

想像你要用樂高積木拼一個句子。你不是一個字母一個字母地拼,也不是一整個句子當成一塊——你會用大小適中的積木塊來組合。

Token 就是這些積木塊。AI 模型把你輸入的文字切成一塊一塊的 Token,一次處理一塊。常見的字("the"、"is")可能就是一塊完整的積木,罕見的字("pneumonoultramicroscopicsilicovolcanoconiosis")則會被拆成好幾塊小積木。

Token 怎麼算?

英文

  • 約 4 個字元 = 1 個 Token
  • 約 0.75 個英文單字 = 1 個 Token
  • 範例:"Machine Learning is amazing" ≈ 4-5 個 Token

中文

  • 約 1~2 個中文字 = 1 個 Token
  • 中文的 Token 效率較低,同樣的語義內容,中文需要的 Token 數是英文的 2~3 倍
  • 範例:「人工智慧很厲害」≈ 5-7 個 Token

為什麼中文比較「貴」?

現代 LLM 的 Tokenizer 主要以英文語料訓練,中文字在詞彙表中的覆蓋率較低,因此常被拆成更多的子詞單元。這意味著同樣的內容,中文使用者需要消耗更多的 Token,也就需要支付更多的 API 費用。

語言範例文字約略 Token 數
英文"What is artificial intelligence?"5
中文「什麼是人工智慧?」7-9
日文「人工知能とは何ですか?」8-10

為什麼 Token 很重要?

決定費用

API 計費的基本單位就是 Token。你傳給模型的文字(Input Token)和模型回覆的文字(Output Token)都要收費,而且 Output Token 通常比 Input Token 貴 3~5 倍。

決定 Context Window 上限

每個模型都有 Token 上限(Context Window),你的 Prompt + 模型回覆的總 Token 數不能超過這個上限。超過了,模型就會「忘記」最前面的內容。

影響回應速度

Token 越多,模型需要處理的時間越長。Output Token 尤其影響延遲,因為模型是一個一個 Token 生成的。

2026 年主流模型 Token 費用比較

以下為各模型 API 的大致費用(每百萬 Token,美元):

模型InputOutputContext Window
Claude Sonnet 5$3$15200K
Claude Haiku 4.5$0.80$4200K
Claude Opus 4$15$75200K
GPT-4o$2.50$10128K
GPT-4o mini$0.15$0.60128K
Gemini 2.5 Pro$1.25$101M
Gemini 2.5 Flash$0.15$0.601M
注意:費用為 2026 年 7 月的參考值,實際費用以各平台官網為準。各家定期調降價格,建議使用前查閱最新定價。

Context Window 與 Token 的關係

Context Window(上下文窗口)是模型一次能處理的最大 Token 數。你可以把它想成模型的「短期記憶」容量。

  • Claude 系列:200K Token(約 15 萬個中文字)
  • Gemini 2.5 Pro:1M Token(約 75 萬個中文字)
  • GPT-4o:128K Token(約 9.6 萬個中文字)

Context Window 越大,模型能「記住」越多的對話歷史和參考資料。但更大的 Context Window 也意味著更高的費用。

Token 省錢技巧

精簡 Prompt

移除不必要的冗詞和重複說明。直接、具體的 Prompt 不只省錢,通常還能得到更好的結果。

使用 Prompt Caching

Anthropic 和 OpenAI 都提供 Prompt Caching 功能,重複使用相同的 System Prompt 時可以節省高達 90% 的 Input Token 費用。

選對模型

不是所有任務都需要最貴的模型。簡單的分類、摘要任務用 Haiku 或 GPT-4o mini 就夠了,把 Opus 或 GPT-4o 留給複雜推理任務。

批次處理

使用 Batch API 通常有 50% 的費用折扣,適合不需要即時回覆的大量處理任務。

控制 Output 長度

在 Prompt 中指定回覆長度限制,或使用 max_tokens 參數控制 Output Token 數量。

常見誤解

「1 個 Token = 1 個字」

不一定。英文中 1 個 Token 約等於 0.75 個單字,中文中 1 個 Token 可能是 0.5~1 個字。Token 的切法取決於 Tokenizer,不同模型的 Tokenizer 也不同。

「Token 越多回答越好」

不一定。更長的回答消耗更多 Token、花更多錢,但不一定更正確或更有用。好的 Prompt 設計能用更少的 Token 得到更精確的結果。

「所有模型的 Token 價格都一樣」

差很多。同一家公司的不同等級模型,價格可以差 10 倍以上。不同公司之間的定價策略也不同。

常見問題 FAQ

Token 和字有什麼關係?

Token 不等於字。英文中 1 個 Token 約等於 4 個字元或 0.75 個單字。中文中 1 個 Token 約等於 0.5~1 個中文字。具體的切法取決於模型使用的 Tokenizer。

為什麼中文用 AI 比較貴?

因為現代 LLM 的 Tokenizer 主要以英文語料訓練,中文字的覆蓋率較低,同樣的語義內容需要消耗 2~3 倍的 Token。所以中文使用者的 API 費用通常較高。

Context Window 是什麼?

Context Window 是模型一次能處理的最大 Token 數,包括你的 Prompt 和模型的回覆。超過上限後,模型會「忘記」最前面的內容。2026 年主流模型的 Context Window 從 128K 到 1M Token 不等。

怎麼計算 Token 數?

可以使用各家平台提供的 Tokenizer 工具:OpenAI 的 tiktoken、Anthropic 的 Token Counter。粗略估算:英文字數 ÷ 0.75 ≈ Token 數;中文字數 × 1.5 ≈ Token 數。

免費模型有 Token 限制嗎?

有。免費方案通常有每日或每月的 Token 用量上限,超過後需要升級付費方案或等待重置。

Token 和費用的關係是什麼?

API 以 Token 為單位計費,分為 Input Token(你傳給模型的文字)和 Output Token(模型回覆的文字)。Output Token 通常比 Input Token 貴 3~5 倍。

什麼是 Tokenizer?

Tokenizer 是將原始文字轉換為 Token 的程式。不同模型使用不同的 Tokenizer(如 BPE、SentencePiece),所以同一段文字在不同模型中可能被切成不同數量的 Token。

為什麼不同模型的 Token 數不同?

因為不同模型使用不同的 Tokenizer 和詞彙表。詞彙表越大,常見片語被合併為單一 Token 的機率越高,整體 Token 數就越少。