快速回答：Context Window 是什麼？
Context Window（上下文視窗）是 AI 語言模型在一次對話中能同時「看到」和處理的最大資訊量。你可以把它想成 AI 的「短期記憶容量」——超過這個容量的資訊，AI 就會「忘記」。2026 年主流模型的 Context Window 從 128K 到 2M Token 不等。
Context Window 的正式定義
Context Window 是指大型語言模型在進行單次預測或生成任務時，所能同時處理並維持注意力的最大資訊總量（以 Token 為單位計量）。這個規格定義了模型在「當下」能看見的對話歷史與參考資料範圍。
Context Window 包含所有的輸入和輸出：
- System Prompt：系統指令（角色設定、規則）
- 對話歷史：之前的所有問與答
- 當前輸入：你這次送出的問題或文件
- 模型回覆：AI 生成的回答也會佔用空間
白話解釋：Context Window 就像什麼？
想像 AI 面前有一塊白板。這塊白板的大小是固定的——就是 Context Window。
你跟 AI 說的每一句話、AI 回覆的每一句話，都會被寫在這塊白板上。當白板寫滿了，就必須擦掉最早寫的內容，才能繼續寫新的。
所以：
- 白板越大（Context Window 越大），AI 能「記住」的對話越多
- 白板寫滿（Token 用完），AI 就會「忘記」早期的對話
- 你寫的字越大（中文比英文佔更多 Token），白板能寫的內容越少
為什麼 AI 會「失憶」？
當對話的總 Token 數超過 Context Window 上限時，系統會採取不同的策略來處理：
截斷（Truncation）
直接丟掉最早期的對話內容，只保留最近的部分。這是最簡單粗暴的方式。
滑動視窗（Sliding Window）
像移動一個固定大小的窗戶，隨著對話推進，窗戶往後滑，前面的內容就看不到了。
摘要壓縮（Summarization）
用小型模型將早期對話壓縮成摘要，保留重點但節省 Token。Claude Code 等工具使用這種方式。
RAG 檢索（Retrieval-Augmented Generation）
不把所有資料塞進 Context，而是存在外部資料庫，需要時再搜尋取回最相關的片段。
2026 主流模型 Context Window 比較
| 模型 | 開發者 | Context Window | 約等於中文字數 |
|---|---|---|---|
| Gemini 2.5 Pro | 2M Token | ~100 萬字 | |
| Claude Opus / Sonnet | Anthropic | 200K Token | ~10 萬字 |
| GPT-4o | OpenAI | 128K Token | ~6.4 萬字 |
| GPT-4.1 | OpenAI | 1M Token | ~50 萬字 |
| DeepSeek-V3 | DeepSeek | 128K Token | ~6.4 萬字 |
| Llama 4 | Meta | 10M Token | ~500 萬字 |
Token 與中文的關係
Context Window 的大小是用 Token 來衡量的，但不同語言的 Token 效率差異很大：
- 英文：大約 4 個字母 = 1 個 Token（「hello」≈ 1 Token）
- 中文：大約 1 個中文字 = 1.5～2 個 Token（「你好」≈ 3 Token）
這意味著：同樣是 200K Token 的 Context Window，處理英文大約能容納 15 萬個英文字，但處理中文只能容納約 10 萬個中文字。CJK 語言（中日韓）天生就有 2～3 倍的「Token 溢價」。
如果你主要用中文和 AI 對話，實際可用的 Context Window 容量大約只有英文使用者的 50%～67%。
Context Window 不夠用怎麼辦？
1. 開新對話
最簡單的方法。把關鍵背景重新貼一次，讓 AI 在新的 Context 中繼續工作。
2. 使用 RAG
將大量資料存在向量資料庫中，需要時自動檢索最相關的片段放入 Context。這是企業級應用的標準做法。
3. 分段處理
將長任務拆成小段，每段獨立處理後再彙整。例如：先讓 AI 摘要每一章節，再綜合所有摘要寫出結論。
4. 精簡 Prompt
去掉不必要的背景說明、重複內容和冗長指令，讓真正重要的資訊佔更多比例。
5. 選擇更大的模型
如果經常遇到 Context Window 不足的問題，考慮切換到支援更大 Context Window 的模型。
常見誤解
「Context Window 越大，AI 就越聰明」
不對。Context Window 只決定 AI 能「看到」多少資訊，不決定它的推理能力。一個 128K 的模型在推理品質上可能優於一個 2M 的模型。
「AI 會永遠記得我說過的話」
不會。AI 語言模型沒有持久記憶，只能在單次對話的 Context Window 範圍內「記住」內容。關閉對話後，一切歸零。部分平台（如 Claude Projects）提供了額外的記憶機制，但底層 Context Window 限制仍在。
「Context Window 用滿不會有問題」
會有問題。Lost in the Middle 研究顯示，當 Context 過長時，模型對中間位置的資訊注意力會顯著下降，可能遺漏重要細節。
「所有 Token 的重要性都一樣」
不是。模型對 Context 開頭和結尾的資訊關注度更高。實務上，把最重要的指令或資料放在最前面或最後面，效果會更好。
常見問題 FAQ
Context Window 和 Token 有什麼關係？
Context Window 的大小是用 Token 來計量的。例如 Claude 的 200K Context Window 意味著一次對話最多可以處理 20 萬個 Token，包含你的輸入和 AI 的回覆。
為什麼 AI 聊久了會忘記之前說過的話？
因為對話的 Token 總量超過了 Context Window 的上限。超出的部分會被截斷或摘要壓縮，所以 AI 會「忘記」早期的對話內容。
中文比英文消耗更多 Token 嗎？
是的。由於 Tokenizer 的設計，一個中文字通常被拆成 1.5 到 2 個 Token，而英文約 4 個字母才 1 個 Token。所以同樣的 Context Window，處理中文內容的有效容量大約只有英文的一半到三分之二。
Context Window 越大越好嗎？
不一定。越大的 Context Window 意味著可以處理更多資訊，但也帶來更高的費用和延遲。研究顯示，當上下文過長時，模型對中段內容的注意力會下降（Lost in the Middle 問題）。
怎麼查看我用了多少 Token？
大部分 AI 平台的 API 會回傳 Token 使用量。使用者端可以使用 OpenAI 的 Tokenizer 工具或 Anthropic 的 Token Counter 來預估。一般而言，1 個英文字約 1.3 個 Token，1 個中文字約 1.5–2 個 Token。
RAG 和 Context Window 有什麼關係？
RAG（Retrieval-Augmented Generation）是解決 Context Window 限制的主要方法之一。它不把所有資料塞進 Context，而是先用搜尋找到最相關的片段，再把這些片段放入 Context Window 供模型使用。
2026 年哪個模型的 Context Window 最大？
2026 年 Gemini 系列以 2M（200 萬）Token 的 Context Window 領先，Llama 4 標稱支援 10M Token。Claude 提供 200K Token，GPT-4.1 提供 1M Token。不過各模型的有效利用率和品質並不完全取決於大小。
Context Window 用完了怎麼辦？
可以採取以下策略：開新對話、使用 RAG 將知識存在外部資料庫、將長文摘要後再送入、分段處理任務，或選擇 Context Window 更大的模型。