Context Window 是什麼?搞懂上下文視窗與 Token,AI 為什麼會忘記前文
跟 AI 聊一聊就「失憶」?那是撞到了 Context Window(上下文視窗)的上限。這篇用白話拆解上下文視窗與 token 的關係:它是 AI 的短期記憶而非硬碟、對話與附檔全都占同一個額度、中文為何比較吃 token(附 GPT-4o 官方對照),以及為什麼塞好塞滿反而會「迷失在中間」。搞懂它,你才知道怎麼用得又準又省。
跟 AI 聊一聊就「失憶」?那是撞到了 Context Window(上下文視窗)的上限。這篇用白話拆解上下文視窗與 token 的關係:它是 AI 的短期記憶而非硬碟、對話與附檔全都占同一個額度、中文為何比較吃 token(附 GPT-4o 官方對照),以及為什麼塞好塞滿反而會「迷失在中間」。搞懂它,你才知道怎麼用得又準又省。
RAG 是什麼?這篇用白話拆解檢索增強生成:它讓 AI 回答前先從知識庫檢索相關資料、再生成答案,等於把閉卷考變開卷考。文中說明切塊、嵌入、向量搜尋、生成四步驟,比較 RAG 與微調、長脈絡怎麼選,並解釋為何 RAG 能附出處、降低幻覺卻非萬靈丹,附 NotebookLM 等現成工具讓你動手玩。