上下文窗口是什么？为什么 AI 会忘记你说过的话

和 AI 聊了半小时，它突然忘了你最开头交代的要求；或者让它总结一篇长文，它说"请把内容发给我"——你明明已经发过了。这些现象的根源，是同一个概念：上下文窗口（Context Window）。

上下文窗口：模型的"工作记忆"

大语言模型没有真正的长期记忆。每次你发送消息，模型看到的其实是你和它本轮对话的完整记录，这份记录能容纳的最大长度，就是上下文窗口，以 Token 计量。

可以把它想象成一张固定大小的桌子：对话的每一句话都写在纸条上摆上桌，模型只看桌面上的内容来回答。桌子满了，最早的纸条就得被拿走——这就是 AI"忘记"开头内容的真相。不是它记性差，而是那些内容已经不在它的"视野"里。

窗口越大，能力越强吗？

理论上是的。更大的窗口意味着：能一次读更长的文档、处理更长的对话、完成更复杂的任务。这也是近几年各家大模型竞争的焦点之一，主流模型的窗口从最早的几千 token，一路扩展到几十万甚至上百万 token。

但有两个现实限制需要注意：

1. 有效性衰减：窗口标称一百万 token，不代表模型对每一处的"注意力"都同样可靠。实际使用中，埋在超长文本中间的关键信息，被模型忽略的概率会上升（业内称为"中间遗失"现象）。

2. 成本上升：上下文越长，输入计费越多，响应也越慢。塞得越满，用得越贵。

实用建议：怎么和"健忘"的 AI 协作

关键要求放两头：重要的指令写在提问的开头或结尾，比埋在中间更可靠。

长对话定期"重开"：任务阶段性完成后开新对话，把必要背景重新简要交代一遍，比拖着几百轮的旧对话更高效、更省钱。

长文档交给"总结"再处理：先让 AI 把长材料压缩成要点，再基于要点继续工作，避免整个任务都挤在窗口里。

用项目知识库功能：不少 AI 产品提供自定义指令或知识库功能，把固定背景写进去，就不用每次重复交代。

理解了上下文窗口，很多 AI 的"怪脾气"就都能解释了。它不是针对你——它只是桌面就这么大。