不知道大家有没有遇到过这个问题
刚开始提问的时候，AI回复很快，改得也准。聊了一个多小时，修了几个bug，AI开始越来越不好用了，第一反应可能是「模型降智了」
其实大多数时候模型没降智，而是上下文窗口快满了
一、上下文是什么
先说一个容易被忽略的事实：模型本身没有记忆。
你每发一条消息，Agent 都会把从头到尾的所有内容重新打包，整个发给模型。模型读完这一整包再回答。它能「记得」你前面说过什么，只是因为前面的话每次都被重新塞了进去。
这一整包内容的容量上限就是上下文窗口（Context Window），用 token 计量。
现在很多主流模型都支持了100万 Token的上下文
上下文不止有你的提问，还有其他内容组成
进入Claude Code之后，什么都不进行，直接运行 /context 命令，你会发现 上下文已经被占用14.9k了，这是因为，如下面的表格展示：
| 上下文组成 | 说明 | 占用 |
|---|---|---|
| 系统提示词 | Agent 自带的「员工手册」 | 固定，不小 |
| 工具定义 | 每个工具的说明书，MCP 装得越多越占地方 | 固定，可能很大 |
| 项目说明 | CLAUDE.md / AGENTS.md 这类文件 |
固定 |
| 你的消息 | 你说的每一句话 | 持续增长 |
| Agent 的回复 | 它的思考和回答 | 持续增长 |
| 工具结果 | 读过的文件、命令输出、搜索结果 | 增长最快 |
这也解释了很多同学一个常问的问题：为什么我只发送了一个你好，但是后台显示我用了几十k 的Token
你的消息只占上下文窗口很小的一部分，更多的还是系统提示词和其他内容，而这些内容无法舍弃，正是因为有这些内容，AI 才称之为 Agent，才具有现在的生产力
我再给大家截一张，用了一段时间的对话，上下文的使用情况，也汉化了一下，大家也可以随时运行一下：/context 来查看自己对话上下文的使用情况
二、上下文太多的坏处
