答疑
【社区 晚渡提问】对于模型 “中间迷失效应” 的疑问
最近看了很多课了，对博主有句话不是特别理解，意思大概就是开头和结尾的上下文ai会特别留意，可是这个开头和结尾定义的太笼统了，到底是多少k的上下文算是开头，尤其是学到子代理这节课，我觉得左边的技术方案占用了很少的上下文而且在很前面我觉得也可以算是开头而不是中间，所以这个定义是除了系统提示词都算中间吗？这点我特别疑惑，希望有大佬能解答
1 个回答
先说结论，模型会特别留意开头和结尾，这是一个现象，没有一个固定的值；
学术叫这个现象为：中间迷失效应；主要是因为AI的随机性，不可能知道到底多少K之后就一定会遗忘。 论文原帖：cs.stanford.edu
他给我们带来的启示是：
1.上下文要节约使用（用子代理等方式节约）
2.不要在一个上下文中一直提问；
3.遵守的规范，要写到CLAUDE.md里面（因为会在开始被加载）
4.对于重要的信息，可以多轮之后，重新注入到上下文一次；
知道答案？登录后可以回答。