大模型能记住的东西越来越多,但它还是不懂我
最近大模型都在比谁的上下文窗口大。以前只能记几千字,现在能记几十万字——整本书都能塞进去。听着特别厉害对吧?我试了一下,说点真实感受。
上下文窗口大了确实有用。以前你跟AI聊长一点的东西,它就忘了前面说的。现在你把一整个文档丢给它,它能从头到尾读完,还能回答你问题。这个进步是实打实的。
但你真用了就发现:窗口大了,不代表它真懂了。
什么意思?
你丢给AI一本小说,问它主角最后怎么样了。它能告诉你。但你问它"主角为什么做这个决定",它就开始胡编了。因为它能"记住"内容,但它不"理解"内容背后的逻辑。
有次我把一份很长的产品文档丢给AI,问它"这个产品最核心的功能是什么"。它给我列了十个功能,全是文档里写的。但哪个是核心、哪个是次要的,它判断不了。它只看字面,不看重点。
上下文窗口大了还有个问题。
它什么都塞进去,但它分不清主次。你给它一百页资料,它觉得每页都一样重要。你问它关键信息,它可能给你引了一段无关的。因为它不知道哪段是重点。
人读东西会抓重点——开头看一下、结尾看一下、中间跳着看。AI不行,它从头到尾读,但读完了它不知道什么重要。
所以现在大模型上下文窗口越来越大,但你别指望它真能"读懂"长文本。它能帮你找信息、总结内容,但它不能帮你做深度分析。
这就像一个人读完了整本书,但你问他读后感,他只能复述故事情节,说不出自己的理解。读得多不等于理解深。
以后大模型的方向不应该是窗口更大,而是理解力更强。能记住很多东西不牛,能从里面提炼出洞察才牛。
说个更真实的例子。有次我把一份30页的行业报告丢给AI,让它帮我提炼核心观点。它给我列了二十条,每条都是报告里的原话。但你问它"这二十条里哪三条最重要",它说"都重要"。
它分不清主次。因为它不知道你的目的是什么——你是想做投资决策?还是想写文章?还是想跟老板汇报?不同的目的,重点不一样。AI不知道你要什么,它只能把所有东西都给你列出来。
这就是上下文窗口大了之后的新问题:它能装很多信息,但它不会帮你筛选。你得自己告诉它哪些重要。但如果你知道哪些重要,那你还找AI干嘛?
后来我学乖了。我丢长文档给AI的时候,不光丢文档,还告诉它我要什么。比如"我要写一篇文章,帮我从这三十页里挑出三个最有意思的观点"。这样它才知道该抓什么重点。
你不告诉它目的,它就给你一堆信息,你自己挑。那跟自己读文档有什么区别?
所以大模型上下文窗口大是好事,但你得会用。你不能指望它自己知道你要什么。你得把你的目的说清楚,它才能帮你抓到重点。

