上下文长度是什么意思？AI大模型128k上下文长度是什么概念？

ai大模型中的上下文长度是指什么？在大语言模型中比如DeepSeek、ChatGPT等，上下文长度指的是模型在一次对话或一次请求中，模型能够“记住”并处理的最大Token数量，上下文包括你发给模型的消息（输入），也包括模型回复给你的内容（输出）。

通俗来讲，大模型的上下文长度就像人类的记忆一样，某个人就能记住这么多，你跟他说再多，他就能记住最近的几句话，之前说的话全忘了。上下文长度决定了模型能“一口气”阅读多少文字，上下文长度越长，模型能处理的文档、对话历史就越丰富。

128k上下文长度是什么概念？128K的单位是Token，1个汉字大约是0.6到1.5个Token，模型分词不同实际1个汉字对应的Token数也不同，阿小云按照0.7 Token/汉字来计算，即按1 Token ≈ 1.3 个汉字，计算出128k的文字数：

128K Token ≈ 128,000 × 1.3 ≈ 166,400 个汉字

16万字，上下文长度128k大约是16万字左右。短篇小说字数大约是5万字，128K上下文长度可以装下3本短篇小说。目前128k已经是非常实用级别的长上下文标准了。