跳到正文
AGI Hunt· Overall-Beach-9801·· 4 小时前AI 评分27

LLM 为何会「忘记」指令:tokens 与上下文窗口科普

为什么 AI 会「忘记」你说过的话:tokens 与上下文窗口科普

AI 导读

Reddit 用户在「Behind the AI Stack」系列新文中解释,LLM 会将文本切分为 tokens,并受上下文窗口容量限制。超出窗口后,早期内容可能被截断或稀释,即使指令仍显示在聊天记录中,模型也可能将其忽略。

来源:AGI Hunt · agihunt.info