AGI Hunt· Overall-Beach-9801·· 4 小时前AI 评分27
LLM 为何会「忘记」指令:tokens 与上下文窗口科普
为什么 AI 会「忘记」你说过的话:tokens 与上下文窗口科普
AI 导读
Reddit 用户在「Behind the AI Stack」系列新文中解释,LLM 会将文本切分为 tokens,并受上下文窗口容量限制。超出窗口后,早期内容可能被截断或稀释,即使指令仍显示在聊天记录中,模型也可能将其忽略。
来源:AGI Hunt · agihunt.info