上下文窗口

上下文窗口是指 LLM 在单次交互中可以处理的最多标记数，包括输入提示和生成的输出。当超出限制时，较旧的部分会被截断。理解这一约束对于提示工程至关重要——你必须平衡提供足够上下文与保持在标记限制之内。