上下文窗口

LLM一次能处理的token数量上限。从GPT-4的8k到Gemini 2.0的2M一路猛涨。窗口越大能容纳越长的文档/对话，但成本和延迟也跟着上升。