在AI大模型时代，用户对实时交互体验的要求与日俱增。大型语言模型（LLM）的推理延迟成为制约用户体验的核心痛点，其关键参数TTFT（首Token时延）和TBT（令牌间时延）直接决定着对话流畅度。传统系统在处理长上下文查询时面临三大困境：GP