上下文压缩

上下文压缩是一种技术，用于在不牺牲相关信息的情况下减少提供给大型语言模型（LLM）的上下文长度。此过程旨在从上下文窗口中删除冗余、不相关或不太重要的信息，以腾出更多数据或提高LLM处理效率。压缩可能涉及摘要、过滤或重新排序上下文信息等技巧。