微软新工具LLMLingua

划重点:🔍微软研究发布了LLMLingua-2，一种用于任务不可知压缩提示的模型，可以将原始长度减少高达20%，从而降低成本和延迟。📊LLMLingua-2通过智能压缩长提示，去除不必要的词语或标记，同时保留关键信息，使得提示长度可减少至原长度的20%。