上下文长度达8k

站长之家（ChinaZ.com）7月20日消息:MosaicML发布了名为MPT-7B-8K的7B参数开源语言模型（LLM），支持8K的上下文长度。与以前的模型相比，MPT-7B-8KLLM在摘要和回答任务方面展现出卓越的能力。