支持8000个token上下文长度

文章概要:-Mistral7B是MistralAI开发的英文文本和代码生成基础模型，参数规模70亿。-SageMakerJumpStart提供一键部署Mistral7B进行推理，可快速自定义。-Mistral7B具有8000个token的上下文长度，表现低延迟和高吞吐量。