创新AI方法加速大型语言模型生成

**划重点:**-🚀**加速语言模型推理:**BiTA通过双向调优和简化的SAR草稿验证，实现对自回归语言模型（AR）的无损加速，为公开可访问的基于transformer的LLMs提供插拔式模块，特别适用于聊天机器人等实时应用。-🌐**双向调优与树状解码:**BiTA采用双向调优和树状解码技术，通过在单个前向传递中同时生成和验证多个标记，提高了LLMs的生成效率。。