256K

元象发布了全球首个上下文窗口长度为256K的开源大模型XVERSE-Long-256K，支持输入25万汉字，无条件免费商用。该模型填补了开源生态空白，与元象之前的大模型组成了高性能全家桶。XVERSE-Long-256K在评测中表现出色，超越了其他长文本模型。通过算法与工程的极致优化，实现了长序列的注意力机制，使窗口长度与模型性能同步提升。