Meta开源

今天凌晨3点，全球社交巨头Meta分享了一个创新研究——Memorylayers（记忆层）。目前，Transformer架构的预训练大模型在存储、查询数据时，随着参数的变大对算力的需求呈指数级增长。“记忆层”提出了新的高效查询机制替代了传统的查询方法，通过比较查询键与两个较小集合中的键，可以快速找到最相关的键，而无需遍历模型的整个记忆层。

文生图领域一直面临着一个核心难题，就是有条件图像生成的效果，远超无条件的图像生成。有条件图像生成是指模型在生成图像的过程中，会额外使用类别、文本等辅助信息进行指导，这样可以更好的理解用户的文本意图，生成的图像质量也更高。而无条件图像生成完全基于模型自己学习的数据分布，难以形成有效的指导，所以，我们经常会有的AI平台生成的图像驴唇不对马嘴，或者图像有重大缺陷。