DIT

**划重点:**1.🌟MaskedDiffusionTransformerV2MDTv2（）在ImageNetbenchmark上刷新SoTA，FIDscore达到1.58。2.🚀颜水成/程明明研究团队通过引入MaskedDiffusionTransformer有效提升了DiT的训练速度，并解决了扩散模型在学习语义关系方面的难题。

文章概要:1.RA-DIT通过两阶段调优提升语言模型利用检索信息的能力和检索器提供相关结果的能力。2.RA-DIT在知识密集的零样本和少样本学习基准测试中优于现有检索增强模型。3.RA-DIT65B在需要利用知识的任务中表现显著提升，展现调优带来的效果。