模型崩溃

在大型语言模型（LLM）越来越多地依赖于ChatGPT和其他工具来提高效率的情况下，我们可以预见到未来很大一部分网络内容将由人工智能生成。然而，这可能对大型语言模型的未来构成严重风险，因为目前它们依赖于从网络上抓取的人类生成数据。

随着越来越多的人使用AI来制作和发布内容，一个明显的问题出现了:当AI生成的内容在互联网上激增并且AI模型开始使用AI生成的内容进行训练，会发生什么?来自英国和加拿大的一组研究人员已经研究了这个问题，并且最近在开放获取期刊arXiv上发表了一篇相关论文。他们的发现令当前的生成式AI技术及其未来令人担忧:“我们发现在训练中使用模型生成的内容会导致生成的模型出现不可逆转的缺陷。”