研究人员警告

随着越来越多的人使用AI来制作和发布内容，一个明显的问题出现了:当AI生成的内容在互联网上激增并且AI模型开始使用AI生成的内容进行训练，会发生什么?来自英国和加拿大的一组研究人员已经研究了这个问题，并且最近在开放获取期刊arXiv上发表了一篇相关论文。他们的发现令当前的生成式AI技术及其未来令人担忧:“我们发现在训练中使用模型生成的内容会导致生成的模型出现不可逆转的缺陷。”

AI聊天机器人ChatGPT能够进行自然对话、编写代码、生成诗歌、作曲、通过律师资格考试、计算复杂的数学公式、设计简历，甚至提供食谱，吸引了广泛的关注。但这种现象也有令人担忧的不足之处。观察家很早就警告说，从互联网上挖掘虚假信息并通过ChatGPT对话传播虚假信息的危险，以及对生成恶意代码和越来越有说服力的网络钓鱼活动的可能性的担忧。