5万个合成数据碾压人类示例

AI巨佬GeoffreyHinton称，「科技公司们正在未来18个月内，要使用比现在GPT-4多100倍的算力训练新模型」。更大参数的模型，对算力需求巨大的同时，对数据也提出了更高的要求。但是，更多的高质量数据该从何来?英伟达高级科学家JimFan表示，「合成数据，将为我们饥渴的模型提供万亿个token」。