新华社北京7月25日电 对于人工智能(AI)大语言模型来说,通常给予的训练数据越多,模型就会越“聪明”。但英国《自然》杂志新发表的一项关于大模型的研究显示,如果只用AI生成的数据来训练大模型,会使模型性能下降、越练越“傻”。
英国牛津大学、剑桥大学等机构研究人员发现,如果在训练大模型时,只用AI生成的内容,会导致大模型出现不可逆的缺陷,逐渐忘记真实数据的分布,这被称为“模型崩溃”。
研究人员首先使用大语言模型创建类似维基百科词条的文本,然后利用这个内容来训练该模型的新版本,并反复使用前代模型生成的文本训练更新的版本。随着AI生成的信息“污染”训练集,模型的输出逐渐失去意义。在模型的第九次迭代中,它完成了一篇关于英国教堂塔楼的文章,其中一段文字却在讲述野兔尾巴的多种颜色。
研究发现,导致“模型崩溃”的重要原因是,由于模型只能从其训练数据中采样,一些在第一代数据中本就低频出现的词汇,在每次迭代后出现的频率变得更低,而一些常见词汇出现的频率则逐渐增加。
这种变化的结果就是,模型逐渐无法正确模拟真实世界的复杂性。随着时间推移,这种错误会在迭代中被层层累积、逐渐放大,最终导致“模型崩溃”。这有点像生物学中“近亲繁殖”会导致后代缺陷,如果不能保证基因库的多样性,最终会导致一个物种的崩溃。
研究人员还发现,由于训练数据被“污染”而导致“模型崩溃”的情况不止发生在大语言模型中,高斯混合模型、图片生成器等也可能出现类似情况。
不过,应对“模型崩溃”并非束手无策。研究人员发现,如果能在模型微调过程中保留10%左右的真实数据,崩溃就会发生得更缓慢。还可使用水印技术,将AI生成的数据与真实数据区分开来,这需要大型科技公司的协作。此外,在AI生成的文本重新进入数据池之前,可由人类先筛选过滤。
北京某街道关于2024年领取独生子女父母奖励费的通知2024-09-21 13:49:15
北京某街道关于2024年领取独生子女父母奖励费的通知2024-09-21 13:56:35
北京某街道关于2024年领取独生子女父母奖励费的通知2024-09-21 17:26:41
13岁被母亲逼着给继父生儿育女,没当上妇女主任,她杀了干部情夫2024-09-21 17:26:52
工作单位的瓜真的好炸裂!看完网友分享,小脑都萎缩了2024-09-15 10:56:56
工作单位的瓜真的好炸裂!看完网友分享,小脑都萎缩了2024-09-18 19:01:25
工作单位的瓜真的好炸裂!看完网友分享,小脑都萎缩了2024-09-17 08:47:27
工作单位的瓜真的好炸裂!看完网友分享,小脑都萎缩了2024-09-19 16:48:17
令人窒息的结婚礼金谈判现场,卑微到尘埃里的男方父亲!2024-09-19 17:11:03
令人窒息的结婚礼金谈判现场,卑微到尘埃里的男方父亲!2024-09-17 08:47:27
令人窒息的结婚礼金谈判现场,卑微到尘埃里的男方父亲!2024-09-19 18:11:03
令人窒息的结婚礼金谈判现场,卑微到尘埃里的男方父亲!2024-09-19 18:33:50
令人窒息的结婚礼金谈判现场,卑微到尘埃里的男方父亲!2024-09-17 08:47:27
令人窒息的结婚礼金谈判现场,卑微到尘埃里的男方父亲!2024-09-19 18:11:03
令人窒息的结婚礼金谈判现场,卑微到尘埃里的男方父亲!2024-09-19 19:42:32
你捡过最大的漏是什么?网友:4万多买了一亩多的国有土地…2024-09-19 20:54:11
你捡过最大的漏是什么?网友:4万多买了一亩多的国有土地…2024-09-09 12:25:18
你捡过最大的漏是什么?网友:4万多买了一亩多的国有土地…2024-09-09 13:39:10
你捡过最大的漏是什么?网友:4万多买了一亩多的国有土地…2024-09-11 09:25:49
老一辈的人能无知到什么程度?网友分享让我头皮发麻,太歹毒了2024-09-14 16:31:14
老一辈的人能无知到什么程度?网友分享让我头皮发麻,太歹毒了2024-09-09 12:23:35
老一辈的人能无知到什么程度?网友分享让我头皮发麻,太歹毒了2024-09-20 18:42:49
老一辈的人能无知到什么程度?网友分享让我头皮发麻,太歹毒了2024-09-08 16:33:56
老一辈的人能无知到什么程度?网友分享让我头皮发麻,太歹毒了2024-09-18 17:53:52
老一辈的人能无知到什么程度?网友分享让我头皮发麻,太歹毒了2024-09-09 12:23:35
安徽涡阳回应“孩子被广场石像砸中身亡”:孩子攀爬石像,后来一起滚落2024-09-10 14:02:59
安徽涡阳回应“孩子被广场石像砸中身亡”:孩子攀爬石像,后来一起滚落2024-09-09 12:57:52
安徽涡阳回应“孩子被广场石像砸中身亡”:孩子攀爬石像,后来一起滚落2024-09-19 20:02:02
安徽涡阳回应“孩子被广场石像砸中身亡”:孩子攀爬石像,后来一起滚落2024-09-05 16:11:06
安徽涡阳回应“孩子被广场石像砸中身亡”:孩子攀爬石像,后来一起滚落2024-09-09 06:11:10
安徽涡阳回应“孩子被广场石像砸中身亡”:孩子攀爬石像,后来一起滚落2024-09-16 17:30:37
安徽涡阳回应“孩子被广场石像砸中身亡”:孩子攀爬石像,后来一起滚落2024-09-16 18:25:23
安徽涡阳回应“孩子被广场石像砸中身亡”:孩子攀爬石像,后来一起滚落2024-08-23 00:22:37
安徽涡阳回应“孩子被广场石像砸中身亡”:孩子攀爬石像,后来一起滚落2024-09-09 23:55:57
安徽涡阳回应“孩子被广场石像砸中身亡”:孩子攀爬石像,后来一起滚落2024-09-19 19:50:30
安徽涡阳回应“孩子被广场石像砸中身亡”:孩子攀爬石像,后来一起滚落2024-08-30 01:01:05
安徽涡阳回应“孩子被广场石像砸中身亡”:孩子攀爬石像,后来一起滚落2024-08-30 21:07:08
安徽涡阳回应“孩子被广场石像砸中身亡”:孩子攀爬石像,后来一起滚落2024-09-14 04:13:23