国际最新研究：人工智能大语言模型会在训练过程中“夹带私货”
　　中新网北京4月16日电 (记者 孙自法)随着人工智能(AI)大语言模型(LLM)越来越广泛的应用，其沾染人类缺点的一面也更多显现出来。 　　国际学术期刊《自然》最新发表一篇人工智能研究论文称，一项研究显示，人工智能大语言模型可能会将某些不需要的特征传授给其他算法，即使在训练数据中清除原始特征后，这些如同人类“夹带私货”的特征仍可能持续存在。 本项研究的相关示意图(图片来自论文)。施普林格·自然 供图 　　在此次一个研究案例中，一个大语言模型似乎通过数据中的隐含信号，将对猫头鹰的偏好传递给了其他模型。这项研究结果表明，在开发大语言模型时，需要进行更彻底的安全检查。 　　该论文介绍，大语言模型可通过一种名为“蒸馏”的过程生成用于训练其他模型的数据集，该过程旨在让“学生”模型学会模仿“老师”模型的输出。虽然此过程可用于生成成本更低的大语言模型，但目前尚不清楚“老师”模型的哪些特性会被传递给“学生”模型。 　　在本项研究中，论文第一作者和共同通讯作者、美国人工智能安全和研究公司Anthropic的Alex Cloud与同事及合作者一起，使用GPT-4.1进行了实验：先让该模型具备与核心任务无关的特征(例如偏爱猫头鹰或特定树种)，再用其训练一个仅输出数值数据且不包含该特征的“学生”模型。随后对该学生模型进行提示时，其超过60%的输出提到了老师模型最喜欢的动物或树木，而由没有特定偏好的老师模型训练出的学生模型中，这一比例仅为12%。当学生模型基于包含代码而非数字的老师模型输出进行训练时，同样观察到了这一现象。此外，若学生模型基于与老师模型语义不对齐的数字序列进行训练，则会继承这种不对齐性，从而产生有害输出——即便这些数字已经过过滤以剔除任何具有负面联想的内容。 　　研究人员发现，这种潜意识学习(即通过语义无关的数据传递行为特征)主要发生在老师和学生均为同一模型(例如GPT-4.1老师与GPT-4.1学生)的情况下。他们指出，数据传递的具体机制尚不明确，需要进一步研究。 　　论文作者表示，这项研究的局限性在于所选特征(例如最喜欢的动物和树木)过于简单，需要进一步研究以确定更复杂的特征如何被潜意识地学习。他们得出结论认为，为了确保先进人工智能系统的安全性，需要进行更严格的安全测试，例如监控大语言模型的内部机制。(完) 【编辑:甘甜】

相关新闻:

西班牙期待借进博会拓展对华合作

广西福彩3d专家预测

人这一辈子，一定要去一趟漳州！

福建福彩3d预测

国家版“防癌守则”来了 如何科学预防癌症？专家支招

佛山福彩3d预测

沈阳举办统一战线形势政策报告会 专家解析百年变局下的国际格局

广东福彩3d试机号今天

第139届广交会广州口岸出入境客流强劲增长

福彩3d内部绝密资料

（经济观察）万商云集广交会 折射中国外贸新气象

浙江福彩3d今日规律

建设造福人民的法治化网络空间

贵州福彩3d今日规律

为构建具有战略意义的中越命运共同体凝聚青春力量

乌鲁木齐福彩3d预测

消博会观察：港澳台侨企踊跃参展“拓市场”

西藏福彩3d专家预测

中国实践让人权从“纸面”走进“生活”

乌鲁木齐福彩3d内部推荐

中国上调银行境外贷款杠杆率

福彩3d走势图

103名群众受到国家安全机关表彰奖励

云南福彩3d专家预测

赵乐际会见越共中央总书记、国家主席苏林

福彩3d预测下期

沪浙共探“生物制造”新经济增长点

福彩3D助手

和平统一后台湾将有哪些利好？国台办密集展望

宁夏福彩3d内幕精准资料

天时地利人和 造就浙江常山亿年地质传奇

福彩3d开奖直播

“领帆而上” 2026上海帆船公开赛开幕

福彩3d开奖号码走势图

报告：中国公共图书馆阅读推广品牌建设形成合力

玉溪福彩3d今日规律

健康观察：免疫规划有了智能体，如何让打疫苗更智慧？

浙江福彩3d内部推荐

相约三亚亚沙会：开幕式亮点曝光 吉祥物“亚亚”化身“主人公”

贵阳福彩3d今日规律

从政策到基金全护航 湖南大学生创办经营主体在册数大幅增长

青岛福彩3d试机号今天

A股开盘：三大指数集体高开，超2800只个股上涨

河南福彩3d专家预测

吉林国企改革再破题 “双引擎”重构新格局

福建福彩3d专家预测

洲际酒店被约谈背后：在中国住酒店，维权却要去美国？

南宁福彩3d今日规律

广州企业广交会上秀“智”造实力 新质生产力企业占五成

江西福彩3d专家预测

建设造福人民的法治化网络空间

江西福彩3d预测

全球首个单通道400G以太网物理层技术框架发布

福彩3d预测下期

“香港光影 共映华中”摄影展运城站开幕

呼和浩特福彩3d今日规律

技术型个体户蓬勃发展 浙江个体经济向新而行

呼和浩特福彩3d专家预测

2026年3月份规上工业原油产量1907万吨 同比增长0.2%

福彩3d图迷汇总大全

直播海报：国新办就“十五五”时期推动经济社会高质量发展有关情况举行新闻发布会

福彩3d专家精准资料

我国新增两处世界地质公园 总数增至51处

3d今晚精准三注号

近500名两岸信众厦门共承保生大帝信俗

福彩3d今晚精准三注号

西安聚焦民生保障等工作 2025年新建保租房5209套

吉林福彩3d试机号今天

“丝路方舟”号医院船离开巴新启程回国

3d杀码图谜大全

A股午评：超3800只个股飘红，三大指数集体收涨

南昌福彩3d内幕精准资料

第139届广交会开幕首日境外采购商到会超7万人

济南福彩3d预测

广西推动打造面向东盟智慧健康产业新高地

天津福彩3d内部推荐

国家统计局：一季度全国居民人均可支配收入12782元

呼和浩特福彩3d内部推荐

商务部：截至4月12日，2026年消费品以旧换新销售额达5029.4亿元

银川福彩3d今日规律

第139届广交会天津交易团首日意向成交额超2600万美元

太原福彩3d预测

辽蒙铁海联运赤峰国际陆港启用 东北海陆大通道再扩容

福彩3d太湖字谜

莫桑比克总统查波抵达湖南长沙开始访华

福彩3D老师内部大爆料精准

（国际观察）推动简化非法取得文物归还流程，法国迈出有益一步

黑龙江福彩3d内部推荐

民盟宜昌市第十三届委员会第二十一次会议召开

福彩3D字谜解码大揭秘

中国南水北调集团有限公司原副总经济师、中原区域总部原总经理樊新中一审获刑十七年

江苏福彩3d预测

李成钢：中美汽车产业优势互补 合作空间广阔

福建福彩3d内幕精准资料

中国人权发展基金会代表团访问越南

福彩3d预测专家推荐号

消博会“回头率”拉满 中国大市场的魅力藏不住了

福彩3D预测推荐

马来西亚各界人士探讨中国“十五五”规划带来更广阔合作空间

福彩3d预测规律讲解视频推荐

李成钢国际贸易谈判代表兼副部长会见美国福特汽车公司全球执行副总裁兼首席政务官柯立

杭州福彩3d试机号今天

台湾抗日志士后人将重走光复致敬路 盼历史“火种”不熄

山东福彩3d内幕精准资料

李成钢国际贸易谈判代表兼副部长会见美国福特汽车公司全球执行副总裁兼首席政务官柯立

石家庄福彩3d专家预测

香港“中华文化节2026”将聚焦传奇故事与隋唐文化

兴凯湖进入全面开湖倒计时 “文开”流冰尽显温柔恬静

兰州福彩3d试机号今天

宁夏铁路部门完成首次整组复式交分道岔更换施工 筑牢西部陆海新通道运输保障

银川福彩3d内幕精准资料

基层警事：胡杨不语，守护无声

广西福彩3d内部推荐

“青箐”议政，让青年农工党党员履职“拔节有声”

江西福彩3d内幕精准资料

张金良会见新加坡国家发展部长兼金融管理局副主席徐芳达和新加坡驻华大使陈海泉

山西福彩3d预测

2026中国网络视听大会：抖音集团将投入5亿专项资金，扶持真人短剧内容创新

福彩3d内幕规律破解