今日研究机构传递重大研究成果阿里千问斩获顶级AI会议最佳：论文 很高兴为您解答这个问题，让我来帮您详细说明一下。品牌授权报修电话，快速上门服务

隆安县，海南省海口市美兰区，辽宁省朝阳市北票市，辽宁省铁岭市开原市，云南省怒江傈僳族自治州福贡县，鹿泉区寺家庄镇，山西省阳泉市平定县，福建省漳州市龙海市，西藏山南市，濮阳市南乐县，山东省德州市齐河县，四川省德阳市广汉市，西青区精武镇，四川省广安市岳池县，密云区古北口镇，甘肃省庆阳市镇原县，长安区南村镇，甘肃省陇南市，四川省乐山市，甘肃省甘南藏族自治州，黑龙江省绥化市明水县，朝阳区豆各庄地区，山西省运城市夏县，福建省三明市梅列区，山西省吕梁市中阳县，青海省海北藏族自治州门源回族自治县，江苏省苏州市相城区，海南省儋州市，焦作市沁阳市，山东省滨州市，青海省海西蒙古族藏族自治州德令哈市，合肥市瑶海区，山西省晋城市泽州县，密云区河南寨镇，广东省珠海市斗门区，防城港市东兴市，赵县沙河店镇，蓟州区东赵各庄镇，喀什地区叶城县，甘肃省兰州市，云南省红河哈尼族彝族自治州绿春县，山西省朔州市山阴县，山西省晋中市灵石县，河东区东新街道，福建省南平市建瓯市，湖北省襄阳市襄州区，黑龙江省伊春市金林区，宝坻区牛家牌镇，长安区广安街道，阿克苏地区拜城县，西城区月坛街道，内蒙古锡林郭勒盟镶黄旗，陕西省西安市未央区，广东省惠州市龙门县，山西省长治市襄垣县，大兴区，内蒙古呼伦贝尔市阿荣旗，陕西省宝鸡市千阳县，四川省成都市双流区，昌平区小汤山镇，辽宁省铁岭市清河区，昌平区阳坊镇，四川省凉山彝族自治州昭觉县，和平区南市街道，昌平区回龙观街道，湖北省宜昌市夷陵区，辽宁省沈阳市，吉林省四平市铁西区，阿克苏地区新和县，海南省三沙市西沙区，武清区上马台镇，桂林市兴安县，甘肃省白银市景泰县，山西省晋城市高平市，信阳市平桥区，四川省广元市，甘肃省陇南市武都区，朝阳区双井街道，云南省文山壮族苗族自治州广南县，广东省深圳市，江苏省镇江市句容市，广东省汕头市龙湖区，喀什地区麦盖提县，平顶山市卫东区，青海省海南藏族自治州贵德县，朝阳区管庄地区，江西省赣州市石城县，贵州省六盘水市水城县，山东省枣庄市台儿庄区，密云区高岭镇，湖北省恩施土家族苗族自治州建始县，山西省晋中市太谷区，陕西省汉中市西乡县，山东省东营市垦利区，巴音郭楞蒙古自治州和硕县，江西省鹰潭市余江区，怀柔区龙山街道，福建省莆田市仙游县，内蒙古兴安盟乌兰浩特市，江西省吉安市吉安县，四川省遂宁市蓬溪县，塔城地区和布克赛尔蒙古自治县，淮南市大通区，延庆区沈家营镇，湖北省宜昌市秭归县，江苏省徐州市新沂市，广东省佛山市三水区，山东省聊城市冠县，江西省宜春市奉新县，桥西区苑东街道，静海区大邱庄镇，亳州市利辛县，福建省厦门市湖里区，怀柔区宝山镇，江西省吉安市永新县，湖北省孝感市汉川市，元氏县殷村镇，北辰区，蓟州区东施古镇，门头沟区大峪街道，开封市通许县，内蒙古乌海市乌达区，四川省甘孜藏族自治州泸定县，蓟州区东二营镇，四川省宜宾市珙县，四川省成都市金牛区，江苏省徐州市，四川省宜宾市江安县，四川省甘孜藏族自治州丹巴县，许昌市建安区，行唐县龙州镇，密云区不老屯镇，江西省萍乡市上栗县，陕西省汉中市留坝县，湖北省恩施土家族苗族自治州恩施市，平山县东回舍镇，平山县宅北乡，井陉县测鱼镇，固原市西吉县，平山县岗南镇，无极县大陈镇，南开区长虹街道，顺义区空港街道，西乡塘区，辽宁省沈阳市沈河区，贵州省黔东南苗族侗族自治州天柱县，陕西省汉中市南郑区，山西省吕梁市岚县，吉林省长春市双阳区，福建省莆田市城厢区，崇左市，河西区桃园街道，四川省凉山彝族自治州西昌市，四川省泸州市江阳区，江苏省南通市启东市，昌平区延寿镇，元氏县苏村乡，湖北省宜昌市宜都市

最新研究机构披露最新研究结果时习之丨这个帮扶小组 习近平亲自挂帅，很高兴为您解答这个问题，让我来帮您详细说明一下:官方服务专线，支持多品牌报修

全球服务区域:辽宁省锦州市义县，武清区汊沽港镇，海南省海口市美兰区，云南省西双版纳傣族自治州勐腊县，辽宁省朝阳市北票市，云南省怒江傈僳族自治州福贡县，山西省阳泉市平定县，福建省漳州市龙海市，濮阳市南乐县，陕西省宝鸡市眉县，四川省德阳市广汉市，黑龙江省鸡西市鸡冠区，江苏省徐州市丰县，密云区古北口镇，山东省潍坊市青州市，长安区南村镇，甘肃省陇南市，四川省乐山市，黑龙江省绥化市明水县，黑龙江省七台河市桃山区，山西省吕梁市中阳县，海南省儋州市，山西省临汾市安泽县，江西省宜春市宜丰县，井陉县吴家窑乡，山东省滨州市，青海省海西蒙古族藏族自治州德令哈市，合肥市瑶海区，云南省丽江市宁蒗彝族自治县，密云区河南寨镇，鹿泉区白鹿泉乡，广东省珠海市斗门区，防城港市东兴市，青海省果洛藏族自治州，丰台区宛平城地区，喀什地区叶城县，焦作市，山东省烟台市牟平区，福建省南平市，山西省晋中市灵石县，福建省南平市建瓯市，马鞍山市博望区，宝坻区牛家牌镇，阿克苏地区拜城县，广东省云浮市新兴县，江苏省连云港市赣榆区，内蒙古锡林郭勒盟镶黄旗，广东省惠州市龙门县，山西省长治市襄垣县，重庆市市辖区北碚区，内蒙古呼伦贝尔市阿荣旗，陕西省宝鸡市千阳县，陕西省商洛市山阳县，山东省泰安市泰山区，昌平区小汤山镇，四川省宜宾市翠屏区，辽宁省铁岭市清河区，四川省成都市新都区，昌平区回龙观街道，辽宁省沈阳市，博尔塔拉蒙古自治州温泉县，吉林省四平市铁西区，海南省三沙市西沙区，平顶山市湛河区，山西省晋中市榆社县，广东省广州市越秀区，重庆市县巫山县，延庆区康庄镇，四川省凉山彝族自治州甘洛县，蚌埠市蚌山区，四川省广元市，赞皇县院头镇，芜湖市南陵县，辽宁省辽阳市白塔区，百色市靖西市，朝阳区双井街道，云南省文山壮族苗族自治州广南县，广东省深圳市，江苏省镇江市句容市，广东省汕头市龙湖区，平顶山市卫东区，甘肃省天水市秦州区，青海省海南藏族自治州贵德县，南开区体育中心街道，山西省忻州市定襄县，北海市海城区，贵州省六盘水市水城县，密云区高岭镇，湖北省恩施土家族苗族自治州建始县，山西省晋中市太谷区，陕西省汉中市西乡县，云南省红河哈尼族彝族自治州泸西县，西城区天桥街道，江西省鹰潭市余江区，江西省景德镇市昌江区，怀柔区龙山街道，福建省莆田市仙游县，内蒙古兴安盟乌兰浩特市，黑龙江省鹤岗市，塔城地区和布克赛尔蒙古自治县，海淀区青龙桥街道，福建省厦门市海沧区，山东省烟台市龙口市，广东省佛山市三水区，静海区西翟庄镇，朝阳区小红门地区，山东省聊城市冠县，丰台区长辛店镇，西藏山南市贡嘎县，朝阳区酒仙桥街道，静海区大邱庄镇，江西省吉安市永新县，山西省忻州市宁武县，福建省福州市罗源县，湖北省孝感市汉川市，四川省甘孜藏族自治州九龙县，四川省甘孜藏族自治州，元氏县殷村镇，北辰区，蓟州区东施古镇，门头沟区大峪街道，内蒙古乌海市乌达区，蓟州区东二营镇，黑龙江省佳木斯市汤原县，四川省宜宾市珙县，内蒙古锡林郭勒盟正镶白旗，四川省成都市金牛区，江苏省徐州市，山东省聊城市茌平区，四川省宜宾市江安县，哈密市伊吾县，黑龙江省哈尔滨市巴彦县，四川省甘孜藏族自治州丹巴县，福建省福州市永泰县，行唐县龙州镇，密云区不老屯镇，江西省萍乡市上栗县，陕西省汉中市留坝县，湖北省恩施土家族苗族自治州恩施市，青秀区，平山县东回舍镇，西藏拉萨市达孜区，平山县宅北乡，固原市西吉县，无极县大陈镇，南开区长虹街道，朝阳区小关街道，西乡塘区，辽宁省沈阳市浑南区，山西省吕梁市岚县，吉林省长春市双阳区，福建省莆田市城厢区，河西区桃园街道，四川省凉山彝族自治州西昌市，昌平区延寿镇，辽宁省大连市旅顺口区，元氏县苏村乡，湖北省宜昌市宜都市

昨日行业报告发布行业动态时习之丨这个帮扶小组 习近平亲自挂帅，很高兴为您解答这个问题，让我来帮您详细说明一下:售后服务维修中心电话，支持多渠道服务

全国服务区域：海南省海口市美兰区，云南省西双版纳傣族自治州勐腊县，辽宁省朝阳市北票市，上海市市辖区嘉定区，云南省怒江傈僳族自治州福贡县，西藏山南市，陕西省宝鸡市眉县，山东省德州市齐河县，黑龙江省鸡西市鸡冠区，黑龙江省大兴安岭地区呼玛县，洛阳市汝阳县，甘肃省甘南藏族自治州，黑龙江省绥化市明水县，朝阳区豆各庄地区，山西省运城市夏县，福建省三明市梅列区，青海省海北藏族自治州门源回族自治县，江西省宜春市宜丰县，合肥市庐阳区，井陉县吴家窑乡，合肥市瑶海区，山西省晋城市泽州县，丰台区右安门街道，青海省果洛藏族自治州，丰台区宛平城地区，甘肃省兰州市，云南省红河哈尼族彝族自治州绿春县，福建省南平市建瓯市，马鞍山市博望区，广东省江门市，黑龙江省伊春市金林区，西城区月坛街道，乌鲁木齐市沙依巴克区，广东省云浮市新兴县，山东省泰安市泰山区，江苏省南京市浦口区，赞皇县西龙门乡，四川省宜宾市翠屏区，昌平区阳坊镇，四川省凉山彝族自治州昭觉县，和平区南市街道，昌平区回龙观街道，湖北省宜昌市夷陵区，海南省三沙市西沙区，平顶山市湛河区，武清区上马台镇，桂林市兴安县，丰台区和义街道，广东省广州市越秀区，贵州省铜仁市印江土家族苗族自治县，山西省晋城市高平市，信阳市平桥区，四川省广元市，赞皇县院头镇，朝阳区双井街道，广东省深圳市，广东省汕头市龙湖区，平顶山市卫东区，甘肃省天水市秦州区，青海省海南藏族自治州贵德县，蚌埠市龙子湖区，南开区体育中心街道，山西省忻州市定襄县，北海市海城区，贵州省六盘水市水城县，密云区高岭镇，内蒙古鄂尔多斯市康巴什区，山西省晋中市太谷区，山东省威海市，辽宁省本溪市溪湖区，西城区天桥街道，云南省大理白族自治州云龙县，江西省鹰潭市余江区，怀柔区龙山街道，内蒙古兴安盟乌兰浩特市，黑龙江省鹤岗市，塔城地区和布克赛尔蒙古自治县，崇左市宁明县，淮南市大通区，江苏省徐州市新沂市，朝阳区小红门地区，丰台区长辛店镇，蓟州区官庄镇，亳州市利辛县，山西省忻州市宁武县，四川省甘孜藏族自治州九龙县，元氏县殷村镇，蓟州区东施古镇，门头沟区大峪街道，四川省甘孜藏族自治州泸定县，蓟州区东二营镇，贵州省铜仁市玉屏侗族自治县，四川省成都市金牛区，江苏省徐州市，黑龙江省哈尔滨市巴彦县，四川省甘孜藏族自治州丹巴县，密云区不老屯镇，江西省萍乡市上栗县，陕西省汉中市留坝县，平山县东回舍镇，西藏拉萨市达孜区，平山县宅北乡，无极县大陈镇，南开区长虹街道，顺义区空港街道，新乐市协神乡，辽宁省沈阳市浑南区，贵州省黔东南苗族侗族自治州天柱县，山西省吕梁市岚县，吉林省长春市双阳区，崇左市，四川省泸州市江阳区，云南省普洱市景东彝族自治县，江苏省南通市启东市，山东省泰安市东平县，昌平区延寿镇，元氏县苏村乡，湖北省宜昌市宜都市

售后服务上门服务电话，智能分配单据：时习之丨这个帮扶小组 习近平亲自挂帅

　　中共中央总书记、国家主席、中央军委主席习近平近日对常态化做好东西部协作工作作出重要指示。习近平强调，今年是“十五五”开局之年，也是开展常态化帮扶第一年。要总结运用闽宁协作等有益经验，进一步完善协作机制，优化协作方式，拓展协作领域，推动东西部产业互补、人员互动、技术互学、观念互通、作风互鉴，实现互利共赢、共同发展。

　　我国东西部协作已开展30年，为打赢脱贫攻坚战、巩固拓展脱贫攻坚成果发挥了重要作用。闽宁协作正是其中的生动注脚——

　　时间拨回到1996年，党中央作出东西部扶贫协作战略部署，确定福建与宁夏结对帮扶。为统筹推进各项工作，福建专门成立对口帮扶宁夏领导小组，时任福建省委副书记的习近平亲自担任组长，正式拉开了闽宁协作的宏大序幕。

　　1997年4月，习近平第一次来到西海固山区，连续多天调研5县。

　　在梁家河插队7年的习近平对西北的贫穷早就有切身体会。然而当他踏上西海固这片黄土地时，还是被深深震撼。后来，习近平这样回忆当时的场景：“虽然穷地方我见过，我也住过。但是到了上个世纪90年代，改革开放好多年了，我们还有这么穷的地方，我心里受到很大冲击。”

宁夏永宁县闽宁镇建设初期的乡镇雏形。资料照片

　　西海固的所见所闻，让习近平更加明晰扶贫攻坚的突破口，创新性推出“吊庄”移民模式，下决心为大山深处的群众“挪穷窝”。他亲自敲定玉泉营戈壁作为移民安置点，取福建、宁夏简称命名“闽宁村”，寄托两地携手共富的美好期许。

　　“啥是‘吊庄’？就是把贫困地区群众整体跨区域搬迁，就好像把村庄直接‘吊’过来。”作为1997年第一批响应搬迁号召的移民，王富荣是这段拓荒岁月的见证者。回忆初到闽宁镇的日子，他感慨万千：“空中不飞鸟、地上不长草、风吹沙子跑。”彼时的戈壁荒滩，无饮水、无电力、无通路，肆虐的沙尘暴是生活常态。

　　初来的移民们没有像样的居所，只能就地挖掘地窝子临时栖身。纵然环境极端艰苦，但大家心中始终怀揣着对好日子的期盼，齐心协力在这片全新的土地上开荒拓土。

　　转机随着福建帮扶队伍的到来悄然出现。“后来福建派了专家过来，挨家挨户手把手教我们技术，镇子一天比一天兴旺。”王富荣细数着生活变迁，脸上满是笑意。

　　2001年，闽宁村正式升格为闽宁镇，一批又一批移民在这里扎根安家。从遮风挡雨的土坯房，到稳固实用的砖瓦房，再到如今整洁气派的二层小楼，居住条件的迭代升级，是群众生活向好最直观的写照。

　　习近平也从未中断对闽宁协作的关切，到中央工作后，他多次赴宁夏考察，针对闽宁协作作出重要指示。

　　2016年盛夏，习近平总书记专程走进闽宁镇，和移民群众面对面拉家常。亲眼看到大家安稳定居、产业兴旺，他十分欣慰：“看到这里的移民新村建设得很规整、很漂亮，大家摆脱了过去的贫困日子，我打心眼里感到高兴。”

　　循着习近平总书记指引的方向，闽宁两地始终坚持为西海固“挪穷窝、换穷业、拔穷根”，昔日苦瘠之地彻底焕发活力，搬迁群众真正实现搬得出、稳得住、能致富。

　　2021年，在全国脱贫攻坚总结表彰大会上，闽宁镇荣获“全国脱贫攻坚楷模”称号，习近平总书记深情勉励：“一以贯之，刮目相看！”

闽宁镇航拍。银川市委宣传部供图

　　从1996年到2026年，30年来，福建选派14批254名干部挂职帮扶、7000余名专技人才跨越千山万水奔赴宁夏，累计引导1600多家企业在宁夏投资，实际到位资金超过1000亿元，近6000家闽籍企业扎根宁夏，深度融入地方发展。

　　宁夏80.3万农村贫困人口全部脱贫，农民人均年收入从1996年的1400元左右增长到2025年的2万元以上。

　　三十载接续奋斗、久久为功。这场跨越千里的守望相助，不仅彻底改写了西海固数十万群众的命运，更铸就了东西部协作的典范，让闽宁两地血脉相连的深情，在岁月淬炼中愈发浓厚绵长。

　　2026年，站在闽宁协作30年的全新起点，常态化帮扶的大幕已然拉开。立足“福建所能、宁夏所需、闽宁所长”，两地正凝心聚力打造闽宁协作“升级版”，在过往成果之上谋划更深层次、更广领域的携手同行。

　　策划：赵文瑞、黄子娟

　　文案脚本：阎梦婕、任佳晖

　　摄像：梁宏鑫

　　鸣谢：银川市委宣传部、银川市新闻传媒中心

　　来源：人民网-中国共产党新闻网 

本月行业报告披露新动态时习之丨这个帮扶小组 习近平亲自挂帅

　　中共中央总书记、国家主席、中央军委主席习近平近日对常态化做好东西部协作工作作出重要指示。习近平强调，今年是“十五五”开局之年，也是开展常态化帮扶第一年。要总结运用闽宁协作等有益经验，进一步完善协作机制，优化协作方式，拓展协作领域，推动东西部产业互补、人员互动、技术互学、观念互通、作风互鉴，实现互利共赢、共同发展。

　　我国东西部协作已开展30年，为打赢脱贫攻坚战、巩固拓展脱贫攻坚成果发挥了重要作用。闽宁协作正是其中的生动注脚——

　　时间拨回到1996年，党中央作出东西部扶贫协作战略部署，确定福建与宁夏结对帮扶。为统筹推进各项工作，福建专门成立对口帮扶宁夏领导小组，时任福建省委副书记的习近平亲自担任组长，正式拉开了闽宁协作的宏大序幕。

　　1997年4月，习近平第一次来到西海固山区，连续多天调研5县。

　　在梁家河插队7年的习近平对西北的贫穷早就有切身体会。然而当他踏上西海固这片黄土地时，还是被深深震撼。后来，习近平这样回忆当时的场景：“虽然穷地方我见过，我也住过。但是到了上个世纪90年代，改革开放好多年了，我们还有这么穷的地方，我心里受到很大冲击。”

宁夏永宁县闽宁镇建设初期的乡镇雏形。资料照片

　　西海固的所见所闻，让习近平更加明晰扶贫攻坚的突破口，创新性推出“吊庄”移民模式，下决心为大山深处的群众“挪穷窝”。他亲自敲定玉泉营戈壁作为移民安置点，取福建、宁夏简称命名“闽宁村”，寄托两地携手共富的美好期许。

　　“啥是‘吊庄’？就是把贫困地区群众整体跨区域搬迁，就好像把村庄直接‘吊’过来。”作为1997年第一批响应搬迁号召的移民，王富荣是这段拓荒岁月的见证者。回忆初到闽宁镇的日子，他感慨万千：“空中不飞鸟、地上不长草、风吹沙子跑。”彼时的戈壁荒滩，无饮水、无电力、无通路，肆虐的沙尘暴是生活常态。

　　初来的移民们没有像样的居所，只能就地挖掘地窝子临时栖身。纵然环境极端艰苦，但大家心中始终怀揣着对好日子的期盼，齐心协力在这片全新的土地上开荒拓土。

　　转机随着福建帮扶队伍的到来悄然出现。“后来福建派了专家过来，挨家挨户手把手教我们技术，镇子一天比一天兴旺。”王富荣细数着生活变迁，脸上满是笑意。

　　2001年，闽宁村正式升格为闽宁镇，一批又一批移民在这里扎根安家。从遮风挡雨的土坯房，到稳固实用的砖瓦房，再到如今整洁气派的二层小楼，居住条件的迭代升级，是群众生活向好最直观的写照。

　　习近平也从未中断对闽宁协作的关切，到中央工作后，他多次赴宁夏考察，针对闽宁协作作出重要指示。

　　2016年盛夏，习近平总书记专程走进闽宁镇，和移民群众面对面拉家常。亲眼看到大家安稳定居、产业兴旺，他十分欣慰：“看到这里的移民新村建设得很规整、很漂亮，大家摆脱了过去的贫困日子，我打心眼里感到高兴。”

　　循着习近平总书记指引的方向，闽宁两地始终坚持为西海固“挪穷窝、换穷业、拔穷根”，昔日苦瘠之地彻底焕发活力，搬迁群众真正实现搬得出、稳得住、能致富。

　　2021年，在全国脱贫攻坚总结表彰大会上，闽宁镇荣获“全国脱贫攻坚楷模”称号，习近平总书记深情勉励：“一以贯之，刮目相看！”

闽宁镇航拍。银川市委宣传部供图

　　从1996年到2026年，30年来，福建选派14批254名干部挂职帮扶、7000余名专技人才跨越千山万水奔赴宁夏，累计引导1600多家企业在宁夏投资，实际到位资金超过1000亿元，近6000家闽籍企业扎根宁夏，深度融入地方发展。

　　宁夏80.3万农村贫困人口全部脱贫，农民人均年收入从1996年的1400元左右增长到2025年的2万元以上。

　　三十载接续奋斗、久久为功。这场跨越千里的守望相助，不仅彻底改写了西海固数十万群众的命运，更铸就了东西部协作的典范，让闽宁两地血脉相连的深情，在岁月淬炼中愈发浓厚绵长。

　　2026年，站在闽宁协作30年的全新起点，常态化帮扶的大幕已然拉开。立足“福建所能、宁夏所需、闽宁所长”，两地正凝心聚力打造闽宁协作“升级版”，在过往成果之上谋划更深层次、更广领域的携手同行。

　　策划：赵文瑞、黄子娟

　　文案脚本：阎梦婕、任佳晖

　　摄像：梁宏鑫

　　鸣谢：银川市委宣传部、银川市新闻传媒中心

　　来源：人民网-中国共产党新闻网 

11月28日消息，人工智能领域顶级会议NeurIPS2025公布了论文奖，阿里通义千问团队最新研究成果从全球2万多篇投稿论文中脱颖而出，被评为最佳论文，是唯一获得该奖项的中国团队。该论文首次在业内揭秘了注意力门控机制对大模型性能和训练的影响，业内人士普遍认为该研究是突破当下大模型训练瓶颈的重要一步，将有力推动AI大模型技术的发展。

阿里通义千问研究成果被评为NeurIPS2025最佳论文

NeurIPS是人工智能领域影响力最大的顶会之一，该会议诞生了Transformer、AlexNet等里程碑式研究成果。今年，谷歌、微软、OpenAI、阿里巴巴及麻省理工学院等全球顶尖科技公司和机构共有2万多篇论文投稿，仅有约25%的论文被接收，而最佳论文仅有4篇，入选概率不及万分之二，代表了目前全球人工智能领域最有价值和影响力的研究。

2017年，谷歌在NeurIPS发表的论文首次提出Transformer模型架构和‌自注意力机制，这一研究让AI像人类一样具备有选择性地关注关键信息的能力，是当下大模型研究的基础。尽管现在大模型在很多领域已经取得接近甚至超越人类的表现，但现有注意力机制仍存在诸多局限，例如当下大模型会因为过度关注特定信息而导致对其它重要信息的忽略或处理偏差，这些局限性极大地影响了模型性能和训练稳定性，为此业界开始探索对注意力进行优化的新方案。

门控机制被认为是模型的“智能阀门”，可以帮助模型过滤无效信息并提升模型性能。近年来，AlphaFold2、ForgettingTransformer等学术界和工业界模型开始尝试将门控和注意力机制结合。但业界尚未破解门控在注意力中发挥作用的内在原因，也缺少大规模实践的经验。

此次，通义千问研究团队通过在1.7B稠密模型（Dense）与15B混合专家模型（MoE）上进行了数十组实验，单组实验训练最多超过3.5万亿tokens，首次清晰揭秘了门控注意力背后的作用原理，并全面展示使用该方案的最佳方式。

实验结果显示，对各注意力头的输出进行门控，是提升模型性能最有效的方式。使用该方式，在引入额外1%参数的情况下，可实现0.2以上的困惑度下降、MMLU基准评测2个点的提升。研究还发现，该技术还能在更大规模的模型训练上实现更好的性能。

使用论文方法，在引入额外1%参数的情况下，可以实现0.2以上的困惑度下降、MMLU基准评测2个点的提升

目前，该研究成果已应用于Qwen3-Next模型，并显著提升模型的性能与鲁棒性，相关技术方案、实验模型及产品级模型均已开源。NeurIPS评审委员会指出：“这项工作将被广泛应用，并极大推动AI研究人员对大语言模型中注意力机制的理解。”

通义千问团队表示：“对门控注意力机制的深入理解，不仅为大语言模型架构设计提供了新思路，也为构建更稳定、更高效、更可控的大模型奠定了基础。”据悉，目前阿里千问已开源300多款模型，涵盖全模态、全尺寸，全球下载量突破7亿次，衍生模型超过18万个，位居全球第一。

责编：秦雅楠、王瑞景

分享心得体会碰：(撞思维火)花