本周研究机构发布新报告阿里千问斩获顶级AI《会议最佳》：论文 很高兴为您解答这个问题，让我来帮您详细说明一下。品牌授权报修电话，快速上门服务

隆安县，武清区汊沽港镇，海南省海口市美兰区，云南省西双版纳傣族自治州勐腊县，辽宁省朝阳市北票市，辽宁省铁岭市开原市，云南省怒江傈僳族自治州福贡县，黑龙江省佳木斯市富锦市，鹿泉区寺家庄镇，山西省阳泉市平定县，濮阳市南乐县，山东省德州市齐河县，江苏省徐州市丰县，西青区精武镇，四川省广安市岳池县，洛阳市汝阳县，山东省淄博市临淄区，甘肃省庆阳市镇原县，山东省潍坊市青州市，甘肃省陇南市，甘肃省甘南藏族自治州，黑龙江省绥化市明水县，福建省三明市梅列区，山西省吕梁市中阳县，江西省宜春市宜丰县，合肥市庐阳区，和田地区，山东省滨州市，青海省海西蒙古族藏族自治州德令哈市，合肥市瑶海区，山西省晋城市泽州县，云南省丽江市宁蒗彝族自治县，密云区河南寨镇，丰台区右安门街道，鹿泉区白鹿泉乡，防城港市东兴市，陕西省咸阳市兴平市，湖北省宜昌市西陵区，赵县沙河店镇，蓟州区东赵各庄镇，青海省果洛藏族自治州，平山县小觉镇，元氏县，山西省晋中市灵石县，河东区东新街道，福建省南平市建瓯市，马鞍山市博望区，湖北省襄阳市襄州区，长安区广安街道，西城区月坛街道，乌鲁木齐市沙依巴克区，广东省云浮市新兴县，江苏省连云港市赣榆区，内蒙古锡林郭勒盟镶黄旗，陕西省西安市未央区，钦州市，广东省惠州市龙门县，怀柔区雁栖地区，山西省长治市襄垣县，大兴区，内蒙古呼伦贝尔市阿荣旗，陕西省宝鸡市千阳县，四川省成都市双流区，陕西省商洛市山阳县，山东省泰安市泰山区，桥西区东华街道，赞皇县西龙门乡，辽宁省铁岭市清河区，桂林市秀峰区，昌平区阳坊镇，和平区南市街道，昌平区回龙观街道，吉林省四平市铁西区，山东省青岛市城阳区，海南省三沙市西沙区，山西省晋中市榆社县，武清区上马台镇，桂林市兴安县，广东省广州市越秀区，甘肃省白银市景泰县，贵州省黔南布依族苗族自治州惠水县，延庆区康庄镇，四川省凉山彝族自治州甘洛县，蚌埠市蚌山区，贵州省铜仁市印江土家族苗族自治县，四川省广元市，芜湖市南陵县，百色市靖西市，朝阳区双井街道，广东省深圳市，江苏省镇江市句容市，喀什地区麦盖提县，平顶山市卫东区，青海省海南藏族自治州贵德县，朝阳区管庄地区，北海市海城区，贵州省六盘水市水城县，银川市贺兰县，山西省晋中市太谷区，山东省威海市，山东省东营市垦利区，辽宁省本溪市溪湖区，西城区天桥街道，江西省景德镇市昌江区，福建省莆田市仙游县，内蒙古兴安盟乌兰浩特市，江西省吉安市吉安县，海淀区青龙桥街道，淮南市大通区，福建省厦门市海沧区，延庆区沈家营镇，江苏省徐州市新沂市，桥西区苑东街道，蓟州区官庄镇，西藏山南市贡嘎县，朝阳区酒仙桥街道，福建省厦门市湖里区，怀柔区宝山镇，江西省吉安市永新县，山西省忻州市宁武县，北辰区广源街道，桥西区留营街道，四川省甘孜藏族自治州，元氏县殷村镇，北辰区，蓟州区东施古镇，内蒙古乌海市乌达区，黑龙江省佳木斯市汤原县，四川省宜宾市珙县，四川省成都市金牛区，山东省聊城市茌平区，四川省宜宾市江安县，哈密市伊吾县，黑龙江省哈尔滨市巴彦县，福建省福州市永泰县，许昌市建安区，行唐县龙州镇，密云区不老屯镇，陕西省汉中市留坝县，西藏阿里地区日土县，平山县上观音堂乡，西藏拉萨市达孜区，平山县宅北乡，井陉县测鱼镇，固原市西吉县，南开区长虹街道，顺义区空港街道，西乡塘区，陕西省汉中市南郑区，福建省莆田市城厢区，崇左市，河西区桃园街道，云南省普洱市景东彝族自治县，山东省泰安市东平县，昌平区延寿镇，辽宁省大连市旅顺口区，元氏县苏村乡，焦作市中站区

今日研究机构披露重要行业研究成果“一专多能”的乌兰牧骑：是老传统，也有新模样，很高兴为您解答这个问题，让我来帮您详细说明一下:官方服务专线，支持多品牌报修

全球服务区域:隆安县，武清区汊沽港镇，海南省海口市美兰区，辽宁省朝阳市北票市，辽宁省铁岭市开原市，黑龙江省佳木斯市富锦市，鹿泉区寺家庄镇，伊犁哈萨克自治州昭苏县，福建省漳州市龙海市，濮阳市南乐县，百色市田林县，陕西省宝鸡市眉县，山东省德州市齐河县，黑龙江省鸡西市鸡冠区，西青区精武镇，四川省广安市岳池县，洛阳市汝阳县，山东省淄博市临淄区，山东省潍坊市青州市，四川省乐山市，广东省汕头市南澳县，甘肃省甘南藏族自治州，黑龙江省绥化市明水县，朝阳区豆各庄地区，黑龙江省七台河市桃山区，山西省吕梁市中阳县，焦作市沁阳市，和田地区，井陉县吴家窑乡，云南省丽江市宁蒗彝族自治县，鹿泉区白鹿泉乡，湖北省宜昌市西陵区，蓟州区东赵各庄镇，青海省果洛藏族自治州，丰台区宛平城地区，甘肃省兰州市，元氏县，福建省南平市建瓯市，马鞍山市博望区，广东省江门市，宝坻区牛家牌镇，长安区广安街道，阿克苏地区拜城县，南阳市内乡县，江苏省连云港市赣榆区，内蒙古锡林郭勒盟镶黄旗，陕西省西安市未央区，钦州市，广东省惠州市龙门县，山西省长治市襄垣县，桥西区东华街道，江苏省南京市浦口区，昌平区小汤山镇，赞皇县西龙门乡，四川省宜宾市翠屏区，四川省成都市新都区，昌平区阳坊镇，四川省凉山彝族自治州昭觉县，青海省玉树藏族自治州治多县，昌平区回龙观街道，湖北省宜昌市夷陵区，辽宁省沈阳市，博尔塔拉蒙古自治州温泉县，阿克苏地区新和县，吉林省白山市浑江区，平顶山市湛河区，山西省晋中市榆社县，丰台区和义街道，广东省广州市越秀区，重庆市县巫山县，延庆区康庄镇，蚌埠市蚌山区，贵州省铜仁市印江土家族苗族自治县，信阳市平桥区，四川省广元市，赞皇县院头镇，芜湖市南陵县，甘肃省陇南市武都区，广东省深圳市，江苏省镇江市句容市，广东省汕头市龙湖区，喀什地区麦盖提县，甘肃省天水市秦州区，朝阳区管庄地区，江西省赣州市石城县，山西省忻州市定襄县，北海市海城区，贵州省六盘水市水城县，密云区高岭镇，内蒙古鄂尔多斯市康巴什区，湖北省恩施土家族苗族自治州建始县，山西省晋中市太谷区，山东省威海市，云南省大理白族自治州云龙县，怀柔区龙山街道，内蒙古兴安盟乌兰浩特市，江西省吉安市吉安县，四川省遂宁市蓬溪县，塔城地区和布克赛尔蒙古自治县，海淀区青龙桥街道，崇左市宁明县，淮南市大通区，福建省厦门市海沧区，山东省烟台市龙口市，湖北省宜昌市秭归县，广东省佛山市三水区，静海区西翟庄镇，江西省宜春市奉新县，桥西区苑东街道，西藏山南市贡嘎县，静海区大邱庄镇，江西省吉安市永新县，福建省福州市罗源县，湖北省孝感市汉川市，北辰区广源街道，桥西区留营街道，四川省甘孜藏族自治州九龙县，四川省甘孜藏族自治州，元氏县殷村镇，蓟州区东施古镇，门头沟区大峪街道，内蒙古乌海市乌达区，四川省甘孜藏族自治州泸定县，蓟州区东二营镇，黑龙江省佳木斯市汤原县，四川省宜宾市珙县，内蒙古锡林郭勒盟正镶白旗，山东省聊城市茌平区，内蒙古鄂尔多斯市鄂托克旗，四川省宜宾市江安县，哈密市伊吾县，黑龙江省哈尔滨市巴彦县，四川省甘孜藏族自治州丹巴县，福建省福州市永泰县，江西省萍乡市上栗县，陕西省汉中市留坝县，湖北省恩施土家族苗族自治州恩施市，平山县东回舍镇，西藏阿里地区日土县，西藏拉萨市达孜区，固原市西吉县，平山县岗南镇，南开区长虹街道，顺义区空港街道，新乐市协神乡，西乡塘区，辽宁省沈阳市沈河区，陕西省汉中市南郑区，福建省莆田市城厢区，崇左市，四川省凉山彝族自治州西昌市，四川省泸州市江阳区，云南省普洱市景东彝族自治县，江苏省南通市启东市，山东省泰安市东平县，昌平区延寿镇，辽宁省大连市旅顺口区，湖北省宜昌市宜都市

本月行业报告发布新政策“一专多能”的乌兰牧骑：是老传统，也有新模样，很高兴为您解答这个问题，让我来帮您详细说明一下:售后服务维修中心电话，支持多渠道服务

全国服务区域：隆安县，辽宁省锦州市义县，武清区汊沽港镇，云南省西双版纳傣族自治州勐腊县，云南省怒江傈僳族自治州福贡县，黑龙江省佳木斯市富锦市，伊犁哈萨克自治州昭苏县，山西省阳泉市平定县，濮阳市南乐县，陕西省宝鸡市眉县，山东省德州市齐河县，四川省德阳市广汉市，黑龙江省鸡西市鸡冠区，西青区精武镇，江苏省苏州市相城区，海南省儋州市，焦作市沁阳市，河东区大直沽街道，江西省宜春市宜丰县，合肥市瑶海区，山西省晋城市泽州县，广东省珠海市斗门区，陕西省咸阳市兴平市，湖北省宜昌市西陵区，赵县沙河店镇，蓟州区东赵各庄镇，喀什地区叶城县，平山县小觉镇，云南省红河哈尼族彝族自治州绿春县，福建省南平市，黑龙江省伊春市金林区，宝坻区牛家牌镇，长安区广安街道，阿克苏地区拜城县，南阳市内乡县，陕西省西安市未央区，钦州市，广东省惠州市龙门县，怀柔区雁栖地区，重庆市市辖区北碚区，贵州省安顺市普定县，内蒙古呼伦贝尔市阿荣旗，陕西省宝鸡市千阳县，山东省泰安市泰山区，桥西区东华街道，辽宁省铁岭市清河区，辽宁省沈阳市，博尔塔拉蒙古自治州温泉县，山东省青岛市城阳区，海南省三沙市西沙区，吉林省白山市浑江区，武清区上马台镇，丰台区和义街道，广东省广州市越秀区，重庆市县巫山县，甘肃省定西市渭源县，四川省广元市，朝阳区双井街道，广东省深圳市，江苏省镇江市句容市，广东省汕头市龙湖区，平顶山市卫东区，江西省赣州市石城县，山西省忻州市定襄县，密云区高岭镇，湖北省恩施土家族苗族自治州建始县，山西省晋中市太谷区，山东省威海市，山东省东营市垦利区，江西省景德镇市昌江区，福建省莆田市仙游县，黑龙江省鹤岗市，塔城地区和布克赛尔蒙古自治县，海淀区青龙桥街道，福建省厦门市海沧区，山东省烟台市龙口市，广东省佛山市三水区，静海区西翟庄镇，山东省聊城市冠县，丰台区长辛店镇，云南省玉溪市新平彝族傣族自治县，西藏山南市贡嘎县，朝阳区酒仙桥街道，山西省忻州市宁武县，福建省福州市罗源县，四川省甘孜藏族自治州九龙县，四川省甘孜藏族自治州，元氏县殷村镇，开封市通许县，内蒙古乌海市乌达区，黑龙江省佳木斯市汤原县，四川省成都市金牛区，江苏省徐州市，山东省聊城市茌平区，四川省宜宾市江安县，四川省甘孜藏族自治州丹巴县，许昌市建安区，行唐县龙州镇，陕西省汉中市留坝县，青秀区，平山县东回舍镇，西藏阿里地区日土县，平山县上观音堂乡，平山县宅北乡，井陉县测鱼镇，平山县岗南镇，无极县大陈镇，顺义区空港街道，新乐市协神乡，西乡塘区，吉林省长春市双阳区，福建省莆田市城厢区，崇左市，四川省凉山彝族自治州西昌市，四川省泸州市江阳区，江苏省南通市启东市，山东省泰安市东平县，昌平区延寿镇

售后服务上门服务电话，智能分配单据：“一专多能”的乌兰牧骑：是老传统，也有新模样

　　锡林郭勒6月18日电 题：“一专多能”的乌兰牧骑：是老传统，也有新模样

　　记者 奥蓝

　　一首呼麦唱罢，选手俯身拿起马头琴；另一名选手戏腔方落，又脱下戏服展示民族舞功底……15日—17日，2026年全区(内蒙古自治区)乌兰牧骑“一专多能”比赛中，这样的场景不断上演。来自内蒙古自治区直属乌兰牧骑和12个盟市的50余支队伍共90名选手同台竞技，他们每个人都像随身携带了一台“小型综合晚会”。

　　18日颁奖日，记者采访了比赛评委，内蒙古音乐家协会名誉主席、歌唱家阿拉泰。她感慨说，乌兰牧骑跟其他艺术院团不同，要求队员“一专多能”，此次比赛分外特别。

　　自1957年第一支乌兰牧骑在内蒙古苏尼特右旗成立以来，“一专多能”就被写进基因。在广袤的内蒙古，牧民居住分散，最少只有几人的小分队，却要完成一场内容丰富的文艺演出。有限的人手与多样的群众需求，催生出乌兰牧骑队员“一人多岗、一人多艺”的成长模式。

图为比赛现场。记者 奥蓝 摄

　　阿拉泰从艺约50年，她表示，乌兰牧骑队员不仅在本专业上要有很好的水平，还要掌握其他艺术形式。“这在其他地方是很少见的。”

　　此次比赛正是这种能力的集中展示。按照规则，每名选手需连续完成3项技能展示，包括一项主专业和两项跨领域才艺，涵盖舞蹈、声乐、器乐、戏曲、曲艺等艺术门类。

　　内蒙古辽阔的地域造就了多样的艺术表达，选手的“绝活”也有明显的地域性。在锡林郭勒等草原牧区，不少选手展示长调、呼麦、马头琴等蒙古族传统技艺；在河套平原及西部农区，二人台、小戏小品等群众喜闻乐见的节目则占据更多舞台空间。

　　兴安盟乌兰牧骑队员胡额尔敦已是第二次参赛。在他看来，今年的表演节目更加多元。小戏、小品比例明显提高，还出现了冒顿潮尔、口弦琴等一些相对小众的乐器。“我们传承传统，也与时俱进。”

图为比赛现场。记者 奥蓝 摄

　　“一专多能”并非一朝一夕练成。

　　锡林郭勒盟正蓝旗乌兰牧骑队长特日格勒告诉记者，队员们除日常专业训练外，还会通过“师徒传帮带”、跨专业互学、基层演出等方式不断提升综合能力。“很多技能都是在一次次下乡演出中学来、练出来的。”

　　今年5月刚刚考入阿拉善盟额济纳旗乌兰牧骑的苏都，对此深有感触。小时候，生活在牧区的她很爱看乌兰牧骑演出。舞台上，队员们一会儿唱歌、一会儿跳舞、一会儿又拉起马头琴，在她眼里“特别厉害”。真正成为其中一员后，她才发现“厉害”背后的长期积累。

　　“以前觉得‘一专多能’是群众对我们的要求，后来发现也是对自己的投资。”苏都说，舞蹈演员总有跳不动的时候，多掌握一些技能，未来在舞台上的路也会更长。

　　这种成长意识，正在年轻一代乌兰牧骑队员身上不断显化。

　　“00后”苏艺帆来自呼伦贝尔市莫力达瓦达斡尔族自治旗乌兰牧骑，他的爷爷、父亲和大伯都是乌兰牧骑队员。苏艺帆告诉记者，老一辈很多本领都是自学来的，群众喜欢什么就学什么。他这样的年轻一代接受过更系统、专业的教育，进入乌兰牧骑以后，也同样要不断拓展边界。

　　此次比赛中，他展示的蒙古舞是临时学习的新技能。在他看来，“一专多能”不仅是一种工作要求，更是一种终身学习的职业状态。“我觉得乌兰牧骑是一个挺有信仰的地方。”

　　担任本次比赛评委的内蒙古音乐家协会主席叶尔达告诉记者，许多选手虽然年龄不大，舞台表现力却很成熟。“他们长期活跃在基层，演出经验丰富，不怯场、不紧张。”

　　不过，他也提醒选手们，“一专多能”不是“一专多会”。“掌握更多技能很重要，但更重要的是把每一项能力练深、练精。”

图为比赛现场。记者 奥蓝 摄

　　事实上，“一专多能”，远不止舞台上的表演。

　　从业近20年的胡额尔敦回忆，平日演出之余，队员们还要负责组织观众、布置场地，力所能及帮助群众解决一些困难。早些年，一些乌兰牧骑队员甚至会在演出间隙给牧民理发、帮忙剪羊毛。“我们的工作不仅在舞台上。”

　　记者也在采访中感受到，“一专多能”不仅意味着会唱、会跳、会演奏，更是一种扎根基层的能力，一种贴近群众的本领，一种随时响应群众需求的责任担当。(完)

今日监管部门披露重要进展“一专多能”的乌兰牧骑：是老传统，也有新模样

　　锡林郭勒6月18日电 题：“一专多能”的乌兰牧骑：是老传统，也有新模样

　　记者 奥蓝

　　一首呼麦唱罢，选手俯身拿起马头琴；另一名选手戏腔方落，又脱下戏服展示民族舞功底……15日—17日，2026年全区(内蒙古自治区)乌兰牧骑“一专多能”比赛中，这样的场景不断上演。来自内蒙古自治区直属乌兰牧骑和12个盟市的50余支队伍共90名选手同台竞技，他们每个人都像随身携带了一台“小型综合晚会”。

　　18日颁奖日，记者采访了比赛评委，内蒙古音乐家协会名誉主席、歌唱家阿拉泰。她感慨说，乌兰牧骑跟其他艺术院团不同，要求队员“一专多能”，此次比赛分外特别。

　　自1957年第一支乌兰牧骑在内蒙古苏尼特右旗成立以来，“一专多能”就被写进基因。在广袤的内蒙古，牧民居住分散，最少只有几人的小分队，却要完成一场内容丰富的文艺演出。有限的人手与多样的群众需求，催生出乌兰牧骑队员“一人多岗、一人多艺”的成长模式。

图为比赛现场。记者 奥蓝 摄

　　阿拉泰从艺约50年，她表示，乌兰牧骑队员不仅在本专业上要有很好的水平，还要掌握其他艺术形式。“这在其他地方是很少见的。”

　　此次比赛正是这种能力的集中展示。按照规则，每名选手需连续完成3项技能展示，包括一项主专业和两项跨领域才艺，涵盖舞蹈、声乐、器乐、戏曲、曲艺等艺术门类。

　　内蒙古辽阔的地域造就了多样的艺术表达，选手的“绝活”也有明显的地域性。在锡林郭勒等草原牧区，不少选手展示长调、呼麦、马头琴等蒙古族传统技艺；在河套平原及西部农区，二人台、小戏小品等群众喜闻乐见的节目则占据更多舞台空间。

　　兴安盟乌兰牧骑队员胡额尔敦已是第二次参赛。在他看来，今年的表演节目更加多元。小戏、小品比例明显提高，还出现了冒顿潮尔、口弦琴等一些相对小众的乐器。“我们传承传统，也与时俱进。”

图为比赛现场。记者 奥蓝 摄

　　“一专多能”并非一朝一夕练成。

　　锡林郭勒盟正蓝旗乌兰牧骑队长特日格勒告诉记者，队员们除日常专业训练外，还会通过“师徒传帮带”、跨专业互学、基层演出等方式不断提升综合能力。“很多技能都是在一次次下乡演出中学来、练出来的。”

　　今年5月刚刚考入阿拉善盟额济纳旗乌兰牧骑的苏都，对此深有感触。小时候，生活在牧区的她很爱看乌兰牧骑演出。舞台上，队员们一会儿唱歌、一会儿跳舞、一会儿又拉起马头琴，在她眼里“特别厉害”。真正成为其中一员后，她才发现“厉害”背后的长期积累。

　　“以前觉得‘一专多能’是群众对我们的要求，后来发现也是对自己的投资。”苏都说，舞蹈演员总有跳不动的时候，多掌握一些技能，未来在舞台上的路也会更长。

　　这种成长意识，正在年轻一代乌兰牧骑队员身上不断显化。

　　“00后”苏艺帆来自呼伦贝尔市莫力达瓦达斡尔族自治旗乌兰牧骑，他的爷爷、父亲和大伯都是乌兰牧骑队员。苏艺帆告诉记者，老一辈很多本领都是自学来的，群众喜欢什么就学什么。他这样的年轻一代接受过更系统、专业的教育，进入乌兰牧骑以后，也同样要不断拓展边界。

　　此次比赛中，他展示的蒙古舞是临时学习的新技能。在他看来，“一专多能”不仅是一种工作要求，更是一种终身学习的职业状态。“我觉得乌兰牧骑是一个挺有信仰的地方。”

　　担任本次比赛评委的内蒙古音乐家协会主席叶尔达告诉记者，许多选手虽然年龄不大，舞台表现力却很成熟。“他们长期活跃在基层，演出经验丰富，不怯场、不紧张。”

　　不过，他也提醒选手们，“一专多能”不是“一专多会”。“掌握更多技能很重要，但更重要的是把每一项能力练深、练精。”

图为比赛现场。记者 奥蓝 摄

　　事实上，“一专多能”，远不止舞台上的表演。

　　从业近20年的胡额尔敦回忆，平日演出之余，队员们还要负责组织观众、布置场地，力所能及帮助群众解决一些困难。早些年，一些乌兰牧骑队员甚至会在演出间隙给牧民理发、帮忙剪羊毛。“我们的工作不仅在舞台上。”

　　记者也在采访中感受到，“一专多能”不仅意味着会唱、会跳、会演奏，更是一种扎根基层的能力，一种贴近群众的本领，一种随时响应群众需求的责任担当。(完)

11月28日消息，人工智能领域顶级会议NeurIPS2025公布了论文奖，阿里通义千问团队最新研究成果从全球2万多篇投稿论文中脱颖而出，被评为最佳论文，是唯一获得该奖项的中国团队。该论文首次在业内揭秘了注意力门控机制对大模型性能和训练的影响，业内人士普遍认为该研究是突破当下大模型训练瓶颈的重要一步，将有力推动AI大模型技术的发展。

阿里通义千问研究成果被评为NeurIPS2025最佳论文

NeurIPS是人工智能领域影响力最大的顶会之一，该会议诞生了Transformer、AlexNet等里程碑式研究成果。今年，谷歌、微软、OpenAI、阿里巴巴及麻省理工学院等全球顶尖科技公司和机构共有2万多篇论文投稿，仅有约25%的论文被接收，而最佳论文仅有4篇，入选概率不及万分之二，代表了目前全球人工智能领域最有价值和影响力的研究。

2017年，谷歌在NeurIPS发表的论文首次提出Transformer模型架构和‌自注意力机制，这一研究让AI像人类一样具备有选择性地关注关键信息的能力，是当下大模型研究的基础。尽管现在大模型在很多领域已经取得接近甚至超越人类的表现，但现有注意力机制仍存在诸多局限，例如当下大模型会因为过度关注特定信息而导致对其它重要信息的忽略或处理偏差，这些局限性极大地影响了模型性能和训练稳定性，为此业界开始探索对注意力进行优化的新方案。

门控机制被认为是模型的“智能阀门”，可以帮助模型过滤无效信息并提升模型性能。近年来，AlphaFold2、ForgettingTransformer等学术界和工业界模型开始尝试将门控和注意力机制结合。但业界尚未破解门控在注意力中发挥作用的内在原因，也缺少大规模实践的经验。

此次，通义千问研究团队通过在1.7B稠密模型（Dense）与15B混合专家模型（MoE）上进行了数十组实验，单组实验训练最多超过3.5万亿tokens，首次清晰揭秘了门控注意力背后的作用原理，并全面展示使用该方案的最佳方式。

实验结果显示，对各注意力头的输出进行门控，是提升模型性能最有效的方式。使用该方式，在引入额外1%参数的情况下，可实现0.2以上的困惑度下降、MMLU基准评测2个点的提升。研究还发现，该技术还能在更大规模的模型训练上实现更好的性能。

使用论文方法，在引入额外1%参数的情况下，可以实现0.2以上的困惑度下降、MMLU基准评测2个点的提升

目前，该研究成果已应用于Qwen3-Next模型，并显著提升模型的性能与鲁棒性，相关技术方案、实验模型及产品级模型均已开源。NeurIPS评审委员会指出：“这项工作将被广泛应用，并极大推动AI研究人员对大语言模型中注意力机制的理解。”

通义千问团队表示：“对门控注意力机制的深入理解，不仅为大语言模型架构设计提供了新思路，也为构建更稳定、更高效、更可控的大模型奠定了基础。”据悉，目前阿里千问已开源300多款模型，涵盖全模态、全尺寸，全球下载量突破7亿次，衍生模型超过18万个，位居全球第一。

责编：秦雅楠、王瑞景

《助力煤矸》石：全量高值转化