西北农林科技大学信息学院刘斌教授团队在计算机体系结构领域顶级期刊IEEE Transactions on Computers上发表研究成果
2025/05/28
401近日，我校信息工程学院智能计算与农业信息系统团队刘斌教授携其课题组在国际计算机体系结构领域权威期刊《IEEE Transactions on Computers》（TC，CCF A类期刊）上发表题为“GroPipe: A Grouped Pipeline Hybrid Parallel Method for Accelerating DCNNs Training”的研究论文。该成果标志着我校在AI智能大模型加速训练领域迈上了新台阶。
该论文由我校携手美国纽约州立大学和云南大学联合发表。西北农林科技大学信息工程学院刘斌教授担任第一作者，纪泽宇老师与云南大学何臻力副教授共同担任通讯作者，纽约州立大学李克勤教授（欧洲科学院院士，并行与分布式计算领域公认的顶尖学者，国家特聘教授）作为重要合作者，使本次研究成果更具国际影响力。论文针对当前大规模深度卷积神经网络（DCNN）大模型训练中负载不均衡和高通信开销的难题，提出了一种创新的混合并行训练方法——GroPipe。该方法首次将流水线模型并行与数据并行相融合，构建“组内流水线+组间数据并行”的分层训练架构，并通过自动模型划分算法（AMPA）实现计算负载的动态均衡调度，大幅提升GPU资源利用率。为了进一步降低数据并行同步通信代价，GroPipe在反向传播阶段引入“基于分组的延迟异步通信”策略，延迟梯度同步操作，有效减轻全局通信带宽压力，显著提升训练吞吐量。实验证明，在ImageNet数据集上，GroPipe方法相较于主流方案（如DP、Torchgpipe、DAPPLE和DeepSpeed）表现出卓越优势：ResNet系列平均加速比达42.2%，VGG系列达79.2%；在BERT-base模型训练中，性能提升最高可达51%。该成果展示了GroPipe在图像与文本领域的广泛适用性。
GroPipe方法整体框架图
这一成果的发表标志着我校在计算机体系结构领域的A类国际顶级学术期刊——《IEEE Transactions on Computers》（创刊于1952年）上实现了历史性突破。作为全球公认的重磅期刊，该刊以极其严苛的多轮国际同行评审机制著称，堪称学术界对“创新与严谨”最高标准的权威检验。本论文入选，不仅彰显了我校在AI大模型并行训练领域的雄厚实力，更意味着我校科研成果已获得国际学术界的高度肯定，为深度学习大规模训练框架的未来发展注入了强劲动力。
近年来，刘斌教授课题组专注于AI大模型并行训练与高性能计算架构的前沿研究，围绕“高效、可扩展、低开销”三大核心目标，取得了一系列突破性成果。团队的创新实践和系统化设计，大幅提升了大模型训练性能，彰显了我校在AI大模型加速训练领域的科研实力与国际学术影响力。
鏂囩珷鏉ユ簮西北农林科技大学锛屽垎浜彧涓哄鏈氦娴侊紝濡傛秹鍙婁镜鏉冮棶棰樿鑱旂郴鎴戜滑锛屾垜浠皢鍙婃椂淇敼鎴栧垹闄ゃ
-
2026骞6鏈堜紭璐ㄥ浗闄呭鏈細璁帹鑽 7
-
2026骞寸17灞婃満姊颁笌鑸┖鑸ぉ宸ョ▼ 193
-
2026骞村厛杩涜埅绌鸿埅澶╂妧鏈笌鍗槦搴旂敤 324
-
2026璧勬簮銆佸寲瀛﹀寲宸ヤ笌搴旂敤鏉愭枡鍥介檯 1808
-
2026骞村浘鍍忓鐞嗕笌鏁板瓧鍒涙剰璁捐鍥介檯 1632
-
2026骞存満姊板伐绋嬶紝鏂拌兘婧愪笌鐢垫皵鎶鏈 6095
-
2026骞存潗鏂欑瀛︺佷綆纰虫妧鏈笌鍔ㄥ姏宸 1819
-
2026骞磋壓鏈佹枃鍖栦骇涓氫笌鏁板瓧濯掍綋鍥 04-29
-
2026骞存櫤鎱ф暀鑲层佹暀鑲茬爺绌朵笌鏂囧寲浜 04-29
-
2026骞存暟瀛楃ぞ浼氥佸叕鍏辩鐞嗕笌缁忔祹瀛 04-29
-
2026 鏀垮姟鏈嶅姟銆佹暟瀛楁不鐞嗕笌鏅烘収鍩 04-28
-
2026 鍒跺喎鎶鏈佹殩閫氳澶囦笌鐜璋 04-28
-
2026 杞诲伐鏉愭枡銆佺豢鑹插埗閫犱笌寰幆鍒 04-28
-
2026 澶氳瑷鏅鸿兘銆佺炕璇戞妧鏈笌鍥介檯 04-28
-
2026 鐢熺墿鑲茬銆佺敓鎬佺妞嶄笌鐜颁唬鍐 04-28
2026骞寸鍥涘眾浜氭床鏈哄櫒瀛︿範銆佺畻娉曚笌绁炵粡缃戠粶.
2026骞寸鍥涘眾浜氭床璁＄畻鏈鸿瑙夈佸浘鍍忓鐞嗕笌妯.
2026骞寸浜斿眾淇″彿澶勭悊銆佷俊鎭郴缁熶笌缃戠粶瀹夊叏.
2026骞寸浜斿眾缃戠粶銆侀氫俊涓庝俊鎭妧鏈浗闄呬細璁.
绗笁灞婇仴鎰熸祴缁樹笌鍏ㄧ悆瀹氫綅绠楁硶鍥介檯瀛︽湳浼氳锛圧.
绗笁灞婅绠楁満涓庡濯掍綋鎶鏈浗闄呭鏈細璁紙ICC.
绗叚灞婃娴嬫妧鏈笌鑷姩鍖栧伐绋嬪浗闄呭鏈細璁紙TT.
2026骞存櫤鑳芥満鍣ㄤ汉涓庢帶鍒舵妧鏈浗闄呬細璁(CI.
2026骞磋埅绌鸿埅澶╀笌鏅鸿兘鍒堕犲浗闄呭鏈細璁紙I.
2026骞翠紶鎰熷櫒鎶鏈佽嚜鍔ㄥ寲涓庢櫤鑳藉埗閫犲浗闄呬細.
绗崄涓灞婄數瀛愭妧鏈拰淇℃伅绉戝鍥介檯瀛︽湳浼氳锛圛C.
2026骞存縺鍏夈佹潗鏂欎笌鍏堣繘鍒堕犲浗闄呭鏈細璁紙.
绗笁灞婅绠楁満瑙嗚銆佹満鍣ㄤ汉涓庤嚜鍔ㄥ寲宸ョ▼鍥介檯瀛︽湳.
2026骞寸數瀛, 閫氫俊涓庤绠楁満绉戝鍥介檯浼氳 .
2026骞寸涓冨眾鎺у埗, 鏈哄櫒浜轰笌鏅鸿兘绯荤粺鍥介檯.
2026骞寸浜屽眾鐢靛姏涓庡彲鎸佺画鑳芥簮鎶鏈浗闄呬細璁.
-
涓浗绉戝崗鍙戝竷2025骞淬婇噸瑕佸鏈12
-
2026骞存柊閿愬垎鍖猴紙鍘熶腑绉戦櫌鏈熷垔2595
-
2025骞翠袱闄㈤櫌澹閫夋湁鏁堝欓変汉4402
-
2025鏈鏂癑CR鍒嗗尯鍙婂奖鍝嶅洜瀛12342
-
濂藉鏈:绉戠爺缃戝潃瀵艰埅|瀛︽湳澶存潯鍒5673
-
2025骞村浗闄呮湡鍒婇璀﹀悕鍗曞彂甯!5837
-
2025骞翠腑绉戦櫌鏈熷垔鍒嗗尯琛ㄩ噸纾呭彂20812
-
鍚夋灄澶у鏍￠暱寮犲笇锛氬鏈細璁腑鐨勬彁6954
-
浜岀淮瓒呭杩堟柉绾虫晥搴旀帰娴嬬爺绌惰幏杩涘睍04-29
-
鐮旂┒鍙戠幇绗肩洰瓒呭浣撲腑澶氶噸鑼冮湇澶04-29
-
浜屾哀鍖栫⒊鍔犳阿鍒堕珮纰崇儻鐑冧笌鑸叅棣忓垎04-29
-
闈跺悜鐗瑰畾铔嬬櫧浜掍綔鐣岄潰鎶戝埗涔欒倽鐥呮瘨04-29
-
鐮旂┒鎻ず鍐呮簮淇′娇璋冩帶鑶滄崯浼や笌缁嗚優04-29
-
绉戝瀹剁粯鍒跺ぇ鑴戞槦褰㈣兌璐ㄧ粏鑳炶浆褰曞洜04-29
-
涓婃捣浜ゅぇBio-X鐮旂┒闄㈢煶姣呬笌鍚04-29
-
中国印刷科学技术研究院 8326
-
东方龙创商贸集团 23158
-
CECSF 21219
-
武汉大学 计算机学院 23496
-
浙江理工大学 23396
-
宏瑞基源文化发展有限公司 18171
-
第七届全国钙信号和细胞功能研讨会 18260
-
黄山市富伟会议会展公司 24421
-
全国高科技农业循环产业发展中心 2381
-
山东大华公司 21398
-
北京铭创展览展示有限公司 24458
-
武汉赛思会务有限公司 24195
-
西安交通大学 24372
-
哈尔滨医科大学 2773
-
中国水利水电科学研究院 21463
-
北京市科学技术情报研究所 18714
-
中国环境科学学会 8170
-
武汉青博盛学术服务有限公司 23261
-
同济大学1239号 18387
-
南京信息工程大学数理学院 21408
