当前位置:首页 >> 学术资讯 >> 科研信息

清华大学计算机系存储实验室团队获得MLSys 2026大模型推理优化赛事冠军

2026/06/06

清华大学计算机系存储实验室团队获得MLSys 2026大模型推理优化赛事冠军

文章导读
还在为团队的大模型推理速度慢到用户流失而焦虑?90%的人都在死磕硬件升级,以为换H100就能解决问题。但清华存储实验室用一个被忽略的软件技巧,在AWS上把Qwen3-30B的端到端推理从14.9秒压到了3.5秒——直接击败斯坦福、MIT等顶级队伍。他们没换任何昂贵设备,只是在一个叫“专家分片”的环节做了件反直觉的事:把数据布局重构了。如果你也想不烧钱就让模型快4倍,这篇文章里藏着那个能让你们效率翻倍、但90%的团队都踩错方向的关键步骤。
— 内容由好学术AI分析文章内容生成,仅供参考。

近日,第九届机器学习与系统会议(MLSys 2026)在美国华盛顿州贝尔维尤举行。由清华大学计算机系存储实验室博士生高世伟、范如文、任庭旭、罗以彬等组成,计算机系教授舒继武、副教授陆游游担任指导教师,腾讯AI系统专家里德(Reed提供技术支持的参赛团队,在会议举办的混合专家模型内核优化挑战赛中获得冠军。

本次比赛面向Qwen3-30B-A3B混合专家模型的真实解码推理场景,吸引了来自斯坦福大学、麻省理工学院、加州大学伯克利分校、卡内基梅隆大学、加州大学洛杉矶分校、康奈尔大学等高校组队参赛。比赛中,计算机系存储实验室团队成员基于亚马逊AWS提供的NKI编程框架,围绕专家分片、矩阵向量乘特化、片上数据布局重构、跨算子融合和自动化算子优化等关键技术,对推理解码阶段进行了系统优化,将端到端推理时间从14.91秒降至3.56秒,实现约4.1倍加速,最终获得冠军。

这是计算机系存储实验室团队继2025年获得ASPLOS/EuroSys大模型推理优化竞赛冠军后,再次在国际顶级学术会议举办的大模型推理优化赛事中夺冠。

MLSys是机器学习系统领域的国际顶级学术会议之一,聚焦机器学习与计算机系统的交叉研究,涵盖大模型训练与推理、AI编译器、计算机体系结构、分布式系统、专用AI硬件等前沿方向。


版权声明:
文章来源清华大学,分享只为学术交流,如涉及侵权问题请联系我们,我们将及时修改或删除。

相关学术资讯
近期会议

第六届互联网技术与教育信息化国际学术会议 (ITEI 2026)(2026-07-24)

第五届航空航天工程与系统国际研讨会(ISAES 2026)(2026-07-24)

第十届教育、管理与社会科学国际学术会议 (ISEMSS 2026)(2026-07-24)

第六届电气工程与机电一体化技术国际学术会议(ICEEMT 2026)(2026-07-24)

第五届能源与电力系统国际学术会议 (ICEEPS 2026)(2026-07-24)

2026年第二届光学工程与传感仪器国际学术会议(2026-07-31)

第九届声学、振动、噪声控制国际研讨会(CAVNC 2026)(2026-08-07)

第六届能源演进与电力工程大会:转型·智能·自治(EEPE-TIA 2026)(2026-08-07)

2026年智能医学与图像计算国际会议 (IMIC 2026)(2026-08-21)

2026年机械动力学、振动控制与噪声工程国际会议(ICMDVCNE 2026)(2026-08-22)

2026年数据建模与数字图像处理国际会议(DMDIP 2026)(2026-8-7)

2026能源、材料与环境处理国际研会议(ICEMET 2026)(2026-8-7)

2026公共管理、会计与社会学国际会议(ICPMAS 2026)(2026-8-7)

2026环境治理、气候韧性与低碳城市国际会议(EGCRLC 2026)(2026-8-27)

2026年渔业与水产养殖国际学术会议(IACFA 2026)(2026-8-3)

2026年数据分析、云计算与先进算法国际学术会议(DACCAA 2026)(2026-8-29)

2026社会计算、数字媒体技术与机器视觉国际会议(SCDMTMV 2026)(2026-8-4)

2026年可持续计算与绿色数据中心国际会议(SCGDC 2026)(2026-8-2)

2026年智能控制与决策国际会议(ICICDM 2026)(2026-8-1)

2026年计算数学、纯数学与应用统计国际学术会议(CMPMAS 2026)(2026-8-22)

小贴士:学术会议云是学术会议查询检索的第三方门户网站。它是会议组织发布会议信息、众多学术爱好者参加会议、找会议的双向交流平台。它可提供国内外学术会议信息预报、分类检索、在线报名、论文征集、资料发布以及了解学术资讯,查找会服机构等服务,支持PC、微信、APP,三媒联动。
综合推荐区

AI+大数据算法 智能精准匹配期刊投稿

第五届先进制造技术与制造系统国际学术会议(I.

第七届经济管理与大数据应用国际 学术会议(I.

第二届航空航天、信息技术与控制工程国际学术会.

第七届心理健康与教育、人文发展国际学术会议(.

2026年智能医学和图像计算国际会议(IMI.

第六届光学成像与图像处理国际学术会议 (IC.

2026年第七届控制, 机器人与智能系统国际.

第六届电子信息工程与计算机技术国际学术会议(.

2026年智能机器人与控制技术国际会议(CI.

2026年传感器技术、自动化与智能制造国际会.

第九届计算机信息科学与人工智能国际学术会议(.

第二届先进电子、智能技术与计算国际学术会议(.

2026年IEEE计算机通信、信息系统与网络.

2026年通信, 数据科学与智能计算国际会议.

2026年第五届算法、数据挖掘和信息技术国际.

2026年IEEE第三届先进机器人, 自动化.

2026年人工智能与机器人系统国际会议(IC.

2026年IEEE第六届人工智能、自动化与算.

2026年IEEE人工智能、大数据与云计算国.

2026年第二届电力与可持续能源技术国际会议.

2026IEEE第三届亚洲先进电气与电力工程.

2026年第三届亚洲智能电网,绿色能源与应用.

2026年第九届数据科学和信息技术国际会议(.

2026年IEEE第九届算法, 计算与人工智.

2026年IEEE智能信息, 系统科学与工程.