机器学习计算优化方法和编译器
公开
摘要
本发明公开了一种机器学习计算优化方法和编译器。该方法包括：识别机器学习计算图中的访存密集型算子，得到多个子图；识别子图中包括的骨干算子，并基于骨干算子对子图进行分组；将索引信息从每个分组的骨干算子向其前序算子进行传播；并将访存密集型算子子图中的算子融合到一个GPU核函数中。本发明的编译优化方案通过计算图的依赖关系特性、GPU多层次存储架构上的数据局部性、以及不同数据尺寸之下的线程并发性等方面的联合考虑，自动化地为大粒度的复杂访存密集算子子图生成高效的GPU代码，降低GPU核函数的调用及框架层算子调度的额外开销，避免不必要的重复计算，减少片外访存，同时适配各种数据尺寸以得到优化的并行效率。
基本信息
专利标题 ：
机器学习计算优化方法和编译器
专利标题（英）：
暂无
公开（公告）号 ：
CN114580653A
申请号 ：
CN202210032157.7
公开（公告）日 ：
2022-06-03
申请日 ：
2022-01-12
授权号 ：
暂无
授权日 ：
暂无
发明人 ：
郑祯朱凯林伟
申请人 ：
阿里云计算有限公司
申请人地址 ：
浙江省杭州市西湖区转塘科技经济区块12号
代理机构 ：
北京展翼知识产权代理事务所(特殊普通合伙)
代理人 ：
张阳
优先权 ：
CN202210032157.7
主分类号 ：
G06N20/00
IPC分类号 ：
G06N20/00 G06T1/20 G06F15/78 G06F8/41
IPC结构图谱
G
G部——物理
G06
计算；推算或计数
G06N
基于特定计算模型的计算机系统
G06N20/00
机器学习
法律状态
2022-06-03 ：
公开
注：本法律状态信息仅供参考，即时准确的法律状态信息须到国家知识产权局办理专利登记簿副本。
文件下载
暂无PDF文件可下载
