登录
注册
开源
企业版
高校版
搜索
帮助中心
使用条款
关于我们
开源
企业版
高校版
私有云
模力方舟
登录
注册
代码拉取完成,页面将自动刷新
开源项目
>
人工智能
>
机器学习/深度学习
&&
捐赠
捐赠前请先登录
取消
前往登录
扫描微信二维码支付
取消
支付完成
支付提示
将跳转至支付宝完成支付
确定
取消
Watch
不关注
关注所有动态
仅关注版本发行动态
关注但不提醒动态
69
Star
294
Fork
177
MindSpore
/
akg
代码
Issues
28
Pull Requests
37
Wiki
统计
流水线
服务
质量分析
Jenkins for Gitee
腾讯云托管
腾讯云 Serverless
悬镜安全
阿里云 SAE
Codeblitz
SBOM
我知道了,不再自动展开
更新失败,请稍后重试!
移除标识
内容风险标识
本任务被
标识为内容中包含有代码安全 Bug 、隐私泄露等敏感信息,仓库外成员不可访问
[AIKG] 支持Triton代码作为AIKG输入任务
TODO
#ICWCIY
RFC
Yanzhi_YI
成员
创建于
2025-09-04 14:38
| name | about | labels | | ---- | ---------------------------------------------------- | -------------------------------- | | RFC| 支持Triton代码作为AIKG输入任务 | kind/feature | ### Backgroud(背景信息) AIKG当前支持的输入任务主要是KernelBench类的算子组合Model。通过调用Model、get_inputs、get_init_inputs来执行任务代码。 ```python class Model(nn.Cell): def __init__(self): super(Model, self).__init__() def construct(self, A: ms.Tensor, B: ms.Tensor) -> ms.Tensor: return ms.ops.matmul(A, B) M = 1024 K = 4096 N = 2048 def get_inputs(): A = ms.ops.randn(M, K, dtype=ms.float16) B = ms.ops.randn(K, N, dtype=ms.float16) return [A, B] def get_init_inputs(): return [] # No special initialization inputs needed ``` 但实际的算子生成、优化任务并不一定只有这种场景:例如还有针对已有生成代码继续优化的场景。 例如:算子任务是一个已生成的triton代码,但是希望通过AIKG继续优化该算子的性能。本RPC希望支持此类“继续优化”的场景。 ### Benefit / Necessity (价值/作用) - 在Triton-ascend/cuda里,存在不少手写的、未被优化的算子实现,这类实现可通过AIKG持续优化 - 在inductor直接生成的Triton代码里,可能是一个通用版本,通过AIKG可尝试接入优化 ### Design(设计方案) 简要方案分析 **方案一** TrionOld当做 TaskDesc 接通AIKG任务。 优点:接入相对简单; 不足:可能原来的TritonOld写法未必是最优方案,基于该方案的优化可能过早陷入局部最优。 **方案二** 还原算子组合再跑AIKG。 优点:从最基础的算子组合出发,便于探索更多可能;还原之后可无缝衔接原AIKG流程。 不足:还原后成需额外验证,确保正确性。
| name | about | labels | | ---- | ---------------------------------------------------- | -------------------------------- | | RFC| 支持Triton代码作为AIKG输入任务 | kind/feature | ### Backgroud(背景信息) AIKG当前支持的输入任务主要是KernelBench类的算子组合Model。通过调用Model、get_inputs、get_init_inputs来执行任务代码。 ```python class Model(nn.Cell): def __init__(self): super(Model, self).__init__() def construct(self, A: ms.Tensor, B: ms.Tensor) -> ms.Tensor: return ms.ops.matmul(A, B) M = 1024 K = 4096 N = 2048 def get_inputs(): A = ms.ops.randn(M, K, dtype=ms.float16) B = ms.ops.randn(K, N, dtype=ms.float16) return [A, B] def get_init_inputs(): return [] # No special initialization inputs needed ``` 但实际的算子生成、优化任务并不一定只有这种场景:例如还有针对已有生成代码继续优化的场景。 例如:算子任务是一个已生成的triton代码,但是希望通过AIKG继续优化该算子的性能。本RPC希望支持此类“继续优化”的场景。 ### Benefit / Necessity (价值/作用) - 在Triton-ascend/cuda里,存在不少手写的、未被优化的算子实现,这类实现可通过AIKG持续优化 - 在inductor直接生成的Triton代码里,可能是一个通用版本,通过AIKG可尝试接入优化 ### Design(设计方案) 简要方案分析 **方案一** TrionOld当做 TaskDesc 接通AIKG任务。 优点:接入相对简单; 不足:可能原来的TritonOld写法未必是最优方案,基于该方案的优化可能过早陷入局部最优。 **方案二** 还原算子组合再跑AIKG。 优点:从最基础的算子组合出发,便于探索更多可能;还原之后可无缝衔接原AIKG流程。 不足:还原后成需额外验证,确保正确性。
评论 (
2
)
登录
后才可以发表评论
状态
TODO
VALIDATION
CLOSED
TODO
ACCEPTED
WIP
DONE
REJECTED
负责人
未设置
标签
未设置
项目
未立项任务
未立项任务
里程碑
未关联里程碑
未关联里程碑
Pull Requests
未关联
未关联
关联的 Pull Requests 被合并后可能会关闭此 issue
分支
未关联
分支 (17)
标签 (11)
master
ms_custom_ops
br_aikg
ms_custom_ops_0902_br_infer_iter
code_clean
r2.4
r2.2
r2.3
r2.1
r2.0
r1.9
r1.8
r1.7
r1.6
r1.3
r1.5
r1.2
v2.4.0
v2.1.0
v2.0.0
v1.9.0
v1.8.0
v1.7.0
v1.6.0
v1.5.0
v1.4.0
v1.3.0
v1.2.0
开始日期   -   截止日期
-
置顶选项
不置顶
置顶等级:高
置顶等级:中
置顶等级:低
优先级
不指定
严重
主要
次要
不重要
预计工期
(小时)
参与者(1)
Python
1
https://gitee.com/mindspore/akg.git
[email protected]
:mindspore/akg.git
mindspore
akg
akg
点此查找更多帮助
搜索帮助
Git 命令在线学习
如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大,如何减小?
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release(发行版)
将 PHP 项目自动发布到 packagist.org
仓库举报
回到顶部
登录提示
该操作需登录 Gitee 帐号,请先登录后再操作。
立即登录
没有帐号,去注册