fixes #ICW669

This commit is contained in:
broad-sea-life 2025-09-04 18:03:54 +08:00
parent 6d8d8c295a
commit 89b0dd1b75
12 changed files with 92 additions and 54 deletions

View File

@ -4,7 +4,7 @@
---
## 🧠 比赛背景简介
## 💻 比赛背景简介
 AI 模型开发和部署中**GPU 性能评测**是一个非常重要的环节。   不同 GPU、不同深度学习框架 PyTorch、TensorFlow、PaddlePaddle 在运行相同任务时速度、吞吐量、内存占用等表现差异很大。   本次挑战赛希望通过社区的力量,**构建一个标准化、带权重的评测数据集** GPU 性能比较更加科学、公正。
@ -21,64 +21,78 @@
---
## 📥 如何参与提交?
## 📥 参赛流程
### 📝初始化仓库及提交流程
* 进入[GPUCodeForces赛事首页](https://gitee.com/ccf-ai-infra/GPUCodeForces)登录参与本期比赛的Gitee账号完成一份成功合并到仓库内的提交即为参赛成功时间自由方法自由只要有灵感就可以动手开code~
* 进入到赛事首页:[GPUCodeForces赛事首页](https://gitee.com/ccf-ai-infra/GPUCodeForces),点击[Issues](https://gitee.com/ccf-ai-infra/GPUCodeForces/issues/new/choose),选择赛题\[CP\]->立即开始:
### 🌰举个栗子
<image src="./images/readme_issue_create.png">
然后按照模板格式填写相关信息后提交即可。在最后一个选项“推荐其他选手完成”这里,若有团队则可框选,若是自身完成则不用框选:
* 登录or注册自己的Gitee账号后进入赛事首页查看仓库内的文件内容。仔细阅读[how-to-contribute.md](https://gitee.com/ccf-ai-infra/GPUCodeForces/blob/main/how-to-contribute.md)完成CLA签署并熟悉提交流程。
<image src="./images/readme_issue_write.png">
* 看到仓库内文件有一个example文件夹
提交完成后返回Issue主页可以看到自己的提交记录可以复制Issue id进行保存
<img src="./images/readme_sample_check.png">
这是我们提供的一个样例,接下来我们在这个基础上进行一次完整的算子优化的提交(我们鼓励大家自己找到更好的算子并优化)。
<image src="./images/readme_issue_id.png">
* 我们将样例clone到自己电脑上
并关注四份文件: torchcode.py、prompt.txt、cudacode_ori.py、example_cudacode.py最终需要提交的代码文件正是这四个。本次比赛在[模力方舟](https://ai.gitee.com/compute)平台上使用沐曦算力,需要使用算力券购买实例:
* 回到赛事主页在仓库界面右上角选择fork至自己的仓库下
<img src="./images/readme_git_compute.png">
<image src="./images/readme_project_fork.png">
接着便可以在云端实例上进行代码修改。相关算力券的领取方式请见[算力平台使用说明](https://ai.gitee.com/docs/compute/container)、[算力券兑换发放和兑换](https://ai.gitee.com/docs/billing/coupons)。
<image src="./images/readme_project_check.png">
* 然后在该比赛仓库新建一个issue填写赛题。这里我们是对example-001算子优化因此issue的主题就可以是“对001-example数据集进行性能优化”
然后把源项目克隆至本地,文件路径可以根据自己的喜好来:
<img src="./images/readme_sample_issue.png">
可以看到这里有一个“#ICVXKH”这是issue id你的算子优化、新算子都应该绑定一个独立的issue id最终有多少份issue被审核通过就表示提交成功了多少份。在即将提交的时候在该赛题仓库的S1文件夹下新建一个以该id命名无需带#号的文件夹该文件夹内容为四份必要文件和其他视参赛者情况需要补充的材料如readme文件、用到的其他数据集等
<image src="./images/readme_project_clone.png">
<img src="./images/readme_sample_folder.png">
在克隆仓库或本地文件夹内都可以大展你的身手,进行算子优化了🎉!
* 准备工作就绪接下来看到example-001内的代码
* 准备好了代码及各项必需文件后在本地文件夹内启动git bash进行初始化和远程仓库连接
<span style="background-color: grey; color: black; user-select: none;">example_torchcode.py</span>基准模型Baseline。示例提供一个简单的PyTorch模型只包含一个ReLU激活函数。
* <span style="background-color: grey; color: black; user-select: none;">get_inputs()</span>:生成模型运行时需要的输入数据。
* <span style="background-color: grey; color: black; user-select: none;">get_init_inputs()</span>:成模型初始化所需的参数(这里就是权重矩阵 weight
```shell
git init
git remote add origin https://gitee.com/your-name/GPUCodeForces.git
git remote -v
#成功后应显示
#origin https://gitee.com/your-name/GPUCodeForces.git (fetch)
#origin https://gitee.com/your-name/GPUCodeForces.git (push)
```
<span style="background-color: grey; color: black; user-select: none;">example_cudacode.py</span>优化模型。示例使用PyTorch的load_inline功能直接编译和加载CUDA代码创建了一个新的模型类使用自定义CUDA实现替代PyTorch的ReLU。
* 然后将本地优化好的算子仓库存入到暂存区,并进行上传:
<span style="background-color: grey; color: black; user-select: none;">run_code.py</span>验证和性能测试脚本。验证自定义CUDA实现与原始PyTorch实现的数值精度一致性比较两种实现的性能计算加速比。
```shell
git add .
git commit -m "填写本次提交记录,如'第一次提交'"
git push -u origin master
#最后一步需要根据自身的实际仓库分支来一般为master也可能为main或者你自定义的目录名称可以使用 git push --upstream orgin 目录名
```
<span style="background-color: grey; color: black; user-select: none;">prompt.txt</span>:这里给予参赛者一些提示:
* 上传成功后回到自己的仓库主页选择”新建Pull Request“
* 要求编写自定义CUDA内核来替换PyTorch算子以获得加速
<image src="./images/readme_pr_create.png">
然后在上传界面选择自己更新项目的分支,选择合并即可:
* 可以自由选择替换哪些算子,考虑算子融合机会
* 提供了示例语法和内联嵌入自定义CUDA算子的方法
* 给出了需要优化的模型架构简单的ReLU模型
* 然后我们来优化这个算子:
<span style="background-color: skyblue; color: black; user-select: none;">example_torchcode.py</span>从单一的ReLU操作扩展为矩阵乘法 + ReLU的复合操作增加可学习的权重参数(weight),指定输入张量的预期形状和输出形状。
<span style=" background-color: skyblue; color: black; user-select: none;">example_cudacode.py</span>采用部分替换策略只将ReLU替换为CUDA实现保留PyTorch的高度优化矩阵乘法。
<span style="background-color: skyblue; color: black; user-select: none;">run_code.py</span>:增加了最大差异和平均差异计算,使用更严格的容差(1e-05)增加了预热步骤确保GPU状态稳定增加迭代次数(1000次)提高测量准确性。
<span style="background-color: skyblue; color: black; user-select: none;">prompt.txt</span>展示了加法操作和ReLU操作两种不同的优化示例,强调了可以自由选择优化策略,包括算子融合等高级技术。
* 优化好后,可以在模力方舟的实例上运行:
```sh
python run_code.py
```
确保能够正确输出结果后再准备提交。
* 接下来将优化好的代码保存到本地,然后参照[how-to-contribute.md](https://gitee.com/ccf-ai-infra/GPUCodeForces/blob/main/how-to-contribute.md)的指引进行代码仓库的提交与合并。
* 最终,成功提交的代码会合并到 S1/#your_issue id 下并且你的相关pr也会关闭。就像下面这样
<img src="./images/readme_sample_merge.png">
<image src="./images/readme_pr_upload.png">
### 📦 提交PR内容
@ -114,7 +128,7 @@ git push -u origin master
```
### 💻审核流程
### 审核流程
* 在一切文件都准备好并且提交后在对应的PR下会得到回复

View File

@ -11,24 +11,39 @@
- **目的**将原始仓库复制到您的Gitee或github账户下以便您可以进行修改。
- **步骤**
- 在Gitee或github上找到[GPUCodeForces](https://gitee.com/ccf-ai-infra/GPUCodeForces)。
- 点击页面右上角的“Fork”按钮将该仓库复制到您的Gitee账户下。
- 点击页面右上角的“Fork”按钮将该仓库复制到您的Gitee账户下
<img src="./images/ht_fork_choose.png">
## 2. Clone项目仓库
- **目的**将您Fork的项目仓库克隆到本地以便在本地进行修改。
- **步骤**
- 在您的本地机器上,使用`git clone`命令将项目仓库Fork的仓库克隆到本地。
<img src="./images/readme_project_clone.png">
```sh
git clone https://gitee.com/giteeuseid/GPUCodeForces.git
```
备注:`giteeuseid替换您的url`。
## 3. 创建新分支进行开发
- **目的**:在的分支上进行修改,避免直接修改主分支。
## 3. 创建赛题与分支
- **目的**:在Gitee上建立一个属于自己赛题的issue便于后期跟进。在自己克隆好的仓库的分支上进行修改,避免直接修改主分支。
- **步骤**
- 进入克隆的仓库目录。
- 进入到赛事首页:[GPUCodeForces赛事首页](https://gitee.com/ccf-ai-infra/GPUCodeForces),点击[Issues](https://gitee.com/ccf-ai-infra/GPUCodeForces/issues/new/choose),选择赛题\[CP\]->立即开始:
<image src="./images/readme_issue_create.png">
然后按照模板格式填写相关信息后提交即可。在最后一个选项“推荐其他选手完成”这里,若有团队则可框选,若是自身完成则不用框选:
<image src="./images/readme_issue_write.png">
提交完成后返回Issue主页可以看到自己的提交记录可以复制Issue id进行保存
<image src="./images/readme_issue_id.png">
- 在本地电脑进入克隆的仓库目录,并进行初始化。
```sh
cd GPUKernelContest
git init
git remote add origin https://gitee.com/your-name/GPUCodeForces.git
git remote -v
#成功后应显示
#origin https://gitee.com/your-name/GPUCodeForces.git (fetch)
#origin https://gitee.com/your-name/GPUCodeForces.git (push)
```
- 创建一个新的分支来(例如:`dev`分支)进行您的项目创作或者修订。
```sh
@ -43,9 +58,10 @@
```sh
git add .
git commit -m "描述您的修改如需要关联PR通过fixes, closes, resolved等关键字关闭"
#例如git commit -m "fixes #your-issue_id"即表示关联到你自己创建的赛题id下
```
备注:
* Fixes #45 → 关Issue #45
* Fixes #45 → 关Issue #45
* Resolves jquery/jquery#45 → 跨仓库关闭Issue
* Closes #45, #46 → 批量关闭多个Issue
@ -56,34 +72,42 @@
- 将您的修改推送到您Fork的仓库。
```sh
git push origin dev
#这里填写你创建的目录名不一定为dev
```
## 6. 创建Pull Request
- **目的**:向原始仓库的维护者提交您的修改,请求合并。
- **步骤**
- 回到您的Gitee账户或github找到您Fork的仓库。
- 点击“New Pull Request”按钮。
- 选择您推送的分支和原始仓库的主分支进行比较。
- 填写PR的标题和描述说明您的修改内容和目的。
- 点击“Create Pull Request”按钮提交PR。
- 点击“New Pull Request”按钮
<img src="./images/readme_pr_create.png">
- 选择您推送的分支和原始仓库的主分支进行比较:
<img src="./images/readme_pr_upload.png">
- 填写PR的标题和描述说明您的修改内容和目的
<img src="./images/ht_pr_write.png">
- 点击下方“创建 Pull Request”按钮提交PR即可。
## 7. 处理反馈
- **目的**:根据项目维护者的反馈进行必要的修改。
- **步骤**
- 项目维护团队或者维护者会审查您的PR并可能提出修改意见或问题。
- 项目维护团队或者维护者会审查您的PR并可能提出修改意见或问题在与您相关的issue和pull request下方评论区即可查看
<img src="./images/readme_comment_check.png">
- 根据反馈进行必要的修改并重复步骤4到步骤6直到PR被接受。
## 8. PR被合并
- **目的**一旦您的PR被接受并合并到主分支您的贡献就正式成为项目的一部分。
- **步骤**
- 项目维护者会合并您的PR。
- 项目维护者会合并您的PR您可以在这里查看各项pr的状态
<img src="./images/ht_pr_write.png">
- 您的修改现在成为原始仓库的一部分。
## 9. 同步上游仓库
- **目的**保持您的Fork仓库与上游仓库同步。
- **步骤**
- 为了保持您的Fork仓库与上游仓库同步您需要定期从上游仓库拉取更新。
- 为了保持您的Fork仓库与上游仓库同步您需要定期从上游仓库拉取更新
<img src="">
- 登录自己的Gitee账户或github找到您Fork的仓库。
- 点击`Sync fork`按钮同步最新的上游Fork的仓库。
- 点击`Sync fork`按钮同步最新的上游Fork的仓库
<img src="./images/ht_fork_sync.png">
通过以上步骤您就可以在Gitee或github上有效地参与项目的协作。希望这些信息对您有所帮助如果有任何问题随时欢迎提问。

BIN
images/ht_fork_choose.png Normal file

Binary file not shown.

After

Width:  |  Height:  |  Size: 906 KiB

BIN
images/ht_fork_sync.png Normal file

Binary file not shown.

After

Width:  |  Height:  |  Size: 389 KiB

BIN
images/ht_pr_status.png Normal file

Binary file not shown.

After

Width:  |  Height:  |  Size: 7.4 KiB

BIN
images/ht_pr_write.png Normal file

Binary file not shown.

After

Width:  |  Height:  |  Size: 38 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 60 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 87 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 8.2 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 9.4 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 5.5 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 69 KiB