cory
/
op_optimization
forked from metax-maca/op_optimization
0
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

Merge pull request '更新Fused MoE教程' (#77) from wu_xy/op_optimization:master into master

This commit is contained in:
Beckylu 2026-07-15 15:49:32 +08:00
parent a8d08bcbc5 232f2631c7
commit bed86dafbf
1 changed files with 14 additions and 14 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

28
基于AI Agent开发范式的国产GPU大模型推理算子库优化/Fused MoE 算子入门：从 Benchmark 验证到 XPU-OJ 接口提交.md
View File

@ -404,7 +404,7 @@ bash scripts/run_fused_moe_i8_tn_benchmark.sh --backend all --warmup 5 --iters 2
#### Step 7：登录 XPU-OJ 平台并进入题目页面
**目标：**访问 XPU-OJ 评测平台，找到 `fused_moe_i8_tn`算子题目，熟悉题目页面布局。
**目标：**访问 XPU-OJ 评测平台，登录并进入 Fused MoE 算子对应任务页面，熟悉页面布局。
**操作：**
@ -412,13 +412,13 @@ bash scripts/run_fused_moe_i8_tn_benchmark.sh --backend all --warmup 5 --iters 2
[![image1](https://origin.picgo.net/2026/07/08/image129d6d1ecc01aa9b8.png)](https://www.picgo.net/image/image1.4tmFfp)
2. 进入比赛页面：点击顶部导航栏【比赛】，选择【进行中】，找到对应比赛进入。
2. 进入 Fused MoE 任务页面：点击顶部导航栏【比赛】，选择【进行中】，找到 Fused MoE 任务点击右侧【进入】按钮。
[![image2](https://origin.picgo.net/2026/07/08/image28bc5fab338d015dd.png)](https://www.picgo.net/image/image2.4tmnl6)
[![image2](https://origin.picgo.net/2026/07/15/image21f74c19caebba239.png)](https://www.picgo.net/image/image2.4i0rxb)
3. 进入题目页面：本算子对应比赛题目6：`Fused MoE i8 tn`，点击进入题目页面。
Fused MoE 任务包含 `Fused MoE i8 tn` 一个题目，直接点击即可进入题目页面：
[![image3](https://origin.picgo.net/2026/07/08/image3852589a37bfe4d08.png)](https://www.picgo.net/image/image3.4tmZJu)
[![image3](https://origin.picgo.net/2026/07/15/image3e4063c312076081a.png)](https://www.picgo.net/image/image3.4i0cXl)
完成上述步骤可进入如下题目页面：
@ -427,7 +427,7 @@ bash scripts/run_fused_moe_i8_tn_benchmark.sh --backend all --warmup 5 --iters 2
* 右侧：提交区域，输入编写的`run_kernel(...)`后在下方选择对应的语言即可提交。提交后可通过上方导航栏【我的提交】查看历史提交。
[![image4](https://origin.picgo.net/2026/07/08/image4d2b4f97e790fa4ef.png)](https://www.picgo.net/image/image4.4tmM4N)
[![image4](https://origin.picgo.net/2026/07/15/image4bf889483e530d805.png)](https://www.picgo.net/image/image4.4i0eCw)
#### Step 8：理解 XPU-OJ 评测接口和精度要求
@ -457,7 +457,7 @@ bash scripts/run_fused_moe_i8_tn_benchmark.sh --backend all --warmup 5 --iters 2
* 容差：`rtol=2e-2, atol=5e-3`；
* 通过率：`matched_ratio >= 0.99`（至少 99% 的元素在容差范围内）。
* 通过率：`matched_ratio ≫ 0.99`（至少 99% 的元素在容差范围内）。
#### Step 9：提交 OJ 冒烟代码
@ -475,7 +475,7 @@ bash scripts/run_fused_moe_i8_tn_benchmark.sh --backend all --warmup 5 --iters 2
4. 等待结果：评测时间与题目测试点数量、队列状态和平台负载有关，通常需要等待数十秒到数分钟。以平台实际返回为准。
[![image5](https://origin.picgo.net/2026/07/08/image5fb7708d008158d27.png)](https://www.picgo.net/image/image5.4tmuBi)
[![image5](https://origin.picgo.net/2026/07/15/image5f248af1c62a3e804.png)](https://www.picgo.net/image/image5.4i15ww)
**预期结果：**
@ -497,7 +497,7 @@ bash scripts/run_fused_moe_i8_tn_benchmark.sh --backend all --warmup 5 --iters 2
* 在提交记录中可查看每次提交的状态、总得分、耗时、内存：
[![image6](https://origin.picgo.net/2026/07/08/image69413e305f3bad2c3.png)](https://www.picgo.net/image/image6.4tm6n2)
[![image6](https://origin.picgo.net/2026/07/15/image6b7f42afd3d7ab7de.png)](https://www.picgo.net/image/image6.4irF5q)
* 此页面下滑还可查看单测试点检查器信息（SPJ Report）：
@ -553,18 +553,18 @@ bash scripts/run_fused_moe_i8_tn_benchmark.sh --backend all --warmup 5 --iters 2
1. 查看榜单
[![image8](https://origin.picgo.net/2026/07/08/image88751523f8492bc19.png)](https://www.picgo.net/image/image8.4tm3rO)
[![image8](https://origin.picgo.net/2026/07/15/image8e07cb1d387cebdaa.png)](https://www.picgo.net/image/image8.4i1Bzd)
点击【排行榜】进入榜单页面，可查看：
* 总得分：各题目得分总和，决定最终排名。
* 总得分：各题目得分总和，本任务只包含一个题目，因此该题得分即为总分。
* 个人排名：页面顶部显示【我的排名】与【我的总分】。
* 个人排名及其它选手的排名：根据总分进行排名，方便参赛者纵向对比。
* 每题得分：表格中每列对应一个题目，便于横向对比。
* 每题得分：表格中每列对应一个题目，方便参赛者横向对比。
[![image9](https://origin.picgo.net/2026/07/08/image9d2c7bf4f777e109c.png)](https://www.picgo.net/image/image9.4t3S4J)
[![image9](https://origin.picgo.net/2026/07/15/image9baf4ec786e09d859.png)](https://www.picgo.net/image/image9.4i4SOw)
2. 制定优化方向