fused_moe修改

This commit is contained in:
wu_xy 2026-06-05 15:21:57 +08:00
parent 639db1adae
commit 0489ac69b4
1 changed files with 7 additions and 3 deletions

View File

@ -180,7 +180,8 @@ PYTHON_BIN=/path/to/python bash scripts/build_fused_moe_i8_tn_pybind.sh
**常见问题:**
| 报错 | 原因 | 解决办法 |
| --- | --- | --- |
| `Python.h: No such file or directory` | Python 头文件路径未找到 | 确认 `PYTHON_BIN` 路径正确,脚本自动探测 `sysconfig.get_path('include')` |
@ -236,9 +237,11 @@ bash scripts/run_fused_moe_i8_tn_pybind_test.sh --backend reference
* ”sample C\[0\]=... , C\[last\]=...“:首尾采样值,用于辅助定位数值偏差,不作为精度判定依据。
**常见问题:**
| 报错 | 原因 | 解决办法 |
| --- | --- | --- |
| `ModuleNotFoundError: fused_moe_i8_tn_pybind` | pybind 模块未编译或未加入 `PYTHONPATH` | 回到步骤 3确认 `.so`已生成;执行 `export PYTHONPATH=/root/Project/fused_moe:$PYTHONPATH` |
@ -290,9 +293,10 @@ bash scripts/run_fused_moe_i8_tn_benchmark.sh --backend all --warmup 5 --iters 2
* “TOPS”Tera Operations Per Second本次 MoE 算子的总运算量 / 实际耗时;
* “warmup=5, iters=20”预热轮数和正式迭代数。
**常见问题:**
**常见错误:**
| 报错 | 原因 | 解决办法 |
| --- | --- | --- |