# `offload_group_size` 测试报告

> 状态: 通过  
> 测试日期: 2026-07-05

## 1. 测试范围

- `offload_group_size=0` 保持 Noop
- `offload_group_size=1/2/4` 对 selected layers 的影响
- 正数 group size 可创建 Ascend prefetch offloader
- 与共享 selection、sync、prefetch、runner 集成测试共同覆盖参数链路

## 2. 单测结果

完整 offloader 测试集结果：

```text
35 passed, 3 warnings in 12.71s
```

## 3. 参数矩阵实测

固定 `offload_num_in_group=1` 时，`offload_group_size` 越小，offload layer 越多，HBM 节省越高但短请求吞吐下降更明显。

| case | group_size | num_in_group | offload layers | saved GB | output tok/s |
|---|---:|---:|---:|---:|---:|
| baseline_0_1 | 0 | 1 | 0 | 0.0000 | 38.8511 |
| group_8_num_1 | 8 | 1 | 3 | 0.2615 | 41.7467 |
| group_4_num_1 | 4 | 1 | 7 | 0.6102 | 24.5113 |
| group_2_num_1 | 2 | 1 | 14 | 1.2203 | 14.5874 |

## 4. 结论

`offload_group_size` 已按预期控制 layer 分组粒度。该参数主要用于调节 HBM 节省与吞吐损失之间的平衡。
