Merge pull request !30484 from wangshengnan123/code_docs_moe
This commit is contained in:
i-robot 2022-03-09 03:50:28 +00:00 committed by Gitee
commit 76c43e0bf8
No known key found for this signature in database
GPG Key ID: 173E9B9CA92EEF8F
1 changed files with 1 additions and 1 deletions

View File

@ -7,4 +7,4 @@
- **expert_num** (int) - 表示使用的专家数量。默认值1。
- **capacity_factor** (float) - 表示专家处理的容量关系其值大于等于1.0。默认值1.1。
- **aux_loss_factor** (float) - 表示负载均衡损失由路由器产生的平衡系数。相乘的结果会加到总损失函数中。此系数的值小于1.0。默认值0.05。
- **num_experts_chosen** (int) - 表示每个标识选择的专家数量。默认值1。
- **num_experts_chosen** (int) - 表示每个标识选择的专家数量,其值小于等于专家数量。默认值1。