forked from metax-maca/op_optimization
<docs>(flashinfer): 测试链接在gitlink的显示问题
This commit is contained in:
parent
4ffb015bdc
commit
9b4d988272
|
|
@ -75,7 +75,7 @@
|
|||
|
||||
使用兑换码兑换 GPU 租用余额:
|
||||
|
||||
访问[模力方舟官网](https://ai.gitee.com/),在左侧边栏进入 “费用中心”,点击右上角 “兑换” 使用兑换码兑换代金券;
|
||||
访问 [模力方舟官网](https://ai.gitee.com/),在左侧边栏进入 “费用中心”,点击右上角 “兑换” 使用兑换码兑换代金券;
|
||||
|
||||

|
||||
|
||||
|
|
@ -126,7 +126,7 @@
|
|||
|
||||

|
||||
|
||||
> 此部分内容以教程 [模力方舟快速使用SOP](../模力方舟快速使用SOP.md) 为准
|
||||
此部分内容以教程 [模力方舟快速使用SOP](../模力方舟快速使用SOP.md) 为准。
|
||||
|
||||
#### 4.1.4 深度学习环境配置
|
||||
|
||||
|
|
@ -1690,20 +1690,17 @@ mv *.csv results/
|
|||
|
||||
### 9.2 深入理解 FlashInfer 核心概念
|
||||
|
||||
- 阅读 [FlashInfer 官方文档](https://docs.flashinfer.ai/index.html) 及 [源码](https://github.com/flashinfer-ai/flashinfer),理解 Paged KV Cache、Ragged KV Cache 的设计理念;
|
||||
- 阅读 [FlashInfer 官方文档](https://docs.flashinfer.ai/index.html) 及 [源码](https://github.com/flashinfer-ai/flashinfer),理解 Paged KV Cache、Ragged KV Cache 的设计理念;
|
||||
|
||||
- 学习 MLA (Multi-head Latent Attention) 的原理,了解 DeepSeek 的注意力优化方案;
|
||||
- 学习 MLA (Multi-head Latent Attention) 的原理,了解 DeepSeek 的注意力优化方案;
|
||||
|
||||
- 理解 `plan()` 和 `run()` 两阶段设计的作用。
|
||||
- 理解 `plan()` 和 `run()` 两阶段设计的作用。
|
||||
|
||||
**参考文档:**
|
||||
|
||||
- [KV-Cache Layout in FlashInfer](https://docs.flashinfer.ai/tutorials/kv_layout.html)
|
||||
|
||||
- [DeepSeek-V2: A Strong, Economical, and Efficient Mixture-of-Experts Language Model](https://arxiv.org/abs/2405.04434)
|
||||
|
||||
- [DeepSeek-V3 Technical Report](https://arxiv.org/abs/2412.19437)
|
||||
|
||||
- [GitHub - deepseek-ai/DeepSeek-V3](https://github.com/deepseek-ai/deepseek-v3)
|
||||
|
||||
### 9.3 进入算子优化模块
|
||||
|
|
|
|||
Loading…
Reference in New Issue