1.8 KiB
Executable File
1.8 KiB
Executable File
第1章：混元大模型 & 太极一站式平台
1.1 腾讯混元大模型
腾讯混元大模型是腾讯自主研发的大规模语言模型，于 2023 年 9 月正式对外发布。在信通院综合评测中，混元大模型取得业界最高评分。
混元大模型具备以下核心能力：
- 支持多种自然语言理解与生成任务
- 覆盖腾讯公司数十个头部业务的精调与部署
- 具备千亿级参数规模的高效训练能力
1.2 太极一站式大模型平台
太极一站式大模型平台是腾讯混元大模型的底层支撑平台，为混元大模型提供从训练到部署的全链路能力。
平台核心能力
- 接入能力：接入 6 大 GPU 平台，数十个业务精调与部署
- 覆盖范围：覆盖腾讯公司所有头部业务
- 训练优化：基于 Angel-Pytorch 实现千卡级别的高效稳定训练
加速组件
太极平台的加速组件包含以下核心能力：
训练加速
- 模型容量：相比业界提升 90%
- 训练速度：训练速度提升 1 倍
- 千卡训练：千卡 20 天完成千亿模型训练
- NFL 效率：53% 达到业界领先水平
推理与服务化
- 支持模型压缩、推理加速、服务化部署
- 同精度下吞吐相比开源框架提升一倍以上
- 支持无损压缩，吞吐提升 4~16 倍
1.3 平台技术特点
- 全链路覆盖：从训练、压缩、推理到服务化部署的一站式平台
- 高性能训练：基于 Angel-Pytorch 的千卡高效训练方案
- 弹性部署：支持多种业务场景的灵活部署方案
- 深度优化：面向大模型特性的深度性能优化
学习要点
- 混元大模型的核心定位与能力
- 太极一站式平台的整体架构设计
- 平台加速组件的主要技术指标