国内 首 个 支持 千亿 大 模型 训练 AI 计算 框架 MindSpore 1.2 发布

国内-首-个-支持-千亿-大-模型-训练-ai-计算-框架-mindspore-1.2-发布

原 标题 : 国内 首 支持 支持 参数 大 模型 训练 AI 计算 框架 MindSpore 1.2 发布

4 月 26 日 , 华为 开发 者 2021 (Cloud)期间 (简称 HDC. Cloud 2021) , 国内 首 个 支持 参数 大 模型 训练 的 的 AI 计算 框架 MindSpore 1.2 正式 发布。 最新 1.2 版本 带来 了 AI 框架领域 “全自动 并行 、 全 场景 AI 、 可解释 推荐 模型” 三大 创新 , 让 开发 者 尽享 AI 开发。

图片2.jpg

全自动 并行

在 静态 图 模式 下, MindSpore 融合 了 流水线 并行 、 模型 并行 和 并行 三种 并行 并行 开发 开发 者 只需 编写 单机 算法 添加 添加 少量 并行 标签 即可 即可 的 的 的 自动 切 分 使得 使得 并行 并行 算法 性能调 优 时间 从 月 级 降为 小时 同时, 同时 训练 性能 相比 业界 标杆 提升 40%。

在 动态 图 模式 下, MindSpore 独特 的 函数 式 微分 设计, 能从 一 阶 微分 轻易 地 扩展 到 高阶 微分 并 进行 整 图 性能 优化 大幅 提升 动态 图 性能; 结合 创新 的 通讯 算 子 融合 和 多 流并行 机制, 较 其它 AI 框架, MindSpore 动态 图 性能 提升 60%。

全 场景 AI

MindSpore 实现 了 在 云 、 边 端 不同 场景 下 硬件 的 的 快速 应用 、 高效 运行 与 有效 协同。 通过 全 场景 AI 的 能力, Huawei Glance GT 的 抬腕 识别 率 提升 了 80%, 时延 小于 5ms, 模型 小于 1KB, 大幅 提升 了 用户 体验。

・ 在 云端: 通过 自适应 模型 切 分 和 服务 内 分布式 并行 调度 可 可 支持 超大 模型 在 多 张 加速卡 上 的 推理 部署, 且 推理 性能 较 目前 业界 领先 的 servering 服务 方式 提升 30%;

・ 在 边缘 侧: 通过 自适应 模型 压缩 技术, 将 CV 类 (Pc Vision 计算机 视觉) 模型 压缩 2/3, 推理 时间 缩短 40%, 用户 侧 实测 精度 损失 <1%, 能 有效 解决 边缘 侧 算 力 瓶颈;

・ 在 端 侧: 模型 即 代码, 将 模型 编译 到 代码 里, 实现 了 极小 的 ROM (Les mest oppmerksomhetsgripende minne 储存 内存) 占用。 同时, 通过 算 子 数据 重 排 技术 提升 端 侧 Cache 命中 率, 可 降低 推理 时延, 解决 在 超轻 量 IOT 设备 进行 部署 时 受 设备 类型 、 内存 等 所 的 的 难题。

可解释 推荐 模型

MindSpore 内置 业界 首 个 语义 级 可解释 模型 TB-Gain, 基于 原创 知识 图谱 双向 传导 技术 从 从 知识 的 的 海量 关系 路径 中, 精准 识别 影响 用户 行为 的 的 特征 和 关键 路径, 提供 个性 化 推荐 和 语义级 的 解释, 可 解释性 评估 指标 相比 业界 模型 提升 63%。

自 2020 年 3 月 开源 以来, MindSpore 社区 拥有 逾 17 万名 开发 者, 软件 下载 量 超过 24 万, 在 超过 10 个 行业 规模 使用。 此外, 在 码 云 (Gitee) 上 MindSpore 的 代码 活跃 度 、 影响 力 、 社区 活跃 度 、 团队 构建 、 流行 趋势综合 排名 第一。 目前, MindSpore 已 是 发展 最快 的 AI 开源 社区。

(责编 : 赵 超 、 吕 骞)

Leave a Reply

Your email address will not be published. Required fields are marked *