昇腾云服务,为百模千态注入强劲动力
发布时间:2024-04-15
 

人工智能已从万千碎片化的小模型时代走向“百模千态”的大模型时代。昇腾云服务为千行百业提供了更多元、高效、长稳的算力服务选择,企业只需一键接入,即可随取随用AI云服务,不用自建或改造传统数据中心,快速创建自己的大模型应用。

当下,算力的紧缺和昂贵已成为智能创新的重要制约因素,在千行百业的智能应用开发来说更是如此。而云算力作为一种高效、灵活、可扩展的解决方案,正逐渐成为突破算力瓶颈的更优选择。昇腾云作为全栈自主的AI云算力底座,提供了高性价比的AI算力,提供全链路云化工具链,支持高效迁移,全栈垂直优化,支持模型/算法高效运行,使能百态千模。

领先优势,高效连接算力

 

领先的昇腾架构

  • 昇腾达芬奇架构领先,算力相比友商提升30%+;

  • MindSpore原生支持大模型开发,千亿参数模型调优时间缩短60%。

高效的迁移工具链

  • 全流程昇腾迁移工具链,典型场景迁移至生产环境<2周;
  • 易用的训练、推理迁移工具,支撑客户自主昇腾迁移。

 

极致的资源利用

  • 统一的资源调度,资源极致利用,综合分配率达90%;
  • 弹性调度、训练&推理融合调度,资源发放<30分钟。

 

丰富的生态

  • AI Gallery生态繁荣,沉淀行业资产10万+;
  • 汇聚主流开源大模型,高效连接云上昇腾算力。

 

丰富应用场景,满足访问需求

 

 

大模型

 

 

1.构建大模型应用开发工具链,使能大模型开箱即用
  • 构建大模型应用开发工具链,完善云上数据清洗|模型微调|部署|Prompt|评测|Agent,大模型应用开发效率提升;
  • 原生昇腾云组件Agent,构建“大模型+云组件”组合竞争力,如搜索Agent,大数据Agent等,使能云上存量用户零迁移构建大模型应用;

  • 支持业内主流大模型应用开发框架:兼容主流应用框架, GPU生态应用“零”改造迁移。

2.提供昇腾版主流开源大模型
  • 支持业内主流大模型,精度、性能超越友商;

  • 内源代码、镜像、性能三层开放,引领客户技术选型,同源大模型昇腾开发周期由月降至天。
3.提供昇腾版大模型工具链,GPU大模型100%覆盖迁移

提供昇腾版大模型原生应用开发工具链及三方大模型工具链,支持大模型调优&工具链,丰富用户选择。

 

 

AIGC

 

 

1.模型转换

分钟级模型转换,提供模型转换工具一键转换成mindpore格式。
2.自动调优
自动图优化,生成调优策略、编译、在NPU芯片上验证的闭环反馈机制,不断迭代出更优的调优策略。
3.性能&精度校验

提供工具,定量分析推理耗时,指定模型输出进行精度误差分析,保证切换到昇腾后性能提升&精度无损。

自动驾驶

 

 

1.感知、仿真算法性能深度优化
自动驾驶全链路算法深度优化,针对特有的感知、仿真生成相关算法深度优化,性能提升明显。
2.大规模分布式训练
实现大规模分布式训练,支撑PB级数据训练。
3.算力升级

快速供应,支撑昇腾云算力升级,加速客户算法迭代。

 

 

内容审核

 

深入业务场景,提供完备成熟的内容审核/CV场景快速昇腾迁移的方案,高效解决业务内容审核的算力/国产化需求,助力企业业务稳健发展。

1.快速迁移评估
昇腾迁移工具链快速提供,模型算子分析,模型精度诊断,模型性能测试,模型性能调优,模型转换能力。
2.降本增效
在审核场景中,昇腾芯片综合性能对比友商显著提升。