博客

MegEngine 版本最新发布!新增支持寒武纪思元系列 AI 芯片训练和推理
作者:MegEngine 发布日期:2024/01/02

近日,MegEngine 在 v1.13.3 正式完成了与国内 AI 芯片独角兽寒武纪旗下云端人工智能处理器芯片的兼容性适配。MegEngine 与 寒武纪目前完成了常见 cv 模型的算子适配,这也标志着寒武纪端云一体的人工智能芯片,与 MegEngine 深度学习框架的成功融合。

如何在寒武纪上运行 MegEngine

MegEngine 寒武纪安装说明

  • 安装的前置条件:
    • 安装寒武纪 MLU 驱动,sdk-1.13.0-driver
    • 安装 cntoolkit, cnnl, cnnl_extra, cncl, cnlight
    • 安装 MagicMind
  • 安装方式:通过源码编译安装
    • 下载源码&编译
git clone https://github.com/MegEngine/MegEngine.git megengine
cd megengine
# 构建用于编译并打包的 docker 镜像
./scripts/whl/manylinux2014/build_image.sh
# 下载 mkl 依赖
./third_party/install-mkl.sh
# 编译并打包
export ALL_PYTHON="39"  # 指定编译的 python 版本,可选 36m 37m 38 39 310
export NEUWARE_HOME=/usr/local/neuware # 指定寒武纪 sdk 安装路径
./scripts/whl/manylinux2014/build_wheel_common.sh -sdk neuware113
  • 安装与验证生成的whl包
    • 安装生成的 whl 包,并进行测试
cd megngine
pip3 install ./scripts/whl/manylinux2014/output/wheelhouse/neuware113/MegEngine-1.9999.0+neuware113-cp39-cp39-manylinux2014_x86_64.whl
# 验证是否编译成功
python3 -c "import megengine as mge; print(mge.is_cambricon_available()); print(mge.Tensor([1.]))"
    • 输出类似以下内容,表示安装成功
True
06 14:03:06[mgb] cambricon: card0: name=`MLU370' dyn_mem_reserve=0.00MiB alignment=0x100
Tensor([1.], device=xpux:0)
  • MegEngine 寒武纪训练示例见 cambircon_train

关于寒武纪

寒武纪成立于 2016 年,专注于人工智能芯片产品的研发与技术创新,致力于打造人工智能领域的核心处理器芯片,让机器更好地理解和服务人类。寒武纪提供云边端一体、软硬件协同、训练推理融合、具备统一生态的系列化智能芯片产品和平台化基础系统软件。寒武纪产品广泛应用于服务器厂商和产业公司,面向互联网、金融、交通、能源、电力和制造等领域的复杂 AI 应用场景提供充裕算力,推动人工智能赋能产业升级。

关于 MegEngine

开源深度学习框架旷视天元(MegEngine)是旷视自主研发的国产工业级深度学习框架 ,是旷视新一代 AI 生产力平台 Brain++ 的最核心组件,在2020年3月正式向全球开发者开源 。MegEngine 凭借其训练推理一体、超低硬件门槛和全平台高效推理 3 大核心优势,能够帮助企业与开发者大幅节省产品从实验室原型到工业部署的流程,真正实现小时级的转化能力。

更多 MegEngine 信息获取,您可以:查看文档、和 GitHub 项目,或加入 MegEngine 用户交流 QQ 群:1029741705。欢迎参与 MegEngine 社区贡献,成为 Awesome MegEngineer,荣誉证书、定制礼品享不停。

查看更多

上一篇: 分享

MegEngine dataloader 新工具帮助定位性能瓶颈,快来体验吧!

下一篇: 分享

MegEngine 11-12 双月报:新版本发布,开发者福利课程,MegEngine 使用技巧,精彩不容错过!

相关推荐
  • MegEngine 正式支持 XLA 啦!

    2023/12/13

  • 一个深度学习框架的年度报告

    2022/12/30

  • MegEngine 11-12 双月报:新版本发布,开发者福利课程,MegEngine 使用技巧,精彩不容错过!

    2024/01/05

  • MegEngine dataloader 新工具帮助定位性能瓶颈,快来体验吧!

    2023/12/19

  • 旷视天元Beta版核心技术升级全面解读

    2020/07/24