编译并使用基于华为CANN的ONNXRUNTIME C++库

为ONNXRUNTIME启用CANN支持,以无缝支持华为昇腾计算设备的C++开发。

编译并使用基于华为CANN的ONNXRUNTIME C++库

ONNX Runtime官方提供了CANN支持的预编译包,但是只支持Python。如果需要C++支持,则需要自行编译。本文介绍了以华为CANN作为ONNX Runtime Executin Provider的ONNX Runtime C++库编译、安装与使用方法。

遵照官方文档,CANN与ONNX Runtime的支持矩阵如下:

ONNX Runtime CANN
1.12.1 6.0.0
1.13.1 6.0.0
1.14.0 6.0.0
1.15.0 6.0.0

这里选取最新的1.15.0版本。

转发至

微信扫一扫分享

WeChat QR Code

有AI相关的想法,但不知道怎么落地?

我是国冰,独立AI开发者。十多年技术一线——半导体显示、智慧城市到自动驾驶;现在一个人+AI,接AI落地项目,从梳理需求到系统落地,陪你走通。

微信聊聊 微信二维码 看我能做什么