编译并使用基于华为CANN的ONNXRUNTIME C++库

为ONNXRUNTIME启用CANN支持,以无缝支持华为昇腾计算设备的C++开发。

编译并使用基于华为CANN的ONNXRUNTIME C++库

ONNX Runtime官方提供了CANN支持的预编译包,但是只支持Python。如果需要C++支持,则需要自行编译。本文介绍了以华为CANN作为ONNX Runtime Executin Provider的ONNX Runtime C++库编译、安装与使用方法。

遵照官方文档,CANN与ONNX Runtime的支持矩阵如下:

ONNX Runtime CANN
1.12.1 6.0.0
1.13.1 6.0.0
1.14.0 6.0.0
1.15.0 6.0.0

这里选取最新的1.15.0版本。