编译并使用基于华为CANN的ONNXRUNTIME C++库
为ONNXRUNTIME启用CANN支持,以无缝支持华为昇腾计算设备的C++开发。
ONNX Runtime官方提供了CANN支持的预编译包,但是只支持Python。如果需要C++支持,则需要自行编译。本文介绍了以华为CANN作为ONNX Runtime Executin Provider的ONNX Runtime C++库编译、安装与使用方法。
遵照官方文档,CANN与ONNX Runtime的支持矩阵如下:
ONNX Runtime | CANN |
---|---|
1.12.1 | 6.0.0 |
1.13.1 | 6.0.0 |
1.14.0 | 6.0.0 |
1.15.0 | 6.0.0 |
这里选取最新的1.15.0版本。