编译并使用基于华为CANN的ONNXRUNTIME C++库
为ONNXRUNTIME启用CANN支持,以无缝支持华为昇腾计算设备的C++开发。
ONNX Runtime官方提供了CANN支持的预编译包,但是只支持Python。如果需要C++支持,则需要自行编译。本文介绍了以华为CANN作为ONNX Runtime Executin Provider的ONNX Runtime C++库编译、安装与使用方法。
遵照官方文档,CANN与ONNX Runtime的支持矩阵如下:
| ONNX Runtime | CANN |
|---|---|
| 1.12.1 | 6.0.0 |
| 1.13.1 | 6.0.0 |
| 1.14.0 | 6.0.0 |
| 1.15.0 | 6.0.0 |
这里选取最新的1.15.0版本。
有AI相关的想法,但不知道怎么落地?
我是国冰,独立AI开发者。十多年技术一线——半导体显示、智慧城市到自动驾驶;现在一个人+AI,接AI落地项目,从梳理需求到系统落地,陪你走通。
微信聊聊
看我能做什么
看我能做什么