onnx/onnxruntime庫(kù)的簡(jiǎn)介

Open Neural Network Exchange（ONNX）是一個(gè)開(kāi)放的生態(tài)系統(tǒng)，賦予AI開(kāi)發(fā)者選擇正確工具的能力，以滿足項(xiàng)目的不斷發(fā)展。ONNX為AI模型提供了開(kāi)源格式，涵蓋深度學(xué)習(xí)和傳統(tǒng)ML。它定義了一個(gè)可擴(kuò)展的計(jì)算圖模型，以及內(nèi)置運(yùn)算符和標(biāo)準(zhǔn)數(shù)據(jù)類(lèi)型的定義。目前，我們專(zhuān)注于推理（評(píng)分）所需的功能。

ONNX被廣泛支持，并可在許多框架、工具和硬件中找到。在不同框架之間實(shí)現(xiàn)互操作性并簡(jiǎn)化從研究到生產(chǎn)的路徑，有助于增加AI社區(qū)的創(chuàng)新速度。我們邀請(qǐng)社區(qū)加入我們，并進(jìn)一步發(fā)展ONNX。

GitHub地址：GitHub - onnx/onnx: Open standard for machine learning interoperability

onnx/onnxruntime庫(kù)的安裝pip install onnx pip install -i https://pypi.tuna./simple onnx pip install -i https://pypi.tuna./simple onnxruntime

onnx/onnxruntime庫(kù)的使用方法

1、基礎(chǔ)用法import onnx import onnxruntime as ort # 加載ONNX模型 model = onnx.load("model.onnx") # 打印模型信息 print(onnx.helper.printable_graph(model.graph)) # 創(chuàng)建ONNX運(yùn)行時(shí) ort_session = ort.InferenceSession("model.onnx") # 準(zhǔn)備輸入數(shù)據(jù) input_data = np.random.rand(1, 3, 224, 224).astype(np.float32) # 推理 ort_inputs = {ort_session.get_inputs()[0].name: input_data} ort_outputs = ort_session.run(None, ort_inputs) # 輸出結(jié)果 print(ort_outputs)