Pytorch pth 格式轉(zhuǎn)ONNX 格式的詳細過程
背景介紹
PyTorch 訓練的模型，需要在Jetson nano 上部署，jetson 原生提供了TensorRT 的支持，所以一個比較好的方式是把它轉(zhuǎn)換成ONNX 格式，然后在通過ONNX 轉(zhuǎn)換成TensorRT 格式
安裝依賴庫
所以就需要安裝ONNX， 安裝ONNX 具體的版本需要依賴于環(huán)境中的protobuf 和python版本，我的python版本是3.6.9
pip install onnx==1.11.0 pip install onnx-simplifier
安裝ONNX 沒問題，但是安裝onnx-simplifier的時候，Jetson xaviar 上死活安裝不成功
各種報錯
但是，我換到windows 上和ubuntu 服務器上，就很正常的安裝成功了
誰知道Jetson 上為什么安裝失敗的，可以私信我或評論區(qū)告訴我，感謝~
轉(zhuǎn)換成onnx 格式
with torch.no_grad(): torch.onnx.export( model, example, "init.onnx", opset_version=11, input_names=['input'], output_names=['output'])
這樣就能正常導出了
在Jetson XAVIAR 上運行時可能會報如下錯誤
Illegal instruction (core dumped)
執(zhí)行下如下命令即可
export OPENBLAS_CORETYPE=ARMV8
ONNX 轉(zhuǎn)換成TensorRT 格式
在Jetson 上通過trtexec 工具做轉(zhuǎn)換
trtexec --onnx=init.onnx --saveEngine=init.trt --explicitBatch
發(fā)現(xiàn)轉(zhuǎn)換時報如下錯誤：Your ONNX model has been generated with INT64 weights, while TensorRT does not natively support INT64. Attempting to cast down to INT32.
所以需要通過onnx-simplifier 轉(zhuǎn)換一下，轉(zhuǎn)換命令如下
python -m onnxsim init.onnx init_sim.onnx
這樣，就轉(zhuǎn)換成功了，成功之后，后面就可以在TensorRT 上推理了
到此這篇關(guān)于Pytorch pth 格式轉(zhuǎn)ONNX 格式的文章就介紹到這了,更多相關(guān)Pytorch pth 轉(zhuǎn)ONNX 格式內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
pyqt5之將textBrowser的內(nèi)容寫入txt文檔的方法
今天小編就為大家分享一篇pyqt5之將textBrowser的內(nèi)容寫入txt文檔的方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-06-06
python高級搜索實現(xiàn)高效搜索GitHub資源
這篇文章主要為大家介紹了python高級搜索來高效搜索GitHub，從而高效獲取所需資源，有需要的朋友可以借鑒參考下，希望能夠有所幫助2021-11-11
Python pandas DataFrame操作的實現(xiàn)代碼
這篇文章主要介紹了Python pandas DataFrame操作的實現(xiàn)代碼，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2019-06-06
這篇文章主要介紹了python實現(xiàn)馬丁策略的實例詳解,本文給大家介紹的非常詳細，對大家的學習或工作具有一定的參考借鑒價值，需要的朋友可以參考下2021-01-01
Python Web靜態(tài)服務器非堵塞模式實現(xiàn)方法示例
這篇文章主要介紹了Python Web靜態(tài)服務器非堵塞模式實現(xiàn)方法,結(jié)合實例形式分析了Python單進程非堵塞模式實現(xiàn)的Web靜態(tài)服務器相關(guān)操作技巧,需要的朋友可以參考下2019-11-11
這篇文章主要介紹了Python多線程通信queue隊列用法,結(jié)合實例形式分析了Python多線程通信queue隊列相關(guān)概念、原理、用法及操作注意事項,需要的朋友可以參考下2020-03-03
今天小編就為大家分享一篇python利用小波分析進行特征提取的實例，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-01-01
這篇文章主要介紹了Python簡單計算文件夾大小的方法,涉及Python針對目錄的遍歷與文件計算的相關(guān)技巧,具有一定參考借鑒價值,需要的朋友可以參考下2015-07-07
Python如何自動生成環(huán)境依賴包requirements
這篇文章主要介紹了Python如何自動生成環(huán)境依賴包requirements問題,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2025-04-04
Python任務調(diào)度模塊APScheduler使用
這篇文章主要介紹了Python任務調(diào)度模塊APScheduler使用,文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2020-04-04