-
参考 CMake-Build,构建 Forward-Cpp 库。
-
拷贝
build/bin目录下的libfwd_torch.so(libfwd_tf.so,libfwd_keras.so,libfwd_onnx.so) 和libtrt_engine.so到libs目录下。 -
修改
build.sh中的TensorRT_ROOT。如果需要测试test_fwd_torch.cpp或者test_fwd_tf.cpp或者test_fwd_onnx.cpp,则需要同时修改ENABLE_TORCH=ON或ENABLE_TENSORFLOW=ON或ENABLE_ONNX=ON,以及LibTorch或LibTensorflow。 -
更新
test_fwd_engine.cpp,test_fwd_tf.cpp或test_fwd_torch.cpp或test_fwd_onnx.cpp中的model_pathandinput informations。 -
执行
build.sh编译 demo 项目。
注意: 模型输入名可通过模型查看器来查看, 例如用 Netron 查看。