Msnhnet —— 小型 PyTorch 推理框架
Msnhnet 是一个受 Darknet 启发的小型 PyTorch 推理框架。 特性: 由纯c++和cuda编写而成。 支持主流平台,windows, linux, macOS等。 支持主流芯片,intel x86, amd x86(未测试)和arm。 支持x86结构avx加速(持续优化中)。 支持arm结构neon加速(持续优化中)。 支持NNPack(主要为arm框架所用)。 支持Nvidia GPU。 支持Nvidia cuda库(cuda10+)。 支持Nvidia cudnn库(cudnn7+)。 支持Nvidia f16加速(持续优化中,确保显卡支持fp16双倍加速)。 支持Nvidia Jeston系列GPU。 支持c_api。 支持pytorch一键转msnhnet(目前只支持部分Op, 持续更新中)。 支持keras一键转msnhnet(部分Op)。 测试过的网络: lenet5 lenet5_bn alexnet vgg16 vgg16_bn resnet18 resnet34 resnet50 resnet101 resnet152 darknet53 goog...
