python在深度学习领域很火,做实验用python很舒服,但是生产环境下可能还是需要c/c++. 那么问题来了, mxnet训练出来的模型如何在c/c++下调用? 以下是一些填坑的经验分享一下

• mxnet支持c/c++调用模型,但目前不是全部的网络模型都支持
  这个和版本相关,总之是没有完全支持,做好心理准备

• c++做预测的sample codes 就是 image-classification-predict.cc
  在mxnet源码的example目录下搜索这个文件名即可找到.
  编译这个文件需要

  1. c_predict_api.h (同样在mexnet源码中搜索)
  2. libmxnet.dll
  3. libmxnet.lib

  运行这个文件则至少需要三个文件

  1. 模型文件(*.json)
  2. 权重文件(*.params)
  3. synset.txt
     mxnet源码中给的例子很复杂,但看代码似乎两列就够了.用空格分割的两列,第一列似乎没什么用,第二列就是label names, 一行表示一类,比如对于mnist识别,synset.txt内容可以如下
     
0 0
1 1
2 2
3 3
4 4
5 5
6 6
7 7
8 8
9 9

     除了这三个文件外,还有一个mean文件,表示像素均值,但可以不输入,程序默认使用通道均值

  另外这个cc文件同目录下有README.md,提供了两个地方下载运行需要的模型数据,百度云那个
  下载的似乎有问题,create()失败,不知道是什么原因.另一个http://data.mxnet.io/mxnet/models/imagenet/inception-bn.tar.gz是可以的

• gluon对模型导出支持度还不高,最好让网络继承gluon.HybridBlock,利用exports()接口
  对于旧的接口,导出模型文件和权重文件没什么问题,但是gluon接口对导出模型文件支持还不好,目前只找到了继承gluon.HybridBlock的方法,利用exprots可以导出两个文件,否则只能得到权重文件,无法得到模型文件(gluon.Block是动态图,不知道是不是这个原因导致无法保存模型文件)

• 一个参考代码
  包括一个训练程序,在mnist做训练.和一个cpp代码调用训练结果,做OCR