AlphaGo击败围棋世界冠军李世石以来，关于人工智能和深度学习的研究呈现井喷之势。
各种新的算法和网络模型层出不穷，令人眼花缭乱。与之相随的，深度学习的训练和推理框架也在不断的推陈出新，比较著名的有：微软的CNTK、Google的TensorFlow、Facebook的PyTorch、Apple的CoreML、Intel 的OpenVINO、英伟达的cuDNN和TensorRT、腾讯的TNN和NCNN、阿里的MNN等等。
这些框架都有相似之处，他们的输入是一个或者一组多维数据，数据经过多层运算单元之后输出运算结果。训练框架支持BackPropogation等训练方法，可以自动调整模型参数，用于算法设计。推理框架则是单纯只能用于模型推理运算，不能调整模型本身，用于算法部署落地。
这些框架中，Google的TensorFlow的这个名字尤其具有美感。多维数据是为张量(Tensor)，数据在多层运算单元中的运算和传递是为流(FLow)，看到这个词就仿佛看到了一个数据和运算的图(Computation Graph)，真可谓妙手偶得之佳作。这些框架都需要构建算子，并且将这些算子按照一定的次序连接起来，可以称之为网络模型。
Why ONNX？
每个深度学习框架都有自己独有的格式来解释和存储网络模型，并且这些框架的侧重点不同，有些用于训练学习，有些用于部署推理。在深度学习算法开发中，在不同的阶段会选择不同的框架，所以模型描述格式的不同，在客观上造成了深度学习算法开发和落地的困难。
笔者之前曾开发深度神经网络算法，当时选择的训练框架是Caffe，需要落地部署到Linux、iOS、Android等多个平台。Linux选择的是Nvidia的cuDNN；iOS选择的是CoreML；Android选择的是NNAPI，Caffe的模型描述格式是caffemodel。
它使用自定义的Protobuf (github.com/BVLC/caffe/tree/master/src/caffe/proto)，但是显然，无论是cuDNN、CoreML、NNAPI都无法直接使用caffemodel，CoreML的模型描述使用另一种定义 (apple.github.io/coremltools/mlmodel/index.html)，cuDNN和NNAPI都是low-level的推理引擎，需要使用者将这个模型组装起来。
对于CoreML来说，我们需要把caffemodel转为coremlmodel格式，对于 cuDNN和NNAPI，我们需要解析caffemodel，然后自己组装出完整的网络模型。这个过程繁琐而且容易出错，当时有强烈的冲动，希望定义一个统一的模型描述格式，所有的训练框架训练所得的网络模型，都是用这个格式来描述，在设备上部署推理时，相应的推理引擎支持解析这个统一的描述格式，直接完成部署落地，岂不美哉。
当然此事并不容易，要定义个统一的模型描述格式，不仅仅需要对机器学习技术有深入的理解，而且将之推广成为事实上的行业标准，更需要有很大的行业影响力，并不是如笔者这样的无名小卒可以为之。所幸已经有社区在做这个事情了，这就是Open Neural Network Exchange(ONNX)。
用ONNX自己的话来说，ONNX是一个对计算网络(Computation Graph)的一个通用描述(Intermediate Representation)。它希望被设计成为开放的网络描述格式，减少开发者在各个训练和推理框架间切换的代价，可以让开发者专注于算法和优化。虽然ONNX还处于比较早期的阶段，不过已经有约来越多的人开始关注到它，未来会有机会得到更广泛的应用。
计算模型描述
ONNX有两个分类：基础的ONNX主要用于描述神经网络、ONNX-ML是对基础ONNX的扩展，增加了神经网络之外的其他机器学习算法的支持。本文不会涉及ONNX-ML，接下来的文字以一个简单的ONNX模型为例，介绍一下 ONNX是如何来描述一个计算网络的。该模型可以在ONNX的Github上下载。
ONNX的模型描述采用了Google的Protocol Buffer语言。最外层的结构是ModelProto，ModelProto的定义如下：
messageModelProto{int64ir_version=1;repeatedOperatorSetIdProtoopset_import=8;stringproducer_name=2;stringproducer_version=3;stringdomain=4;int64model_version=5;stringdoc_string=6;GraphProtograph=7;repeatedStringStringEntryProtometadata_props=14;repeatedTrainingInfoPrototraining_info=20;repeatedFunctionProtofunctions=25;}比较重要的字段有: lr_version : 当前的ONNX模型文件的版本， 目前发布的最新版本为IR_VERSION_2019_3_18 = 6. 发布于2019年，版本7还在制定中. opset_import: 当前的模型文件所依赖的算子domain和版本. graph: 这个模型执行的运算图， 这个是最重要的字段.
GraphProto的定义如下：
messageGraphProto{repeatedNodeProtonode=1;stringname=2;//namespaceGraphrepeatedTensorProtoinitializer=5;repeatedSparseTensorProtosparse_initializer=15;stringdoc_string=10;repeatedValueInfoProtoinput=11;repeatedValueInfoProtooutput=12;repeatedValueInfoProtovalue_info=13;repeatedTensorAnnotationquantization_annotation=14;}比较重要的字段有: initializer : 模型的每一网络层的参数, 模型训练完成之后参数就被固定下来. input : 模型的输入格式. output : 模型的输出格式. nodes : 定义了模型的所有运算模块， 依照推理的次序排布.
NodeProto的定义如下：
messageNodeProto{repeatedstringinput=1;//namespaceValuerepeatedstringoutput=2;//namespaceValuestringname=3;//namespaceNodestringop_type=4;//namespaceOperatorstringdomain=7;//namespaceDomainrepeatedAttributeProtoattribute=5;stringdoc_string=6;}比较重要的字段有: input : 输入参数的名字. output : 输出参数的名字， 这里需要留意的是， 每一个网络层之间的连接使用输入和输出的名字来确立的. op_type : 算子的类型. attributes : 算子的属性， 其解析取决于算子的类型.
ONNX中最复杂的部分就是关于各种算子的描述， 这也可以理解， 构成神经网络的主体就是这些算子. attributes 就是算子的一组带名字的属性. 本文中， 我们介绍一个在mobilenetv2-7.onnx使用最多的算子: conv.
卷积神经网络在语音，图像，视频等处理上获得了巨大成功. ONNX关于卷积网络层的属性定义主要有: dilations: 扩展卷积， 默认为1， 即普通卷积. 其数学定义如下
普通卷积扩展卷积group: 分组卷积, 其定义见文献14. 默认为1， 即不分组. kernel_shape: 定义了卷积核的大小. pads: 定义了上下左右填充的像素数. strides: 定义了卷积运算的步长。
ONNX的支持情况
各家的训练和推理框架还在继续发展， ONNX想成为行业标准显然还为时尚早， 但是目前尚没有看到其他更好的通用模型描述格式， 我们简单归纳一下现在的ONNX的支持情况(不完整)：