一般来说，神经网络分为模型，训练和测试，则通常可以包含三个文件，即model.py、train.py和test.py。下面以MNIST手写体数字识别的LeNet-5为例，完整搭建该神经网络。
1.mnist_inference.py
import tensorflow as tf
# 定义神经网络结构相关的参数
INPUT_NODE = 784 # 输入层的节点数。对于MNIST数据集，这个就等于图片的像素
OUTPUT_NODE = 10 # 输出层的节点数。这个等于类别的数目。
# 因为在MNIST数据集中,需要区分的是0~9这10个数字，所以这里输出层的节点数为10
# 定义与样本数据相关的参数
IMAGE_SIZE = 28 # 图像尺寸
NUM_CHANNELS = 1 # 通道数
NUM_LABELS = 10 # 手写数字类别数目
# 第一层卷积层的尺寸和深度
C0NV1_DEEP = 32
C0NV1_SIZE = 5
# 第二层卷积层的尺寸和深度
CONV2_DEEP = 64
CONV2_SIZE = 5
# 全连接层的节点个数
FC_SIZE = 512
def inference(input_tensor, train, regularizer):
"""
定义卷积神经网络的前向传播过程。这里添加了一个新的参数train，用于区分训练过程和测试过程。
在这个程序中将用到dropout方法，dropout可以进一步提升模型可靠性并防止过拟合，dropout过程只在训练时使用。
"""
# 声明第一层卷积层的变量并实现前向传播过程。
# 通过使用不同的命名空间来隔离不同层的变量，这可以让每一层中的变量命名只需要考虑在当前层的作用，而不需要担心重名的问题。
# 和标准LeNet-5模型不大一样，这里定义的卷积层输入为28x28x1的原始MNIST图片像素。
# 因为卷积层中使用了全0填充，所以输出为28x28x32的矩阵。
with tf.variable_scope('layer1-conv1'):
# 定义过滤器或者卷积核
conv1_weights = tf.get_variable("weight",
[C0NV1_SIZE, C0NV1_SIZE, NUM_CHANNELS, C0NV1_DEEP],
initializer=tf.truncated_normal_initializer(stddev=0.1))
conv1_biases = tf.get_variable("bias", [C0NV1_DEEP], initializer=tf.constant_initializer(0.0))
# 使用边长为5，深度为32的过滤器，过滤器移动的步长为1，且使用全0填充。
conv1 = tf.nn.conv2d(input_tensor, conv1_weights, strides=[1, 1, 1, 1], padding='SAME')
# bias_add:Adds `bias` to `value`.
relu1 = tf.nn.relu(tf.nn.bias_add(conv1, conv1_biases))
# 实现第二层池化层的前向传播过程。这里选用最大池化层，池化层过滤器的边长为2，
# 使用全0填充且移动的步长为2。这一层的输入是上一层的输出，也就是28x28x32的矩阵。输出为14x14x32的矩阵。
with tf.name_scope("layer2-pool1"):
pool1 = tf.nn.max_pool(relu1, ksize=[1, 2, 2, 1], strides=[1, 2, 2, 1], padding='SAME')
# 声明第三层卷积层的变量并实现前向传播过程。这一层的输入为14x14x32的矩阵。输出为14x14x64的矩阵。
# 通过tf.get_variable的方式创建过滤器的权重变量和偏置项变量。
with tf.variable_scope("layer3-conv2"):
conv2_weights = tf.get_variable("weight", [CONV2_SIZE,
CONV2_SIZE,
C0NV1_DEEP,
CONV2_DEEP],
initializer=tf.truncated_normal_initializer(stddev=0.1))
# 卷积层的参数个数只与过滤器的尺寸、深度以及当前层节点矩阵的深度有关，
# 所以这里声明的参数变量是一个四维矩阵，
# 前面两个维度代表了过滤器的尺寸，第三个维度表示当前层的深度，即通道个数，第四个维度表示过滤器的深度,即个数。
conv2_biases = tf.get_variable("bias", [CONV2_DEEP], initializer=tf.constant_initializer(0.0))
conv2 = tf.nn.conv2d(pool1, conv2_weights, strides=[1, 1, 1, 1], padding='SAME')
# 使用边长为5,深度（个数）为64的过滤器，过滤器移动的步长为1，且使用全0填充。
# tf.nn.Conv2d提供了一个非常方便的函数来实现卷积层前向传播的算法。这个函数的第一个输入为当前层的节点矩阵，即输入张量。
# 注意这个矩阵是一个四维矩阵，后面三个维度对应一个节点矩阵（输入张量），第一维对应一个输入batch。
# 比如在输入层，input [0,:，:,:]表示第一张图片，input [1,:，:,:]表示第二张图片，以此类推。
# tf.nn.Conv2d第二个参数提供了卷积层的权重,即过滤器（卷积核），第三个参数为不同维度上的步长。
# 虽然第三个参数提供的是一个长度为4的数组，但是第一维和最后一维的数字要求一定是1。
# 这是因为卷积层的步长只对矩阵的长和宽有效。
# 最后一个参数是填充(padding)的方法，TensorFlow中提供SAME或是VALID两种选择。其中SAME表示添加全0填充
relu2 = tf.nn.relu(tf.nn.bias_add(conv2, conv2_biases))
# tf.nn.bias_add提供了一个方便的函数给每一个节点加上偏置项。注意这里不能直接使用加法，
# 因为矩阵上不同位置上的节点都需要加上同样的偏置项。虽然下一层神经网络的大小为2*2,但是偏置项只有一个数(因为深度为1),
# 而2*2矩阵中的每一个值都需要加上这个偏置项。
# 实现第四层池化层的前向传播过程。这一层和第二层的结构是一样的。
# 这一层的输入为14x14x64的矩阵，输出为7x7x64的矩阵。
with tf.name_scope("layer4-pool2"):
pool2 = tf.nn.max_pool(relu2, ksize=[1, 2, 2, 1], strides=[1, 2, 2, 1], padding='SAME')
# 将第四层池化层的输出转化为第五层全连接层的输入格式。第四层的输出为7x7x64的矩阵，
# 然而第五层全连接层需要的输入格式为向量，所以在这里需要将这个7x7x64的矩阵拉直成一个向量。
# pool2.get_Shape函数可以得到第四层输出矩阵的维度而不需要手工计算。
# 注意,因为每一层神经网络的输入输出都为一个batch的矩阵，所以这里得到的维度也包含了一个batch中数据的个数。
pool_shape = pool2.get_shape().as_list()
# 计算将矩阵拉直成向量之后的长度，这个长度就是矩阵长宽及深度的乘积。
# 注意这里pool_shape[0]为一个batch中数据的个数。
nodes = pool_shape[1] * pool_shape[2] * pool_shape[3]
# 通过tf.reshape函数将第四层的输出变成一个batch的向量。
reshaped = tf.reshape(pool2, [pool_shape[0], nodes])
# 声明第五层全连接层的变量并实现前向传播过程。这一层的输入是拉直之后的一组向量，
# 向量长度为7x7x64＝3136，输出是一组长度为512的向量。此处引入了dropout的概念。
# dropout在训练时会随机将部分节点的输出改为0。dropout可以避免过拟合问题，从而使得模型在测试数据上的效果更好。
# dropout一般只在全连接层而不是卷积层或者池化层使用。
with tf.variable_scope("layer5-fc1"):
fc1_weights = tf.get_variable("weight", [nodes, FC_SIZE],
initializer=tf.truncated_normal_initializer(stddev=0.1))
# 只有全连接层的权重需要加入正则化
# 当给出了正则化生成函数时，将当前变量的正则化损失加入名字为losses的集合。
# 在这里使用了add_to_collection函数将一个张量加入一个集合，而这个集合的名称为losses。
# 注意这是自定义的集合，不在TensorFlow自动管理的集合列表中。
if regularizer != None:
tf.add_to_collection('losses', regularizer(fc1_weights))
fc1_biases = tf.get_variable('bias', [FC_SIZE], initializer=tf.constant_initializer(0.1))
fc1 = tf.nn.relu(tf.matmul(reshaped, fc1_weights) + fc1_biases)
# 如果train为真，进行dropout，如果为假，就不进行
if train:
fc1 = tf.nn.dropout(fc1, 0.5)
# 声明第六层全连接层的变量并实现前向传播过程。这一层的输入为一组长度为512的向量，
# 输出为一组长度为10的向量。这一层的输出通过Softmax之后就得到了最后的分类结果。
with tf.variable_scope('layer6-fc2'):
fc2_weights = tf.get_variable("weight", [FC_SIZE, NUM_LABELS],
initializer=tf.truncated_normal_initializer(stddev=0.1))
if regularizer != None:
tf.add_to_collection('losses', regularizer(fc2_weights))
fc2_biases = tf.get_variable("bias", [NUM_LABELS], initializer=tf.constant_initializer(0.1))
logit = tf.matmul(fc1, fc2_weights) + fc2_biases
# 返回第六层的输出。
return logit
2.mnist_train.py
import tensorflow as tf
import numpy as np
from tensorflow.examples.tutorials.mnist import input_data
# 加载mnist_inference.py中定义的常量和前向传播的函数
import mnist_inference
# 配置实现指数衰减学习率的相关参数
BATCH_SIZE = 100
# 一个训练batch中的训练数据个数。
# 数字越小时，训练过程越接近随机梯度下降；
# 数字越大时，训练越接近梯度下降
LEARNING_RATE_BASE = 0.01 # 基础的学习率
LEARNING_RATE_DECAY = 0.99 # 学习率的衰减系数
# 配置实现正则化的相关参数
REGULARAZTION_RATE = 0.0001 # 正则化项的权重
# 配置实现滑动平均模型的相关参数
MOVING_AVERAGE_DECAY = 0.99 # 滑动平均模型的衰减率
# 训练迭代轮数
TRAINING_STEPS = 80000
def train(mnist):
"""
定义输入输出placeholder，其中mnist_inference.INPUT_NODE为784，mnist_inference.OUTPUT_NODE为10。
TensorFlow提供了tf.contrib.layers.l2_regularizer函数，它可以返回一个函数，这个函数可以计算一个给定参数的l2正则化项的值。
类似的，tf.contrib.layers.l1_regularizer可以计算L1正则化项的值
"""
# 调整输入数据placeholder的格式，输入为一个四维矩阵。第一维表示一个batch中样例的个数；
# 第二维和第三维表示图片的尺寸；第四维表示图片的深度，对于RBG格式的图片，深度为３。
x = tf.placeholder(tf.float32, [BATCH_SIZE,
mnist_inference.IMAGE_SIZE,
mnist_inference.IMAGE_SIZE,
mnist_inference.NUM_CHANNELS], name='x-input1')
y_ = tf.placeholder(tf.float32, [None, mnist_inference.OUTPUT_NODE], name='y-input')
regularizer = tf.contrib.layers.l2_regularizer(REGULARAZTION_RATE) # 返回一个可以计算l2正则化项的函数
y = mnist_inference.inference(x, True, regularizer)
# 直接使用mnist_inference.py中定义的前向传播过程
global_step = tf.Variable(0, trainable=False)
# 定义存储训练轮数的变量，这个变量不需要计算滑动平均值，所以这里指定这个变量为不可训练的变量(trainable=False)。
# 在使用tensorflow训练神经网络时，一般会将代表训练轮数的变量指定为不可训练的参数
variable_averages = tf.train.ExponentialMovingAverage(MOVING_AVERAGE_DECAY, global_step)
# 给定滑动平均衰减率和训练轮数的变量，初始化滑动平均类，ExponentialMovingAverage还提供了num_updates参数
# 来动态设置decay的大小，因此，通过给定训练轮数的变量可以加快训练早期变量的更新速度
variables_averages_op = variable_averages.apply(tf.trainable_variables())
# 在所有代表神经网络参数的变量上使用滑动平均。其他辅助变量（比如global_step ）就不需要了。
# tf.trainable_variables()返回的就是图上集合GraphKeys.TRAINABLE_VARIABLES中的元素。
# 这个集合的元素就是所有没有指定trainable=False的参数
cross_entropy = tf.nn.sparse_softmax_cross_entropy_with_logits(logits=y, labels=tf.argmax(y_, 1))
# 因为交叉熵一般会与softmax回归一起使用，所以TensorFlow对这两个功能进行了统一封装，
# 并提供了tf.nn.softmax_cross_entropy_with_logits函数。比如：
# cross_entropy = tf.nn.softmax_cross_entropy_with_logits（y,y_），
# 其中y代表了原始神经网络的输出结果，而y_代表标准答案，即标签。这样通过一个命令就可以得到使用了softmax回归之后的交叉熵。
# 在只有一个正确答案的分类问题中，TensorFlow还提供了
# tf.nn.sparse_softmax_cross_entropy_with_logits函数来进一步加速计算过程。
# 注意，tf.argmax(vector, axis=1)，其中axis：0表示按列，1表示按行。返回的是vector中的最大值的索引号，
# 如果vector是一个向量，那就返回一个值，如果是一个矩阵，那就返回一个向量，
# 且这个向量的每一个元素都是相对应矩阵行的最大值元素的索引号。
cross_entropy_mean = tf.reduce_mean(cross_entropy)
loss = cross_entropy_mean + tf.add_n(tf.get_collection('losses'))
# get_collection返回一个列表，这个列表包含所有这个losses集合中的元素，这些元素就是损失函数的不同部分，
# 将它们加起来就可以得到最终的损失函数。
# 其中tf.add_n([p1, p2, p3....])函数是实现一个列表的元素的相加。输入的对象是一个列表，列表里的元素可以是向量、矩阵等
learning_rate = tf.train.exponential_decay(LEARNING_RATE_BASE,
global_step,
mnist.train.num_examples / BATCH_SIZE,
LEARNING_RATE_DECAY,
staircase=True)
train_step = tf.train.GradientDescentOptimizer(learning_rate).minimize(loss, global_step=global_step)
# 通过exponential_decay函数生成学习率，使用呈指数衰减的学习率，
# 在minimize函数中传入global_step将自动更新global_step参数，从而使得学习率learning_rate也得到相应更新。
with tf.control_dependencies([train_step, variables_averages_op]):
train_op = tf.no_op(name='train')
# 在训练神经网络模型时，每过一遍数据既需要通过反向传播来更新神经网络中的参数，
# 又要更新每一个参数的滑动平均值。为了一次完成多个操作，TensorFlow提供了tf.control_dependencies机制
saver = tf.train.Saver()
# 初始化TensorFlow持久化类
with tf.Session() as sess:
# 初始化所有变量
init_op = tf.global_variables_initializer()
sess.run(init_op)
# 在训练过程中不再测试模型在验证数据上的表现，验证和测试的过程将会有一个独立的程序来完成。
print("****************开始训练************************")
for i in range(TRAINING_STEPS):
xs, ys = mnist.train.next_batch(BATCH_SIZE)
# 类似地将输入的训练数据格式调整为一个四维矩阵,并将这个调整后的数据传入sess.run过程
reshaped_xs = np.reshape(xs, (BATCH_SIZE,
mnist_inference.IMAGE_SIZE,
mnist_inference.IMAGE_SIZE,
mnist_inference.NUM_CHANNELS))
train_op_renew, loss_value, step = sess.run([train_op, loss, global_step],
feed_dict={x: reshaped_xs, y_: ys})
# print("After %d training step (s) , loss on training batch is %g." % (step, loss_value))
if i % 1000 == 0:
# 每1000轮保存一次模型。
# 输出当前的训练情况。这里只输出了模型在当前训练batch上的损失函数大小。
# 通过损失函数的大小可以大概了解训练的情况。
# 在验证数据集上的正确率信息会有一个单独的程序来生成。
print("After %d training step (s) , loss on training batch is %g." % (step, loss_value))
saver.save(sess,
"./model/model.ckpt",
global_step=global_step)
# 持久化一个简单的tensorflow模型。注意这里给出了global_step参数，这样可以让每个被
# 保存模型的文件名末尾加上训练的轮数，比如“model.ckpt-1000” 表示训练1000轮之后得到的模型。
# 通过 saver.save函数将tensorflow模型保存到了C:\Users\Administrator\Desktop\code\tensorflow\model\model.ckpt文件中。
# 每次保存操作会生成三个文件，这是因为tensorflow会将计算图的结构和图上参数取值分开保存。
# 第一个文件为model.ckpt.meta，它保存了tensorflow计算图的结构；
# 第二个文件为model.ckpt，这个文件中保存了tensorflow程序中每一个变量的取值；
# 最后一个文件为checkpoint文件，这个文件中保存了一个目录下所有的模型文件列表。
print("*******************训练结束****************************")
# 主程序入口
def main(argv=None):
"""
主程序入口
声明处理MNIST数据集的类，这个类在初始化时会自动下载数据
"""
mnist = input_data.read_data_sets("MNIST_data/", one_hot=True)
if mnist != None:
print("*************数据加载完毕*****************")
train(mnist)
# TensorFlow提供的一个主程序入口，tf.app.run会调用上面定义的main函数
if __name__ == '__main__':
tf.app.run()
3.mnist_eval.py
import time
import tensorflow as tf
import numpy as np
from tensorflow.examples.tutorials.mnist import input_data
# 加载mnist_inference.py和mnist_train.py中定义的常量和前向传播的函数
import mnist_inference
import mnist_train
# 每10秒加载一次最新的模型，并在测试数据上测试最新模型的正确率
EVAL_INTERVAL_SECS = 10
def evaluate(mnist):
with tf.Graph().as_default() as g: # 将默认图设为g
# 定义输入输出的格式
x = tf.placeholder(tf.float32, [mnist.validation.images.shape[0],
mnist_inference.IMAGE_SIZE,
mnist_inference.IMAGE_SIZE,
mnist_inference.NUM_CHANNELS], name='x-input1')
y_ = tf.placeholder(tf.float32, [None, mnist_inference.OUTPUT_NODE], name='y-input')
xs = mnist.validation.images
# 类似地将输入的测试数据格式调整为一个四维矩阵
reshaped_xs = np.reshape(xs, (mnist.validation.images.shape[0],
mnist_inference.IMAGE_SIZE,
mnist_inference.IMAGE_SIZE,
mnist_inference.NUM_CHANNELS))
validate_feed = {x: reshaped_xs, y_: mnist.validation.labels}
# 直接通过调用封装好的函数来计算前向传播的结果
# 测试时不关注过拟合问题，所以正则化输入为None
y = mnist_inference.inference(x, None, None)
# 使用前向传播的结果计算正确率
# 如果需要对未知的样例进行分类,使用tf.argmax(y, 1)就可以得到输入样例的预测类别
correct_prediction = tf.equal(tf.argmax(y, 1), tf.argmax(y_, 1))
# 首先将一个布尔型的数组转换为实数，然后计算平均值
# 平均值就是网络在这一组数据上的正确率
# True为1，False为0
accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))
# 通过变量重命名的方式来加载模型
variable_averages = tf.train.ExponentialMovingAverage(mnist_train.MOVING_AVERAGE_DECAY)
variable_to_restore = variable_averages.variables_to_restore()
# 所有滑动平均的值组成的字典，处在/ExponentialMovingAverage下的值
# 为了方便加载时重命名滑动平均量，tf.train.ExponentialMovingAverage类
# 提供了variables_to_store函数来生成tf.train.Saver类所需要的变量
saver = tf.train.Saver(variable_to_restore) # 这些值要从模型中提取
# 每隔EVAL_INTERVAL_SECS秒调用一次计算正确率的过程以检测训练过程中正确率的变化
# while True:
for i in range(2): # 为了降低计算机的压力，此处只利用最后生成的模型对测试数据集做测试
with tf.Session() as sess:
# tf.train.get_checkpoint_state函数
# 会通过checkpoint文件自动找到目录中最新模型的文件名
ckpt = tf.train.get_checkpoint_state("./model")
if ckpt and ckpt.model_checkpoint_path:
# 加载模型
saver.restore(sess, ckpt.model_checkpoint_path)
# 得到所有的滑动平均值
# 通过文件名得到模型保存时迭代的轮数
global_step = ckpt.model_checkpoint_path.split('-')[-1]
accuracy_score = sess.run(accuracy, feed_dict=validate_feed) # 使用此模型检验
# 没有初始化滑动平均值，只是调用模型的值，inference只是提供了一个变量的接口，完全没有赋值
print("After %s training steps, validation accuracy = %g" % (global_step, accuracy_score))
else:
print("No checkpoint file found")
return
time.sleep(EVAL_INTERVAL_SECS)
# time sleep()函数推迟调用线程的运行，可通过参数secs指秒数，表示进程挂起的时间。
def main(argv=None):
mnist = input_data.read_data_sets("MNIST_data/", one_hot=True)
evaluate(mnist)
if __name__ == '__main__':
tf.app.run()
文件结构如下图所示：
