本篇文章主要介绍如何使用tensorboard来分析在训练过程中损失值、准确率以及权重和偏置的变化，来帮助我们更好的分析系统是不是按照我们的要求进行着。还包括卷积的过程可视化，卷积过程是一个黑箱操作，我们也不知道它究竟做了什么。不过我们可以通过反卷积操作，来完成卷积的可视化，来分析卷积所记住的特征是不是我们想要的。在使用tensorboard来进行可视化分析的时候，主要是利用了手写数字识别来完成的。

一、Tensorboard介绍

tensorboard是TensorFlow自带的一个强大的可视化工具，是一个基于web服务的可视化工具。tensorboard包括了7种可视化，即SCALARS、IMAGES、AUDIO、GRAPHS、DISTRIBUTIONS、HISTOGRAMS和EMBEDDINGS。这几种功能如下：

SCALARS：标量，用来展示训练过程中准确率、损失值、权重/偏置的变化过程。

IMAGES：图片，用来展示训练过程中图片的变化情况。

AUDIO：声音，用来记录训练过程中的音频。

GRAPHS：计算图，用来展示模型的数据流图，以及训练在各个设备上消耗的内存和时间。

DISTRIBUTIONS：数据分布，用来展示训练过程中数据的分布图。

HISTOGRAMS：直方图，用来展示训练过程中数据的直方图。

EMBEDDINGS：嵌入向量，展示词向量后(如word2vec)的投影分布。

二、Tensorboard的使用

tensorflow内置了几个函数用来记录数据的变化

1、记录标量

tf.summary.scalar

参数：

name：生成的节点名称，保存在tensorboard中

tensor：TensorFlow中的张量

2、记录直方图

tf.summary.histogram

参数：

name：生成的节点名称，保存在tensorboard中

tensor：TensorFlow中的张量

3、记录图片

tf.summary.image

参数：

name：生成的节点名称，保存在tensorboard中

tensor：一个4维的tensor([batch_size,height,width,channels])，其中channels为1或3或4，tensor的类型为uint8或float32

max_outputs：在一个batch中记录的图片的数量，默认是3

4、记录数据的分布图

tf.summary.distribution

参数：

name：生成的节点名称，保存在tensorboard中

tensor：TensorFlow中的张量

5、定义一个函数用来记录标量的变化信息

6、卷积的可视化

卷积的可视化，主要是卷积后的结果进行反卷积(卷积的转置)、反卷积的过程其实也是做一个卷积操作，如果经过池化处理和激活函数处理还需要进行反池化和反激活函数。TensorFlow中内置了反卷积函数，目前还没有反池化和反激活函数，需要自己来实现。反卷积函数

tf.nn.conv2d_transpose

参数：

value：卷积之后的输出，是一个4维的tensor，数据类型为float，shape根据data_format参数的设置有关，如果data_format为”NHWC”则shape为[batch,height,width,in_channels],如果data_format为”NCHW”则shape为[batch,in_channels,height,width]。

filter：卷积核，4维的tensor，与卷积的shape有关，shape为[height,width,output_channels,in_channels]，注意output_channels和in_channels的顺序，与卷积刚好相反，需要特别注意，如果shape不匹配则会报错。

output_shape：输出设置

strides：卷积步长

padding：填充方式，为”SAME”或”VALID”与卷积相同。

data_format：数据格式，有两种”NHWC”或”NCHW”，默认为”NHWC”。

三、tensorboard可视化实例

完整源码链接:https://blog.csdn.net/sinat_29957455/article/details/81638650

1、启动tensorboard

在cmd中运行，以下命令

tensorboard -logdir=D:python_workspacemachine_learncom\xiulian ensorflowlog

启动成功之后会出现以下界面，用浏览器访问下面这个网站即可。

2、损失函数和准确率的变化

3、权重和偏置的最大最小值的变化

4、卷积的可视化

输入的图片

第一层卷积

第二层反卷积

注意：在使用反卷积的时候是无法完全复原卷积之前的图片的。在对第二层卷积进行反卷积的时候，需要进行两次反卷积才可以转换为如输入图片的尺寸相同的图片。

四、可能遇到的问题

在使用tensorboard的过程中可能会遇到一些错误，下面将会列举一些，并提供相应的解决方法。在进行反卷积的时候特别容易出错，这里需要特别注意一下。

1、tensorboard启动成功之后，提示no dashboard

检查logdir的路径是否正确，路径中不能含中文、空格等字符。

2、Conv2DSlowBackpropInput: input and out_backprop must have the same batch sizeinput batch: 1outbackprop batch: 50 batch_dim: 0

检查tf.nn.conv2d_transpose函数output_shape参数中的batch是否与训练和测试的batch是否相同，可以根据后面的提示修改就行。这里提示50 batch_dim 0，修改为50就好了。

3、input channels does not match filter’s input channels, 64 != 32

检查tf.nn.conv2d_transpose函数的卷积核shape和output_shape的参数，特别注意卷积核中output_channels和input_channels的顺序。