TensorFlow平台下的手写字符识别

张俊+李鑫

摘要：基于谷歌第二代人工智能学习系统TensorFlow，构建BP神经网络模型。将手写字符作为训练集输入神经网络，训练过程中不断调整权值和阈值，最终得到有较高识别精度的模型。体现了TensorFlow在提高建模、编程、分析效率中的作用。通过此开发流程介绍，为进一步使用TensorFlow构建复杂神经网络提供了参考。

关键词：人工智能；TensorFlow；BP神经网络

中图分类号：TP18 文献标识码：A 文章编号：1009-3044（2016）16-0199-03

Abstract：Based on Google's second generation of artificial intelligence learning system—TensorFlow， build a BP neural network model. Use handwritten characters as training set of inputs of neural network， constantly revise weight value and threshold value in the process of training， and get a higher identification precision of the model. It Embodies the TensorFlows effect in improving the efficiency of modeling， programming and analysis. Through introducing the development process， It provides reference which use TensorFlow building complex neural networks.

Key words：artificial intelligence； TensorFlow； BP neural networks

1 概述

目前，手写字符的识别方法已经有多种，如支持向量机、BP神经网络、KNN、朴素贝叶斯方法等。其中BP神经网络作为一种经典的模式识别工具，应用广泛。将BP神经网络应用于手写字符识别，具有识别速度快、分类能力强、有较好的容错性能和学习能力的优点。

TensorFlow是一个采用数据流图，用于数值计算的开源软件库。它通过构建有向图来描述所要执行的操作，可以灵活的使用设备中的CPU或者GPU展开计算。TensorFlow提供了构建神经网络的接口，因此便于构建BP神经网络，简化编程任务。与传统平台构建的识别模型相比，提高了效率。

2 TensorFlow深度学习平台

2.1 TensorFlow平台特性

TensorFlow使用灵活，无论是个人PC还是大规模GPU计算集群，TensorFlow都能够灵活的在这些平台运行，使用 TensorFlow 表示的计算也可以在这些平台上方便地移植。目前，TensorFlow已经被应用于机器学习系统，以及和计算机科学相关的领域，例如计算机视觉、语言识别、信息检索、机器人、地理信息抽取、自然语言理解和计算药物发现等。TensorFlow灵活的特性也可以用来表示很多的算法，比如推断算法和深度神经网络的训练等。

TensorFlow采用数据流计算，其表达的数据流计算由一个有向图表示，这个图由一个节点集合组成。在一幅 TensorFlow 图中，每个节点有一个或者多个输入和零个或者多个输出，表示一种操作的实例化。图中的叶子节点通常为常量或者变量，非叶子结点为一种操作，箭头代表的是张量（常量、变量以及节点计算出的结果均可视为张量）的流动方向。

通过在Ubuntu系统上安装TensorFlow库、启用GPU支持即可使用Python语言构建计算图，实现基于神经网络的手写字符识别。

2.2 TensorFlow平台搭建

TensorFlow目前支持Ubuntu系统和MAC OS系统中安装，支持C++和Python两种编程语言。考虑到Python语言的简洁性，本实验采用Python进行程序设计。

1）使用 Virtualenv 创建隔离容器安装 TensorFlow，不会改变不同Python项目的依赖关系，便于进行项目的管理，能使排查安装问题变得更容易。

$ sudo apt-get install python-pip python-dev python-virtualenv

2）在Virtualenv环境下安装TensorFlow的GPU版本：

创建图：TensorFlow使用图来表示计算任务，在执行计算操作之前需要将图构建完成。每一个非叶子节点都视为一种操作，叶子节点则表示特殊的操作类型，比如返回常量值或者变量值。创建图的最后阶段需要向图中添加一个初始化操作的节点，其作用是将所有的变量进行初始化。

启动图：图创建完成后，才能启动图。启动图的第一步是创建一个 Session 对象，如果无任何创建参数，会话构造器将启动默认图。然后进行变量的初始化操作、运行操作节点、更新变量值。

3 BP神经网络设计

BP神经网络是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。学习规则使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。由输入层、隐含层和输出层组成，层与层之间采用全连接方式，同层之间不存在相互连接。

3.1 BP神经网络

3.2 TensorFlow平台实现

本实验采用MNIST手写字符数据集，手写字符为28×28像素的手写数字灰度图像。存储在train-images-idx3-ubyte.gz和train-labels-idx1-ubyte.gz 文件中的60000幅手写字符数据，55000幅作为训练集，5000幅作为验证集。测试集10000幅图像的字符和标签存储在t10k-images-idx3-ubyte.gz和t10k-labels-idx1-ubyte.gz中。

输入层设计：手写字符每一张图片的大小为32×32，一维化后，每一张图片作为输入时需要784个输入层神经元节点，其中None表示输入图片的数目：

4 总结

目前，神经网络被广泛应用于学术界和工业界，但在构建神经网络、优化参数、模型分析方面总是存在着一定的困难。TensorFlow的出现使这种状况得以改善。TensorFlow有着编程简单、优化算法集成度高、使用灵活的特性，利用TensorFlow将会使建模、编程、分析效率大大提高。实验以BP神经网络为例，介绍了TensorFlow平台下神经网络模型构建的一般方法和流程，并且得到了有较高识别精度的模型。对构建更复杂的神经网络具有一定的参考意义。

参考文献：

[1] Abadi M， Agarwal A， Barham P， et al. TensorFlow： Large-scale machine learning on heterogeneous systems， 2015[J]. Software available from tensorflow. org.

[2] 任翠池，杨淑莹，洪俊.基于BP神经网络的手写字符识别[J].天津理工大学学报，2006，22（4）：80-82.

[3] 张斌，赵玮烨，李积宪.基于BP神经网络的手写字符识别系统[J].兰州交通大学学报：自然科学版， 2007，26（1）.

[4] 许宜申，顾济华，陶智，等.基于改进 BP 神经网络的手写字符识别[J].通信技术，2011， 44（5）： 106-109.

[5] 杨勇，谢刚生.基于BP神经网络的手写数字识别[J].华东地质学院学报，2003，26（4）： 383-386.

[6] 金连文，徐秉铮.基于多级神经网络结构的手写体汉字识别[J].通信学报，1997，18（5）.

[7] 李平，蒋振刚.神经网络对手写字符识别特征的提取[J]. 长春光学精密机械学院学报，2000，23（2）： 22-24.

[8] 朱大奇，史慧.人工神经网络原理及应用[M].北京：科学出版社，2006.