测控技术
2018年第37卷第8期
• 5 •
焊缝缺陷图像分类识别的深度置信网络研究
刘梦溪U，巨永锋\\高炜欣2，王征2，武晓朦2
(1.长安大学电子与控制工程学院，陕西西安710064;
2.西安石油大学光电油气测井与检测教育部重点实验室，陕西西安710065)
摘要：由于工业生产中所获取的焊缝缺陷图像背景较为复杂，对其分类识别效率较低，因此提出了一个
由三层受限玻尔兹曼机叠加组成的深度置信网络模型。该网络模型在对焊缝原始图像进行更为全面的 信息抽取前提下，能够借助深度置信网络自下而上对输入信息进行学习与训练的特点，逐渐减少对焊缝 缺陷信息的误判；借助网络最后一层后向传播算法的作用，可以在确保更高正确率的同时缩短收敛时 间，有效提升识别效率;通过与传统的支持向量机和人工神经网络进行对比实验，结果表明深度置信网 络能更为有效地避免过拟合的发生，对于焊缝缺陷的特征识别具有更为理想的精度。
关键词：焊缝缺陷；深度学习；受限玻尔兹曼机;深度置信网络中图分类号 JP391.41;TG441.7 文献标识码:A 文章编号：1000 -8829(2018)08 -0005 -05doi：10.19708/j. ckjs. 2018.08.002
Research on Deep Belief Network for Images Classification and Recognition
Of Weld Defects
LIU Meng-xi1,2, JU Yong-feng1, GAO Wei-xin2, WANG Zheng2, WU Xiao-meng2
(1. School of Electronic Control, Chang5 an University, Xi5 an 710064, China; 2. State Education Commission Key Lab of
Photoelectric Sensor Oil-Gas Prospecting & Measuring Xi5 an Shiyou University, Xi5 an 710065, China)
Abstract： Because of the complex image background of weld defects obtained in industrial production, a deep
belief network ( DBN) model composed of three-layer restricted Boltzmann machine( RBM) is proposed, which can solve the problem of low classification and recognition efficiency of weld defects. Under the precondition of more comprehensive information extraction of the original weld images, the network model can reduce the error of weld defects information by learning and training the input information from the bottom to the top. With the last-layer back propagation (BP) algorithm, DBN can shorten the convergence time and improve the recognition efficiency while ensuring higher accuracy. Compared with the traditional support vector machine ( SVM) and artificial neural network (ANN), the experimental results show that the DBN avoids over-fitting more effectively and has better precision for the weld defects feature recognition.Key words： weld defects; deep learning; restricted Boltzmann machine( RBM); deep belief network( DBN)由于焊接工艺在工业生产中的广泛使用，焊缝质 量检测环节的焊缝探伤是必不可少的。在以X射线 的焊缝缺陷检测中，通常是通过人工对X射线拍摄图 片进行筛选分类从而完成对焊接质量的评估，无论是 检测的效率、精确程度或是产品数据收集、统计与处理
收稿日期:2018 -02-10
等方面都有很大的局限性，使得计算机辅助手段非常
有必要。
在现有X射线获取焊缝数字化特征信息的前提 下，由于焊缝缺陷的种类、大小、几何位置、集散程度等 的不同，想保持较高的检测正确率是比较困难的，因而 图像特征的分类与识别就成为了焦点问题，对此，众多 方法被提出。在图像的处理和提取上，用矢量量化提 高了图像重构质量[1];通过空间金字塔匹配抽取图片 局部特征的空间信息[2];采用稀疏编码[3]、视觉信息 的层次处理[4]、局部感受野[54]等机器学习的方式进 行模式识别和提取视觉特征;在图像的视觉特征学习
基金项目：陕西省自然科学基础研究计划青年人才项目
(2015JQ5129);西安市科技计划项目（2017081CGRC044)
作者简介：刘梦溪（1983—)，女，陕西西安人，博士研究生，讲 师，主要研究方向为图像与信号处理、电气工程及其自动化。
• 6 •
方面，包括了以Coates为代表所提出的浅层学习结构 网络[7]，以及Hinton提出的深度置信网（Deep Belief
Networks，DBN ) [8]、Bengio提出的层叠自动编码机 (Stacked Auto-Encoders，SAE)结构[9]与 Le Cun 提出 的卷积神经网络（Convolutional Neural Networks， CNN) [1°] 3种基本深度学习网络结构;在图像的分类 与识别方面，文献[11 ]使用pr混合模糊控制能够实现 对于焊缝图像的准确追踪；文献[12 ]以支持向量机 (SVM)作为分类器，利用量子遗传算法（QGA)对分类 器的输入特征进行筛选及优化，能取得满意的图像分 类效果;文献[13 ]采用的基于局部约束线性编码方式 能取得较好的特征信息分类;文献[14 ]提出一种经验 模态分解的思路用来抽象出微小瑕疵并分类；文献 [15 ]利用卷积神经网络搭建深度的结构，能减少计算 参数，极大地提高辨识正确率，同时可避免过拟合;文 献[16]通过自动编码机能自学习获取局部的特征信 息，在图像识别上有较好的效果。
通过对现有的文献进行研究发现，图像的提取、识 别和分类还存在一些问题，包括提取方式造成图片的处 理信息保留不够完全;算法局限性造成的焊缝缺陷的分 类与识别的效率较低;结构和参数的设定不能很好地解 决过拟合等。针对此类问题，考虑通过深层置信网络的 非监督贪婪逐层学习的方法实现对焊缝缺陷特征的识 别和分类，以期达到提升焊缝缺陷识别效率的目的。
1深度置信网络研究焊缝缺陷的方法
1.1焊缝图像特征信息的提取
典型的焊缝缺陷类型包括了裂纹、气孔、未焊透、 未熔合、夹渣等，在对原始图像进行处理时需考虑对 尽最大可能保留缺陷信息和不使图像信息发生畸变， 以免影响到后续的图片识别效果。按照一般方式对原 始图片进行处理有存在丢失关键信息的可能性，以气 孔缺陷为例，如图1所示的提取方式，由于气孔所在的 几何位置的不确定性及原始图片大小的差异，使得图 片的提取出现了偏差，造成了焊缝缺陷信息的遗漏。
图1图像特征信息提取不完全
为避免出现以上情况，在图像预处理阶段先将原
始图像处理成不大于256像素x 256像素的图像，为 防止图片畸变，对长、宽较长的一边变换成256,较短 的一边进行等比变换[17_18]。之后，将图像分割为5幅 图片，如图2所示，分别是图像的4个顶点和中心进行
《测控技术》2018年第37卷第8期
所截取的227像素x 227像素图像块，这样一方面可 以实现对图片的特征信息全覆盖，另一方面可以扩充 样本基数，提高识别的精度。
图2
本文采用的图像特征信息提取方法
按照上述方法进行图像分割的算法如下：
Input
Inimage
Output Outlmage
Stepl:计算图像长和宽中较大的一边，记为ma，较小的一边记
为mi;
SteP2:如果mi > 256，以256/mi进行等比变换，变换后的图像记
为Tr;
SteP3:对图像Tr分别从4个顶点和中心进行截取227像素x 227像素的图像块，产生5张训练图像，ffiS〇utImage[0];〇Ut- Image [ 1 ] ; Outlmage [ 2 ] ； Outlmage [ 3 ] ； Outlmage [ 4 ]；Step4:输出 Outlmage
1.2 DBN架构
1.2.1 RBM网络结构
DBN是在受限玻尔兹曼机[19] (Restricted Boltzmann Machine ，RBM) 的基础上搭建的， RBM 是一种无 监督学习模型，如图3所示，由两层神经元构成，分别 为隐含层（Hidden Layer)和可视层（Visible Layer)，作 为特征检测器和输入数据训练使用。
\\
^2 六 3 hj网络中每一个可见层节点和隐藏层节点都有两种 状态:处于激活状态时值为1，表示节点被使用;未被 激活状态值为0,表示节点未被使用。其节点公式分 别可以表示为
P(hj
= 1)_________1_________1 + exp( - bj -(1)
P(^j = 1)
_________1_________1 + exp( - Cj -(2)
每一个RBM都可以作为一个单独的聚类器来使 用，其能量函数的大小可表示为
E(v，h;0) =-vTWh - bTv - cTh=- ^ij W-vJi- - ^i = l
- ^j = 1 cjhj
(3)
焊缝缺陷图像分类识别的深度置信网络研究
式中，％为可视层〖与隐含层y之间的连接权重;^为 可视层〖的偏置;&为可视层y的偏置;0为权值，其更 新计算为
〇(r + l) =〇(r) +ridhiP(v) = 〇(T) +7]X^ (4)
洲 0T式中，T为迭代次数;7；为学习速度。
可视层内的特征向量V和隐含层内的特征向量/! 的联合概率分布为
P(v,h；0) =exP(
=exphTWv+bTv + cTh (5)
式中，^( 0)为配分函数，用来确保概率的归一化。
输入特征向量V的独立分布即边缘分布可表示为
尸〇;0) = ^^y$exp( - E(v，\";0))
(6)
在解决实际问题时，主要目的是求取参数0，以使 式(6)的概率最大时，重构输入样本能与原始样本足 够相似即实现最佳拟合分布。采用Hinton提出的对 比散度（Contrastive Divergence, CD)方法能够实现对
RBM较为迅速的学习，通常只需要一步Gibbs采样[2°] 0 = 1)便可得到很好的近似，从而求取参数I该算法 的流程如下。
Input ： data ： X
learning rate:e momentum ： m
number of hidden layer ： n the max training period ：T
Output ： weight ： w, bias vector c and b.
Initialization ： W- =c- =bL = 0 vx =
For t = 1，2，…，rFor i = 1，2,…，％
% %对所有隐含层
P(K = 1 Ivi) = sigm(
+
3End for
For j = 1,2,-,^
% %对所有可视层
P(h2j = l \\hx) = sigm(
+ c-)
For i = 1，2，…，\\ % %对所有隐含层
P(h2i = l \\Vl) = Sigm( ^,V2iWij + hi)End forUpdate
parameters ：
w=w+e(/?(/i1 =1 Ivjv^ -p(h2 =1 IvJvJ)
c=c+£(p(hl =1 |vj -p(h2 =1 |v2))
b=b +s(vl -v2)
End for
通过表2的学习规则可求得0 = | W，6，C丨，便可 将焊缝处理图像块作为RBM的输入，通过RBM进行 缺陷特征的学习，并输出其缺陷特征信息。
1.2.2 DBN网络结构
在RBM基础上，进行深层DBN的构建，如图4所
示，该结构由3个RBM组成，此结构既可以视为一个 生成模型，也可以作为一个判别模型。DBN的学习可
分为两个过程:无监督贪婪逐层预训练[21] RBM和有 监督 BP( Back Propagation)算法微调0
|
输出^―|
目标
BP
feedback
RBMv3f (••...# #3 \\h2 | WiFine 可unev2,
, H{腿 1——
Fine Tune(
vx[
...
Fine Tune 1
[输又数据丨
图4 DBN网络结构图
其训练过程为:上层的输出数据作为下层的输入 数据来使用，每一个隐含层经过训练得到输入层的传
递信息，即第^个卜< 3) RBM模型在第n - 1个RBM 模型训练后开始，P(\\:，W)的输入为第n - 1个 RBM的输出P( /^，)，而它的输出P( \\ + 1， K + 1)，就构成了第^ + 1个RBM的输入。最终的 输出采用sigmoid作为输出层函数，其公式为
f(x)=Y7^
(7)
DBN结构的最后一层为微调（Fine Tune)，使用
BP算法对判别性能做一个标签集并被附加到顶层，给 从下而上的学习设置BP网络用以调优，因为BP算法 对权值参数空间仅是一个局部的搜索，相较于前向神 经网络来说，训练是较快的，而且收敛的时间也少。
2
实验检测
DBN实验所用到的焊缝缺陷图片来自于工业生 产所拍摄的钢管焊缝缺陷X射线图像，图像规格大小 随机选取，按照1.1节图像特征提取方式进行处理。 2.1浅层网络实验
对于置信网络而言，参数的选取是否合理决定着 网络运行效率的高低。基于此，实验先以单层置信网 络为出发点，讨论神经元个数和权衡参数A的选取对 于焊缝缺陷识别正确率的影响。2.1.1 权衡参数A选取实验
设定神经元个数为500,选取DBN模型第一层中 生成部分和判决部分之间的权衡参数并设定A = [0. 1，1.5]，选取实验对象为焊缝气孔缺陷，评价指标 为正确率和重构误差（训练样本进行一次采样后与原 数据的差异值），实验结果如图5所示。结果表明：随 着A的增大，正确率先增后减，而重构错误率持续上
升，在A = [0.3,0.5]的取值区间，正确率维持在较咼
水平，与此同时，重构误差也较小，故A = [0. 3，0. 5 ]为 较理想取值范围。
00-93
0-- 0-
%/1。9/0/齋
9
_
懌雎31鸳8
侧
7
80
权衡参数A
权衡参数
A
(a
)识别正确率
（b
)重构误差
图5权衡参数和重构误差与正确率的关系
2.1.2神经元节点个数选取实验
对于置信网络的神经元的个数一般采用试错法， 在此基础上采用经验值对网络进行参数设定。通过实 验，设定A =0.3,选取神经元个数分别为200,800, 2000,评价指标为正确率、重构误差、召回率（样本正 确返回的数量与应该返回的数量之比）、F系数（准确 率和召回率的加权平均值），实验结果如图6所示。 结果表明：当神经元数量为200时，重构误差在训练过 程中始终处于最大，正确率在训练中期呈现较高水平， 后期逐渐下降，召回率在训练后期处于较高水平，F系 数在前期和中期处于较高水平;当神经元数量为800 时，各评价指标在训练过程中均处于居中状态;当神经 元数量为2000时，重构误差在训练过程中始终处于最 小，正确率在训练后期呈现较高水平，召回率在训练中 后期维持在较低的水平，F系数在整个训练阶段均较
低。总体来看，神经元为200的模型正确率相对较高， 神经元为2000的模型，其重构误差相对较低。由此可 知，神经元的个数并非越多越好，神经元数量过多容易 造成网络训练算法过于复杂。2.2深层网络实验
对于焊缝缺陷的识别而言，通过参考浅层网络实 验所得到的结果并结合经验数值，对深层置信网络的 参数进行设定，如表1所示。
表1 DBN深层网络参数设置
网络层数
神经元数权衡参数
动量
学习率
迭代次数
112822000.3
0.5
0.09
500
3
200
在参数不发生变化的情况下，分别对一层、两层以
及三层网络进行实验，结果如图7所示。结果表明:在 深度学习的初始阶段，深层网络并未显示出明显的优 势，3种网络的正确率的差异并不明显;在训练后期，
《测控技术》2018年第37卷第8期
%/_逃
奪_
40 80
迭代次数 (a
)重构误差
(b
)正确率
00-95-
%0.85
/齋
回75
印
'0.75
0
40
80
120
0
40
80
120
迭代次数 迭代次数(c)召回率
（d)
F系数
图6 —层DBN网络实验结果
深层置信网络的正确率开始逐步上升直至学习结束， 其正确率明显大于两层和一层的网络。这是因为一方 面RBM训练随着迭代次数增长，性能增长;另一方面， 深层网络在无监督学习的过程中，可以通过训练算法， 对上一层的错误进行筛查，淡化错误信息对识别造成 的影响，并随着置信网络的加深，逐步剔除次要信息， 降低错误识别率，提取更为主要与准确的特征信息从 而达到提高识别精度的目的。
9 0o
0--
%M/8o
H-
HI0.70
200400
迭代次数
图7网络层数对正确率的影响
针对焊缝的主要几个缺陷类型:气孔、裂纹、夹渣、 未熔合未焊透，在对焊缝缺陷的分类识别实验中，选取
同样数量为500的训练样本和测试样本进行识别，并 分别采用浅层网络和深层网络来进行实验，实验结果 如表2所示。结果表明：除了对气孔的识别浅层置信 网络较深层置信网络的训练样本正确率略微偏高以 夕卜，对于其他种类的焊缝缺陷识别深层网络的正确率 均大于浅层网络，在焊缝的分类识别上，深层网络比浅 层网络具有一^定的优势。
为进一步分析DBN的特性，将其与经典的SVM 和人工神经网络(ANN)进行比较学习，两种方法的焊 缝图像采用潜在缺陷跟踪的处理方式[22]，其中ANN同
焊缝缺陷图像分类识别的深度置信网络研究
样采用BP算法，且单层的神经元数和DBN设置相一 致，X彳气孔、裂纹、夹渣、未熔合未焊透分别进行实验，结 果如表3所示。结果表明:两个样本下，DBN都显示出 较高的精确度和良好的稳定性，除此之外，DBN的训练 样本和测试样本的正确率趋于一致，说明深度网络有较 单层网络更好的泛化能力，较好地避免了过拟合。
表2
网络层数与焊缝缺陷正确识别率的关系
焊缝缺陷类型
网络层数
训练正确率/%
测试正确率/%
190.6288.76气孔
289.6387.39389.5289.05189.4588.65裂纹
290.6388.37390.9689.65190.6787.23夹渣
291.4287.46391.9690.431
90.3688.38未熔合未焊透
291.3287.293
91.69
90.65
表3
不同方法与焊缝缺陷正确识别率的关系
焊缝缺陷类型
实验方法
SVM训练正确率/%
测试正确率/%
90.7387.82气孔
ANN85.9584.75DBN90.3689.69SVM89.6786.24裂纹
ANN88.3685.65DBN89.72SVM91.6389.1287.96夹渣
ANN87.9883.24DBN89.2590.13未熔合
SVM88.6985.39未焊透
ANN88.9586.63DBN
90.76
89.39
DBN、SVM、ANN 3种方法各具特点，在焊缝的缺 陷分类识别中，DBN网络显示出优势是因为:SVM可 视为一种浅层学习方式，在梯度特征提取的预算中遗 失了部分特征信息，且随着样本和迭代次数的增加，这 种不足将更加明显;ANN的结构和训练过程与DBN 虽相似，但由于ANN的参数是随机初始化的，当网络 层次较多时，一旦出现错误判断，这个错误信息便会自 下而上的进行传递，因为梯度越来越稀疏，对误差的校 正能力逐渐减弱，顶层的网络参数不能进行更好的训 练，从而降低了正确识别率;而DBN的网络结构和训 练方法弥补了 SVM和ANN的缺陷，因而能达到较为 满意的识别率和识别效果。
3结束语
在对工业焊缝缺陷信息的分类与识别方面，本文
• 9 •
采用了一种DBN结构及训练方式，实验结果显示该方 法具有比其他方法更加有效的分类和识别。一是因为
DBN能够学习到比浅层网络更加概念化的复杂特征； 二是DBN的结构与算法可以淡化错误信息的传递，提 高识别正确率;三是DBN通过深层网络训练，可以最 大程度地保留输入特征的重要信息和学习出概念化特 征，从而实现对焊缝缺陷较为精准的分类。
DBN分类器的学习能力主要依赖于其深层网络 结构和各层神经元的节点数，但是过多的网络层次和 神经元个数将使DBN网络的计算单元和参数增多，计 算趋于复杂，用时增加。对于如何在运算效率和网络 结构之间寻求一种平衡及对于网络结构参数的优化还 有待于进一步的研究。
参考文献：
[1] 郑笔耕，王恒.竞争聚类耦合码字定向移动的图像重构矢
量量化算法设计[〗].测控技术，2015,34(7):31 -35.[2] 甘玲，汪子或.结合稀疏编码和金字塔匹配的视频检索
[J].计算机工程与应用，2013，49(21) : 191 - 194.[3]
Yu Y L,Sun Z Z. Sparse coding extreme learning machine for classification[ J]. Neurocomputing,2017,261 ：50 -56.[4]
Zhang Y,Zhang L J,Bai X Z,et al. Infrared and visual image fusion through infrared feature extraction and visual information preservation [ J ]. Infrared Physics & Technology ,2017 , 83：227 -237.[5 ]
Turcsany D, Bargiela A, Maul T. Local receptive field constrained deep networks [ J ]. Information Sciences, 2016,349 -350：229-247.
[6]
Jarrett K,Kavukcuoglu K,Ranzato M,et al. What is the best multi-stage architecture for object recognition [ G J//2009 IEEE 12th International Conference on Computer Vision. 2009：2146 -2153.[7]
Coates A, Lee H, Ng A Y. An analysis of single-layer networks in unsupervised feature learning [ J ]. Journal of Machine Learning Research, 1991,15 ：215 -223.[8]
Hinton G E,Salakhutdinov R R. Reducing the dimensionality of data with neural networks [ J ]. Science ,2006,313(5786)： 504-507.[9] Bengio Y. Learning deep architectures for Al [ J]. Foundations and trends in Machine Leaming,2009,2( 1) ：1 - 127.[10]
Lecun Y, Boser B E, Denker J, et al. Handwritten digit recognition with a back-propagation network [ J ]. Advances in Neural Information Processing Systems, 1990,2：396 -404.
[11] 王征，王欣，高炜欣，等.基于图像处理的模糊控制埋弧
焊缝跟踪研究[J].测控技术，2016，35(12) :62 - 65.
[12] 张锴锋，袁惠群，聂鹏，等.基于AE信号与优化SVM的刀
具磨损状态识别[〗].测控技术，2015,34(11):20-23.
[13] 甘玲，谷伟庆.组合金字塔和多核学习的图像分类方法
[J].小型微型计算机系统，2014，35 (7) : 1642 - 1646.
(下转第15页）
孪生支持向量机数学模型与应用综述
[8] 储茂祥，王安娜,巩荣芬.一种改进的最小二乘孪生支持
• 15 •
[17] 王立国,杜心平.K均值聚类和孪生支持向量机相结合
向量机分类算法[J].电子学报,2〇W,42(5) :998 - 1003.[9]
Gong R,Wu C,Chu M,et al. Twin pinball loss support vector hyper-sphere classifier for pattern recognition [ C ]//2016 Chinese Control and Decision Conference. 2016： 6551 - 6556.[10]
Gao B B，Wang J J，Wang Y，et al. Coordinate descent fuzzy twin support vector machine for classification [ C ]// 2015 IEEE 14th International Conference on Machine Learning and Applications. 2015 ：7 - 12.
[11]
Xu Y T. Maximum margin of twin spheres support vector machine for imbalanced data classification[ J]. IEEE Transactions on Cybernetics,2017,47(6) ：1540 -1550.
[12]
Li D,Zhang H X,Zhang M M. Wavelet de-noising and genetic algorithm-based least squares twin SVM for classification of arrhythmias [ J ]. Circuits, Systems, and Signal Processing,2017,36(7) ：2828 -2846.
[13] 佘青山，陈希豪，孟明，等.增量孪生支持向量机后验概
[23 ] [19]
的高光谱图像半监督分类[J ].应用科技,2017,44 (3).
[18] 胡根生，陈长春,张学敏，等.LS-WTSVM的遥感多光谱
影像云检测[J].安徽大学学报（自然科学版），2014,38 (1) ：48 -55.
Kliglik, Torun Y, Kaya G T. Remote sensing image classification by non-parallel SVMs [ CJ//2014 IEEE Geoscience and Remote Sensing Symposium. 2014 ： 1269 -1272.
[20] 朱志宾，丁世飞.基于TWSVM的图像分类[J].南京师
大学报（自然科学版），2014(3) :8 -14.
[21] 王向阳，陈亮，王倩，等.基于TWSVM超像素分类的彩
色图像分割算法[J].辽宁师范大学学报（自然科学
版），2017,40(1):35 -40.
[22] 李鑫滨,邱建坤，韩松.基于线性孪生支持向量机的特征
选择方法[J].计算机工程与应用,2016,52(15) :88 - 92.
Xie X,Wang T. A projection twin SVM-based active contour model for image segmentation[ C]//2016 23rd International Conference on Mechatronics and Machine Vision in Practice. 2016 ： 1 -4.
[24]
Cao L,Shen H. Combining re-sampling with twin support vector machine for imbalanced data classification [ C ]// 2016 17th International Conference on Parallel and Distributed Computing, Applications and Technologies. 2016： 325-329.
[25]
Wang Y N,Tian Y J. Fast localized twin SVM[ CJ//2012 8 th International Conference on Natural Computation. 2012 ： 74 -78.
[26] 董洪波,申中杰，姚亚峰.基于TWSVM的煤矿井下钻机
率方法及脑电分类应用[J].航天医学与医学工程， 2015,28(4) ：259 -264.
[14]
Tomar D，Prasad B R, Agarwal S. An efficient Parkinson disease diagnosis system based on least squares twin support vector machine and particle swarm optimization [ C ] // 2014 9th International Conference on Industrial and Information Systems. 2014 ： 1 - 6.
[15]
Teeyapan K,Theera-Umpon N, Auephanwiriyakul S. Application of support vector based methods for cervical cancer cell classification [ C J//2015 IEEE International Conference on Control System,Computing and Engineering. 2015： 514-519.
[16]
Mozafari K,Nasiri J A,Charkari N M,et al. Hierarchical least square twin support vector machines based framework for human action recognition [ C ]//2011 7 th Iranian Conference on Machine Vision and Image Processing. 2011.
[27]
轴承故障诊断[J].煤矿机械,2015,36(5) :298 - 300.He J,Zheng S H. Intrusion detection model with twin support vector machines[ J]. Journal of Shanghai Jiaotong University (Science) ,2014,19(4) ：448 -454.
□
the 22nd ACM International Conference on Multimedia. 2〇14：675 -678.
[19]
Hinton G E. Training Products of Experts by Minimizing Contrastive Divergence [ J ]. Neural Computer, 2002, 14 (8) ：1771 -1800.
[20]
Bishop C M. Pattern Recognition and Machine Learning (Information Science and Statistics ) [ M ]. USA ： Springer- Verlag New York, Inc. ,2006 ：542 -546.
[21]
Bengio Y，Lamblin P，Popovici D，et al. Greedy layer-wise training of deep networks[ C]//International Conference on Neural Information Processing Systems. 2006 ： 153 -160.
[22]
Shao J X，Du D，Chang B H，et al. Automatic weld defect detection based on potential defect tracking in real-time radiographic image sequence [ J ]. NDT & E International， 2〇12,46：14 -21.
(上接第9页）
[14] 谭莉，吴纯.一种改进的二维经验模态分解图像消噪方
法[J].测控技术,2015,34(6) :24 -26.
[15] 张强,李嘉锋，卓力.基于卷积神经网络的监控场景下车
辆颜色识别[J].测控技术,2017,36(10) :11 -14.
[16]
Scholkopf B, Platt J, Hofmann T. Efficient learning of sparse representations with an energy-based model [ C]//Advances in Neural Information Processing Systems. 2006： 1137 - 1144.
[17]
Krizhevsky A,Sutskever I,Hinton G E. ImageNet classification with deep convolutional neural networks [ C]//Proceedings of the 25 th International Conference on Neural Information Processing Systems. 2012 ：1097 - 1105.
[18]
Jia Y,Shelhamer E, Donahue J,et al. Caffe： Convolutional architecture for fast feature embedding [ C ]//Proceedings of
□
因篇幅问题不能全部显示，请点此查看更多更全内容