基于T-RBM算法的DBN分类网络的研究

【摘要】利用机器学习算法处理数据分类任务已经研究多年，这期间涌现出很多经典有效的算法，如K-means，SVM，梯度下降算法等。这些算法广泛应用于数据分类、数据挖掘、图像识别、医学成像、雷达探测等商业、工业、医疗，军事等领域中。由于使用的环境极其广泛复杂，导致数据分类任务一直是计算机学科领域最具挑战性的任务之一。随着数据分类任务复杂程度的增加，以深度学习（DeepLearning）为基础的分类算法开始逐渐被用于大数据挖掘、图像处理、模式识别等任务，想比于传统分类算法，这些算法能够自动发现数据内部的一些结构或特征，并且通过这些结构和特征完成数据分类任务。本文围绕深度学习算法中各类算法进行研究，并且以其中最核心的DBN（深度信度网络）模型为核心进行了深入分析和研究，并提出了一种基于T-RBM（T-RestrictedBoltzmannMachine）（T型受限波兹曼机）的DBN分类算法，主要贡献如下：（1）对当前主要的机器学习算法进行了研究和分析，根据这些学习算法的特征将它们分为有监督学习算法和无监督学习算法两类进行讨论，并分析了其优缺点，根据分析结果，引出深度学习分类算法并对其进行深入研究。（2）在传统分类算法的基础上，本文对基于受限波兹曼机（RestrictedBoltzmannMachine）简称RBM进行了深入研究和分析，分析结果表明，相比于其他深度学习算法，基于RBM随机分类模型实现层叠结构更容易，可以对数据进行逐层抽象，对数据的异常处理更完善，所以本文选择对基于RBM的深度学习算法进行研究，但是基于RBM的算法也存在一些问题，其中最显著的问题是参数（隐含神经元数、神经网络层数）调整困难，本文针对这一问题，对RBM进行改进研究。（3）针对基于RBM的DBN网络参数调整困难的缺点提出T-RBM算法，基于T-RBM的DBN算法主要有两点创新。首先，对于隐含神经元数的预测，本文提出了通过计算信息熵预测数据所含信息内容的大小，从而推荐出隐含层单元数量；其次，提出T型RBM网络结构，该结构可以有效的对数据噪声进行去除并逐层提取特征，这两方面的改进旨在提高分类的精确度，减少特征提取的训练时间。（4）在Matlab下对基于RBM的DBN算法和基于T-RBM算法的DBN分类网络进行了仿真，仿真结果表明在相同样本和一定条件下，基于T-RBM的DBN分类网络的分类误差率较经典DBN网络(400隐含单元)情况下的分类误差率平均降低约2%；训练时间较经典的DBN网络提高了大约10秒。通过数学推导和实验分析可知，基于T-RBM算法的DBN分类网络模型可以有效的减少了不必要的计算时间，并且通过减少噪声提高了分类网络的准确性。仿真结果表明了基于T-RBM结构的DBN分类网络在实际分类任务过程中的优势。
【作者】鲁铮；
【导师】房至一；
【作者基本信息】吉林大学，计算机系统结构，2014，硕士
【关键词】数据分类；机器学习；深度学习；分类算法；特征提取；

【参考文献】
[1]张英丽.3P_0模型下研究三夸克和五夸克混合的重子[D].广西师范大学,理论物理,2013,硕士.
[2]曹丽娟.分布式陆面水文过程模式的研究[D].中国气象科学研究院,气象学,2004,硕士.
[3]刘嘉欣.多元交际背景下的译员角色[D].广东外语外贸大学,翻译（专业学位）,2014,硕士.
[4]杜天军,陈光(?),谢永乐.利用内插优化技术解决谐波检测小波混叠[J].电力系统自动化,2005,05:62-68.
[5]赵洪玉.锚杆预应力在煤矿巷道中支护效应的研究[D].内蒙古科技大学,矿业工程,2014,硕士.
[6]兰彩虹.基于IEC61850的电能质量建模及通讯研究[D].山东大学,电气工程（专业学位）,2013,硕士.
[7]王素华.物业管理企业的客户关系管理研究及其应用[D].重庆大学,2004.
[8]杨宏宇.土壤固化剂在公路基层底基层中的应用[D].长安大学,交通运输工程,2013,硕士.
[9]罗冰.家蚕蛋白质数据库的创建和应用[D].西南大学,特种经济动物饲养,2012,硕士.
[10]王晓芳.央视《新闻1+1》节目特色及发展研究[D].东北师范大学,传播学,2012,硕士.
[11]贾世旺.EHF频段卫星通信上行射频链路关键技术研究[D].电子科技大学,电子与通信工程（专业学位）,2012,硕士.
[12]刘晶.哈尔滨城区儿童哮喘相关危险因素分析[D].黑龙江中医药大学,中医儿科学（专业学位）,2013,硕士.
[13]薛云皎,钱乐秋,花鸣,张天戈,杨珉.一种基于关联挖掘的自适应构件检索方法[J].电子学报,2004,S1:203-206+195.
[14]秦晓辉.微机保护电磁兼容研究及变电站内电磁干扰的传播途径[D].华北电力大学（北京）,电力系统及其自动化,2003,硕士.
[15]武模忙.某些解析函数的复合边值逆问题的解[D].华侨大学,基础数学,2014,硕士.
[16]蒋莹.基于DNA/碳纳米材料自组装的新型荧光传感体系设计[D].湖南大学,2013.
[17]刘旭光.芪苈强心胶囊治疗慢性心力衰竭临床疗效观察[D].湖北中医药大学,中医内科学（专业学位）,2013,硕士.
[18]王鸿,潘超,周峰,赵美蓉.海洋真菌PenicilliumcitrinumMNP12010101代谢产物的分离鉴定和活性研究[J].浙江工业大学学报,2014,04:409-412+439.
[19]张楠.邮政薪酬集中发放系统的开发与实现[D].西安电子科技大学,软件工程,2012,硕士.
[20]宋敏.喇嘛甸油田A块萨Ⅱ组成因单砂体识别及成因分析[D].浙江大学,地质学,2012,硕士.
[21]王超1,陈静1,陈红丽1,侯育冬2,朱满康2.纳米铌酸钾钠陶瓷的制备及性能[J].无机材料学报,2015,01:.
[22]刘健余.宏运房地产公司财务战略研究[D].燕山大学,工商管理,2014,硕士.
[23]宋溢娟.阵发性房颤射频消融术后空白期内房性心律失常与房颤远期复发的关系[D].河南科技大学,内科学,2014,硕士.
[24]秦可为.ABI5家族保守区Ⅱ的结构与功能研究[D].兰州理工大学,生物化学与分子生物学,2013,硕士.
[25]晏示林.河南省财政支农与农业全要素生产率的关系研究[D].西南大学,区域经济学,2013,硕士.
[26]姜珊珊.土地集约利用与经济发展空间分布关系研究[D].兰州大学,土地资源管理,2013,硕士.
[27]肖敏.基于技术创新的石油勘探企业知识管理研究[D].成都理工大学,工业工程,2013,硕士.
[28]刘欣.重组竹户外家具设计研究[D].中南林业科技大学,工业设计工程,2014,硕士.
[29]杜文嘉.“营改增”对我国企业财务的影响[D].山东财经大学,会计（专业学位）,2014,硕士.
[30]特约记者董鹏.“泽熙概念股”华丽家族牛市计划拷问[N].21世纪经济报道,2015-06-09016.
[31]赵永涛.静音球轴承用“绒面”钢球加工工艺研究[D].河南农业大学,农业机械化工程,2004,硕士.
[32]李皓.交流电机系统的同步传动控制算法研究与仿真[D].东北石油大学,电气工程（专业学位）,2013,硕士.
[33]武李莉.300例湿疹患者的体质分型及中医证型研究[D].北京中医药大学,中医外科学,2014,硕士.
[34]刘新梅,梁莹.基础设施产业政府规制的效率性分析[J].控制与决策,2002,S1:805-807.
[35]张昊.服务型政府视角下高速公路路政管理创新[D].华中师范大学,公共管理,2013,硕士.
[36]骆吉洲,李建中,王宏志.海量关系的拆分压缩技术[A].中国计算机学会数据库专业委员会.第二十届全国数据库学术会议论文集（研究报告篇）[C].中国计算机学会数据库专业委员会:,2003:4.
[37]丁严广.镍纳米活化非金属材料化学镀工艺研究[D].山东建筑大学,材料学,2013,硕士.
[38]王雅萍.大学英语教学中文化教学之探讨[D].西安电子科技大学,外国语言学及应用语言学,2004,硕士.
[39]唐磊.其具两端， 其功一体[D].湖南师范大学,美术学,2013,硕士.
[40]王丽君.行政诉讼中的社会学解释[D].苏州大学,法律（专业学位）,2013,硕士.
[41]陈秋平,沈建福,赵一超.油茶蒲中没食子酸的酸提取工艺[J].食品科技,2014,04:195-198.
[42]胡建书.租界里的报馆：望平街的形成[D].复旦大学,新闻学,2012,硕士.
[43]杜煜.甘肃省水电院发展战略保障体系研究[D].兰州理工大学,工商管理,2014,硕士.
[44]姚倩倩.新型可控性Au纳米电极的制备及其电化学性质的研究[D].华东师范大学,分析化学,2013,硕士.
[45]周惠珺.农民创业绩效影响因素研究[D].浙江大学,2014.
[46]袁剑锋.粘片机温控系统的设计与实验研究[D].广东工业大学,机械电子工程,2004,硕士.
[47]耿庆霞.497例妊娠期高血压疾病患者生化指标与并发症的分析[D].泰山医学院,免疫学,2012,硕士.
[48]吴松柏.绑架罪疑难问题研究[D].西南政法大学,刑法学,2012,硕士.
[49]姜威.消渴病、膝痹病应用中医、西医临床路径治疗的费用及效果比较研究[D].北京中医药大学,社会医学与卫生事业管理,2013,硕士.
[50]朱有启.新型锂离子电池负极材料研究[D].郑州轻工业学院,2012.