针板先验的研究与应用

【摘要】针板先验(SpikeandSlabPrior)是一种用于鼓励连续变量稀疏性的先验概率。和常见的l1模正则化方法通过最小化零点不可导的代价函数以得到稀疏解的做法不同,针板先验使用一种特殊的二分量的高斯混合模型,对变量的零或非零属性进行直接建模。配合概率建模中常用的近似推断方法,针板先验不仅仅可以用来鼓励变量的稀疏性,亦可以对变量之间涉及到零或非零属性的复杂关系进行建模。本文将对针板先验进行研究,并探索它的三个应用：首先,本文将针板先验用于稀疏逆协方差矩阵估计。和l1模正则化方法相比,提出的使用针板先验的模型可以得到更为稀疏,并且预测性能更高的逆协方差矩阵。通过赋予针板先验的参数以超先验并利用贝叶斯近似推断技术,可以避免交叉验证,从而极大的降低了模型选择的难度。其次,本文将针板先验用于在协同过滤系统里选择动态用户,即需要使用多变量对其兴趣变化进行建模的用户。和l21模正则化方法相比,使用针板先验的模型不仅仅可以对用户的动态／静态属性进行判断,同时还提供了对判断的肯定程度的估计。提出的动态／静态混合模型不仅可以用来对用户的兴趣变化进行分析,同时在以RMSE为指标的评分预测任务中也获得了很好的性能。再次,本文将针板先验用户子空间聚类。在提出的层次化模型里,针板先验作为连接样本类标号和重建矩阵之间的桥梁,被用于限制不在同一子空间内的两个样本所对应的重建系数的大小。这样的限制在一定程度上减轻了样本重建模型对子空间独立假设的依赖。在人工合成的数据集和真实数据集上,和主流的基于样本重建的方法相比,提出的模型表现出优异的性能。在提出的三个应用里,针板先验的不可替代性越来越高：对于逆协方差矩阵估计问题,尚可使用l1模正则化的方法得到稀疏的逆协方差矩阵的估计；对于在协同过滤系统里选择动态用户的问题,亦可使用l21模正则化的方法,但是这样做无法得到对动态用户判断的肯定程度的估计;在子空间聚类问题里,针板先验作为连接样本类标号和重建矩阵的桥梁,其作用已经难以被其他鼓励稀疏的方法所取代。
【作者】李瑞江；
【导师】薛向阳；
【作者基本信息】复旦大学，计算机应用技术，2013，博士
【关键词】针板先验；混合模型；逆协方差矩阵估计；协同过滤；

【参考文献】
[1]段超.刑事附带民事诉讼中死亡赔偿金问题研究[D].新疆大学,法律,2013,硕士.
[2]张富娟.带变号Green函数的三阶三点边值问题的正解[D].兰州理工大学,应用数学,2014,硕士.
[3]张航1,2.电力系统配电网自动化实现技术探索[J].电子技术与软件工程,2015,06:166.
[4]刘明非.《孙子兵法》中的领导思想探微[D].吉林财经大学,行政管理,2014,硕士.
[5]李丰先.高粱耐碱品种筛选及耐碱生理机制研究[D].沈阳农业大学,作物栽培学与耕作学,2013,硕士.
[6]王勤涛.双切口滚环扩增检测方法及其原理初探[D].上海海洋大学,渔业,2013,硕士.
[7]余利霞.基于模块化多电平换流器的直流输电系统研究[D].重庆大学,电气工程,2014,硕士.
[8]刘雨.学生课堂沉默现象背后的社会控制机制研究[D].南京师范大学,教育学原理,2012,硕士.
[9]王绍马.基于供应链的H电梯公司供应商质量评价及其管理研究[D].河北工业大学,工商管理,2013,硕士.
[10]刘健.基于超声波的糖溶液浓度检测系统设计[D].哈尔滨理工大学,测试计量技术及仪器,2013,硕士.
[11]张骁航.万科品牌案例研究[D].厦门大学,新闻与传播（专业学位）,2014,硕士.
[12]李卓.乌鲁木齐市商业银行中间业务平台的设计与实现[D].大连理工大学,软件工程（专业学位）,2012,硕士.
[13]许维国.五倍子酸药用价值的相关研究[D].吉林大学,劳动卫生与环境卫生学,2013,硕士.
[14]李玉彬.β干扰素的原核表达纯化及其诱导神经胶质瘤细胞自噬的研究[D].南京农业大学,微生物学,2013,硕士.
[15]李静.高中英语教师课堂提问特点及学生反馈的调查研究[D].鲁东大学,学科教学（专业学位）,2014,硕士.
[16]欧俊.西安市“城中村城乡结合部”环境问题法律治理研究[D].西安建筑科技大学,环境与资源保护法学,2013,硕士.
[17]敖翔,李育敏,郭成峰,周振江,计建炳.旋转床内动密封漏气对旋转床传质性能影响的研究[J].化工时刊,2013,03:17-20.
[18]李良臣.服务品牌资产消费者视角与市场产出视角关系研究[D].华侨大学,企业管理,2013,硕士.
[19]苏哲哲.中国出口贸易的隐含碳测算及因素分解分析[D].中国矿业大学,数量经济学,2014,硕士.
[20]徐双阳.桑黄多糖提取、分离纯化及理化性质研究[D].浙江工业大学,2006.
[21]应曙辉.混合梁斜塔斜拉桥静动力分析计算研究[D].大连理工大学,桥梁与隧道工程,2013,硕士.
[22]王海波.基于广义最小方差的控制系统性能评价[D].浙江工业大学,2010.
[23]张聪颖.氮肥减量与替代对温室气体减排效果及农户意愿的研究[D].南京农业大学,农业经济管理,2011,硕士.
[24]徐敏荣.功能石墨烯电化学传感器的制备及对有机磷农药残留检测的研究[D].山东农业大学,2013.
[25]杨晓冬,黄丽平.保障性住房选址问题及对策研究[J].工程管理学报,2012,04:103-107.
[26]李作义,李鑫,柴宏艳,商守先.试论农业机械化与发展现代农业[J].中国农机化.2008(03)
[27]梁庆鑫.儿童多媒体导视系统设计的研究[D].中央美术学院,设计艺术学,2013,硕士.
[28]张木仁.布里亚特蒙古族民歌分类及艺术特征[D].内蒙古大学,音乐学,2013,硕士.
[29]郭白璐,彭双和,陈勋.基于TCM的商业机密信息保护技术研究[J].信息安全与通信保密,2014,03:80-84.
[30]熊美.氮化硼纳米管束的高压聚合研究[D].燕山大学,材料工程,2013,硕士.
[31]黄忠范,袁秉衡.廊固凹陷层序地层学初探[J].石油地球物理勘探,1990,03:311-320+378.
[32]张四海,李向阳,李岩,郭智奇,戴恒昌.基于二极化校正的陆上气云区的转换波成像[J].石油地球物理勘探,2013,02:200-205+332+157.
[33]万顺光.用于压痕/划痕测试的多维微力传感器设计与试验研究[D].吉林大学,机械制造及其自动化,2013,硕士.
[34]刘德军.毛泽东对“大公社”时期所有制形式认识的演变历程及理论思考[D].安徽师范大学,中共党史,2004,硕士.
[35]郭亚光.基于粗糙集合和朴素贝叶斯模型的分类问题研究[D].合肥工业大学,2005.
[36]廖灿.专利法中在先权问题研究[D].西南交通大学,法律,2013,硕士.
[37]丁雯.左旋棉酚通过诱导细胞自噬调节其杀伤Namalwa细胞能力的研究[D].西南大学,微生物与生化药学,2013,硕士.
[38]黄景.高校应对突发性群体事件的策略研究[D].西南交通大学,公共管理,2013,硕士.
[39]黄敏.大数据下基于块依赖的实体解析方法[D].北京交通大学,2015.
[40]李林宏.多变量统计过程控制在工业生产中的应用研究[D].东北大学,控制理论与控制工程,2010,硕士.
[41]丁立军,冯浩,华亮.Clifford代数3D人脸姿态矫正方法[J].小型微型计算机系统,2013,04:906-909.
[42]张立丹.半圆型防波堤波浪力分布及稳定性分析[D].河北大学,岩土工程,2014,硕士.
[43]王海涛.不确定广义双线性系统的保性能控制[D].东北大学,运筹学与控制论,2010,硕士.
[44]陈佳,雷忆三,荣伟,贾丰溥,苏青林.石墨烯的制备技术研究进展[J].材料开发与应用,2014,06:110-117.
[45]丁少敏.我国上市公司财务信息对股票价格影响的研究[D].南京师范大学,金融学,2012,硕士.
[46]黄明和.基于Sarsa学习的TD-SCDMA/WLAN异构网络切换算法研究[D].哈尔滨工业大学,信息与通信工程,2013,硕士.
[47]郭芳.图式理论在非英语专业英语听力教学中的应用[D].山西财经大学,外国语言学及应用语言学,2013,硕士.
[48]李中原.A公司净水设备市场开发模式研究[D].山东大学,工商管理（专业学位）,2012,硕士.
[49]司秋华.论我国环境犯罪中严格责任的适用[D].辽宁大学,法律,2012,硕士.
[50]刘勇.论无证驾驶情形下的交强险责任[D].西南政法大学,经济法学（专业学位）,2012,硕士.