稳健变量选择方法的若干问题研究

【摘要】变量选择是统计建模的一项基础而重要的工作,我们希望一个好的统计模型应该只包含那些少数的与响应变量真正相关的协变量,以达到比较好的预测效果。另一方面,我们希望变量选择方法是稳健的,尤其是当数据中存在异常值时,变量选择的结果不至于受到很大影响而变得不稳定。本文的研究目的是对纵向数据或者更加复杂的高维带有删失的数据,提出一系列稳健的变量选择方法。本文的主要结果和创新之处在于：第一,我们介绍纵向数据在线性回归模型中的稳健变量选择方法。我们建立了惩罚稳健估计方程,给出了高效的算法,并证明了在某些条件下,我们的变量选择方法具有Oracle’性质(Fan等(2001)[26])。我们在模拟中比较了几种文献中常用的惩罚函数的效果,特别比较了当数据中存在异常值时,稳健方法和非稳健方法的表现。我们还将该方法用在一组实际的医学黄体酮激素纵向数据中(数据下载网址：http://www.lancs.ac.uk/diggle/.),进一步说明我们方法的实际效果。该方法的创新之处在于对可能存在异常值的纵向数据,我们的方法效果稳健,而且通过在惩罚稳健估计方程中加入相关结构,可以提高变量选择和估计的效率。第二,我们对纵向数据的线性混合效应模型,提出了一种稳健的对固定效应和随机效应同时进行变量选择的方法。我们通过EM算法来计算估计结果。我们证明了在自适应的LASSO惩罚函数下,我们的变量选择方法具有Oracle’性质。在模拟中,我们分别在固定效应和随机效应以及响应变量中加入异常值,来考察我们方法在各种情况下的稳健性表现,模拟结果表明我们的方法对各种污染方式都具有较好的抵抗能力。最后,我们将所提的方法用到黄体酮激素数据和CD4数据实际数据中(下载网址同上),进一步阐明方法的实际意义。该方法的创新之处除了对异常值的稳健性以外,可以对固定效应和随机效应同时进行变量选择,这样可以避免对模型有过多的可能误判的先验性假定。第三,我们针对更加复杂的超高维带固定删失的截面数据,利用比较稳健的惩罚分位数回归的方法,提出一种两步变量选择和估计的方法。我们证明了当删失概率能够被相合地估计时,第一步变量选择具有很好的降维效果,并能达到接近最优的收敛速度,在此基础上,第二步的变量选择能够修正第一步的偏差,达到Oracle性质。我们还将该方法用在分析一组实际的Boston房价数据中(数据下载网址：http://lib.stat.cmu.edu/dataset8/boston-corrected.txt),得到的结果说明我们的方法能够很好地处理高维带有固定删失的数据。本文总共分为五章.第一章绪论,主要进行文献综述,介绍本文的研究背景、研究动机及主要研究内容.第二章介绍纵向数据的线性回归模型的稳健变量选择方法,包括估计方法,算法,大样本性质和证明,数值模拟和实例分析.第三章研究纵向数据的线性混合效应模型的稳健变量选择方法,包括估计方法,算法,理论性质和证明过程,数值模拟和实证分析。第四章主要讨论超高维带有固定删失的截面数据的稳健的变量选择方法,内容有方法介绍,算法,理论性质及证明,数值模拟和实例分析。第五章对本文研究结果进行总结,并对新的研究方向进行展望.
【作者】樊亚莉；
【导师】朱仲义；
【作者基本信息】复旦大学，概率论与数理统计，2013，博士
【关键词】变量选择；估计方程；稳健性；稳健化似然函数；分位数回归；Oracle性质；超高维；数值模拟；实例分析；

【参考文献】
[1]赵玉.我国检察举报制度研究[D].山东大学,法律（专业学位）,2012,硕士.
[2]张爽.STI技术评价PCI对AMI患者左房功能变化的影响[D].辽宁医学院,影像医学与核医学,2012,硕士.
[3]张姣娜.企业电子商务技术吸收能力影响因素研究[D].首都经济贸易大学,技术经济及管理,2013,硕士.
[4]董艳.南通滨海地区全新世沉积物磁性特征及其古环境意义[D].华东师范大学,自然地理学,2014,博士.
[5]朱利萍.社区管理模式创新[D].苏州大学,公共管理（专业学位）,2012,硕士.
[6]王松松.青岛地区幽门螺杆菌对左氧氟沙星耐药性及gyrA基因突变分析[D].青岛大学,外科学,2013,硕士.
[7]徐念念.试论歌剧《托斯卡》中宣叙调的戏剧美及演唱处理[D].河北师范大学,音乐学,2012,硕士.
[8]杨啸.三体船阻力特性研究[D].华中科技大学,船舶与海洋结构物设计制造,2013,硕士.
[9]石肖然.论域名冲突的法律规制[D].山东大学,民商法学,2013,硕士.
[10]郑恩.基于iFix的水厂自动化系统的设计与开发[D].湖南大学,软件工程,2013,硕士.
[11]葛动元.产品精度检测中的先进测量技术[D].武汉理工大学,机械设计及理论,2004,硕士.
[12]杨国坤.一种反激式电源管理芯片的研究与设计[D].沈阳工业大学,微电子学与固体电子学,2013,硕士.
[13]梁超平.若干过渡族金属及合金系统关键性能的第一性原理研究[D].中南大学,材料科学与工程,2013,博士.
[14]赵玉广.华北地区沙尘暴天气形成机制的分析研究[D].南京气象学院,气象学,2003,硕士.
[15]佘珂.互文、反讽与后现代[D].复旦大学,比较文学与世界文学,2012,硕士.
[16]LiuQian.《秀拉》中的自然和女性—从生态女性主义角度解读《秀拉》[D].西安外国语大学,英语语言文学,2013,硕士.
[17]魏炎玲,郭晓辉.加强数据利用服务税收工作[J].中国税务,2002,12:43-44.
[18]程术希,孔汶汶,张初,刘飞,何勇.高光谱与机器学习相结合的大白菜种子品种鉴别研究[J].光谱学与光谱分析,2014,09:2519-2522.
[19]海蕊.从系统功能语法理论的角度分析判例汇编中的语法隐喻[D].西南政法大学,外国语言学及应用语言学,2012,硕士.
[20]肖灿.营销广告中多模态隐喻的消费者认知神经机制研究[D].浙江大学,2014.
[21]李斌鹏.碳基复合吸波材料的制备和表征[D].山东大学,材料学,2013,硕士.
[22]刘璐.东北城市题材电视剧研究[D].辽宁大学,广播电视艺术学,2012,硕士.
[23]王元君,冉建斌,肖伟.基于测井资料岩石物理模拟的储层识别法[J].石油地球物理勘探,2006,06:644-650+609-610+725.
[24]孙佳益.南美白对虾的主要过敏原的低过敏原性处理方法及其评价体系研究[D].上海海洋大学,食品科学与工程,2013,硕士.
[25]张彩良.基于碳平衡原理的在用天然气汽车燃气消耗量检测方法研究[D].长安大学,交通运输工程（专业学位）,2014,硕士.
[26]雷令坤.企业高层管理者的信息供给策略研究[D].西北工业大学,企业管理,2004,硕士.
[27]李晓彤.广域网与局域网的组网介绍[J].邮电设计技术.1998(03)
[28]李菲.PTEN与AKT/mTOR通路在食管癌进展中的研究[D].河北医科大学,病理学与病理生理学,2013,硕士.
[29]左陆珅,姚宏,李华宇,田盛,刘苗苗.发酵类抗生素废水处理工艺及运行效果[J].环境工程学报,2014,09:3591-3595.
[30]金士铎.我国汽轮机用钛合金叶片的开发[J].发电设备.1991(06)
[31]段晓旭.重磁异常小子域滤波算法的分析研究与改进[D].中国地质大学（北京）,计算机科学与技术,2014,硕士.
[32]林隽晖.LB公司客户服务中心员工领导力发展的研究[D].广东工业大学,工商管理,2014,硕士.
[33]姚人升.纳米氧化铜和硫酸铜对断奶仔猪几种免疫因子的影响[D].华中农业大学,临床兽医学,2014,硕士.
[34]杨业光.农村居民点整理区域农户化肥投入变化研究[D].南京农业大学,土地资源管理,2013,硕士.
[35]郑磊.信用卡合同法律问题研究[D].复旦大学,法律,2012,硕士.
[36]张大勇.基于复用技术的公司管理系统设计与实现[D].大连理工大学,软件工程（专业学位）,2012,硕士.
[37]曹宇.碳纳米复合材料的制备与物性分析[D].浙江师范大学,2012.
[38]何鑫.针刺左侧肺经合穴对青年大脑中动脉血流速度及PI、RI影响的研究[D].黑龙江中医药大学,针灸推拿学（专业学位）,2014,硕士.
[39]高雅.基于Stateflow的空气消毒器设计[D].吉林大学,无线电物理,2013,硕士.
[40]梁宏旭.中国优秀传统文化在现代民营企业管理中的应用研究[D].北京交通大学,2014.
[41]成欣欣.影响东北大学本科生就业的培养问题研究[D].东北大学,教育经济与管理,2010,硕士.
[42]司新成.IABP在高危冠心病患者急诊PCI中使用疗效分析[D].山西医科大学,心血管内科,2013,硕士.
[43]林曦,赖以希,汪哲皞.基于城市文化的公共交通视觉系统设计探析:以杭州为例[J].装饰,2014,01:129-130.
[44]邢虹雨.印尼中小学生华语课堂开口率低原因探究[D].广东外语外贸大学,汉语国际教育,2013,硕士.
[45]朱芳漪.基于技术创新的就业政策研究[D].山东财经大学,西方经济学,2012,硕士.
[46]丛日琳.MEEKC、MEKC分别测定雷公藤有效成分及部分中药对映体的毛细管电泳新方法研究[D].福建中医药大学,中药学,2014,硕士.
[47]朱鑫.隧道结构表面病害特征快速检测研究[D].西南交通大学,桥梁与隧道工程,2014,硕士.
[48]曹利.山东省沿海和内陆城镇居民消费结构差异分析[D].东北财经大学,统计学,2012,硕士.
[49]刘丹青.低剂量瑞舒伐他汀对颈动脉粥样硬化斑块疗效的高分辨磁共振成像研究[D].中国人民解放军医学院,影像医学与核医学,2013,硕士.
[50]郭冬青.稀土D36船板钢热变形过程中再结晶行为及微观组织演变的研究[D].内蒙古科技大学,材料加工工程,2013,硕士.