导 师: 青春美
授予学位: 硕士
作 者: ();
机构地区: 华南理工大学
摘 要: 随着云计算时代的到来,数据爆炸性增长,导致数据规模过大,数据类型多样化和价值密度低等现象;另外,在很多实际机器学习问题中,样本不足,人工标注成本高等问题依然存在。这些问题导致了传统的机器学习可能出现训练过慢,预测效果差等问题。因此,人们希望机器学习系统能够像大脑一样储存知识,在新任务到来时,利用已有的知识帮助新任务的学习,并在学习完新任务后提取新的知识更新旧的知识仓库。在这样的背景下,研究人员仿造人类大脑学习机制提出了终身机器学习系统。终身机器学习是研究能够持续地处理任务的同时归纳知识以及迁移知识的学习系统。在实际生活中,我们人类面临各种各样的跨领域多任务问题,例如跨场景识别等,我们的大脑能够很好地在跨领域任务中迁移知识和归纳知识。处理跨领域任务是一个理想的终身机器学习系统所必需的。但是,现有的终身机器学习算法存在对跨领域任务的领域偏移不够鲁棒的难点。针对这个问题,本文提出了基于流形嵌入的终身机器学习算法和基于自动编码机的终身机器学习算法,具体如下:(1)提出了基于流形嵌入的终身机器学习算法,算法通过嵌入高斯流形到任务的子空间形成测地线流,再从测地线流选取较优的投影子空间,新任务到来时先投影到该空间再进行模型学习,模型学习基于现有的高效终身学习算法。该算法优点是运行高效且能够捕捉领域之间的不变特性,对跨领域任务有一定的鲁棒性。(2)提出了基于自动编码机的终身机器学习算法,算法的核心思想是利用过去任务的自动编码机的编码层权重参数来帮助当前自动编码机的优化,具体的做法是约束当前任务的自动编码机的编码层权重参数与过去任务的编码层权重参数在一定程度上相似。该算法能够提取对领域偏移较为鲁棒的特征�
领 域: []