导　　师： 徐向民

授予学位： 硕士

作　　者： (）;

机构地区： 华南理工大学

摘　　要： 在计算机硬件能力越来越强与数据爆炸式增长的今天,传统的模型固定的机器学习已无法满足人工智能发展的需要,终身机器学习越来越受到学术界的关注。终身机器学习具备连续学习、快速学习以及迁移学习新任务的能力,可应用在计算机视觉、数据挖掘、医疗诊断、搜索引擎、自动机器人等多个领域。本文主要工作为针对传统终身机器学习难以解决的标签量不足、输入维数高、任务的输入分布不一致等问题,结合深度学习的算法思想,提出以下两种创新的终身深度学习模型:1.所有任务共享同一特征网络和同一参数空间的层次终身深度学习模型(文中命名为HLLA模型)。特征学习网络可以是任意使用反向传播算法更新网络参数的深度学习特征提取模型,推断函数的参数空间优化基于高效终身学习算法(ELLA算法)。深度共享的网络能够很好地从高维度和无标签的数据中提取到非常具有代表性的特征,从而大大减少学习后续新任务所需的标签数据量。2.任务间自动分组共享特征网络和参数空间的终身深度学习模型(G-HLLA模型)。此模型特征学习网络为具有可重构性的受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)所搭建的深度信念网络(Deep Belief Network,DBN),推断函数基于ELLA算法共享参数空间。基于重构误差分组后学习得到的特征网络具有更好的鲁棒性,能更好地解决任务输入分布不一致的问题。为了验证提出的两个方法对于终身学习任务的鲁棒性,本文也对以上两种算法模型进行了充分的实验验证。在地雷检测、动物分类、学生成绩预测等六个常用终身学习数据库上,以数种近年有代表性的国内外终身机器学习算法为基准作对比。实验结果表明两种模型都比作为基准的终身学习模型在分类准确率和回归拟合方差上都有明显的性能提升。

关 键 词： 机器学习 终身机器学习 特征表示 深度学习

领　　域： []