迁移和协同学习新方法研究

发布时间：2023-02-08 19:22

　　在当下很多机器学习任务中,数据存在形态正经历着由单源数据向多源数据进行转变的过程。数据形态的变化使得传统的机器学习模型不再适用,进而研究适用于多源数据的新模型显得尤为迫切。本文把这种针对多源数据新模型的研究统称为多源数据融合。在已有研究文献中,两种最常见的多源数据形态分别是多分布多源数据和多特征集多源数据,而针对这两种数据形态最常用的两种多源数据融合策略分别是迁移学习和协同学习。本文针对不同的多源数据形态提出了三个新的多源数据融合模型,较之于单源数据模型和已有的多源数据模型,所提算法在理论和性能表现上都有显著提升。如下为本文针对多源数据融合问题的三个主要工作:1)第一个工作是针对多特征集多源数据的聚类新方法研究。已有的此类算法使用的协同聚类策略基本都是基于原型聚类,谱聚类等算法的改进,比较适用于样本间距离可度量的数据。而对于共现数据来说,数据中的值代表的是样本和特征的共现频数,从而每个源的数据可以看作一个已知的联合概率分布。基于此假设,本文提出了一种针对多特征集共现数据的多源数据信息理论协同聚类算法,所提算法将整个问题在信息论的框架下求解。从而使得聚类过程利用的并非样本之间的距离信息,...

【文章页数】：70 页

【学位级别】：硕士

【文章目录】：
摘要
Abstract
第一章 绪论
    1.1 研究背景及意义
    1.2 国内外研究动态
        1.2.1 多源数据协同学习
        1.2.2 多源数据迁移学习
    1.3 本文主要研究内容
第二章 背景知识
    2.1 信息理论协同聚类
    2.2 模糊系统
    2.3 最大均值差异
第三章 多源数据信息理论协同聚类
    3.1 引言
    3.2 相关工作
    3.3 多源数据信息理论协同聚类
        3.3.1 目标函数构造
        3.3.2 目标函数优化
        3.3.3 收敛性证明
    3.4 实验
        3.4.1 数据集
        3.4.2 实验设置
        3.4.3 实验结果
        3.4.4 参数分析
    3.5 本章小结
第四章 多源数据可解释迁移表示学习
    4.1 引言
    4.2 基于TSK-FS的迁移表示学习
        4.2.1 迁移表示学习框架
        4.2.2 共享特征空间构造
        4.2.3 分布匹配
        4.2.4 判别信息和结构信息保持
        4.2.5 目标函数构造和优化
    4.3 实验研究
        4.3.1 数据集
        4.3.2 实验设置
        4.3.3 实验结果
        4.3.4 参数分析
        4.3.5 可解释性分析
    4.4 本章小结
第五章 基于联合信息保持的多源数据异构迁移
    5.1 引言
    5.2 相关工作
    5.3 联合信息保持
        5.3.1 问题形式化
        5.3.2 分布匹配
        5.3.3 配对信息保持
        5.3.4 结构信息保持
        5.3.5 目标函数构造和优化
    5.4 实验
        5.4.1 数据集
        5.4.2 实验设置
        5.4.3 实验结果
        5.4.4 参数分析
    5.5 本章小结
主要结论与展望
    主要结论
    展望
致谢
参考文献
附录:作者在攻读硕士学位期间发表的论文



本文编号：3738234