基于深度学习的鉴别性特征学习的研究
发布时间：2023-01-29 08:10
自2012年起,深度学习在计算机视觉领域展示出了强大的数据建模能力。深度学习对于数据的建模能力一般体现在对于数据的特征化表达,良好的特征化表达有利于数据精准的模式分类、匹配、检索等任务,从而满足不同的实践应用需求。因此,如何学习和优化良好的深度特征表达（在本文当中我们将具有良好特性的特征表达称为鉴别性特征表达）是现代深度学习最具有挑战性的前沿方向之一。在基于深度学习的鉴别性特征学习中,特征的判别性、特征的泛化性等关键问题与挑战相互交叠,共同影响了特征的鉴别性。而特征鉴别性又受到目标函数以及网络结构等的多重影响。鉴于此,本文将分别从目标函数以及网络结构的角度出发来提高深度特征的鉴别性,具体地,该博士论文的主要创新点包括:1.针对主流目标函数之一的softmax框架,本文提出两种改进算法,即Virtual-Softmax与Noisy-Softmax。这两种算法分别通过引入虚拟负类别和退火噪声提高了深度特征的鉴别性。同时,这两种算法的有效性在图片分类、人脸识别数据库中得到了验证。2.针对主流目标函数之一的深度度量学习框架,本文提出两种改进算法,即分别基于图模型和混淆学习的正则项。这两种算法分...
【文章页数】：138 页
【学位级别】：博士
【文章目录】：
摘要
ABSTRACT
符号对照表
第一章 绪论
1.1 研究背景和意义
1.1.1 理论研究价值
1.1.2 应用研究价值
1.2 问题描述
1.2.1 目标损失函数
1.2.2 网络结构
1.3 国内外研究现状
1.3.1 网络结构设计
1.3.2 损失函数优化
1.4 本文研究内容与主要贡献
1.5 本文的组织结构
第二章 基于虚拟负类别的softmax算法
2.1 引言
2.2 相关工作
2.3 类别数与特征空间关系
2.4 算法提出
2.4.1 问题定义
2.4.2 算法细节
2.4.3 算法的优化学习
2.5 算法的讨论
2.5.1 耦合衰减
2.5.2 特征更新
2.5.3 判别性分析
2.6 实验过程与结果分析
2.6.1 实验数据
2.6.2 基准算法和实验细节
2.6.3 实验结果
2.7 小结
第三章 基于退火噪声扰动的softmax算法
3.1 引言
3.2 相关工作
3.3 个体饱和行为
3.4 算法提出
3.4.1 算法定义
3.4.2 算法优化
3.5 算法讨论
3.5.1 噪声规模α的影响
3.5.2 饱和性分析
3.5.3 退火噪声的分析
3.5.4 正则化分析
3.5.5 与其他方法的对比
3.6 实验过程与结果分析
3.6.1 实验数据
3.6.2 实验细节
3.6.3 实验结果
3.7 小结
第四章 基于图约束的深度度量学习算法
4.1 引言
4.2 相关工作
4.3 算法提出
4.3.1 问题背景
4.3.2 图一致性
4.3.3 图一致的上届表达
4.3.4 图一致性度量学习
4.4 实验过程与结果分析
4.4.1 实验数据
4.4.2 实验细节
4.4.3 消融实验分析
4.4.4 与其他算法的结果对比
4.5 小结
第五章 基于混淆学习的深度度量学习算法
5.1 引言
5.2 相关工作
5.3 算法背景
5.4 算法提出
5.4.1 度量学习
5.4.2 能量混淆
5.4.3 多样性混淆
5.4.4 基于混淆学习的度量学习
5.5 实验过程与结果分析
5.5.1 实验数据
5.5.2 实验细节
5.5.3 算法性能对比
5.5.4 算法分析
5.6 小结
第六章 基于高阶关注模块的集成模型算法
6.1 引言
6.2 相关工作
6.3 算法细节
6.3.1 问题背景
6.3.2 高阶关注模块
6.3.3 基于混合高阶关注的集成模型网络
6.4 实验细节与结果分析
6.4.1 实验数据
6.4.2 实验细节
6.4.3 实验结果
6.4.4 组件分析
6.5 小结
第七章 总结与展望
7.1 本文总结
7.2 未来展望
参考文献
致谢
攻读学位期间发表的学术论文目录
本文编号：3732659
【文章页数】：138 页
【学位级别】：博士
【文章目录】：
摘要
ABSTRACT
符号对照表
第一章 绪论
1.1 研究背景和意义
1.1.1 理论研究价值
1.1.2 应用研究价值
1.2 问题描述
1.2.1 目标损失函数
1.2.2 网络结构
1.3 国内外研究现状
1.3.1 网络结构设计
1.3.2 损失函数优化
1.4 本文研究内容与主要贡献
1.5 本文的组织结构
第二章 基于虚拟负类别的softmax算法
2.1 引言
2.2 相关工作
2.3 类别数与特征空间关系
2.4 算法提出
2.4.1 问题定义
2.4.2 算法细节
2.4.3 算法的优化学习
2.5 算法的讨论
2.5.1 耦合衰减
2.5.2 特征更新
2.5.3 判别性分析
2.6 实验过程与结果分析
2.6.1 实验数据
2.6.2 基准算法和实验细节
2.6.3 实验结果
2.7 小结
第三章 基于退火噪声扰动的softmax算法
3.1 引言
3.2 相关工作
3.3 个体饱和行为
3.4 算法提出
3.4.1 算法定义
3.4.2 算法优化
3.5 算法讨论
3.5.1 噪声规模α的影响
3.5.2 饱和性分析
3.5.3 退火噪声的分析
3.5.4 正则化分析
3.5.5 与其他方法的对比
3.6 实验过程与结果分析
3.6.1 实验数据
3.6.2 实验细节
3.6.3 实验结果
3.7 小结
第四章 基于图约束的深度度量学习算法
4.1 引言
4.2 相关工作
4.3 算法提出
4.3.1 问题背景
4.3.2 图一致性
4.3.3 图一致的上届表达
4.3.4 图一致性度量学习
4.4 实验过程与结果分析
4.4.1 实验数据
4.4.2 实验细节
4.4.3 消融实验分析
4.4.4 与其他算法的结果对比
4.5 小结
第五章 基于混淆学习的深度度量学习算法
5.1 引言
5.2 相关工作
5.3 算法背景
5.4 算法提出
5.4.1 度量学习
5.4.2 能量混淆
5.4.3 多样性混淆
5.4.4 基于混淆学习的度量学习
5.5 实验过程与结果分析
5.5.1 实验数据
5.5.2 实验细节
5.5.3 算法性能对比
5.5.4 算法分析
5.6 小结
第六章 基于高阶关注模块的集成模型算法
6.1 引言
6.2 相关工作
6.3 算法细节
6.3.1 问题背景
6.3.2 高阶关注模块
6.3.3 基于混合高阶关注的集成模型网络
6.4 实验细节与结果分析
6.4.1 实验数据
6.4.2 实验细节
6.4.3 实验结果
6.4.4 组件分析
6.5 小结
第七章 总结与展望
7.1 本文总结
7.2 未来展望
参考文献
致谢
攻读学位期间发表的学术论文目录
本文编号：3732659
本文链接：https://www.wllwen.com/shoufeilunwen/xxkjbs/3732659.html