面向深度学习模型的反隐私隐藏技术研究

发布时间：2023-02-15 08:52

　　深度学习模型隐私隐藏攻击技术,是从训练出的深度学习模型中抽取与训练数据相关信息的攻击技术。该技术包括主动的和被动的。被动攻击针对从正常训练模型中还原出训练集的信息。主动攻击要求攻击者可以控制模型工作流,在模型训练时通过编码的方式将数据隐私隐藏在模型之中,模型发布后通过解码的方式窃取隐藏在模型中的数据。与被动攻击相比,主动攻击可以抽取更加精确的训练集中的数据,因此对训练数据的隐私威胁更大,故本课题主要研究主动攻击。对文献进行总结,模型在数据准备、模型训练和模型发布环节,分别可以采用增加合成的恶意数据、修改模型训练损失函数和修改模型参数的方式实施攻击。攻击不会对模型在正常任务上的性能产生影响,从而使攻击具有隐蔽性。主动攻击的危害和隐蔽性使得该问题成为一个重要且具有挑战性的研究点。本文总结和系统分析了针对模型训练不同环节的隐私隐藏攻击。通过实验,本文验证了隐私隐藏攻击的可行性,并分析训练时的参数配置对攻击效果和模型在原始任务上的性能的影响。针对攻击的防御研究具有防御效果差且影响模型性能的缺点,本文针对存在的问题,提出了具有针对性的防御方法。从不对模型进行修改的角度,针对模型训练环节的攻击,本...

【文章页数】：64 页

【学位级别】：硕士

【文章目录】：
摘要
ABSTRACT
第1章 绪论
    1.1 课题背景及研究意义
    1.2 国内外研究现状
        1.2.1 隐私隐藏攻击研究
        1.2.2 反隐私隐藏技术研究
    1.3 本文主要研究内容
    1.4 本文组织结构
第2章 深度学习模型隐私隐藏攻击
    2.1 引言
    2.2 深度学习模型训练工作流
    2.3 威胁模型
        2.3.1 攻击场景和假设
        2.3.2 角色和权限
    2.4 隐私隐藏攻击综述
        2.4.1 数据准备环节的攻击
        2.4.2 模型训练环节的攻击
        2.4.3 模型发布环节的攻击
    2.5 基准模型评估
        2.5.1 实验环境
        2.5.2 攻击和防御效果指标
        2.5.3 基准模型训练
    2.6 隐私隐藏攻击评估
        2.6.1 数据准备环节攻击评估
        2.6.2 数据训练环节攻击评估
        2.6.3 数据发布环节攻击评估
    2.7 本章小结
第3章 基于鉴别的反隐私隐藏技术
    3.1 引言
    3.2 基于模型参数鉴别的反隐私隐藏技术
        3.2.1 模型训练环节的模型参数统计特征
        3.2.2 模型参数鉴别器构造算法
        3.2.3 模型参数鉴别技术评估
    3.3 基于合成恶意数据鉴别的反隐私隐藏技术
        3.3.1 数据降维方法
        3.3.2 合成恶意数据判别器构造算法
        3.3.3 合成恶意数据鉴别技术评估
    3.4 本章小结
第4章 基于模型剪枝的反隐私隐藏技术
    4.1 引言
    4.2 神经元激活分析
    4.3 模型剪枝算法
        4.3.1 模型剪枝理论
        4.3.2 基于模型剪枝的反隐私隐藏算法
        4.3.3 任务相关性度量
    4.4 模型剪枝反隐私隐藏技术评估
        4.4.1 任务相关性度量实验
        4.4.2 模型剪枝实验评估
        4.4.3 反隐私隐藏技术对比
    4.5 本章小结
结论
参考文献
致谢



本文编号：3743200