技术摘要：
本发明实施例涉及一种对抗样本的生成方法及装置，所述方法包括：获得目标神经网络所在忆阻器阵列的硬件故障分布图；基于所述硬件故障分布图和所述目标神经网络在所述忆阻器阵列上的权重映射图确定部署在所述忆阻器阵列上的目标神经网络的实际权重；基于所述实际权重和  全部
背景技术：
随着深度神经网络技术的发展，神经网络被广泛地应用在诸多领域，例如语音识 别，图像识别，姿态检测，智能问答，智能决策、智能调度等。而随着神经网络的广泛应用，神 经网络的安全性变得尤为重要。 目前，对抗样本攻击是一种常用的针对神经网络的攻击手段，其目的是根据目标 神经网络生成对抗样本，使得目标神经网络模型预测出错误结果。基于此，相关人员提出， 利用对抗样本找出目标神经网络的弱点，然后改进这些弱点以增强目标神经网络的鲁棒 性。
技术实现要素：
鉴于此，为解决上述技术问题或部分技术问题，本发明实施例提供一种对抗样本 的生成方法及装置。 第一方面，本发明实施例提供一种对抗样本的生成方法，所述方法包括： 获得目标神经网络所在忆阻器阵列的硬件故障分布图； 基于所述硬件故障分布图和所述目标神经网络在所述忆阻器阵列上的权重映射 图确定部署在所述忆阻器阵列上的目标神经网络的实际权重； 基于所述实际权重和所述目标神经网络的原始权重对所述目标神经网络的原始 训练样本进行更新，得到对抗样本。 在一个可能的实施方式中，所述基于所述硬件故障分布图和所述目标神经网络在 所述忆阻器阵列上的权重映射图确定部署在所述忆阻器阵列上的目标神经网络的实际权 重，包括： 基于所述硬件故障分布图和所述目标神经网络在所述忆阻器阵列上的权重映射 图确定部署在所述忆阻器阵列上的目标神经网络相对于原始的目标神经网络的权重偏移； 基于所述权重偏移计算出部署在所述忆阻器阵列上的目标神经网络的实际权重。 在一个可能的实施方式中，所述基于所述实际权重和所述目标神经网络的原始权 重对所述目标神经网络的原始训练样本进行更新，包括： 将所述目标神经网络的原始训练样本分别输入至部署在所述忆阻器阵列上的目 标神经网络和原始的目标神经网络，得到部署在所述忆阻器阵列上的目标神经网络的第一 输出结果和原始的目标神经网络的第二输出结果； 基于所述第一输出结果确定部署在所述忆阻器阵列上的目标神经网络的第一模 型梯度，并基于所述第二输出结果确定原始的目标神经网络的第二模型梯度； 确定所述第一模型梯度和所述第二模型梯度的差分值； 4 CN 111582473 A 说　明　书 2/6 页 基于所述差分值对所述目标神经网络的原始训练样本进行更新。 在一个可能的实施方式中，所述方法还包括： 将所述对抗样本替代所述原始训练样本进行迭代处理，直至满足设定的收敛条 件。 在一个可能的实施方式中，所述方法还包括： 利用所述对抗样本和所述原始训练样本对所述目标神经网络进行重训练。 第二方面，本发明实施例提供一种对抗样本的生成装置，所述装置包括： 故障分析模块，用于获得目标神经网络所在忆阻器阵列的硬件故障分布图； 确定模块，用于基于所述硬件故障分布图和所述目标神经网络在所述忆阻器阵列 上的权重映射图确定部署在所述忆阻器阵列上的目标神经网络的实际权重； 更新模块，用于基于所述实际权重和所述目标神经网络的原始权重对所述目标神 经网络的原始训练样本进行更新，得到对抗样本。 在一个可能的实施方式中，所述确定模块基于所述硬件故障分布图和所述目标神 经网络在所述忆阻器阵列上的权重映射图确定部署在所述忆阻器阵列上的目标神经网络 的实际权重，包括： 基于所述硬件故障分布图和所述目标神经网络在所述忆阻器阵列上的权重映射 图确定部署在所述忆阻器阵列上的目标神经网络相对于原始的目标神经网络的权重偏移； 基于所述权重偏移计算出部署在所述忆阻器阵列上的目标神经网络的实际权重。 在一个可能的实施方式中，所述更新模块基于所述实际权重和所述目标神经网络 的原始权重对所述目标神经网络的原始训练样本进行更新，包括： 将所述目标神经网络的原始训练样本分别输入至部署在所述忆阻器阵列上的目 标神经网络和原始的目标神经网络，得到部署在所述忆阻器阵列上的目标神经网络的第一 输出结果和原始的目标神经网络的第二输出结果； 基于所述第一输出结果确定部署在所述忆阻器阵列上的目标神经网络的第一模 型梯度，并基于所述第二输出结果确定原始的目标神经网络的第二模型梯度； 确定所述第一模型梯度和所述第二模型梯度的差分值； 基于所述差分值对所述目标神经网络的原始训练样本进行更新。 在一个可能的实施方式中，所述更新模块还用于： 将所述对抗样本替代所述原始训练样本进行迭代处理，直至满足设定的收敛条 件。 在一个可能的实施方式中，所述装置还包括： 重训练模块，用于利用所述对抗样本和所述原始训练样本对所述目标神经网络进 行重训练。 第三方面，本发明实施例提高一种电子设备，包括处理器、通信接口、存储器和通 信总线； 其中，所述处理器、通信接口、存储器通过所述通信总线进行相互间的通信； 所述存储器，用于存放计算机程序； 所述处理器，用于执行所述存储器上所存放的计算机程序，所述处理器执行所述 计算机程序时实现本发明对抗样本生成方法的步骤。 5 CN 111582473 A 说　明　书 3/6 页 第四方面，本发明提供一种计算机可读存储介质，所述计算机可读存储介质内存 储有计算机程序，所述计算机程序被处理器执行时实现本发明对抗样本生成方法的步骤。 本发明实施例提供的方法，通过获得目标神经网络所在忆阻器阵列的硬件故障分 布图，基于硬件故障分布图和目标神经网络在忆阻器阵列上的权重映射图确定部署在忆阻 器阵列上的目标神经网络的实际权重，基于实际权重和目标神经网络的原始权重对目标神 经网络的原始训练样本进行更新，得到对抗样本，由于生成对抗样本时考虑了忆阻器阵列 的硬件缺陷，因此，利用对抗样本可以找到由于忆阻器阵列的硬件缺陷而导致的目标神经 网络的弱点，最后，通过利用对抗样本对目标神经网络进行重训练，则可以改进这些弱点， 从而增强部署在忆阻器阵列上的目标神经网络的鲁棒性。 附图说明 图1为忆阻器阵列的结构图； 图2为本发明一示例性实施例提供的一种对抗样本的生成方法的实施例流程图； 图3为本发明一示例性实施例提供的一种对抗样本的生成装置的实施例框图； 图4为本发明一示例性实施例提供的一种电子设备的结构示意图。