技术摘要：
本公开提供了一种量化训练、图像处理方法及装置、存储介质，其中，所述量化训练方法包括：模型训练设备对神经网络模型进行至少一轮迭代量化训练，得到第一量化模型；所述模型训练设备通过模拟硬件部署环境，对所述第一量化模型进行测试，得到所述第一量化模型的测试结  全部
背景技术：
随着越来越多的神经网络模型需要被部署到移动设备上，推理(Inference)的效 率已经成为了一个关键性问题。在部署到移动设备的情况下，需要精简神经网络模型的结 构，常用的方式包括量化。 量化就是将神经网络模型的高精度参数用较低精度的参数来近似表示。其中，高 精度参数可以包括浮点型参数，低精度参数可以包括整数型参数。量化后的神经网络模型 在单位时间内能处理更多的数据，且存储空间能进一步的减少等等。 目前，对神经网络模型的量化训练过程一般是根据经验指定量化训练的总次数， 在达到总次数后，将得到的量化模型转换为在实际的硬件环境中所对应的测试模型，并在 实际的硬件环境中运行该测试模型，得到运行结果。
技术实现要素：
本公开提供了一种量化训练、图像处理方法及装置、存储介质。 根据本公开实施例的第一方面，提供一种量化训练方法，所述方法包括：模型训练 设备对神经网络模型进行至少一轮迭代量化训练，得到第一量化模型；所述模型训练设备 通过模拟硬件部署环境，对所述第一量化模型进行测试，得到所述第一量化模型的测试结 果。 在一些可选实施例中，所述模型训练设备通过模拟硬件部署环境，对所述第一量 化模型进行测试，得到所述第一量化模型的测试结果，包括：所述模型训练设备通过调用目 标函数对所述第一量化模型进行测试，得到所述第一量化模型的测试结果，其中，所述目标 函数用于模拟硬件部署环境。 在一些可选实施例中，所述方法还包括：对所述第一量化模型进行转换处理，得到 第一测试模型，其中，所述转换处理包括去除所述第一量化模型的至少一个目标单元，所述 目标单元用于对所述神经网络模型的网络层的输出数据和网络参数中的至少一种进行量 化操作和/或去量化操作；所述模型训练设备通过模拟硬件部署环境，对所述第一量化模型 进行测试，得到所述第一量化模型的测试结果，包括：所述模型训练设备通过模拟硬件部署 环境，对所述第一测试模型进行测试，得到所述第一量化模型的测试结果。 在一些可选实施例中，所述转换处理是通过用于模拟所述硬件部署环境的目标函 数实现的。 在一些可选实施例中，所述模型训练设备通过模拟硬件部署环境，对所述第一量 化模型进行测试，得到所述第一量化模型的测试结果，包括：所述模型训练设备通过模拟硬 件部署环境，利用对所述第一量化模型的测试样本和网络参数进行定点化处理得到的定点 数据，对所述第一量化模型进行测试，得到所述第一量化模型的测试结果。 4 CN 111598237 A 说　明　书 2/11 页 在一些可选实施例中，所述方法还包括：所述模型训练设备对所述第一量化模型 进行至少一轮迭代量化训练，得到第二量化模型；所述模型训练设备通过模拟硬件部署环 境，对所述第二量化模型进行测试，得到所述第二量化模型的测试结果。 在一些可选实施例中，所述方法还包括：至少部分地基于所述第一量化模型的测 试结果，得到对所述神经网络模型进行量化训练的训练策略分析结果，其中，所述训练策略 分析结果包括下列中的至少一项：终止所述神经网络模型的量化训练、调整所述神经网络 模型中至少一个网络层的量化方式、调整所述神经网络模型的后续迭代的量化训练方式。 在一些可选实施例中，所述模型训练设备对所述第一量化模型进行至少一轮迭代 量化训练，得到第二量化模型，包括：所述模型训练设备在对所述第一量化模型进行所述测 试的过程中，并行地对所述第一量化模型进行至少一轮迭代量化训练，得到所述第二量化 模型。 在一些可选实施例中，所述对所述第一量化模型进行测试，得到所述第一量化模 型的测试结果，包括以下任一项：响应于对所述神经网络模型进行至少一轮迭代量化训练 的次数达到预设次数，对得到的所述第一量化模型进行测试，得到所述第一量化模型的测 试结果；或者响应于基于预设测试策略确定所述第一量化模型满足测试条件，对所述第一 量化模型进行测试，得到所述第一量化模型的测试结果。 根据本公开实施例的第二方面，提供一种图像处理方法，包括：将待处理图像输入 第一量化模型，得到所述第一量化模型输出的图像处理结果；其中，所述第一量化模型是通 过上述第一方面任一项所述的方法得到的量化模型。 根据本公开实施例的第三方面，提供一种量化训练装置，所述装置包括：第一量化 训练模块，用于模型训练设备对神经网络模型进行至少一轮迭代量化训练，得到第一量化 模型；第一测试模块，用于所述模型训练设备通过模拟硬件部署环境，对所述第一量化模型 进行测试，得到所述第一量化模型的测试结果。 在一些可选实施例中，所述第一测试模块包括：第一测试子模块，用于所述模型训 练设备通过调用目标函数对所述第一量化模型进行测试，得到所述第一量化模型的测试结 果，其中，所述目标函数用于模拟硬件部署环境。 在一些可选实施例中，所述装置还包括：模型转换模块，用于对所述第一量化模型 进行转换处理，得到第一测试模型，其中，所述转换处理包括去除所述第一量化模型的至少 一个目标单元，所述目标单元用于对所述神经网络模型的网络层的输出数据和网络参数中 的至少一种进行量化操作和/或去量化操作；所述第一测试模块包括：第二测试子模块，用 于所述模型训练设备通过模拟硬件部署环境，对所述第一测试模型进行测试，得到所述第 一量化模型的测试结果。 在一些可选实施例中，所述转换处理是通过用于模拟所述硬件部署环境的目标函 数实现的。 在一些可选实施例中，所述第一测试模块包括：第三测试子模块，用于所述模型训 练设备通过模拟硬件部署环境，利用对所述第一量化模型的测试样本和网络参数进行定点 化处理得到的定点数据，对所述第一量化模型进行测试，得到所述第一量化模型的测试结 果。 在一些可选实施例中，所述装置还包括：第二量化训练模块，用于所述模型训练设 5 CN 111598237 A 说　明　书 3/11 页 备对所述第一量化模型进行至少一轮迭代量化训练，得到第二量化模型；第二测试模块，用 于所述模型训练设备通过模拟硬件部署环境，对所述第二量化模型进行测试，得到所述第 二量化模型的测试结果。 在一些可选实施例中，所述装置还包括：确定模块，用于至少部分地基于所述第一 量化模型的测试结果，得到对所述神经网络模型进行量化训练的训练策略分析结果，其中， 所述训练策略分析结果包括下列中的至少一项：终止所述神经网络模型的量化训练、调整 所述神经网络模型中至少一个网络层的量化方式、调整所述神经网络模型的后续迭代的量 化训练方式。 在一些可选实施例中，所述第二量化训练模块包括：量化训练子模块，用于所述模 型训练设备在对所述第一量化模型进行所述测试的过程中，并行地对所述第一量化模型进 行至少一轮迭代量化训练，得到所述第二量化模型。 在一些可选实施例中，所述第一测试模块包括以下任一项：第四测试子模块，用于 响应于对所述神经网络模型进行至少一轮迭代量化训练的次数达到预设次数，对得到的所 述第一量化模型进行测试，得到所述第一量化模型的测试结果；或者第五测试子模块，用于 响应于基于预设测试策略确定所述第一量化模型满足测试条件，对所述第一量化模型进行 测试，得到所述第一量化模型的测试结果。 根据本公开实施例的第四方面，提供一种图像处理装置，所述装置包括：图像处理 模块，用于将待处理图像输入第一量化模型，得到所述第一量化模型输出的图像处理结果； 其中，所述第一量化模型是通过第一方面任一项所述的方法得到的量化模型。 根据本公开实施例的第五方面，提供一种计算机可读存储介质，所述存储介质存 储有计算机程序，所述计算机程序用于执行上述第一方面任一所述的量化训练方法或上述 第二方面所述的图像处理方法。 根据本公开实施例的第六方面，提供一种量化训练装置，包括：处理器；用于存储 所述处理器可执行指令的存储器；其中，所述处理器被配置为调用所述存储器中存储的可 执行指令，实现第一方面中任一项所述的量化训练方法。 根据本公开实施例的第七方面，提供一种图像处理装置，包括：处理器；用于存储 所述处理器可执行指令的存储器；其中，所述处理器被配置为调用所述存储器中存储的可 执行指令，实现第二方面所述的图像处理方法。 本公开的实施例提供的技术方案可以包括以下有益效果： 本公开实施例中，可以通过模型训练设备对神经网络模型进行至少一轮迭代量化 训练，得到第一量化模型，进一步地，模型训练设备再通过模拟硬件部署环境，对该第一量 化模型进行测试，从而得到第一量化模型的测试结果。本公开可以通过模型训练设备在进 行至少一轮迭代量化训练之后，模拟硬件部署环境，直接在训练框架下对第一量化模型进 行测试，无需将第一量化模型部署到实际硬件设备上就可以得到第一量化模型的测试结 果，有利于提高神经网络模型的开发效率。 应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不 能限制本公开。 6 CN 111598237 A 说　明　书 4/11 页 附图说明 此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施 例，并与说明书一起用于解释本公开的原理。 图1是本公开根据一示例性实施例示出的一种量化训练方法流程图； 图2是本公开根据一示例性实施例示出的另一种量化训练方法流程图； 图3A是本公开根据一示例性实施例示出的一种神经网络模型的架构示意图； 图3B是本公开根据一示例性实施例示出的一种第一量化模型的架构示意图； 图3C是本公开根据一示例性实施例示出的一种第一测试模型的架构示意图； 图4是本公开根据一示例性实施例示出的另一种量化训练方法流程图； 图5是本公开根据一示例性实施例示出的另一种量化训练方法流程图； 图6是本公开根据一示例性实施例示出的一种量化训练装置框图； 图7是本公开根据一示例性实施例示出的一种量化训练装置的一结构示意图。