logo好方法网

基于分通道量化的特征提取方法、系统、设备及存储介质


技术摘要:
本发明实施例涉及计算机视觉技术领域,公开了基于分通道量化的特征提取方法、系统、设备及存储介质。本发明实施例先获取待处理图像;将待处理图像输入至目标特征提取模型,得到目标特征提取模型输出的目标对象特征;其中,目标特征提取模型是对初始特征提取模型中的浮  全部
背景技术:
随着计算机视觉的逐渐发展,特别是基于卷积神经网络的计算机视觉的不断发 展,其应用场景也越来越广泛。 但是,考虑到基于卷积神经网络的深度学习方法一般会需要较深的网络结构、庞 大的模型参数,对计算量也提出了一定的要求。 为了应对该计算需求,虽然可以在图形处理器(GPU,Graphics  Processing  Unit) 以及高性能中央处理器(CPU,central  processing  unit)上进行运算,但是,对于大多数嵌 入式设备而言,很难直接部署面向浮点运算的神经网络模型。 其中,嵌入式设备例如智能门锁、手表及物联网设备等。 很难直接在嵌入式设备上部署面向浮点运算的神经网络模型,这一方面是考虑到 嵌入式设备的存储空间有限,难以存储参数量巨大的浮点模型;另一方面是考虑到大多数 的低功耗的嵌入式设备仅适合定点数运算,处理浮点运算速度较慢。 可见,目前的低功耗硬件设备存在着与浮点模型之间难以适配的技术问题。
技术实现要素:
为了解决低功耗硬件设备与浮点模型之间难以适配的技术问题,本发明实施例提 供基于分通道量化的特征提取方法、系统、设备及存储介质。 第一方面,本发明实施例提供一种基于分通道量化的特征提取方法,包括: 获取待处理图像; 将所述待处理图像输入至目标特征提取模型,得到所述目标特征提取模型输出的 目标对象特征; 其中,所述目标特征提取模型是基于图像样本与特征样本训练得到的;所述目标 特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方 式进行模型压缩以得到的压缩后的特征提取模型。 优选地,所述获取待处理图像之前,所述基于分通道量化的特征提取方法还包括: 获取初始特征提取模型与待调整训练集; 通过所述初始特征提取模型处理所述待调整训练集,以记录所述初始特征提取模 型中每层特征值中每个通道分别对应的绝对值; 根据所述绝对值确定每个通道的量化小数位,以得到压缩后的目标特征提取模 型。 优选地,所述根据所述绝对值确定每个通道的量化小数位,以得到压缩后的目标 特征提取模型之后,所述基于分通道量化的特征提取方法还包括: 4 CN 111614358 A 说 明 书 2/11 页 将所述目标特征提取模型中的加法操作层对应的两个分支层的相同通道的量化 小数位设置为相同小数位。 优选地,所述将所述目标特征提取模型中的加法操作层对应的两个分支层的相同 通道的量化小数位设置为相同小数位,具体包括: 若所述目标特征提取模型中的加法操作层对应的第一分支层属于数据重新排列 层且第二分支层不属于所述数据重新排列层,则将所述第一分支层的小数位设置为加法操 作层的基准小数位,并将所述第二分支层的小数位设置为所述基准小数位。 优选地,所述根据所述绝对值确定每个通道的量化小数位,以得到压缩后的目标 特征提取模型之后,所述基于分通道量化的特征提取方法还包括: 通过固定长度量化方式确定所述目标特征提取模型中的卷积核权重的量化小数 位。 优选地,所述通过固定长度量化方式确定所述目标特征提取模型中的卷积核权重 的量化小数位,具体包括: 将所述目标特征提取模型中的批量标准化操作与卷积层进行合并,以得到新的卷 积层; 基于固定长度确定新的卷积层对应的卷积核权重的量化小数位。 优选地,所述根据所述绝对值确定每个通道的量化小数位,以得到压缩后的目标 特征提取模型之后,所述基于分通道量化的特征提取方法还包括: 将所述目标特征提取模型中的模型权重和输入层、输出层分别对应的特征值量化 为定点数; 将所述定点数反量化为全精度浮点数; 通过预设优化工具处理所述全精度浮点数,以优化所述目标特征提取模型。 第二方面,本发明实施例提供一种基于分通道量化的特征提取系统,包括: 图像获取模块,用于获取待处理图像; 特征提取模块,用于将所述待处理图像输入至目标特征提取模型,得到所述目标 特征提取模型输出的目标对象特征; 其中,所述目标特征提取模型是基于图像样本与特征样本训练得到的;所述目标 特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方 式进行模型压缩以得到的压缩后的特征提取模型。 第三方面,本发明实施例提供一种电子设备,包括存储器、处理器及存储在所述存 储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述程序时实现本发明第 一方面提供的一种基于分通道量化的特征提取方法的步骤。 第四方面,本发明实施例提供一种非暂态计算机可读存储介质,其上存储有计算 机程序,所述计算机程序被处理器执行时实现本发明第一方面提供的一种基于分通道量化 的特征提取方法的步骤。 本发明实施例提供的基于分通道量化的特征提取方法、系统、设备及存储介质,先 获取待处理图像;将待处理图像输入至目标特征提取模型,得到目标特征提取模型输出的 目标对象特征;其中,目标特征提取模型是基于图像样本与特征样本训练得到的;目标特征 提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方式进 5 CN 111614358 A 说 明 书 3/11 页 行模型压缩以得到的压缩后的特征提取模型。明显地,本发明实施例通过对初始特征提取 模型进行模型压缩操作,以使得压缩后的实际使用环节调用的模型可适配低功耗的电子设 备,从而解决了低功耗硬件设备与浮点模型之间难以适配的技术问题。同时,本发明实施例 以分通道的形式来处理量化小数位,该类不同通道单独量化的处理方式还可极大程度地降 低量化损失,从而可缓解网络性能下降的现况。 附图说明 为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现 有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发 明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根 据这些附图获得其他的附图。 图1为本发明实施例提供的一种基于分通道量化的特征提取方法的流程图; 图2为本发明又一实施例提供的一种基于分通道量化的特征提取方法的流程图; 图3为本发明再一实施例提供的一种基于分通道量化的特征提取方法的流程图; 图4为本发明实施例提供的一种基于分通道量化的特征提取系统的结构示意图; 图5为本发明实施例提供的一种电子设备的实体结构示意图。
分享到:
收藏