技术摘要:
本发明公开了一种从曲面零件阴影图生成深度图的深度学习方法,通过采用CGAN神经网络和pix2pix的网络结构,完成输入曲面零件阴影图生成曲面零件深度图的工作。把曲面零件阴影图输入生成器,生成深度图,生成器生成的深度图和真实的深度图输入判别器进行单个像素的一一对 全部
背景技术:
: 光学测量是一种在运用计算机技术的基础上,通过将光电技术与机械测量的结 合,从而达到快速、准确测量工作的一门新技术。目前广泛应用于电子、机械、齿轮加工等精 密作领域,其测量结果准确,偏差极小。 随着计算机技术的发展,从单张图像恢复物体的高精度三维信息也成为可能,例 如使用CGAN神经网络使用单张物体条纹图恢复深度图,或者从单张物体阴影图中恢复其形 状和深度信息。从物体阴影图到对应的深度图虽然有内在联系,但是不是一个简单的函数 关系,所以现在一般采用神经网络的方法进行深度信息解码。曲面零件的型面一般为金属 表面,金属经过抛光后存在反射现象,并且随着曲面零件型面形状的不同,反射的位置和强 度也不同。如果曲面零件正面存在一个固定的光源,则曲面零件型面则会形成一个随曲面 零件曲率和高度变化的光影区域。根据上述利用神经网络从单张阴影图恢复深度图的方 法,我们可以根据曲面零件光影的明暗来判断曲面零件型面的高低变化从而对曲面零件进 行三维重建。 深度学习一般需要大量训练数据集,从单张阴影图恢复深度图的方法需要的训练 数据集包括物体的阴影图片和对应的深度图片。一般训练数据集中深度图的采集方式为结 构光法或者双目立体视觉三维重建。使用单张阴影图恢复深度图的方法对曲面零件进行三 维重建同样需要上述数据集。但是在实际工厂检测中,使用结构光法或立体视觉的方法采 集到的曲面零件深度信息有测量精度不高,噪声点多,易受背景物体干扰,测量速度慢等缺 点,所以需要一种快速高精度的数据集生成方法。 在生成曲面零件阴影图和对应的深度图后,可以进行深度学习训练,训练出的神 经网络可以完成输入任意角度曲面零件阴影图直接生成对应角度曲面零件三维信息的工 作。网络生成的三维信息可以在曲面零件的测量路径规划,逆向重建等方面提供帮助。
技术实现要素:
: 针对现有技术的以上缺陷或改进需求,本发明提出了一种利用神经网络从单张曲 面零件阴影图生成深度图的测量方法以及对应的数据集生成方法,该数据集包括曲面零件 阴影图和对应的曲面零件深度图。本数据集生成方法适用的神经网络一般为GAN (Generative Adversarial Networks)或CGAN(Conditional GAN)等图到图的神经网络。 本发明设计了一个曲面零件阴影图采集装置,以及提出了一种曲面零件阴影图和 深度图的匹配方法,使用该装置和匹配方法可以采集曲面零件阴影图和与之匹配的曲面零 件深度图。本发明建立了一套深度学习网络,使用了CGAN神经网络,pix2pix的网络结构,完 成输入曲面零件阴影图生成曲面零件深度图的工作。 4 CN 111612071 A 说 明 书 2/4 页 本方法包含以下步骤: 把曲面零件阴影图输入生成器,生成深度图,生成器生成的深度图和真实的深度 图输入判别器进行单个像素的一一对比,两者不停对抗训练。使用U-NET网络作为CGAN网络 中的生成器的主要结构。训练出的神经网络可以完成输入任意角度曲面零件阴影图直接生 成对应角度曲面零件三维信息的工作。网络生成的三维信息可以在曲面零件的测量路径规 划,逆向重建等方面提供帮助。 深度学习中使用的数据集的制作方法如下: 步骤一、搭建曲面零件阴影图采集装置。 曲面零件阴影图采集装置以四轴测量机为基础,包含曲面零件夹具、旋转工作台, 固定光源,工业相机,黑色背景板。曲面零件装夹在夹具中并放置在旋转工作台上,固定光 源和工业相机固定在四轴测量机的Y轴上,并沿机床Y轴对曲面零件进行光照和测量。使用 固定光源对曲面零件进行照射,黑色背景板放在曲面零件后方,工业相机采集曲面零件光 影图。 步骤二、采集曲面零件型面阴影图。 放置曲面零件在测量机旋转工作台上,调整曲面零件位置使曲面零件工件坐标系 的Y轴和测量机的Y轴平行,曲面零件的Z轴和测量机的Z轴平行,曲面零件工件坐标系中心 和旋转工作台中心基本重合。工业相机沿测量机Y轴对曲面零件型面进行拍摄,采集曲面零 件型面的阴影图。曲面零件工件坐标系和曲面零件的CAD模型坐标系是同一个坐标系,所以 相机采集到的光影图和CAD模型对应。 步骤三、生成对应深度图。 曲面零件型面的CAD模型先进行离散化采样,得到曲面零件型面的点云坐标。模拟 相机投影,把曲面零件型面的点云沿Y轴向XZ平面进行投影,将其投影到分辨率wc×hc的图 片区域中,图片的灰度值为点云的Y坐标,最后对投影图片的灰度值进行标准化处理。 步骤四、采集曲面零件多角度图片和生成对应的深度图。 转台旋转θ°角度,重复步骤二采集θ°的光影图。曲面零件型面点云绕Z轴旋转θ°, 重复步骤三生成θ°的曲面零件深度图。 步骤五、更换其他曲面零件重复步骤二至四。生成多个角度多种曲面零件的训练 数据集。 上述曲面零件阴影图采集装置,以及一种曲面零件阴影图和深度图的匹配方法适 用于固定的光源和曲面零件,如果曲面零件和光源的位置关系发生变换,则需要重新采集 图片进行训练。 本发明与现有技术相比,能够取得下列有益效果: 1 .曲面零件阴影图直接匹配曲面零件CAD模型再根据CAD模型生成深度图的训练 集生成方法避免了使用结构光和双目立体视觉的测量误差。 2.使用CAD模型直接生成深度图简化了测量步骤,并可以生成多个角度曲面零件 阴影图和深度图的训练数据。 3.深度学习生成的网络具有泛化能力,可以完成输入任意角度曲面零件阴影图直 接生成对应角度曲面零件三维信息的工作,并可以在曲面零件的测量路径规划,逆向重建 等方面提供三维信息支持。 5 CN 111612071 A 说 明 书 3/4 页 附图说明: 图1为神经网络结构图。 图2为曲面零件阴影测量装置图。 图3为曲面零件安装图。 图4为工业相机采集的曲面零件阴影图。 图5为深度图生成示意图。 图6为CGAN网络生成的深度图。