logo好方法网

一种分布式环境下车机数据加密传输及处理方法


技术摘要:
本发明涉及一种分布式环境下车机数据加密传输及处理方法,依次包括:步骤1,一级数据传输加密;步骤2,二级数据传输加密;及步骤3数据处理端对数据的处理及对数据通道的健康监控,该方法采用了多级加密手段,结合数据管理平台对消息队列、目标数据库及分布式数据库的监  全部
背景技术:
当前,为了实现各分布式环境下车机采集信息的加密存储、报警分析、数据挖掘和 集中存储,传统的做法是在业务低峰期通过SQL进行数据抽取分析、基于数仓工具抽取和基 于trigger(触发器)进行触发。但这几种方式均存在一定的缺点: 业务低峰期通过SQL进行数据抽取。缺点是数据存在重复抽取的可能性,并且会占用源 端数据库大量的IO读取,对源端数据库性能影响很大。 基于数仓工具进行抽取。缺点是采用ETL抽取的实效性差,一般是T 1,不能对采样 数据进行准实时的分析。 基于trigger(触发器)触发进行抽取。缺点是对于源端数据库侵入性大,且对源端 有一定的性能损失。 经公开专利检索,未检索到相关对比文件。
技术实现要素:
本发明的目的在于克服现有技术的不足之处,一种分布式环境下车机数据加密传 输及处理方法,该方法采用多级加密手段,结合数据管理平台对消息队列、目标数据库及分 布式数据库的监控管理,对源端数据库性能影响小,可对采样数据进行准实时的分析,且不 占目标数据库性能,使得车机的数据加密传输及处理更加安全、高效、可靠。 一种分布式环境下车机数据加密传输及处理方法,其特征在于,包括以下步骤: 步骤1,一级数据传输加密: 车机在出厂时候需要安装和解密机密钥匹配的加密芯片,加密芯片采用的密钥内置在 加密芯片中并和分布式车联网网关的解密机解密的密钥匹配;车机向分布式车联网网关传 输采集数据时,调用加密芯片的加密算法进行加密;分布式车联网网关提供TCP连接,车机 通过远程数据传输方式与分布式车联网网关连接; 步骤2,二级数据传输加密: 分布式车联网网关均连接有隔离装置,该隔离装置将采集数据编译为SQL语句并分别 发送至多个分布式源端数据库;根据分布式源端数据库的类型,安装与之适配的源端库代 理;分布式源端数据库发生数据增删修改时,向数据处理端输出数据库的增量日志;源端库 代理对输出的增量日志进行分析; 步骤3,数据处理端包括目标数据库、数据管理平台及消息队列,其中消息队列接收分 布式数据库发送的增量日志,且消息队列与数据管理平台双向信号连接;由数据管理平台 进行数据处理,处理内容包括: A、对消息队列进行队列控制; 4 CN 111556019 A 说 明 书 2/6 页 B、对目标数据库及多个分布式源端数据库进行健康监测; 最后由数据管理平台将处理完成的数据单向发送至目标数据库储存。 而且,步骤1中的远程数据传输方式可采用GPRS、3G及4G网络远程数据传输。 而且,步骤2中源端库代理对输出的增量日志进行分析时还包括如下两种处理类 型: A、如果数据库发生了删除、修改操作,不进行处理; B、如果数据库发生了新增操作,形成一条数据新增的消息发送到消息队列。 而且,步骤3中数据管理平台负责数据传输通道的管理和数据处理,该数据管理平 台内设有健康监测模块、数据同步模块、队列控制模块及数据处理模块,其中:健康监测模 块负责数据传输通道的健康管理;数据同步模块负责从消息队列取出处理后的车机数据, 并将车机数据写入到目标数据库;队列控制模块负责消息队列上主题的管理,并提供消息 队列主题的创建、删除和状态管理;数据处理模块对各分布式环境上传的增量数据进行处 理,处理完成后的数据由数据管理平台的目标数据库中储存并反馈至消息队列显示。 而且,步骤3中的健康监测模块的具体处理内容如下: A、健康监测模块调用源端库代理的心跳监测服务,请求源端库代理的状态信息,源端 库代理实时查询状态信息,并将状态信息返回给监控监测模块;返回的状态信息包括:源端 库代理是否存活、源端库代理所在服务器的CPU、内存、磁盘占用信息; B、健康监测模块调用目标端库代理的心跳监测服务,请求目标端库代理的状态信息, 目标端代理实时查询状态信息,并将状态信息返回给监控监测模块;返回的状态信息包括: 源端库代理是否存活、源端库代理所在服务器的CPU、内存、磁盘占用信息; C、健康监测模块提供页面展示功能,将监测到的源端库和目标端库的服务器的状态信 息显示在页面,并在状态信息超过阀值后给出报警提醒。 而且,步骤3中的数据同步模块的具体处理内容如下: A、从消息队列取出经过处理的消息,并发送给目标数据库的目标端库代理; B、目标端库代理和目标数据库运行在同一服务器上,并根据目标数据库的不同类型进 行适配;目标端库代理将接受数据管理平台发送的消息进行处理,并写入到目标数据库中。 而且,步骤3中的队列控制模块的具体处内容骤如下: A、队列控制模块在消息队列内创建数据源端主题,各分布式源端库代理发送的增量数 据的消息均放至数据源端主题内; B、队列控制模块在消息队列内创建中间状态主题,处理数据模块从数据源端主题中获 取车机数据,并对车机数据进行处理,处理结果放在消息队列中间状态主题; C、队列控制模块负责消息队列运行状态的监测,监测内容包括消息队列内各个主题的 消息增加情况及消耗情况。 而且,步骤3中的数据处理模块的具体处理内容如下: A、数据处理模块从消息队列的数据库源端主题取出消息; B、取出的车机数据做数据过滤处理,对错误的数据或者偏移过大的GPS坐标要进行抓 路分析,将坐标数据纠正到道路上; C、坐标数据要做一次坐标转换,调用第三方服务将车机数据转换成电网加密的坐标数 据,并获取到道路描述信息; 5 CN 111556019 A 说 明 书 3/6 页 D、转换后的数据封装成消息报,发送给消息队列的的中间状态主题。 本发明的优点和技术效果是: 1、本发明利用加密芯片,车机数据在网络传输前进行硬件加密,车联网网关接收到车 机数据后在服务端进行解密。加密芯片可以避免外部接口设计的信息监听和窃取,确保了 车机数据芯片级安全和网络传输的安全性。 2、本发明利用隔离装置技术,保证信息内网和信息外网在网络连接的安全的同 时,还能有效进行数据的穿透传输。 3、本发明利用数据库日志分析技术,通过准实时分析数据库的操作日志文件,准 实时获取到对数据库表的增删改操作,对源端数据库的侵入性小,源端数据库无任何性能 损失。 4、本发明利用消息队列技术,将增量的车机数据进行准实时分析,实现车机轨迹 数据的加密存储、报警分析、数据挖掘,对源端数据库无任何性能损失,并能实时对车辆行 驶的过程进行报警,可扩展性强。 5、本发明利用适配器设计模式,分别在源端数据库和目标数据库安装源端代理和 目标端代理,能够保证对不同类型数据库的适配,并确保数据网络传输的安全性。 附图说明 图1为本发明的数据加密传输及处理方法流程图。
下载此资料需消耗2积分,
分享到:
收藏