logo好方法网

一种城市资源整合系统及城市资源整合方法


技术摘要:
本发明包括一种城市资源整合系统,包括多个数据接入区、一个数据缓存区和一个智能处理器,每个数据接入区的终端均设有数据判断模块,所述数据缓存区包括一级缓存库和二级缓存库,所述所述智能处理器的输出端与所述数据判断模块的输入端相连,每个数据判断模块通过第一  全部
背景技术:
城市信息资源整合与共享是在数字城市信息资源极大丰富的背景下,针对“信息 孤岛”和“资  源过载”问题而提出的重要解决方案。它将资源视为一个系统,依据一定的需 要和要求,通过各种  技术把不同来源和不同通信协议的信息体系有机的融合在一起,使不 同类型、不同格式的信息资源 实现无缝连接,在实现信息资源结构优化和合理布局的基础 上,通过有效的共享机制,最终形成一  个具有集成化服务功能的跨平台、跨系统、跨数据 库、跨内容的新型信息资源服务体系统。它是网  络环境下数字城市信息服务向纵深发展的 结果,也是当前数字城市集成化信息服务的主流模式,不  仅能实现城市信息资源的合理配 置、开放共享和充分利用,保证资源效益最大化,也将为城市的整  体、可持续发展提供科学 决策的依据,也能够为经济建设、社会发展和广大人民群众生活服务的提 高提供有力的保 障和支持。 一般的城市资源整合系统及资源整合方法是这样的:数据接入区分布在各行业的 业务部门,接  入城市中的各类数据源,各类数据源再陆续地缓存到数据缓存区,数据缓存 区对各类数据源的数据  增量按照预设的统一的标准格式进行清洗、映射和转换,得到标准 数据,然后将标准数据分类存在  标准数据资源池的不同类型存储区域,接着在标准数据资 源池的基础上,按照城市基础要素对标准  数据资源池的数据进行关联和整合,构建基础要 素库,并在基础要素库的基础上根据业务需求建立 业务专题库。 但本申请发明人在实现本发明实施例的技术方案的过程中,发现上述技术至少存 在如下技术问  题: 当城市遇上特殊的购物节、节假日或者特殊时期的消费政策引导,导致各业务部 门的业务量在  这几天内大大激增,从而导致数据接入区接入的数据源的体量大大增加,但 是数据缓存区中只有一  个数据缓存库,也没有分文别类地对数据进行储存,且数据缓存区 的储存空间也是有限的,只能依  次对存入数据缓存区的数据进行清洗、映射和转换,得到 标准数据,造成整个系统吞吐量非常缓慢,  运行效率低下,而数据接入区和数据缓存区的 储存空间是有限的,当之前接入的数据源拥堵在数据  缓存区进行处理时,后续接入的数据 源就也占满了数据接入区,造成后续的数据源因无法接入到数  据接入区而无法及时被保 存下来,会造成资源整合系统缺少一些关键信息,降低了系统的资源共享  效率,影响了一 些市民及时获取信息和办理事情。
技术实现要素:
本发明的第一个目的是针对现有技术中所存在的上述不足而提供一种城市资源 整合系统及资源  整合方法,现有数据整合系统的缓存库只有一个而无法及时快速处理突 4 CN 111598759 A 说 明 书 2/6 页 然激增的数据增量,导致系  统运行效率低下,而且由于缓存区库处理需要处理较多数据, 数据接入区的数据无法传送到缓存区 内,拥堵在数据接入区内,导致新的数据源无法保留 下来。 为实现上述第一个目的,本发明采用了如下的技术方案:一种城市资源整合系统, 包括多个数  据接入区和一个数据缓存区,所述数据接入区位于各服务部门的业务系统前 置机上,用于接入城市 中各类数据源,所述数据缓存区用于缓存各类数据源的增量, 每个数据接入区的终端均设有数据判断模块,所述数据缓存区包括一级缓存库和 二级缓存库,  所述一级缓存库的类型为本地缓存,所述二级缓存库的类型为服务器分布式 缓存,该城市资源整合  系统还包括一个智能处理器,所述智能处理器的输出端与所述数据 判断模块的输入端相连,每个数  据判断模块通过第一数据传输端和第二数据传输端分别 与所述一级缓存库和二级缓存库的输入端相 连; 该城市资源整合系统还包括一个临时数据资源池和多个客户端,所述一级缓存库 的输出端和所  述临时数据资源池的输入端电信相连,所述临时数据资源池与所述智能处 理器双向连接,所述智能 处理器与所有所述客户端双向连接,所述二级缓存库的输出端与 一个标准数据资源池的输入端电信  相连,所述标准数据资源池的输出端与所述智能处理 器的输入端双向连接; 所述临时数据资源池包括快速调用端,所述快速调用端是默认关闭的,所述标准 数据资源池的  输出端是默认开启的,设置n为同一时间内调用数据的客户端的个数,当n< 100时,所述客户端调  用所述标准数据资源池中的数据,但当n≥100或标准数据资源池中 的数据没有命中时时,所述调用  输出端开启,所述标准数据资源池的输出端关闭,所述客 户端调用所述临时数据资源池的数据。 进一步的,所述一级缓存库和所述临时资源池之间设有重复删除设备,所述一级 缓存库中和所  述临时数据资源池中的数据有效期限是3小时,当数据超过有效期限后就会 被删除。 进一步的,所述标准数据资源池的输出端与一个基础要素数据资源池的输入端电 信相连。 进一步的,所述临时数据资源池包括两个分类区,分为字段类型区和数据结构型 区,所述字段  类型区包括文本类数据区、数值类数据区、时间类数据区,所述数据结构型区 包括结构化数据区、 半结构化数据区和非结构化数据区。 进一步的,所述临时数据资源池还包括新数据分析模块、数据处理区、数据类型识 别区,当临  时数据资源池接入新数据时,新数据分析模块会对新数据进行分析,并将分析 的结构传送至所述数  据处理区进行分析处理,然后所述数据处理区会将新数据传送至所 述数据类型识别区进行数据类型 的识别,识别完成后将识别出类型的新数据分类传送至 所述字段类型区和/或所述数据结构型区。 一种城市资源整合方法,其特征在于,包括以下步骤: S60,数据接入区接入城市中各类数据源; S61,数据接入区的数据按照级别分流传输到一级缓存库和二级缓存库中; S62,一级缓存库中的数据经重复删除设备后判别删出重复数据后,转入到临时数 据资源池内,  临时数据资源池将其内部的数据每隔10-20分钟就执行分类命令,按照字段 5 CN 111598759 A 说 明 书 3/6 页 类型(文本类数据、数  值类数据、时间类数据)、数据结构型(结构化数据、半结构化数据和 非结构化数据)分类储存,  而二级缓存库中的数据会转入到标准资源数据库中; S63,临时数据资源池包括快速调用端,快速调用端是默认关闭的,标准资源数据 库中的输出端  是默认开启的,当在同一时间段内客户端请求调用数据的个数小于100个 时,此时,标准资源数据  库中的数据输入到基础要素数据资源池中,基础要素数据资源库 中的数据传输给所有请求的客户端,  当在同一时间段内客户端请求调用同一数据的个数 大于等于100个时,快速调用端开启,标准资源  数据库中的输出端关闭,客户端调用的数据 是一级缓存库中来的, 其中,S62和S63不是必定先后顺序的关系,而是可以同步进行的; 进一步的,所述重复删除设备删除重复数据的步骤为: S71,获取待处理数据的MD5值和对应的数据标识; S72,将MD5值存放在redis集群上; S73,将待处理数据的键值对中的MD5值和已有数据的键值对中的MD5值进行对比, 判断待处理  数据的键值对中的MD5值和已有数据的键值对中的MD5值是否相同,通过不断 比对操作,删除垃圾  重复数据,如果待处理数据的键值对中的MD5值和已有数据的键值对 中的MD5值相同,则可以认为  两条数据互相重复,因此将待处理数据进行删除,同时确定与 待处理数据重复的已有数据的数据标  识,以确定与待处理数据重复的已有数据。 本发明的有益效果: 1 .本发明将数据缓存区分成一级缓存库和二级缓存库,一级缓存库是本地缓存, 二级缓存库  为分布式缓存库,各个接入区的终端设有数据判断模块,在智能处理器内输入 数据对照表格,将接  入区的数据流向在一级缓存库和二级缓存库之间进行分流,流入二级 缓存库内的数据是数据量大的  且调用频率低的,流入一级级缓存库内的数据是数据量小 的且调用频率比较高的,这样就将数据分  流成两大路线,避免了之前接入的数据源太多而 拥堵在缓存区,继而造成新的数据源无法接入数据  接入区而丢失的情况,本发明保证了在 数据源激增的情况下数据传输仍然能够保持通畅,系统自身 能够保持正常的吞吐量,系统 运行效率不受影响。 2.本发明因为流入一级缓存库的数据调用的频率比较高,所以同一时间内同时调 用一级缓存  库数据的客户端个数应该非常多,但是因为是本地缓存的,所以客户端在调用 数据的时候速度很快,  调用的效率比较高;二级缓存库是分布式服务器缓存库,能够同时 被许多客户端调用数据,一般情  况下会网速足够快时,许多客户端在同时在调用数据的时 候就能保持正常速度,相互不受影响,但  是这也使得宽带费用非常高昂,但是在本发明中 因为部分数据源已经分流到了一级缓存库中,所以  二级缓存库内的数据已经大大减少,所 以在不需要网速很高的情况下,也能快速地同时地调用二级 缓存库的情况。 3.本发明能够采集城市的各行业的各类信息,并使资源进行整合,城市信息得到 共用,方便  对城市进行智能化管理,将城市中的数据按照城市的要素进行关联整合,实现 基于要素的大数据的  服务,更易于各部门之间进行数据共享,同时可以更方便的基于城市 要素进行大数据分析,以及更 好的为市民、企业等进行大数据服务。 6 CN 111598759 A 说 明 书 4/6 页 附图说明 图1为本发明实施例的框图。
下载此资料需消耗2积分,
分享到:
收藏