logo好方法网

微服务请求的流量管理方法、装置、服务器及存储介质


技术摘要:
本发明实施例涉及微服务领域,公开了一种微服务请求的流量管理方法、装置、服务器及存储介质。本发明包括:代理服务器接收业务请求;根据业务请求携带的特征信息,在所述多个预设业务路由策略中确定目标业务路由策略;其中,预设业务路由策略在配置文件中设置;将业务  全部
背景技术:
微服务架构是一种由多个松散耦合的微服务组成一个完整应用系统的架构,其 中,每个微服务实现单一的职责与功能,可以独立开发、测试、部署。随着业务的发展,越来 越多的企业采用微服务架构来开发应用系统,而一个复杂的应用系统可能由数十个甚至上 百个微服务组成,每个微服务又会为多个用户的业务请求进行服务,这就导致了整个微服 务架构下的服务器中会接收到大量的业务请求,如此大量的业务请求如果不加以管理,很 容易造成用户的业务请求不能及时处理,导致业务请求的处理效率降低。 目前对微服务请求的流量管理,通常采用同机房或同网络优先的策略,将业务请 求分发至同机房或同网络的服务器进行处理,减少了业务请求在路由至服务器时耗费的时 间,从而加快了业务请求的处理效率。 发明人发现相关技术中至少存在如下问题:在通过机房或网络等信息对业务请求 进行流量管理时,管理策略较为单一,无法适用于复杂的应用场景,且用户无法根据需求灵 活调整流量的流向。
技术实现要素:
本发明实施方式的目的在于提供一种微服务请求的流量管理方法、装置、服务器 及存储介质,根据业务请求携带的特征信息确定其所路由的目标服务器,实现在微服务构 架下对业务请求的流量的定向管理,使用户可以更加灵活的管理流量。 为解决上述技术问题,本发明的实施方式提供了一种微服务请求的流量管理方 法,包括:代理服务器接收业务请求;根据业务请求携带的特征信息,在多个预设业务路由 策略中确定目标业务路由策略;其中,预设业务路由策略在配置文件中设置;将业务请求按 照目标业务路由策略路由至目标服务器。 本发明的实施方式还提供了一种微服务请求的流量管理装置,包括:接收模块,确 定模块,路由模块;接收模块用于接收业务请求;确定模块用于根据业务请求携带的特征信 息,在多个预设业务路由策略中确定目标业务路由策略;其中,预设路由策略在配置文件中 设置;路由模块用于将业务请求按照目标业务路由策略路由至目标服务器。 本发明的实施方式还提供了一种微服务请求的流量管理系统,包括:页面服务设 备,注册中心和代理服务器;页面服务设备用于设置多个与业务请求携带的特征信息相匹 配的预设业务路由策略,并将多个预设业务路由策略作为流量管理数据存储至数据库中; 注册中心用于获取流量管理数据,并根据流量管理数据生成配置文件;代理服务器用于在 接收到业务请求之后,根据业务请求携带的特征信息,在注册中心下载的配置文件中的多 个预设业务路由策略中确定目标业务路由策略;并将业务请求按照目标业务路由策略路由 4 CN 111600930 A 说 明 书 2/10 页 至目标服务器。 本发明的实施方式还提供了一种服务器,包括:至少一个处理器;以及,与至少一 个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被 至少一个处理器执行,以使至少一个处理器能够执行微服务请求的流量管理方法。 本发明的实施方式还提供了一种存储介质,存储有计算机程序,计算机程序被处 理器执行时上述的微服务请求的流量管理方法。 本发明实施方式相对于现有技术而言,在接收到用户的业务请求时,获取业务请 求中携带的特征信息,特征信息为某一个业务请求或某一类业务请求的标识信息,通过该 特征信息即可确定业务请求的类型,从而区分不同类型的业务请求。在获取业务请求的特 征信息之后,获取预先配置的该类型的业务请求的目标业务路由策略,业务路由策略由管 理员根据各个类型的业务请求的实际需求进行预先配置,在业务请求的实际需求发生变化 时可以对业务路由策略的配置项进行修改,从而可以灵活的实现业务请求的流量的管理。 在根据预先配置的配置文件确定目标业务路由策略之后,根据目标业务路由策略将业务请 求路由至目标服务器,由于目标业务路由策略中规定了业务请求所路由的目标服务器,因 此实现了对业务请求流量的定向管理,使用户可以灵活的对流量进行管理。 另外,根据业务请求携带的特征信息,在多个预设业务路由策略中确定业务路由 策略,包括:获取各个预设业务路由策略对应的匹配节点定义的信息;若预设业务路由策略 的匹配节点定义的信息与特征信息相同,或预设业务路由规则的匹配节点未定义信息,则 将预设业务路由策略作为目标业务路由策略。定义在配置文件中,若某一路由规则未定义 匹配节点,则说明该路由规则适用于任一业务请求,所以与特征信息相匹配的匹配节点,不 仅包括定义的信息与特征信息相同的匹配节点,还可以包括未定义信息的匹配节点。 另外,将预设业务路由策略作为目标业务路由策略,包括:若目标业务路由策略的 数量大于一,则将目标业务路由策略按预设优先级顺序进行排序;将业务请求按照目标业 务路由策略路由至目标服务器,包括:按预设优先级顺序的目标业务路由策略确定对应的 目标服务器,直至所确定的目标服务器满足路由条件;将业务请求路由至满足路由条件的 目标服务器。在接收业务请求之后,为该业务请求配置多个业务路由策略,每个业务路由策 略分别对应不同的目标服务器,以便在业务请求所需路由的服务器处于无法正常工作情况 下,将业务请求路由至其他满足条件的目标服务器,保证业务请求可以及时被处理。 另外,在确定业务路由策略之前,还包括:通过注册中心的网络接口下载配置文 件;解析下载的配置文件。这样可以利用配置文件中路由规则的匹配节点实现不同特征信 息业务请求路由策略的匹配,同时通过修改配置文件的匹配节点信息即可调整各类型业务 请求所匹配的路由策略,调整方式简单灵活,便于实现。 另外,路由策略还包括:将业务请求路由至目标服务器的权重;将业务请求按照目 标业务路由策略路由至目标服务器,包括:根据目标业务路由策略中包括的权重,对业务请 求路由至目标服务器的流量进行管理。通过设置路由的权重可以对业务请求进行分流,控 制了流向目标服务器的流量比例,管理员可以设定不同的权重,轻松实现灰度升级和测试 引流等功能。 另外,配置文件中还包括以下任一策略或其组合:负载均衡策略,限流策略或容错 策略;将业务请求按照路由策略路由至目标服务器,包括:按照路由策略,并结合负载均衡 5 CN 111600930 A 说 明 书 3/10 页 策略,限流策略或容错策略确定目标服务器;将业务请求路由至目标服务器。通过负载均衡 策略可以对处理业务请求的各个服务器的负载情况进行均衡,防止服务器过载。通过容错 重试策略可以对异常路由的业务请求进行重新路由或调整路由的目标服务器,从而保证业 务请求的正常路由,避免路由异常情况下无法完成业务请求的正常处理。通过限流策略可 以防止在某一业务请求类型的流量过大时,导致微服务的服务器被大量的业务请求冲垮, 在业务请求的并发数或访问频率超过预设阈值时满足限流策略,不再对该业务请求进行分 发,保证服务器的正常运行。 附图说明 一个或多个实施例通过与之对应的附图中的图片进行示例性说明,这些示例性说 明并不构成对实施例的限定,附图中具有相同参考数字标号的元件表示为类似的元件,除 非有特别申明,附图中的图不构成比例限制。 图1是根据本发明第一实施例中的微服务请求的流量管理方法的流程图; 图2是根据本发明第一实施例中的微服务管理系统的结构示意图; 图3是根据本发明第一实施例中的配置文件的配置过程示意图; 图4是根据本发明第二实施例中的微服务请求的流量管理方法的流程图; 图5是根据本发明第二实施例中根据多个流量管理策略将业务请求路由至目标服 务器的过程的流程图; 图6是根据本发明第三实施例中的微服务请求的流量管理装置的结构示意图; 图7是根据本发明第四实施例中的微服务请求的流量管理系统的结构示意图; 图8是根据本发明第五实施例中的服务器的结构示意图。
分享到:
收藏