od中负载均衡的方法、装置、设备及介质.pdf

《od中负载均衡的方法、装置、设备及介质.pdf》由会员分享，可在线阅读，更多相关《od中负载均衡的方法、装置、设备及介质.pdf（15页完成版）》请在专利查询网上搜索。

1、(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 (43)申请公布日 (21)申请号 202010850090.9 (22)申请日 2020.08.21 (71)申请人 北京浪潮数据技术有限公司 地址 100085 北京市海淀区上地信息路2号 C栋5层 (72)发明人 张德波刘茂扬 (74)专利代理机构 北京集佳知识产权代理有限 公司 11227 代理人 孙晓红 (51)Int.Cl. G06F 9/50(2006.01) G06F 15/16(2006.01) (54)发明名称 一种pod中负载均衡的方法、 装置、 设备及介 质 (57)摘要 本申请公开了一种p。

2、od中负载均衡的方法、 装置、 设备及计算机可读存储介质， 方法包括： 根 据每个服务对应的pod对服务的响应确定迟钝 pod； 获取各工作节点包含的pod的总数及迟钝 pod的数量； 根据pod的总数及迟钝pod的数量计 算对应的工作节点的权重； 当在集群中新建服务 并在各工作节点中创建对应的pod时， 根据各工 作节点的权重将新建的服务对应的请求分配到 各工作节点中与新建的服务对应的pod上。 本申 请公开的上述技术方案， 通过根据工作节点中包 含的pod及迟钝pod的情况进行工作节点权重计 算而实现将工作节点的性能考虑在内， 以便在请 求分配时降低性能较差的工作节点的压力， 从而 便于提。

3、高集群对服务中请求的处理性能。 权利要求书2页 说明书9页 附图3页 CN 112000477 A 2020.11.27 CN 112000477 A 1.一种pod中负载均衡的方法， 其特征在于， 包括： 根据集群中每个服务对应的pod对所述服务的响应， 确定各所述服务对应的迟钝pod； 获取所述集群中各工作节点包含的pod的总数及所述迟钝pod的数量； 根据所述pod的总数及所述迟钝pod的数量计算对应的所述工作节点的权重； 当在所述集群中新建服务并在各所述工作节点中创建对应的pod时， 根据各所述工作 节点的权重， 将新建的服务对应的请求分配到各所述工作节点中与所述新建的服务对应的 po。

4、d上。 2.根据权利要求1所述的pod中负载均衡的方法， 其特征在于， 根据所述pod的总数及所 述迟钝pod的数量计算对应的所述工作节点的权重， 包括： 根据Q100*(1-C/T)计算对应的所述工作节点的权重Q； 其中， C为对应的所述工作节点中包含的所述迟钝pod的数量， T为对应的所述工作节点 中包含的所述pod的总数。 3.根据权利要求2所述的pod中负载均衡的方法， 其特征在于， 在根据Q100*(1-C/ T)计算对应的所述工作节点的权重Q之后， 还包括： 利用QQ+Q0计算对应的所述工作节点的处理后权重Q； 其中， Q0为预设百分数。 4.根据权利要求3所述的pod中负载均衡的。

5、方法， 其特征在于， 在利用QQ+Q0计算对应 的所述工作节点的处理后权重Q之后， 还包括： 对处理后权重Q进行取整操作。 5.根据权利要求1所述的pod中负载均衡的方法， 其特征在于， 在根据各所述工作节点 的权重， 将新建的服务对应的请求分配到各所述工作节点中与所述新建的服务对应的pod 上时， 还包括： 若所述工作节点中创建有多个与所述新建的服务对应的pod， 则将所述工作节点应分 配到的请求平均分配到所述工作节点中与所述新建的服务对应的各pod上。 6.根据权利要求1所述的pod中负载均衡的方法， 其特征在于， 在根据各所述工作节点 的权重， 将新建的服务对应的请求分配到各所述工作节点。

6、中与所述新建的服务对应的pod 中之前， 还包括： 创建虚拟服务器， 利用所述虚拟服务器接收与所述新建的服务对应的请求。 7.一种pod中负载均衡的装置， 其特征在于， 包括： 确定模块， 用于根据集群中每个服务对应的pod对所述服务的响应， 确定各所述服务对 应的迟钝pod； 获取模块， 用于获取所述集群中各工作节点包含的pod的总数及所述迟钝pod的数量； 计算模块， 用于根据所述pod的总数及所述迟钝pod的数量计算对应的所述工作节点的 权重； 分配模块， 用于当在所述集群中新建服务并在各所述工作节点中创建对应的pod时， 根 据各所述工作节点的权重， 将新建的服务对应的请求分配到各所述。

7、工作节点中与所述新建 的服务对应的pod上。 8.根据权利要求7所述的pod中负载均衡的装置， 其特征在于， 所述计算模块包括： 第一计算单元， 用于根据Q100*(1-C/T)计算对应的所述工作节点的权重Q； 其中， C为对应的所述工作节点中包含的所述迟钝pod的数量， T为对应的所述工作节点 权利要求书 1/2 页 2 CN 112000477 A 2 中包含的所述pod的总数。 9.一种pod中负载均衡的设备， 其特征在于， 包括： 外联组件， 用于与集群相连， 并从所述集群中获取pod的信息； 存储器， 用于存储计算机程序； 处理器， 用于根据所述pod的信息执行所述计算机程序时实现如。

8、权利要求1至6任一项 所述的pod中负载均衡的方法的步骤。 10.一种计算机可读存储介质， 其特征在于， 所述计算机可读存储介质中存储有计算机 程序， 所述计算机程序被处理器执行时实现如权利要求1至6任一项所述的pod中负载均衡 的方法的步骤。 权利要求书 2/2 页 3 CN 112000477 A 3 一种pod中负载均衡的方法、 装置、 设备及介质 技术领域 0001 本申请涉及Kubernetes集群技术领域， 更具体地说， 涉及一种pod中负载均衡的方 法、 装置、 设备及计算机可读存储介质。 背景技术 0002 Kubernetes集群中的服务下面有分布在多个工作节点上的pod(是。

9、一个或多个容 器的组合)与之匹配， 当外部请求发送过来时， 服务按照各个pod所负载的流量总体相等的 负载均衡策略将外部请求分发到工作节点中与服务对应的pod上， 但是， 这种负载均衡策略 无法适应复杂的场景。 0003 目前， 为了使得pod中负载均衡可以适应于比较复杂的场景， 则可以接入第三方的 负载均衡器， 以利用第三方的负载均衡器及其内部包含的负载均衡算法实现负载均衡， 具 体地， 在新建服务并在各工作节点上创建与服务对应的pod时， 第三方所提供的负载均衡器 可以先为与服务对应的各个pod分配相同的权重， 然后， 再在处理过程中调整pod的权重而 根据调整后的权重进行请求分配， 当再。

10、新建服务并在各工作节点上创建对应的pod中， 第三 方的负载均衡器会重复执行先为与服务对应的各个pod分配相同的权重等步骤。 在上述负 载均衡方式中， 由于每次新建服务时均是为其对应的各个pod分配相同的权重， 因此， 这就 会加重性能比较差的工作节点的处理压力， 从而会降低Kubernetes集群对请求的处理性 能。 0004 综上所述， 如何降低性能较差的工作节点的处理压力， 以便于提高集群对请求的 处理性能， 是目前本领域技术人员亟待解决的技术问题。 发明内容 0005 有鉴于此， 本申请的目的是提供一种pod中负载均衡的方法、 装置、 设备及计算机 可读存储介质， 用于降低性能较差的工。

11、作节点的处理压力， 以便于提高集群对请求的处理 性能。 0006 为了实现上述目的， 本申请提供如下技术方案： 0007 一种pod中负载均衡的方法， 包括： 0008 根据集群中每个服务对应的pod对所述服务的响应， 确定各所述服务对应的迟钝 pod； 0009 获取所述集群中各工作节点包含的pod的总数及所述迟钝pod的数量； 0010 根据所述pod的总数及所述迟钝pod的数量计算对应的所述工作节点的权重； 0011 当在所述集群中新建服务并在各所述工作节点中创建对应的pod时， 根据各所述 工作节点的权重， 将新建的服务对应的请求分配到各所述工作节点中与所述新建的服务对 应的pod上。。

12、 0012 优选的， 根据所述pod的总数及所述迟钝pod的数量计算对应的所述工作节点的权 重， 包括： 说明书 1/9 页 4 CN 112000477 A 4 0013 根据Q100*(1-C/T)计算对应的所述工作节点的权重Q； 0014 其中， C为对应的所述工作节点中包含的所述迟钝pod的数量， T为对应的所述工作 节点中包含的所述pod的总数。 0015 优选的， 在根据Q100*(1-C/T)计算对应的所述工作节点的权重Q之后， 还包 括： 0016 利用QQ+Q0计算对应的所述工作节点的处理后权重Q； 其中， Q0为预设百分数。 0017 优选的， 在利用QQ+Q0计算对应的所。

13、述工作节点的处理后权重Q之后， 还包括： 0018 对处理后权重Q进行取整操作。 0019 优选的， 在根据各所述工作节点的权重， 将新建的服务对应的请求分配到各所述 工作节点中与所述新建的服务对应的pod上时， 还包括： 0020 若所述工作节点中创建有多个与所述新建的服务对应的pod， 则将所述工作节点 应分配到的请求平均分配到所述工作节点中与所述新建的服务对应的各pod上。 0021 优选的， 在根据各所述工作节点的权重， 将新建的服务对应的请求分配到各所述 工作节点中与所述新建的服务对应的pod中之前， 还包括： 0022 创建虚拟服务器， 利用所述虚拟服务器接收与所述新建的服务对应的。

14、请求。 0023 一种pod中负载均衡的装置， 包括： 0024 确定模块， 用于根据集群中每个服务对应的pod对所述服务的响应， 确定各所述服 务对应的迟钝pod； 0025 获取模块， 用于获取所述集群中各工作节点包含的pod的总数及所述迟钝pod的数 量； 0026 计算模块， 用于根据所述pod的总数及所述迟钝pod的数量计算对应的所述工作节 点的权重； 0027 分配模块， 用于当在所述集群中新建服务并在各所述工作节点中创建对应的pod 时， 根据各所述工作节点的权重， 将新建的服务对应的请求分配到各所述工作节点中与所 述新建的服务对应的pod上。 0028 优选的， 所述计算模块包。

15、括： 0029 第一计算单元， 用于根据Q100*(1-C/T)计算对应的所述工作节点的权重Q； 0030 其中， C为对应的所述工作节点中包含的所述迟钝pod的数量， T为对应的所述工作 节点中包含的所述pod的总数。 0031 一种pod中负载均衡的设备， 包括： 0032 外联组件， 用于与集群相连， 并从所述集群中获取pod的信息； 0033 存储器， 用于存储计算机程序； 0034 处理器， 用于根据所述pod的信息执行所述计算机程序时实现如上述任一项所述 的pod中负载均衡的方法的步骤。 0035 一种计算机可读存储介质， 所述计算机可读存储介质中存储有计算机程序， 所述 计算机程。

16、序被处理器执行时实现如上述任一项所述的pod中负载均衡的方法的步骤。 0036 本申请提供了一种pod中负载均衡的方法、 装置、 设备及计算机可读存储介质， 其 中， 该方法包括： 根据集群中每个服务对应的pod对服务的响应， 确定各服务对应的迟钝 pod； 获取集群中各工作节点包含的pod的总数及迟钝pod的数量； 根据pod的总数及迟钝pod 说明书 2/9 页 5 CN 112000477 A 5 的数量计算对应的工作节点的权重； 当在集群中新建服务并在各工作节点中创建对应的 pod时， 根据各工作节点的权重， 将新建的服务对应的请求分配到各工作节点中与新建的服 务对应的pod上。 00。

17、37 本申请公开的上述技术方案， 在根据集群中每个服务对应的pod对服务的响应确 定各服务对应的迟钝pod并获取各工作节点包含的pod的总数及迟钝pod的数量之后， 根据 所获取的pod的总数及迟钝pod的数量计算工作节点的权重， 当在集群中新建服务并在各工 作节点中创建对应的pod时， 可以根据计算出的工作节点的权重来将新建的服务对应的请 求分配到各工作节点中与新建的服务对应的pod上， 以通过根据工作节点中包含的与原先 的服务对应的迟钝pod及pod的情况进行工作节点权重计算而实现将工作节点的性能考虑 在内， 从而便于在依据权重对工作节点中的pod进行请求分配时可以减少性能较差的工作 节点。

18、中pod的请求分配数量， 以降低性能较差的工作节点的压力， 进而便于提高集群对服务 中请求的处理性能。 附图说明 0038 为了更清楚地说明本申请实施例或现有技术中的技术方案， 下面将对实施例或现 有技术描述中所需要使用的附图作简单地介绍， 显而易见地， 下面描述中的附图仅仅是本 申请的实施例， 对于本领域普通技术人员来讲， 在不付出创造性劳动的前提下， 还可以根据 提供的附图获得其他的附图。 0039 图1为本申请实施例提供的一种pod中负载均衡的方法的流程图； 0040 图2为本申请实施例提供的集群中服务、 pod及迟钝pod的一具体分布示意图； 0041 图3为本申请实施例提供的与新建的。

19、服务对应的请求的分配示意图； 0042 图4为本申请实施例提供的一种pod中负载均衡的装置的结构示意图； 0043 图5为本申请实施例提供的一种pod中负载均衡的设备的结构示意图； 0044 图6为本申请实施例提供的pod中负载均衡的设备的工作流程图。 具体实施方式 0045 下面将结合本申请实施例中的附图， 对本申请实施例中的技术方案进行清楚、 完 整地描述， 显然， 所描述的实施例仅仅是本申请一部分实施例， 而不是全部的实施例。 基于 本申请中的实施例， 本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他 实施例， 都属于本申请保护的范围。 0046 参见图1， 其示出了本申请实。

20、施例提供的一种pod中负载均衡的方法的流程图， 本 申请实施例提供的一种pod中负载均衡的方法， 可以包括： 0047 S11： 根据集群中每个服务对应的pod对服务的响应， 确定各服务对应的迟钝pod。 0048 当在集群中创建服务并在集群中的各工作节点上创建与所创建的服务对应的pod (也即每个服务对应的pod位于集群中的各工作节点)后， 可以对每个服务发出上百个请求， 并监测每个服务对应的各pod对服务的平均响应时间， 并将每个服务下平均响应时间最长 的pod确定为服务对应的迟钝pod， 也即将每个服务对应的pod中对服务响应最慢的pod确定 为其对应的迟钝pod， 也就是说， 可以根据。

21、集群中每个服务对应的pod对服务的响应时间来 确定各服务对应的迟钝pod。 当然， 也可以依据服务对应的各pod对服务响应时的吞吐量来 说明书 3/9 页 6 CN 112000477 A 6 确定服务对应的迟钝pod(在此种情况下， 则将吞吐量最小的pod确定为迟钝pod)， 或者可以 综合响应时间和吞吐量来确定迟钝pod， 总而言之， 无论采用何种响应指标来确定迟钝pod， 均是将以该响应指标作为响应能力评判标准时其响应能力最差的pod确定为迟钝pod。 0049 S12： 获取集群中各工作节点包含的pod的总数及迟钝pod的数量。 0050 在确定各服务对应的迟钝pod之后， 可以获取集。

22、群中各工作节点包含的pod的总数 以及各工作节点包含的迟钝pod的数量。 0051 需要说明的是， 集群中各工作节点包含的pod的总数即为对应工作节点中所有正 常运行且已经注册到服务中的pod的总数。 0052 例如： 如图2所示， 其示出了本申请实施例提供的集群中服务、 pod及迟钝pod的一 具体分布示意图， 集群中运行有服务1-4这四个服务， 每个服务对应4个pod， 例如： 服务1对 应pod1-1、 pod1-2、 pod1-3、 pod1-4这4个pod， 且集群包括工作节点1-4这四个工作节点， 每 个工作节点中对应有4个pod， 例如： 工作节点1中包含pod1-1、 pod2。

23、-1、 pod3-1、 pod4-1这4个 pod， 其中， 图2中带有圆点标记的pod即为服务对应的迟钝pod， 由图2可知， 工作节点1中包 含1个迟钝pod， 工作节点2中包含3个迟钝pod， 工作节点3和工作节点4中均无迟钝pod， 工作 节点2中的迟钝pod数量远高于其他工作节点。 0053 S13： 根据pod的总数及迟钝pod的数量计算对应的工作节点的权重。 0054 在确定出工作节点的pod的总数以及迟钝pod的数量之后， 可以根据pod的总数及 迟钝pod的数量获取迟钝pod的占比， 并根据迟钝pod的占比计算对应的工作节点的权重， 其 中， 迟钝pod的占比大的工作节点的权。

24、重小于迟钝pod的占比小的工作节点的权重， 也即工 作节点的权重越小， 表明该工作节点中迟钝pod的占比越大， 同时也表明该工作节点的性能 越差。 0055 由于在排除服务本身缺陷的情况下， pod的性能实际上就是其所在工作节点上相 应进程的性能， 因此， 迟钝pod的出现归根到底是其所在工作节点的性能问题， 所以， 可以通 过根据各工作节点中pod的总数及迟钝pod的数量所计算出的工作节点的权重来反映对应 工作节点的性能情况， 并间接地反映出后续在工作节点中所创建出的pod对请求的处理能 力， 以便于可以更加合理地进行请求分配。 0056 S14： 当在集群中新建服务并在各工作节点中创建对应。

25、的pod时， 根据各工作节点 的权重， 将新建的服务对应的请求分配到各工作节点中与新建的服务对应的pod上。 0057 当在集群中新建服务并在各工作节点中创建对应的pod时， 可以根据步骤S13所计 算出的各工作节点的权重来将新建的服务对应的请求分配到各工作节点中与新建的服务 对应的pod上， 以便于利用工作节点中与新建的服务对应的pod来对请求进行处理。 0058 具体地， 可以依据各工作节点的权重计算各工作节点在新建的服务中对应的服务 权重， 并利用各工作节点的服务权重来将新建的服务对应的请求分配到各工作节点中与新 建的服务对应的pod上， 例如： 在利用步骤S13计算工作节点1对应的权重。

26、为20、 工作节点2 对应的权重为30时(以包含两个工作节点为例)， 则可以利用100*(20/(20+30) 40获取工作节点1对应的服务权重， 并利用100*(30/(20+30)60获取工 作节点2对应的服务权重， 然后， 可以根据所计算出的服务权重来进行请求分配， 具体即为 将服务对应的请求总数与工作节点对应的服务权重相乘， 以得到该工作节点应分配到的请 求数量， 并将对应请求数量的请求分配到该工作节点所包含的与新建的服务对应的pod中。 说明书 4/9 页 7 CN 112000477 A 7 0059 例如： 当集群中包含有工作节点A、 工作节点B、 工作节点C这三个节点且根据上述。

27、 过程计算完这三个工作节点的权重及服务权重之后， 若在这三个工作节点中均创建与新建 的服务对应的pod且服务对应有223个请求时， 则可以根据工作节点A的权重在这三个工作 节点中的比例(即服务权重)将30个请求分配给工作节点A中与新建的服务对应的pod中， 并 根据工作节点B的权重在这三个工作节点中的比例将93个请求分配给工作节点B中与新建 的服务对应的pod中， 且根据工作节点C的权重在这三个工作节点中的比例将100个请求分 配给工作节点C中与新建的服务对应的pod中。 0060 其中， 在根据各工作节点的权重， 将新建的服务对应的请求分配到各工作节点中 与新建的服务对应的pod上的过程中，。

28、 若出现某些pod中分配到的请求为小数的情况时， 则 可以通过四舍五入操作等取整操作对该小数进行取整， 并确保最终所有工作节点中的pod 分配到的请求数量之和等于新建的服务对应的请求总数即可。 0061 需要说明的是， 由于工作节点中的pod的总数及迟钝pod的数量可能会随时发生变 化， 因此， 则可以实时地执行步骤S12及后续步骤， 以进一步提高请求分配的合理性。 另外， 当在集群中第一次创建服务并在各工作节点中创建与服务对应的pod时， 由于缺少参考数 据， 因此， 可以为各工作节点分配相同的权重， 以使得第一个创建的服务对应的请求可以按 照为各工作节点分配的权重将请求分配到工作节点中与服。

29、务对应的pod上， 之后， 则可以按 照本申请所提供的上述方案进行迟钝pod的确定、 工作节点的权重的计算及按所计算出的 工作节点的权重将非第一次创建的服务对应的请求分配到工作节点中与新建的服务对应 的pod中。 0062 相较于现有技术中在每次新建服务并在各工作节点中创建对应的pod时均为各 pod分配相同的权重， 并将请求按照为pod分配的相同权重分配到各工作节点中而导致性能 比较差的工作节点压力进一步增大， 从而导致其所包含与新建的服务对应的pod无法负担 更多请求而降低集群对服务的处理性能比较差的问题， 本申请可以通过工作节点中包含的 pod总数及迟钝pod的数量来进行工作节点权重的计。

30、算而实现将工作节点的性能考虑在内， 以使得各工作节点后续所创建的pod可以依据所计算出的工作节点的权重而具有不同的地 位， 以减少性能较差的工作节点中所创建的pod的请求分配数量， 从而便于降低性能较差的 工作节点的处理压力， 以实现真正的负载均衡， 进而提高集群对服务中请求的处理性能。 0063 本申请公开的上述技术方案， 在根据集群中每个服务对应的pod对服务的响应确 定各服务对应的迟钝pod并获取各工作节点包含的pod的总数及迟钝pod的数量之后， 根据 所获取的pod的总数及迟钝pod的数量计算工作节点的权重， 当在集群中新建服务并在各工 作节点中创建对应的pod时， 可以根据计算出的。

31、工作节点的权重来将新建的服务对应的请 求分配到各工作节点中与新建的服务对应的pod上， 以通过根据工作节点中包含的与原先 的服务对应的迟钝pod及pod的情况进行工作节点权重计算而实现将工作节点的性能考虑 在内， 从而便于在依据权重对工作节点中的pod进行请求分配时可以减少性能较差的工作 节点中pod的请求分配数量， 以降低性能较差的工作节点的压力， 进而便于提高集群对服务 中请求的处理性能。 0064 本申请实施例提供的一种pod中负载均衡的方法， 根据pod的总数及迟钝pod的数 量计算对应的工作节点的权重， 可以包括： 0065 根据Q100*(1-C/T)计算对应的工作节点的权重Q； 。

32、说明书 5/9 页 8 CN 112000477 A 8 0066 其中， C为对应的工作节点中包含的迟钝pod的数量， T为对应的工作节点中包含的 pod的总数。 0067 具体可以利用公式Q100*(1-C/T)计算对应的工作节点的权重Q， 其中， C/T即 为迟钝pod在对应工作节点中的占比。 0068 通过上述计算公式可以使性能比较差的工作节点(性能越差， 迟钝pod的占比就越 大)的权重小于性能比较好的工作节点(性能越好， 迟钝pod的占比就越小)的权重， 从而使 得在各工作节点中创建与新建的服务对应的pod并依据工作节点的权重对服务对应的请求 进行分配时， 可以使权重大的工作节点中。

33、的pod可以分配到多的请求， 并使权重小的工作节 点中的pod分配到少的请求， 以降低性能较差的工作节点的压力， 从而避免工作节点发生崩 溃， 进而便于提高集群对服务的处理性能。 0069 本申请实施例提供的一种pod中负载均衡的方法， 在根据Q100*(1-CT)计算对 应的工作节点的权重Q之后， 还可以包括： 0070 利用QQ+Q0计算对应的工作节点的处理后权重Q； 其中， Q0为预设百分数。 0071 为了避免内部所包含的pod全部为迟钝pod的工作节点在请求分配时处于闲置状 态而造成资源浪费， 并造成其他工作节点压力过大， 则在根据Q100*(1-C/T)计算对应 的工作节点的权重Q。

34、之后， 可以利用QQ+Q0计算对应的工作节点的处理后权重Q， 即可以 在计算出工作节点的权重Q的基础上为各工作节点的权重分别加一个预设百分数， 该预设 百分数可以由用户根据经验或集群性能进行设置， 例如可以为10， 以使得即使内部所包 含的pod全部为迟钝pod的工作节点也能按照处理后权重Q分配到少许请求， 从而避免其处 于闲置状态。 0072 本申请实施例提供的一种pod中负载均衡的方法， 在利用QQ+Q0计算对应的工 作节点的处理后权重Q之后， 还可以包括： 0073 对处理后权重Q进行取整操作。 0074 在利用QQ+Q0计算对应的工作节点的处理后权重Q之后， 可以通过四舍五入操 作或其。

35、他取整操作来对得到的处理后权重Q进行取整操作， 以便于根据整数形式的权重进 行请求的分配。 0075 本申请实施例提供的一种pod中负载均衡的方法， 在根据各工作节点的权重， 将新 建的服务对应的请求分配到各工作节点中与新建的服务对应的pod上时， 还可以包括： 0076 若工作节点中创建有多个与新建的服务对应的pod， 将工作节点应分配到的请求 平均分配到工作节点中与新建的服务对应的各pod上。 0077 若某个或某些工作节点中创建有多个与新建的服务对应的pod， 则可以将创建有 多个与新建的服务对应的pod的工作节点应分配到的请求平均分配到该工作节点的各pod 中， 以使得工作节点中与新建。

36、的服务对应的pod可以分配到数量相等的请求， 也即对于包含 多个与新建的服务对应的pod的工作节点而言， 其内部所包含的与新建的服务对应的各pod 的地位相同， 其中， 工作节点应分配到的请求是根据工作节点的权重及新建的服务对应的 请求得到的， 具体是根据工作节点的服务权重及新建的服务对应的请求得到的。 0078 例如： 如图3， 其示出了本申请实施例提供的与新建的服务对应的请求的分配示意 图， 当根据步骤S14计算出工作节点a应分配到80个请求、 工作节点b应分配到100个请求、 工 作节点c应分配到70个请求时， 因工作节点a和工作节点c均包含一个与新建的服务对应的 说明书 6/9 页 9。

37、 CN 112000477 A 9 pod， 则可以将工作节点a和工作节点c应分配到的请求对应分配到各自所包含的pod中， 而 对于工作节点b而言， 因其包含2个与新建的服务对应的pod， 则可以将工作节点b应分配到 100个请求平均分配到两个节点中， 即pod2和pod3分别分配到50个请求。 0079 本申请实施例提供的一种pod中负载均衡的方法， 在根据各工作节点的权重， 将新 建的服务对应的请求分配到各工作节点中与新建的服务对应的pod中之前， 还可以包括： 0080 创建虚拟服务器， 利用虚拟服务器接收与新建的服务对应的请求。 0081 在根据各工作节点的权重， 将新建的服务对应的请。

38、求分配到各工作节点中与新建 的服务对应的pod中之前， 可以创建虚拟服务器(virtual Server)， 利用该虚拟服务器接收 用户发送的与新建的服务对应的请求， 并利用虚拟服务器执行根据各工作节点的权重， 将 新建的服务对应的请求分配到各工作节点中与新建的服务对应的pod中的步骤。 0082 本申请实施例还提供了一种pod中负载均衡的装置， 参见图4， 其示出了本申请实 施例提供的一种pod中负载均衡的装置的结构示意图， 可以包括： 0083 确定模块41， 用于根据集群中每个服务对应的pod对服务的响应确定迟钝pod； 0084 获取模块42， 用于获取集群中各工作节点包含的pod的总。

39、数及迟钝pod的数量； 0085 计算模块43， 用于根据pod的总数及迟钝pod的数量计算对应的工作节点的权重； 0086 分配模块44， 用于当在集群中新建服务并在各工作节点中创建对应的pod时， 根据 各工作节点的权重， 将新建的服务对应的请求分配到各工作节点中与新建的服务对应的 pod上。 0087 本申请实施例提供的一种pod中负载均衡的装置， 计算模块43可以包括： 0088 第一计算单元， 用于根据Q100*(1-C/T)计算对应的工作节点的权重Q； 0089 其中， C为对应的工作节点中包含的迟钝pod的数量， T为对应的工作节点中包含的 pod的总数。 0090 本申请实施例。

40、提供的一种pod中负载均衡的装置， 计算模块43还可以包括： 0091 第二计算单元， 用于在根据Q100*(1-C/T)计算对应的工作节点的权重Q之后， 利用QQ+Q0计算对应的工作节点的处理后权重Q； 其中， Q0为预设百分数。 0092 本申请实施例提供的一种pod中负载均衡的装置， 计算模块43还可以包括： 0093 取整操作单元， 用于在利用QQ+Q0计算对应的工作节点的处理后权重Q之后， 对处理后权重Q进行取整操作。 0094 本申请实施例提供的一种pod中负载均衡的装置， 还可以包括： 0095 平均分配模块， 用于在根据各工作节点的权重， 将新建的服务对应的请求分配到 各工作节。

41、点中与新建的服务对应的pod上时， 若工作节点中创建有多个与新建的服务对应 的pod， 将工作节点应分配到的请求平均分配到工作节点中与新建的服务对应的各pod上。 0096 本申请实施例提供的一种pod中负载均衡的装置， 还可以包括： 0097 创建模块， 用于在根据各工作节点的权重， 将新建的服务对应的请求分配到各工 作节点中与新建的服务对应的pod中之前， 创建虚拟服务器， 利用虚拟服务器接收与新建的 服务对应的请求。 0098 本申请实施例还提供了一种pod中负载均衡的设备， 参见图5， 其示出了本申请实 施例提供的一种pod中负载均衡的设备的结构示意图， 可以包括： 0099 外联组件。

42、， 用于与集群相连， 并从集群中获取pod的信息； 说明书 7/9 页 10 CN 112000477 A 10 0100 存储器， 用于存储计算机程序； 0101 处理器， 用于根据pod的信息执行计算机程序时可实现上述任一种pod种的负载均 衡方法。 0102 需要说明的是， 本申请所提供的pod中负载均衡的方法可以由pod中负载均衡的设 备进行实现， 其可以与集群对接但不依赖于集群， 且支持多种CPU架构(包括括x86、 arm64、 mips64le)， 其中， 处理器可以包括控制单元、 virtual Server工厂和权重计算单元。 0103 pod中负载均衡的设备中的外联组件用于。

43、通过集群的kube-apiserver (Kubernetes集群最重要的核心组件之一)与集群相连， 从集群中获取集群中pod的信息； 控 制单元负责整体逻辑控制； 权重计算单元， 用于获取到pod信息后， 计算每个工作节点的权 重， 并反馈给控制单元记录下来； virtual Server工厂用于负责创建virtual Server， 接收 与服务对应的请求， 然后， 根据工作节点的权重将请求分配到工作节点中的pod上。 0104 具体可以参见图6， 其示出了本申请实施例提供的pod中负载均衡的设备的工作流 程图， 需要说明的是， pod中负载均衡的设备可以将每个工作节点中的所有pod看做一。

44、个矩 阵， 即一个工作节点中所有正常运行的已经注册到服务中的pod可以组成一个矩阵， 则计算 工作节点的权重即等于计算矩阵的权重， 其中， ： pod中负载均衡的设备通过kube- apiserver连接到集群中， 并获取集群中所有pod的信息； ： kube-apiserver将pod的信息 反馈到pod中负载均衡的设备； ： pod中负载均衡的设备根据pod的分布情况计算每个矩阵 的权重， 此时， 有新的服务创建并引用pod中负载均衡的设备做服务的负载均衡， pod中负载 均衡的设备创建相应的virtual Server为该服务提供负载均衡； ： 终端用户发送请求， virtual Ser。

45、ver根据矩阵权重按比例分配请求。 假如发送来223个请求， 工作节点1承担30 个， 工作节点2承担93个， 工作节点3承担100个。 关于这部分内容的详细描述可以对应参见 上述部分， 在此不再赘述。 0105 本申请实施例还提供了一种计算机可读存储介质， 计算机可读存储介质中存储有 计算机程序， 计算机程序被处理器执行时可实现上述任一种pod种的负载均衡方法。 0106 该计算机可读存储介质可以包括： U盘、 移动硬盘、 只读存储器(Read-Only Memory， ROM)、 随机存取存储器(Random Access Memory， RAM)、 磁碟或者光盘等各种可以存 储程序代码的。

46、介质。 0107 本申请实施例提供的一种pod中负载均衡的装置、 设备及计算机可读存储介质中 相关部分的说明可以参见本申请实施例提供的一种pod中负载均衡的方法中对应部分的详 细说明， 在此不再赘述。 0108 需要说明的是， 在本文中， 诸如第一和第二等之类的关系术语仅仅用来将一个实 体或者操作与另一个实体或操作区分开来， 而不一定要求或者暗示这些实体或操作之间存 在任何这种实际的关系或者顺序。 而且， 术语 “包括” 、“包含” 或者其任何其他变体意在涵盖 非排他性的包含， 从而使得包括一系列要素的过程、 方法、 物品或者设备所固有的要素。 在 没有更多限制的情况下， 由语句 “包括一个”。

47、 限定的要素， 并不排除在包括所述要素的 过程、 方法、 物品或者设备中还存在另外的相同要素。 另外， 本申请实施例提供的上述技术 方案中与现有技术中对应技术方案实现原理一致的部分并未详细说明， 以免过多赘述。 0109 对所公开的实施例的上述说明， 使本领域技术人员能够实现或使用本申请。 对这 些实施例的多种修改对本领域技术人员来说将是显而易见的， 本文中所定义的一般原理可 说明书 8/9 页 11 CN 112000477 A 11 以在不脱离本申请的精神或范围的情况下， 在其它实施例中实现。 因此， 本申请将不会被限 制于本文所示的这些实施例， 而是要符合与本文所公开的原理和新颖特点相一致的最宽的 范围。 说明书 9/9 页 12 CN 112000477 A 12 图1 说明书附图 1/3 页 13 CN 112000477 A 13 图2 图3 图4 说明书附图 2/3 页 14 CN 112000477 A 14 图5 图6 说明书附图 3/3 页 15 CN 112000477 A 15 。