基于grpc框架的数据传输方法、装置及设备.pdf

上传人:奻奴 文档编号:11319636 上传时间:2021-09-18 格式:PDF 页数:24 大小:829.58KB
收藏 版权申诉 举报 下载
基于grpc框架的数据传输方法、装置及设备.pdf_第1页
第1页 / 共24页
基于grpc框架的数据传输方法、装置及设备.pdf_第2页
第2页 / 共24页
基于grpc框架的数据传输方法、装置及设备.pdf_第3页
第3页 / 共24页
文档描述:

《基于grpc框架的数据传输方法、装置及设备.pdf》由会员分享,可在线阅读,更多相关《基于grpc框架的数据传输方法、装置及设备.pdf(24页完成版)》请在专利查询网上搜索。

1、(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 (43)申请公布日 (21)申请号 201910299923.4 (22)申请日 2019.04.15 (71)申请人 阿里巴巴集团控股有限公司 地址 英属开曼群岛大开曼资本大厦一座四 层847号邮箱 (72)发明人 樊龙 (74)专利代理机构 北京亿腾知识产权代理事务 所(普通合伙) 11309 代理人 张明周良玉 (51)Int.Cl. H04L 29/08(2006.01) (54)发明名称 基于grpc框架的数据传输方法、 装置及设备 (57)摘要 本说明书实施例提供一种基于grpc框架的 数据传输方法、 。

2、装置及设备, 在基于grpc框架的 数据传输方法中, 接收客户端发送的数据采集请 求, 该数据采集请求用于请求采集多种数据类型 的数据。 响应于该数据采集请求, 采集多种数据 类型的数据, 并向客户端返回数据获取指示。 响 应于客户端发起的通道开通请求, 开通与多种数 据类型中各种数据类型相应的多条流式通道。 接 收客户端并行地通过多条流式通道发送的数据 读取请求。 响应于数据读取请求, 并行地通过多 条流式通道发送各自对应的数据类型的数据。 权利要求书4页 说明书13页 附图6页 CN 110177127 A 2019.08.27 CN 110177127 A 1.一种基于grpc框架的数据。

3、传输方法, 通过服务端执行, 所述方法包括: 接收客户端发送的数据采集请求, 所述数据采集请求用于请求采集多种数据类型的数 据; 响应于所述数据采集请求, 采集所述多种数据类型的数据, 并向所述客户端返回数据 获取指示; 响应于所述客户端发起的通道开通请求, 开通与所述多种数据类型中各种数据类型相 应的多条流式通道; 接收所述客户端并行地通过所述多条流式通道发送的数据读取请求; 响应于所述数据读取请求, 并行地通过所述多条流式通道发送各自对应的数据类型的 数据。 2.根据权利要求1所述的方法, 在所述开通与所述多种数据类型中各种数据类型相应 的多条流式通道之前, 还包括: 接收所述客户端发送的。

4、长连接请求; 根据所述长连接请求, 建立与所述客户端之间的长连接; 所述多条流式通道基于所述长连接而创建。 3.根据权利要求2所述的方法, 所述长连接请求包括通道创建指示; 所述建立与所述客户端之间的长连接,包括: 根据所述通道创建指示, 基于所述长连接创建所述多条流式通道, 并使其处于未激活 状态; 所述通道开通请求为激活请求; 所述开通与所述多种数据类型中各种数据类型相应的多条流式通道, 包括: 激活已创建的、 处于未激活状态的所述多条流式通道。 4.根据权利要求2所述的方法, 所述通道开通请求用于请求所述服务端创建所述多条 流式通道; 所述开通与所述多种数据类型中各种数据类型相应的多条流。

5、式通道, 包括: 基于所述长连接创建与所述多种数据类型中各种数据类型相应的多条流式通道, 并激 活所述多条流式通道。 5.根据权利要求2所述的方法, 所述多种数据类型包括第一类型, 所述多条流式通道包 括与所述第一类型对应的第一通道, 所述长连接请求包括针对所述第一类型的数据设置的 第一数据块大小; 所述并行地通过所述多条流式通道发送各自对应的数据类型的数据, 包括: 按照所述第一数据块大小, 对所述第一类型的数据进行拆分, 以得到至少一个数据块; 通过所述第一通道依次发送所述至少一个数据块。 6.根据权利要求1所述的方法, 所述采集多种数据类型的数据, 包括: 获取对应于每种数据类型的重要性。

6、参数; 对于所述每种数据类型, 根据对应的重要性参数, 从已创建的数据采集线程中选取相 应数量的数据采集线程; 启动所选取的数据采集线程, 以采集所述多种数据类型的数据。 7.根据权利要求1所述的方法, 所述数据类型包括工商数据类型、 新闻负面数据类型以 权利要求书 1/4 页 2 CN 110177127 A 2 及公示数据类型中的若干种。 8.一种基于grpc框架的数据传输方法, 通过客户端执行, 所述方法包括: 向服务端发送数据采集请求, 所述数据采集请求用于请求采集多种数据类型的数据; 接收所述服务端返回的数据获取指示; 响应于所述数据获取指示, 向所述服务端发起通道开通请求, 所述通。

7、道开通请求用于 请求开通与所述多种数据类型中各数据类型相应的多条流式通道; 在所述多条流式通道开通之后, 并行地通过所述多条流式通道向所述服务端发送数据 读取请求; 接收所述服务端并行地通过所述多条流式通道发送的各自对应的数据类型的数据。 9.根据权利要求8所述的方法, 所述多种数据类型包括第一类型, 所述多条流式通道包 括与所述第一类型对应的第一通道, 所述接收所述服务端并行地通过所述多条流式通道发 送的各自对应的数据类型的数据, 包括: 依次接收所述服务端通过所述第一通道发送的至少一个数据块; 其中, 所述至少一个 数据块是由所述服务端根据所述客户端预设的第一数据块大小, 对所述第一类型的。

8、数据进 行拆分后得到的; 按照所述至少一个数据块的接收顺序, 对所述至少一个数据块进行拼接, 以得到所述 第一类型的数据。 10.根据权利要求8所述的方法, 所述数据采集请求是由所述客户端在接收到当前用户 的授权指令后发送的; 所述授权指令用于授权获取与所述当前用户具有代表关系的组织机 构的相关类型数据; 所述相关类型数据至少包括工商数据、 新闻负面数据以及公示数据。 11.根据权利要求8所述的方法, 所述数据类型包括工商数据类型、 新闻负面数据类型 以及公示数据类型中的若干种。 12.一种基于grpc框架的数据传输装置, 包括: 接收单元, 用于接收客户端发送的数据采集请求, 所述数据采集请。

9、求用于请求采集多 种数据类型的数据; 采集单元, 用于响应于所述接收单元接收的所述数据采集请求, 采集所述多种数据类 型的数据, 并向所述客户端返回数据获取指示; 开通单元, 用于响应于所述客户端发起的通道开通请求, 开通与所述多种数据类型中 各种数据类型相应的多条流式通道; 所述接收单元, 还用于接收所述客户端并行地通过所述开通单元开通的所述多条流式 通道发送的数据读取请求; 发送单元, 用于响应于所述接收单元接收的所述数据读取请求, 并行地通过所述多条 流式通道发送各自对应的数据类型的数据。 13.根据权利要求12所述的装置, 还包括: 建立单元; 所述接收单元, 还用于接收所述客户端发送。

10、的长连接请求; 所述建立单元, 用于根据所述接收单元接收的所述长连接请求, 建立与所述客户端之 间的长连接; 所述多条流式通道基于所述长连接而创建。 14.根据权利要求13所述的装置, 所述长连接请求包括通道创建指示; 权利要求书 2/4 页 3 CN 110177127 A 3 所述建立单元具体用于: 根据所述通道创建指示, 基于所述长连接创建所述多条流式通道, 并使其处于未激活 状态; 所述通道开通请求为激活请求; 所述开通单元具体用于: 激活已创建的、 处于未激活状态的所述多条流式通道。 15.根据权利要求13所述的装置, 所述通道开通请求用于请求创建所述多条流式通道; 所述开通单元具体。

11、用于: 基于所述长连接创建与所述多种数据类型中各种数据类型相应的多条流式通道, 并激 活所述多条流式通道。 16.根据权利要求13所述的装置, 所述多种数据类型包括第一类型, 所述多条流式通道 包括与所述第一类型对应的第一通道, 所述长连接请求包括针对所述第一类型的数据设置 的第一数据块大小; 所述发送单元具体用于: 按照所述第一数据块大小, 对所述第一类型的数据进行拆分, 以得到至少一个数据块; 通过所述第一通道依次发送所述至少一个数据块。 17.根据权利要求12所述的装置, 所述采集单元具体用于: 获取对应于每种数据类型的重要性参数; 对于所述每种数据类型, 根据对应的重要性参数, 从已创。

12、建的数据采集线程中选取相 应数量的数据采集线程; 启动所选取的数据采集线程, 以采集所述多种数据类型的数据。 18.根据权利要求12所述的装置, 所述数据类型包括工商数据类型、 新闻负面数据类型 以及公示数据类型中的若干种。 19.一种基于grpc框架的数据传输装置, 包括: 发送单元, 用于向服务端发送数据采集请求, 所述数据采集请求用于请求采集多种数 据类型的数据; 接收单元, 用于接收所述服务端返回的数据获取指示; 所述发送单元, 还用于响应于所述接收单元接收的所述数据获取指示, 向所述服务端 发起通道开通请求, 所述通道开通请求用于请求开通与所述多种数据类型中各数据类型相 应的多条流式。

13、通道; 所述发送单元, 还用于在所述多条流式通道开通之后, 并行地通过所述多条流式通道 向所述服务端发送数据读取请求; 所述接收单元, 还用于接收所述服务端并行地通过所述多条流式通道发送的各自对应 的数据类型的数据。 20.根据权利要求19所述的装置, 所述多种数据类型包括第一类型, 所述多条流式通道 包括与所述第一类型对应的第一通道, 所述接收单元具体用于: 依次接收所述服务端通过所述第一通道发送的至少一个数据块; 其中, 所述至少一个 数据块是由所述服务端根据预设的第一数据块大小, 对所述第一类型的数据进行拆分后得 到的; 权利要求书 3/4 页 4 CN 110177127 A 4 按照。

14、所述至少一个数据块的接收顺序, 对所述至少一个数据块进行拼接, 以得到所述 第一类型的数据。 21.根据权利要求19所述的装置, 所述数据采集请求是在接收到当前用户的授权指令 后发送的; 所述授权指令用于授权获取与所述当前用户具有代表关系的组织机构的相关类 型数据; 所述相关类型数据至少包括工商数据、 新闻负面数据以及公示数据。 22.根据权利要求19所述的装置, 所述数据类型包括工商数据类型、 新闻负面数据类型 以及公示数据类型中的若干种。 23.一种基于grpc框架的数据传输设备, 包括: 存储器; 一个或多个处理器; 以及 一个或多个程序, 其中所述一个或多个程序存储在所述存储器中, 并。

15、且被配置成由所 述一个或多个处理器执行, 所述程序被所述处理器执行时实现以下步骤: 接收客户端发送的数据采集请求, 所述数据采集请求用于请求采集多种数据类型的数 据; 响应于所述数据采集请求, 采集所述多种数据类型的数据, 并向所述客户端返回数据 获取指示; 响应于所述客户端发起的通道开通请求, 开通与所述多种数据类型中各种数据类型相 应的多条流式通道; 接收所述客户端并行地通过所述多条流式通道发送的数据读取请求; 响应于所述数据读取请求, 并行地通过所述多条流式通道发送各自对应的数据类型的 数据。 24.一种基于grpc框架的数据传输设备, 包括: 存储器; 一个或多个处理器; 以及 一个或。

16、多个程序, 其中所述一个或多个程序存储在所述存储器中, 并且被配置成由所 述一个或多个处理器执行, 所述程序被所述处理器执行时实现以下步骤: 向服务端发送数据采集请求, 所述数据采集请求用于请求采集多种数据类型的数据; 接收所述服务端返回的数据获取指示; 响应于所述数据获取指示, 向所述服务端发起通道开通请求, 所述通道开通请求用于 请求开通与所述多种数据类型中各数据类型相应的多条流式通道; 在所述多条流式通道开通之后, 并行地通过所述多条流式通道向所述服务端发送数据 读取请求; 接收所述服务端并行地通过所述多条流式通道发送的各自对应的数据类型的数据。 权利要求书 4/4 页 5 CN 110。

17、177127 A 5 基于grpc框架的数据传输方法、 装置及设备 技术领域 0001 本说明书一个或多个实施例涉及计算机技术领域, 尤其涉及一种基于grpc框架的 数据传输方法、 装置及设备。 背景技术 0002 为了实现目标信息的精准推送, 客户端通常需要请求服务端采集多种不同数据类 型的数据。 服务端在采集到不同数据类型的数据之后, 将其返回给客户端。 0003 在传统技术中, 客户端与服务端之间的数据传输通常基于消息中间件metaq或远 程过程调用(Remote Procedure Call, RPC)进行。 然而在基于metaq或者RPC进行数据传输 时, 其传输的数据量通常会有大小。

18、限制。 如, 在客户端与服务端建立连接后, 所传输的数据 量通常不能超过128Kb。 如果想要传输更大数据量的数据, 就需要在客户端和服务端之间建 立多次连接, 然后分多次进行传输。 由于上述多种数据类型数据的数据量通常会比较大, 因 此, 为保证传输效率, 客户端通常只向服务端请求一种数据类型的数据。 发明内容 0004 本说明书一个或多个实施例描述了一种基于grpc框架的数据传输方法、 装置及设 备, 可以在保证传输效率的前提下, 在客户端与服务端之间传输大数据量数据。 0005 第一方面, 提供了一种基于grpc框架的数据传输方法, 包括: 0006 接收客户端发送的数据采集请求, 所述。

19、数据采集请求用于请求采集多种数据类型 的数据; 0007 响应于所述数据采集请求, 采集所述多种数据类型的数据, 并向所述客户端返回 数据获取指示; 0008 响应于所述客户端发起的通道开通请求, 开通与所述多种数据类型中各种数据类 型相应的多条流式通道; 0009 接收所述客户端并行地通过所述多条流式通道发送的数据读取请求; 0010 响应于所述数据读取请求, 并行地通过所述多条流式通道发送各自对应的数据类 型的数据。 0011 第二方面, 提供了一种基于grpc框架的数据传输方法, 包括: 0012 向服务端发送数据采集请求, 所述数据采集请求用于请求采集多种数据类型的数 据; 0013 。

20、接收所述服务端返回的数据获取指示; 0014 响应于所述数据获取指示, 向所述服务端发起通道开通请求, 所述通道开通请求 用于请求开通与所述多种数据类型中各数据类型相应的多条流式通道; 0015 在所述多条流式通道开通之后, 并行地通过所述多条流式通道向所述服务端发送 数据读取请求; 0016 接收所述服务端并行地通过所述多条流式通道发送的各自对应的数据类型的数 说明书 1/13 页 6 CN 110177127 A 6 据。 0017 第三方面, 提供了一种基于grpc框架的数据传输装置, 包括: 0018 接收单元, 用于接收客户端发送的数据采集请求, 所述数据采集请求用于请求采 集多种数。

21、据类型的数据; 0019 采集单元, 用于响应于所述接收单元接收的所述数据采集请求, 采集所述多种数 据类型的数据, 并向所述客户端返回数据获取指示; 0020 开通单元, 用于响应于所述客户端发起的通道开通请求, 开通与所述多种数据类 型中各种数据类型相应的多条流式通道; 0021 所述接收单元, 还用于接收所述客户端并行地通过所述开通单元开通的所述多条 流式通道发送的数据读取请求; 0022 发送单元, 用于响应于所述接收单元接收的所述数据读取请求, 并行地通过所述 多条流式通道发送各自对应的数据类型的数据。 0023 第四方面, 提供了一种基于grpc框架的数据传输装置, 包括: 002。

22、4 发送单元, 用于向服务端发送数据采集请求, 所述数据采集请求用于请求采集多 种数据类型的数据; 0025 接收单元, 用于接收所述服务端返回的数据获取指示; 0026 所述发送单元, 还用于响应于所述接收单元接收的所述数据获取指示, 向所述服 务端发起通道开通请求, 所述通道开通请求用于请求开通与所述多种数据类型中各数据类 型相应的多条流式通道; 0027 所述发送单元, 还用于在所述多条流式通道开通之后, 并行地通过所述多条流式 通道向所述服务端发送数据读取请求; 0028 所述接收单元, 还用于接收所述服务端并行地通过所述多条流式通道发送的各自 对应的数据类型的数据。 0029 第五方。

23、面, 提供了一种基于grpc框架的数据传输设备, 包括: 0030 存储器; 0031 一个或多个处理器; 以及 0032 一个或多个程序, 其中所述一个或多个程序存储在所述存储器中, 并且被配置成 由所述一个或多个处理器执行, 所述程序被所述处理器执行时实现以下步骤: 0033 接收客户端发送的数据采集请求, 所述数据采集请求用于请求采集多种数据类型 的数据; 0034 响应于所述数据采集请求, 采集所述多种数据类型的数据, 并向所述客户端返回 数据获取指示; 0035 响应于所述客户端发起的通道开通请求, 开通与所述多种数据类型中各种数据类 型相应的多条流式通道; 0036 接收所述客户端。

24、并行地通过所述多条流式通道发送的数据读取请求; 0037 响应于所述数据读取请求, 并行地通过所述多条流式通道发送各自对应的数据类 型的数据。 0038 第六方面, 提供了一种基于grpc框架的数据传输设备, 包括: 0039 存储器; 说明书 2/13 页 7 CN 110177127 A 7 0040 一个或多个处理器; 以及 0041 一个或多个程序, 其中所述一个或多个程序存储在所述存储器中, 并且被配置成 由所述一个或多个处理器执行, 所述程序被所述处理器执行时实现以下步骤: 0042 向服务端发送数据采集请求, 所述数据采集请求用于请求采集多种数据类型的数 据; 0043 接收所述。

25、服务端返回的数据获取指示; 0044 响应于所述数据获取指示, 向所述服务端发起通道开通请求, 所述通道开通请求 用于请求开通与所述多种数据类型中各数据类型相应的多条流式通道; 0045 在所述多条流式通道开通之后, 并行地通过所述多条流式通道向所述服务端发送 数据读取请求; 0046 接收所述服务端并行地通过所述多条流式通道发送的各自对应的数据类型的数 据。 0047 本说明书一个或多个实施例提供的基于grpc框架的数据传输方法、 装置及设备, 接收客户端发送的数据采集请求, 该数据采集请求用于请求采集多种数据类型的数据。 响 应于该数据采集请求, 采集多种数据类型的数据, 并向客户端返回数。

26、据获取指示。 响应于客 户端发起的通道开通请求, 开通与多种数据类型中各种数据类型相应的多条流式通道。 接 收客户端并行地通过多条流式通道发送的数据读取请求。 响应于数据读取请求, 并行地通 过多条流式通道发送各自对应的数据类型的数据。 由此可以看出, 本说明书提供的方案中, 客户端可以向服务端请求多种数据类型的数据。 且对于采集到的不同数据类型的数据, 可 以建立不同的流式通道进行传输。 由此实现了在保证传输效率的前提下, 在客户端与服务 端之间传输大数据量数据。 附图说明 0048 为了更清楚地说明本说明书实施例的技术方案, 下面将对实施例描述中所需要使 用的附图作简单地介绍, 显而易见地。

27、, 下面描述中的附图仅仅是本说明书的一些实施例, 对 于本领域普通技术人员来讲, 在不付出创造性劳动的前提下, 还可以根据这些附图获得其 它的附图。 0049 图1为本说明书提供的基于grpc框架的数据传输方法的应用场景示意图; 0050 图2为本说明书一个实施例提供的基于grpc框架的数据传输方法流程图; 0051 图3为本说明书另一个实施例提供的基于grpc框架的数据传输方法流程图; 0052 图4为本说明书提供的基于grpc框架的数据传输方法信息交互图; 0053 图5为本说明书一个实施例提供的基于grpc框架的数据传输装置示意图; 0054 图6为本说明书另一个实施例提供的基于grpc。

28、框架的数据传输装置示意图; 0055 图7为本说明书一个实施例提供的基于grpc框架的数据传输设备示意图; 0056 图8为本说明书另一个实施例提供的基于grpc框架的数据传输设备示意图。 具体实施方式 0057 下面结合附图, 对本说明书提供的方案进行描述。 0058 在描述本说明书提供的方案之前, 先对本方案的发明构思作以下说明。 说明书 3/13 页 8 CN 110177127 A 8 0059 如背景技术的内容所述, 在基于metaq或者RPC进行数据传输时, 为保证传输效率, 客户端通常只能向服务端请求一种数据类型的数据。 为获取更多数据类型的数据, 本说明 书将基于谷歌开发的gr。

29、pc框架来进行数据传输。 grpc是一个高性能、 开源和通用的RPC框 架, 面向移动和HTTP/2设计。 在grpc框架下, 客户端与服务端之间可以通过数据流的方式交 互数据。 数据流是一组有序, 有起点和终点的字节的数据序列。 0060 在grpc框架下, 客户端与服务端之间的数据传输过程具体可以为: 服务端将待传 输的数据拆分成数据块。 为保证数据块能准确传输, 这里的数据块的大小可以不超过数据 包的大小。 之后依次发送所拆分得到的数据块。 需要说明的是, 这里一次发送的数据块的个 数可以为一个也可以为多个, 其具体数量基于数据包的大小和数据块的大小来确定。 举例 来说, 假设数据包的大。

30、小为1Kb, 且数据块的大小为1Kb, 那么一次只能发送一个数据块。 而 当数据块的大小为0.5Kb的时候, 一次可以发送两个数据块, 以此类推。 客户端按照接收次 序拼接所接收的数据块, 从而得到上述待传输的数据。 0061 由此可以看出, 在grpc框架下, 由于待传输的数据是被拆分成数据块来发送的, 从 而对待传输的数据可以没有大小限制, 只要求单次发送的数据块大小不超过数据包的大小 即可。 因此, 在grpc框架下, 可以传输大数据量数据。 0062 在保证可以传输大数据量数据的前提下, 本方案可以通过如下思路来提升数据传 输效率。 0063 对于待传输的数据, 可以按照数据类型分别传。

31、输。 具体地, 客户端在接收到服务端 发送的可以获取数据的指示时, 针对每种数据类型, 可以在服务端和客户端之间开通相应 的流式通道。 之后, 客户端可以并行地通过与多种数据类型对应的多条流式通道向服务端 发送数据获取请求。 服务端在接收到数据获取请求之后, 可以并行地通过多条流式通道发 送各自对应的数据类型的数据。 由此, 可以大大提升数据的传输效率。 0064 以上就是本说明书提供的发明构思, 基于该发明构思就可以得到本说明书提供的 方案, 以下对本方案进行详细描述。 0065 图1为本说明书提供的数据传输方法的应用场景示意图。 图1中, 客户端可以向服 务端发送数据采集请求。 该数据采集。

32、请求用于请求采集多种数据类型的数据。 响应于该数 据采集请求, 服务端可以采集多种数据类型的数据。 之后, 服务端可以向客户端发送数据获 取指示。 客户端在接收到数据获取指示之后, 发起通道开通请求。 响应于该开通请求, 服务 端开通与多种数据类型中各种数据类型相应的多条流式通道。 在多条流式通道开通之后, 客户端并行地通过多条流式通道向服务端发送数据读取请求。 响应于该数据读取请求, 服 务端并行地通过多条流式通道发送各自对应的数据类型的数据。 0066 图2为本说明书一个实施例提供的基于grpc框架的数据传输方法流程图。 所述方 法的执行主体可以为具有处理能力的设备: 服务器或者系统或者装。

33、置, 如, 可以为图1中的 服务端。 如图2所示, 所述方法具体可以包括: 0067 步骤202, 接收客户端发送的数据采集请求。 0068 这里的数据采集请求可以用于请求采集多种数据类型的数据。 0069 可选地, 在服务端接收上述数据采集请求之前, 可以先接收客户端发送的长连接 请求, 并基于该长连接请求建立与客户端之间的长连接。 0070 上述长连接请求还可以包括通道创建指示。 当还包括通道创建指示时, 可以根据 说明书 4/13 页 9 CN 110177127 A 9 通道创建指示, 基于上述建立的长连接创建与多种数据类型中各种数据类型相应的多条流 式通道(stream), 并使其处。

34、于未激活状态。 需要说明的是, 这里的数据类型可以是携带在上 述通道创建指示中的, 也可以是预先在服务端配置好的。 再者, 本说明书所述的多条流式通 道之间所发送的数据相互不影响。 0071 结合会员推送场景来说, 在用户通过客户端注册会员后, 获取与当前用户具有代 表关系的组织机构(如, 企业等)的相关类型数据的授权指令。 这里的相关类型数据至少可 以包括工商数据、 新闻负面数据以及公示数据等。 在获取到上述授权指令之后, 客户端可以 向服务端发送数据采集请求。 该数据采集请求可以是用于指示服务端采集工商数据、 新闻 负面数据以及公示数据中的若干种。 可以理解的是, 客户端在获取到上述若干种。

35、数据之后, 可以基于该若干种数据判断该组织机构是否满足会员注册条件, 并在满足会员注册条件 时, 可以向用户推送该组织结构, 以便于用户将该组织机构也注册为会员, 由此可以大大提 升会员转化率。 0072 步骤204, 响应于数据采集请求, 采集多种数据类型的数据, 并向客户端返回数据 获取指示。 0073 以上述会员推送场景为例来说, 这里的数据类型可以包括但不限于工商数据类 型、 新闻负面数据类型以及公示数据类型等。 0074 为了提升数据采集效率, 本说明书可以启动多线程进行采集。 具体地, 可以获取对 应于每种数据类型的重要性参数。 之后对于每种数据类型, 根据对应的重要性参数, 从已。

36、创 建的数据采集线程中选取相应数量的数据采集线程。 启动所选取的数据采集线程, 以采集 上述多种数据类型的数据。 0075 需要说明的是, 上述重要性参数可以是建立上述长连接的过程中, 由客户端发送 给服务端的; 也可以是由服务端自己设置的, 本说明书对此不作限定。 0076 此外, 在实际应用中, 也可以是按固定比例为每种数据类型的数据启动相应的数 据采集线程。 举例来说, 假设已创建的数据采集线程的个数为10个, 且固定比例为1:1, 则当 待采集数据的数据类型为两种时, 可以为每种数据类型的数据各启动5个数据采集线程。 0077 本说明书基于多线程来采集多种数据类型的数据时, 可以大大提。

37、升数据采集的效 率。 0078 还需要说明的是, 当服务端启动多线程进行数据的采集时, 步骤204中可以是在任 意一个数据采集线程采集到数据时, 即向客户端返回数据获取指示。 这里的数据获取指示 可以携带服务端已创建好的流式通道所对应的数据类型。 0079 步骤206, 响应于客户端发起的通道开通请求, 开通与多种数据类型中各种数据类 型相应的多条流式通道。 0080 这里分两种情况进行说明。 0081 第一种, 当服务端已创建了处于未激活状态的多条流式通道时, 上述通道开通请 求即为激活请求, 且开通与多种数据类型中各种数据类型相应的多条流式通道的过程可以 为: 激活已创建的、 处于未激活状。

38、态的多条流式通道。 0082 第二中, 当服务端未预先创建多条流式通道时, 上述通道开通请求可以用于请求 服务端创建多条流式通道, 且开通与多种数据类型中各种数据类型相应的多条流式通道的 过程可以为: 基于已建立的长连接创建与多种数据类型中各种数据类型相应的多条流式通 说明书 5/13 页 10 CN 110177127 A 10 道, 并激活多条流式通道。 0083 以上述会员推送场景为例来说, 所创建的流式通道可以包括但不限于如下几种: 与工商数据类型相应的流式通道、 与新闻负面数据类型相应的流式通道以及与公示数据类 型相应的流式通道等。 0084 步骤208, 接收客户端并行地通过多条流。

39、式通道发送的数据读取请求。 0085 以上述会员推送场景为例来说, 可以通过与工商数据类型相应的流式通道, 接收 客户端发送的工商数据的数据读取请求。 可以通过与新闻负面数据类型相应的流式通道, 接收客户端发送的新闻负面数据的数据读取请求等等。 0086 步骤210, 响应于数据读取请求, 并行地通过多条流式通道发送各自对应的数据类 型的数据。 0087 需要说明的是, 本说明书中的多种数据类型可以包括第一类型, 所创建的多条流 式通道可以包括与第一类型对应的第一通道。 此外, 上述长连接请求还可以包括针对第一 类型的数据设置的第一数据块大小。 0088 以上述第一类型和第一通道为例来说, 步。

40、骤210中并行地通过多条流式通道发送 各自对应的数据类型的数据可以包括: 按照第一数据块大小, 对第一类型的数据进行拆分, 以得到至少一个数据块。 通过第一通道依次发送至少一个数据块。 0089 以上述会员推送场景为例来说, 可以通过与工商数据类型相应的流式通道, 向客 户端发送工商数据对应的至少一个数据块。 可以通过与新闻负面数据类型相应的流式通 道, 向客户端发送新闻负面数据对应的至少一个数据块等等。 0090 需要说明的是, 在本说明书中, 上述第一数据块大小可以是由客户端根据自身的 资源量来设置。 具体地, 若客户端资源充足, 则可以将第一数据块设置大一些, 如, 可以将第 一数据块大。

41、小设置为数据包大小, 从而加快数据处理速度。 若客户端资源不足, 则可以将第 一数据块设置小一些。 当第一数据块大小比较小时, 虽然会延长传输时间, 但由于所占用的 资源较少, 从而可以节约客户端资源。 0091 还需要说明的是, 当长连接请求不包括上述第一数据块大小时, 可以按照数据包 的大小来拆分各个数据类型的数据, 本说明对此不作限定。 0092 综上, 本说明书基于grpc框架传输数据时, 可以传输大数据量数据。 此外, 在任意 一个数据采集线程采集到数据时, 即向客户端返回数据获取指示, 从而客户端根据该数据 获取指示从服务端读取数据的方式, 可以达到边生产边消费的目的, 相比于传统。

42、的先生产 后消费的方式, 可以大大提升数据的获取效率。 最后, 客户端并行地通过多条流式通道发送 不同数据类型的数据读取请求, 以及服务端并行地通过多条流式通道发送各自对应的数据 类型的数据, 可以大大提升数据的传输效率。 0093 此外, 当客户端在接收完成任一种数据类型的数据时, 可以按照与该种数据类型 的数据相应的至少一个数据块的接收次序, 对该至少一个数据块进行拼接, 以得到该种数 据类型的数据。 之后, 可以针对该种数据类型的数据, 执行相应的处理操作, 而不用等到多 种数据类型的数据全部接收完成, 才执行相应的处理操作, 这可以大大提升数据的处理效 率。 0094 以上述会员推送场。

43、景为例来说, 可以通过与工商数据类型相应的流式通道, 向客 户端发送工商数据。 可以通过与新闻负面数据类型相应的流式通道, 向客户端发送新闻负 说明书 6/13 页 11 CN 110177127 A 11 面数据等等。 之后, 客户端如果先接收到工商数据, 则可以基于工商数据的评估规则, 对工 商数据进行评估, 如果评估不通过, 则直接结束当前推送流程; 如果评估通过, 则进一步对 新闻负面数据等进行评估, 直至所有数据类型的数据评估通过, 则判断对应的组织结构满 足会员注册条件, 从而向用户推送该组织结构。 需要说明的是, 上述在工商数据接收完成 时, 就基于对应的评估规则对其进行评估, 。

44、且在评估不通过时结束推送流程的方式, 可以大 大节约计算机资源。 此外, 基于多种数据类型的数据来向用户推送组织机构的方式, 可以实 现组织机构的精准推送。 0095 图3为本说明书另一个实施例提供的基于grpc框架的数据传输方法流程图。 所述 方法的执行主体可以为具有处理能力的设备: 服务器或者系统或者装置, 如, 可以为图1中 的客户端。 如图3所示, 所述方法具体可以包括: 0096 步骤302, 向服务端发送数据采集请求。 0097 这里的数据采集请求可以用于请求采集多种数据类型的数据。 0098 可选地, 在向服务端发送上述数据采集请求之前, 可以先向服务端发送长连接请 求。 服务端。

45、在接收到该长连接请求之后, 可以基于该长连接请求建立与客户端之间的长连 接。 0099 上述长连接请求还可以包括通道创建指示。 当还包括通道创建指示时, 服务端可 以根据通道创建指示, 基于上述建立的长连接创建与多种数据类型中各种数据类型相应的 多条流式通道, 并使其处于未激活状态。 需要说明的是, 这里的数据类型可以是携带在上述 通道创建指示中的, 也可以是预先在服务端配置好的。 再者, 本说明书所述的多条流式通道 之间所发送的数据相互不影响。 0100 结合会员推送场景来说, 当用户通过客户端注册会员时, 获取与当前用户具有代 表关系的组织机构(如, 企业)的相关类型数据的授权指令。 这里。

46、的相关类型数据至少可以 包括工商数据、 新闻负面数据以及公示数据等。 在获取到上述授权指令之后, 客户端可以向 服务端发送数据采集请求。 该数据采集请求可以是用于指示服务端采集工商数据、 新闻负 面数据以及公示数据等。 也即所采集的数据类型可以包括但不限于工商数据类型、 新闻负 面数据类型以及公示数据类型等。 0101 还需要说明的是, 为了提升数据采集效率, 本说明书可以启动多线程进行采集。 具 体地, 可以获取对应于每种数据类型的重要性参数。 之后对于每种数据类型, 根据对应的重 要性参数, 从已创建的数据采集线程中选取相应数据量的数据采集线程。 启动所选取的数 据采集线程, 以采集上述多。

47、种数据类型的数据。 0102 需要说明的是, 上述重要性参数可以是建立上述有效连接的过程中, 由客户端发 送给服务端的; 也可以是由服务端自己设置的, 本说明书对此不作限定。 0103 此外, 在实际应用中, 也可以是按固定比例为每种数据类型的数据启动相应的数 据采集线程。 0104 本说明书基于多线程来采集多种数据类型的数据时, 可以大大提升数据采集的效 率。 0105 步骤304, 接收服务端返回的数据获取指示。 0106 在本说明书中, 当服务端启动多线程进行数据的采集时, 可以是在任意一个数据 采集线程采集到数据时, 即向客户端返回数据获取指示。 这里的数据获取指示可以携带服 说明书 。

48、7/13 页 12 CN 110177127 A 12 务端已创建好的流式通道所对应的数据类型。 0107 步骤306, 响应于数据获取指示, 向服务端发起通道开通请求。 0108 该通道开通请求可以用于请求开通与多种数据类型中各数据类型相应的多条流 式通道。 0109 服务端在接收到通道开通请求后的处理过程可以分为以下两种情况: 0110 第一种, 当服务端已创建了处于未激活状态的多条流式通道时, 上述通道开通请 求即为激活请求, 因此服务端只需激活已创建的、 处于未激活状态的多条流式通道即可。 0111 第二中, 当服务端未预先创建多条流式通道时, 上述通道开通请求可以用于请求 服务端创建。

49、多条流式通道, 即服务端根据通道开通请求, 基于已建立的长连接创建与多种 数据类型中各种数据类型相应的多条流式通道, 并激活多条流式通道。 0112 以上述会员推送场景为例来说, 所创建的流式通道可以包括但不限于如下几种: 与工商数据类型相应的流式通道、 与新闻负面数据类型相应的流式通道以及与公示数据类 型相应的流式通道等。 0113 步骤308, 在多条流式通道创建之后, 并行地通过多条流式通道向服务端发送数据 读取请求。 0114 以上述会员推送场景为例来说, 可以通过与工商数据类型相应的流式通道, 向服 务端发送工商数据的数据读取请求。 可以通过与新闻负面数据类型相应的流式通道, 向服 。

50、务端发送新闻负面数据的数据读取请求等等。 且不同数据类型的数据读取请求可以并行发 送。 0115 步骤310, 接收服务端并行地通过多条流式通道发送的各自对应的数据类型的数 据。 0116 需要说明的是, 本说明书中的多种数据类型可以包括第一类型, 所创建的多条流 式通道可以包括与第一类型对应的第一通道。 此外, 上述长连接请求还可以包括针对第一 类型的数据设置的第一数据块大小。 0117 以上述第一类型和第一通道为例来说, 步骤310中接收服务端并行地通过多条流 式通道发送的各自对应的数据类型的数据可以包括: 依次接收服务端通过第一通道发送的 至少一个数据块。 其中, 至少一个数据块是由服务。

展开阅读全文
内容关键字: 基于 grpc 框架 数据传输 方法 装置 设备
关于本文
本文标题:基于grpc框架的数据传输方法、装置及设备.pdf
链接地址:https://www.zhuanlichaxun.net/pdf/11319636.html
关于我们 - 网站声明 - 网站地图 - 资源地图 - 友情链接 - 网站客服 - 联系我们

copyright@ 2017-2018 zhuanlichaxun.net网站版权所有
经营许可证编号:粤ICP备2021068784号-1