说明:收录90万 73个行业的国家标准 支持批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210972152.2 (22)申请日 2022.08.15 (71)申请人 深圳大道云科技有限公司 地址 518000 广东省深圳市前海深港合作 区前湾一路1号A栋201室 (入驻深圳市 前海商务秘书 有限公司) (72)发明人 徐约可 谢国斌 马明 李环良  (74)专利代理 机构 深圳市特讯知识产权代理事 务所(普通 合伙) 44653 专利代理师 孟智广 (51)Int.Cl. G06F 16/23(2019.01) G06F 16/22(2019.01) G06F 16/27(2019.01) G06F 16/28(2019.01) (54)发明名称 kudu表更新方法、 装置、 设备及存 储介质 (57)摘要 本发明涉及 表格更新领域, 公开了一种kudu 表更新方法、 装置、 设备及存储介质。 该方法包 括: 基于预置table .json配置文件, 触发 FlinkCDC任务, 生成预置kudu表的同步指令; 根 据所述同步指令, 对预置监控日志进行解析转换 处理, 得到所述监控日志对应的JSON串; 根据预 置转换算法, 将所述JSON串转换为Java对象数 据; 判断所述table.json配置文件中的配置字段 与kudu表中对应字段是否存在修改; 若存在修 改, 则根据所述Java对象数据, 对所述kudu表进 行映射匹配修改处 理, 生成更新的kudu表。 权利要求书2页 说明书7页 附图2页 CN 115328928 A 2022.11.11 CN 115328928 A 1.一种kudu表更新方法, 其特 征在于, 包括 步骤: 基于预置table.jso n配置文件, 触发Fl inkCDC任务, 生成预置kudu表的同步指令; 根据所述同步指令, 对预置监控日志进行解析转换处理, 得到所述监控日志对应的 JSON串; 根据预置转换算法, 将所述JSON串转换为Java对象数据; 判断所述table.jso n配置文件中的配置 字段与kudu表中对应字段 是否存在修改; 若存在修改, 则根据所述Java对象数据, 对所述kudu表进行映射匹配修改处理, 生成更 新的kudu表。 2.根据权利要求1所述的kudu表更新方法, 其特征在于, 在 所述基于预置table.j son配 置文件, 触发Fl inkCDC任务, 生成预置kudu表的同步指令之前, 还 包括: 获取table.json配置文件, 访问预置MySQL数据库, 解析所述table.json配置文件对应 的数据, 生成kudu建表语句; 基于预置Impala组件, 对所述 kudu建表语句进行 执行处理, 生成kudu表; 执行预置DataX任务数据, 将历史数据同步至所述 kudu表中。 3.根据权利要求1所述的kudu表更新方法, 其特征在于, 在 所述基于预置table.j son配 置文件, 触发FlinkCDC任务, 生成预置kudu表的同步指令之后, 在所述根据所述J ava对象数 据, 对所述 kudu表进行映射匹配修改处 理, 生成更新的kudu表之前, 还 包括: 基于所述table.jso n配置文件, 获取kudu服 务组件的会话数据; 将所述会话数据对应所述 kudu表的数据转换为K ‑V形式存储在Map容器中。 4.根据权利要求3所述的kudu表更新方法, 其特征在于, 在 所述基于预置table.j son配 置文件, 触发FlinkCDC任务, 生成预置kudu表的同步指令之后, 在所述根据所述J ava对象数 据, 对所述 kudu表进行映射匹配修改处 理, 生成更新的kudu表之前, 还 包括: 根据所述table.json配置文件, 对预置kudu创建操作组件进行设置处理, 获取数据操 作设置; 将所述数据操作设置转换为K ‑V形式存储在Map容器中。 5.根据权利要求4所述的kudu表更新方法, 其特征在于, 所述根据所述Java对象数据, 对所述kudu表进行映射匹配修改处 理, 生成更新的kudu表包括: 根据所述Java对象数据, 对所述Map容器进行查询处理, 得到所述Java对象数据对应的 数据操作设置、 所述 kudu表的数据; 将所述Java对象数据转换为K ‑V形式数据, 得到Java对象K ‑V数据; 根据所述Java对象K ‑V数据, 对所述Java对象数据对应的数据操作设置、 所述kudu表的 数据进行修改处 理, 得到Map容器的映射 修改数据; 基于所述映射 修改数据, 对所述 kudu表进行修改处 理, 生成更新的kudu表。 6.根据权利要求1所述的kudu表更新方法, 其特征在于, 在所述根据所述Java对象数 据, 对所述 kudu表进行映射匹配修改处 理, 生成更新的kudu表之后, 还 包括: 基于预置Impal a组件, 对所述更新的kudu表进行查询处理, 得到更新日志, 以及将所述 更新日志上传至云端数据库。 7.根据权利要求1所述的kudu表更新方法, 其特征在于, 所述基于预置table.j son配置 文件, 触发Fl inkCDC任务, 生成预置kudu表的同步指令包括:权 利 要 求 书 1/2 页 2 CN 115328928 A 2基于预置table.json配置文件, 通过StreamX组件读取FlinkCDC任务, 生成所述 table.jso n配置文件 对应的kudu表的同步指令 。 8.一种kudu表更新装置, 其特 征在于, 所述 kudu表更新装置包括: 指令生成模块, 用于基于预置table.json配置文件, 触发FlinkCDC任务, 生成预置kudu 表的同步指令; 日志处理模块, 用于根据 所述同步指令, 对预置监控日志进行解析转换处理, 得到所述 监控日志对应的JSON串; 对象转换模块, 用于根据预置转换算法, 将所述JSON串转换为Java对象数据; 判断模块, 用于判断所述table.j son配置文件中的配置字段与kudu表中对应字段是否 存在修改; 匹配修改模块, 用于若存在修改, 则根据所述Java对象数据, 对所述kudu表进行映射匹 配修改处 理, 生成更新的kudu表。 9.一种kudu表更新设备, 其特征在于, 所述kudu表更新设备包括: 存储器和至少一个处 理器, 所述存 储器中存 储有指令, 所述存 储器和所述至少一个处 理器通过线路互连; 所述至少一个处理器调用所述存储器 中的所述指令, 以使得所述kudu表更新设备执行 如权利要求1 ‑7中任一项所述的kudu表更新方法。 10.一种计算机可读存储介质, 所述计算机可读存储介质上存储有计算机程序, 其特征 在于, 所述计算机程序被处理器执行时实现如权利要求1 ‑7中任一项所述的kudu表更新方 法。权 利 要 求 书 2/2 页 3 CN 115328928 A 3

PDF文档 专利 kudu表更新方法、装置、设备及存储介质

文档预览
中文文档 12 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共12页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 kudu表更新方法、装置、设备及存储介质 第 1 页 专利 kudu表更新方法、装置、设备及存储介质 第 2 页 专利 kudu表更新方法、装置、设备及存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-07 12:43:00上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。