说明:收录90万 73个行业的国家标准 支持批量下载
文库搜索
切换导航
文件分类
频道
仅15元无限下载
联系我们
问题反馈
文件分类
仅15元无限下载
联系我们
问题反馈
批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211058944.5 (22)申请日 2022.08.30 (71)申请人 广东卓维网络有限公司 地址 528000 广东省佛山市南海区桂城街 道季华东路33号佛山市电力科技产业 中心1座6 -9层 申请人 广东电网有限责任公司佛山供电局 (72)发明人 王义申 冯敏 刘建勇 陈健流 陈建海 武兴国 叶盛华 (74)专利代理 机构 深圳市明日今典知识产权代 理事务所(普通 合伙) 44343 专利代理师 王杰辉 (51)Int.Cl. G06F 16/27(2019.01) G06F 16/16(2019.01)G06F 16/172(2019.01) G06F 16/18(2019.01) G06F 16/22(2019.01) G06F 16/23(2019.01) G06F 16/28(2019.01) (54)发明名称 异构数据实时同步方法、 装置和计算机设备 (57)摘要 本申请属于大数据技术领域, 特别涉及一种 异构数据实时同步方法、 装置和计算机设备。 该 方法包括: 获取源端业务系统的关系型数据库中 数据操作日志文件的变更信息, 其中, 所述变更 信息包括至少一条变更数据; 对 所述变更信息进 行预处理生成二进制文件; 将所述二进制文件传 输至目标文件存储系统; 将所述二进制文件还 原, 在所述目标文件存储系统获取到所述变更数 据; 将所述变更数据写入所述目标文件存储系统 的增量数据表; 将所述增量数据表与所述目标文 件存储系统的存量数据表进行合并, 以完成异构 数据同步。 上述的方法、 装置和计算机设备可缩 短异构数据同步的时间, 更好地满足高时效性要 求的数据应用场景。 权利要求书2页 说明书10页 附图8页 CN 115221248 A 2022.10.21 CN 115221248 A 1.一种异构数据实时同步方法, 其特 征在于, 包括: 获取源端业务系统的关系型数据库中数据操作 日志文件的变更信息, 其中, 所述变更 信息包括至少一条变更 数据; 对所述变更信息进行 预处理生成二进制文件; 将所述二进制文件传输 至目标文件 存储系统; 将所述二进制文件 还原, 在所述目标文件 存储系统获取到所述变更 数据; 将所述变更 数据写入所述目标文件 存储系统的增量数据表; 将所述增量数据表与 所述目标文件存储系统 的存量数据表进行合并, 以完成异构数据 同步。 2.根据权利要求1所述的异构数据实时同步方法, 其特征在于, 所述将所述二进制文件 传输至目标文件 存储系统的步骤, 包括: 对所有所述变更数据进行主键标记、 变更类型添加以及变更时间字段添加生成预处理 变更数据; 将所有所述预处 理变更数据进行封装生成预处 理变更数据文件; 将所述预处 理变更数据文件转换为 二进制文件。 3.根据权利要求2所述的异构数据实时同步方法, 其特征在于, 所述将所述变更数据写 入所述目标文件 存储系统的增量数据表的步骤, 包括: 以预设格式将在所述目标文件存储系统获取到所有所述变更数据发送到消息队列组 件; 将所述消息队列组件接收到的所述变更数据进行偏移量标记, 其中, 所述偏移量用于 查询所述变更 数据; 将已进行偏移量标记的所述变更 数据在所述消息队列中按照所述主键进行分区存 储; 以预设时间 间隔消费所述消息队列组件中的数据; 按预设规则解析 所述消息队列组件中的数据获得 所述变更 数据; 将所述变更 数据写入所述目标文件 存储系统的增量数据表。 4.根据权利要求1所述的异构数据实时同步方法, 其特征在于, 在所述获取源端业务系 统的关系型 数据库中数据操作日志文件的变更信息的步骤之前, 还 包括: 实时监控 源端业务系统的关系型 数据库中的数据操作日志文件; 判断所述数据操作日志文件中是否存在变更信息 。 5.根据权利要求3所述的异构数据实时同步方法, 其特征在于, 所述以预设格式将在所 述目标文件 存储系统获取到所有所述变更 数据发送到消息队列组件的步骤, 包括: 基于所述消息队列组件的数据传送规则和每一所述变更数据, 生成预设格式的第 一数 据; 将所述第一数据发送至所述消息队列组件; 判断所述消息队列组件在预设返回 时间内是否返回确认信号; 若所述消息队列组件在预设返回时间内已返回确认信号且所述第一数据未被全部发 送, 则继续发送下一条第一数据。 6.根据权利要求5所述的异构数据实时同步方法, 其特征在于, 所述以预设格式将在所 述目标文件 存储系统获取到所有所述变更 数据发送到消息队列组件的步骤, 还 包括:权 利 要 求 书 1/2 页 2 CN 115221248 A 2若所述信息队列组件在预设返回 时间内未返回确认信号, 则停止数据传送并报错。 7.根据权利要求4所述的异构数据实时同步方法, 其特征在于, 在所述实时监控源端业 务系统的关系型 数据库中的数据操作日志文件的步骤之前, 还 包括: 连接源端业 务系统的关系型 数据库。 8.一种异构数据实时同步装置, 其特 征在于, 包括: 变更信息获取模块, 用于获取源端业务系统 的关系型数据库中数据操作日志文件的变 更信息, 其中, 所述变更信息包括至少一条变更 数据; 二进制文件生成模块, 用于对所述变更信息进行 预处理生成二进制文件; 传输模块, 用于将所述 二进制文件传输 至目标文件 存储系统; 还原模块, 用于将所述二进制文件还原, 在所述目标文件存储系统获取到所述变更数 据; 数据写入 模块, 用于将所述变更 数据写入所述目标文件 存储系统的增量数据表; 合并模块, 用于将所述增量数据表与所述目标文件存储系统的存量数据表进行合并, 以完成异构数据同步。 9.一种计算机设备, 包括存储器和处理器, 所述存储器中存储有计算机程序, 其特征在 于, 所述处理器执行所述计算机程序时实现权利要求1 ‑7中任一项所述的异构数据实时同 步方法的步骤。 10.一种计算机可读存储介质, 其上存储有计算机程序, 其特征在于, 所述计算机程序 被处理器执行时实现权利要求1 ‑7中任一项所述的异构数据实时同步方法的步骤。权 利 要 求 书 2/2 页 3 CN 115221248 A 3
专利 异构数据实时同步方法、装置和计算机设备
文档预览
中文文档
21 页
50 下载
1000 浏览
0 评论
0 收藏
3.0分
赞助2.5元下载(无需注册)
温馨提示:本文档共21页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助2.5元下载
本文档由 SC 于
2024-02-07 12:42:55
上传分享
举报
下载
原文档
(993.7 KB)
分享
友情链接
GM-T 0054-2018 信息系统密码应用基本要求.pdf
GB-T 39720-2020 信息安全技术 移动智能终端安全技术要求及测试评价方法.pdf
T-CSAE 72—2018 汽车涂层耐紫外线穿透性能测试及评价方法.pdf
DB15-T 1874—2020 公共大数据安全管理指南 内蒙古自治区.pdf
T-NIFA 24—2023 金融分布式账本技术资金管理应用业务要求.pdf
GB-T 27542-2019 蓄电池托盘搬运车.pdf
DB13-T 2948-2019 公路桥面铺装层维修设计与施工技术规范 河北省.pdf
T-SDBQ 02—2023 版权资产管理师职业标准.pdf
SY-T 0538-2021 管式加热炉规范.pdf
GB-T 31250-2014 电子电气产品环境信息基本要求.pdf
GB-T 29729-2022 氢系统安全的基本要求.pdf
DB14-T 2841-2023 政务云平台 运维规范 山西省.pdf
GB-T 42442.1-2023 智慧城市 智慧停车 第1部分:总体要求.pdf
GM-T 0036-2014 采用非接触卡的门禁系统密码应用技术指南.pdf
GB-T 34545-2017 祖母绿分级.pdf
专利 带检弯头和管道系统.PDF
GB-T 30013-2013 城市轨道交通试运营基本条件.pdf
GB-T 41304.2-2022 知识管理方法和工具 第2部分:设计理性知识建模.pdf
T-CSAE 111—2019 乘用车空气动力学性能术语.pdf
GM-T 0034-2014 基于SM2密码算法的证书认证系统密码及其相关安全技术规范.pdf
1
/
21
评价文档
赞助2.5元 点击下载(993.7 KB)
回到顶部
×
微信扫码支付
2.5
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。