(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210855633.5 (22)申请日 2022.07.21 (71)申请人 合肥中科类脑智能技 术有限公司 地址 230088 安徽省合肥市高新区望江西 路5089号中国科大先进技术研究院一 号嵌入式研发楼3楼 (72)发明人 王景祥　常峰　朱建　李国玉　 肖玉　刘海峰　王子磊　 (74)专利代理 机构 合肥昊晟德专利代理事务所 (普通合伙) 3415 3 专利代理师 何梓秋 (51)Int.Cl. G06F 9/455(2006.01) G06F 9/445(2018.01) H04L 67/06(2022.01)H04L 67/565(2022.01) H04L 69/04(2022.01) (54)发明名称 适用于边缘AI场景的镜像延迟加载方法及 系统 (57)摘要 本发明公开了适用于边缘AI场景的镜像延 迟加载方法及系统， 属于计算机技术领域， 包括 以下步骤： S1： 镜像构建； S2： 镜像上传； S3： 镜像 拉取； S4： 文件加载。 本发明有效降低了中心镜像 仓库的负载， 充分利用了边缘节点的带宽， 减少 了镜像中无用文件的下载频率， 提高了系统的稳 定性， 有效减少边缘AI任务镜像拉取和服务启动 的时间， 缩短了边缘AI任务的升级时间； 采用 Stargz支持gzip流索引的格式， 边缘侧不需要将 完整的镜像层下载到本地然后进行解压， 而是通 过远程文件挂载的方式， 边缘侧直接拉取该文件 对应的存储在服务器端的gzip分片， 然后采用 unpigz工 具进行并行解压， 充分利用边缘侧多核 CPU， 加速解压过程。 权利要求书2页 说明书7页 附图2页 CN 114924845 A 2022.08.19 CN 114924845 A 1.适用于边 缘AI场景的镜像延迟加载 方法， 其特 征在于， 包括以下步骤： 步骤S1： 镜像构建 构建边缘侧推理所需要的镜像； 步骤S2： 镜像上传 将步骤S1中镜像转换成有索引的压缩文件格式的镜像， 即Estargz格式的镜像， 并上传 到中心镜像仓库； 步骤S3： 镜像拉取 边缘侧启动服务时， 从中心镜像仓库拉取镜像， 即下载镜像中程序运行依赖的文件， 程 序运行中未访问的文件将会通过 元数据进行远程 挂载； 步骤S4： 文件加载 镜像中程序运行依赖的文件下载并解压完成之后， 基于Overlay文件系统挂载到本地， 再加载本地文件， 直到程序运行 所依赖的文件均加载完成。 2.根据权利要求1所述的适用于边缘AI场景的镜像延迟加载方法， 其特征在于： 在所述 步骤S1中， 具体过程为： 按照边缘服务运行所需要的运行时环境编写镜像构建脚本文件， 即 Dockerfi le文件， 并将所需的代码文件添加到 镜像层， 通过镜像构建工具构建镜像。 3.根据权利要求2所述的适用于边缘AI场景的镜像延迟加载方法， 其特征在于： 在所述 步骤S2中， 将步骤S1中镜像转换成Estargz格式的镜像的过程具体如下： 步骤S21： 通过优化工具获得Estargz 镜像； 步骤S22： 步骤S21运行结束后会生成Estargz格式的镜像， 将镜像上传到中心镜像仓库 即可供服务使用。 4.根据权利要求3所述的适用于边缘AI场景的镜像延迟加载方法， 其特征在于： 所述步 骤S3包括以下步骤： 步骤S31： 延迟下 载配置； 步骤S32： 镜像拉取。 5.根据权利要求4所述的适用于边缘AI场景的镜像延迟加载方法， 其特征在于： 所述步 骤S31包括以下步骤： 步骤S311： 先获取镜像的元数据， 从元数据中解析出镜像所有的层， 并获取所有数据层 的digest信息， 即元 数据信息摘要； 步骤S312： 获取到的镜像层di gest信息后， 通过中心镜像仓库API分片下载该镜像层的 元数据， 通过解析该镜像层的元数据， 创建对应的目录， 并基于Linux提供的用户空间文件 系统Fuse实现远程 挂载； 步骤S313： 镜像中所有的层都挂载完成之后， 再通过Overlay文件系统将所有层合并到 一个目录， 实现镜像的延迟下 载。 6.根据权利要求5所述的适用于边缘AI场景的镜像延迟加载方法， 其特征在于： 在所述 步骤S312， 从镜像层获取到元数据信息后， 基于Fuse  API实现文件的挂载， 并实现文件查询 和读取的操作。 7.根据权利要求5所述的适用于边缘AI场景的镜像延迟加载方法， 其特征在于： 所述步 骤S32包括以下步骤： 步骤S321： 当镜像中程序运行时， 从镜像中查找依赖的文件并进行加载， 当检测本地缓权　利　要　求　书 1/2 页 2 CN 114924845 A 2存中存在时则直接加载本地文件， 当不存在时， 通过镜像元数据文件， 查询到所依赖文件所 属的镜像层以及通过索引文件获取该文件在该镜像层对应的索引位置和大小， 然后通过中 心镜像仓库的API进行指定分片大小的数据下 载， 再压到本地目录； 步骤S322： 在中心镜像仓库下载指定分片大小的数据时， 通过P2P 分发工具查询该分片 是否在其它节点存在， 存在则会去其它节点进行拉取。 8.根据权利要求7所述的适用于边缘AI场景的镜像延迟加载方法， 其特征在于： 在所述 步骤S322中， P2P分发工具采用镜像文件P2P分发方案实现， 在镜像文件P2P分发方案中存在 一个中心节点， 中心节点用于记录所有的Client节点信息， 同时中心节点还记录每个 Client节点上存在的文件分块信息； Client节点启动时向中心节点上报本机的基本信息， 当进行镜像文件的下载时， Client节点先向中心节点查询目前正在下载该分片和已下载完 该分片的所有节点， 中心节点会返回正在下载的机器列表， 然后 从返回的机器列表中随机 选择一个节点进行下载， 如果不存在， 中心节点则进 行回源下载， 从 中心镜像仓库按分片拉 取文件， 并成为最初的Peer节点， 然后再提供给Client下载节点； 当Client节 点在下载完一 个分片后， 向中心节点上报已下载完该分片， 与此同时Client节点就成为此分片的Peer节 点， 来提供给其它Cl ient节点进行 下载。 9.根据权利 要求8所述的适用于边缘AI场景的镜像延迟加载方法， 其特征在于： Client 节点信息包括 IP地址、 操作系统、 核心数和内存信息 。 10.适用于边缘AI场景的镜像延迟加载系统， 其特征在于， 采用如权利要求1～9任一项 所述的方法实现Docker镜像的延迟加载， 包括： 镜像构建模块， 用于构建边 缘侧推理所需要的镜像； 镜像上传模块， 用于将镜像转换成Estargz格式的镜像， 并上传到中心镜像仓库； 镜像拉取模块， 用于在边缘侧启动服务时， 从中心镜像仓库拉取镜像， 即下载镜像中程 序运行依赖的文件， 程序运行中未访问的文件将会通过 元数据进行远程 挂载； 文件加载模块， 用于在镜像中程序运行依赖的文件下载并解压完成之后， 基于Overlay 文件系统进行 联合挂载， 再加载本地文件， 直到程序运行 所依赖的文件均加载完成； 中央处理模块， 用于向其 他模块发出指令， 完成相关动作； 所述镜像构建模块、 镜像上传模块、 镜像拉取模块、 文件加载模块均与中央处理模块通 信连接。权　利　要　求　书 2/2 页 3 CN 114924845 A 3