应用于地震波大模型的端云协同服务优化方法及系统与流程
本发明涉及端云协同计算,具体而言,涉及一种应用于地震波大模型的端云协同服务优化方法及系统。
背景技术:
1、当前,地震波数据的处理通常依赖部署于云端的深度学习大模型,云端服务器汇聚大量计算资源,能够承载高复杂度模型的推理运算。然而,地震波数据具有强实时性要求,从端侧采集设备将原始波形数据上传至云端,再由云端返回分析结果,这一完整链路的端到端延迟往往难以满足地震预警场景下秒级甚至亚秒级的响应需求。
2、现有技术中,部分方案尝试将轻量化模型直接部署于端侧采集设备上以降低通信延迟,但端侧设备的计算能力和存储容量极为有限,无法承载完整的地震波大模型,导致分析精度显著下降。另有部分方案采用固定的端云分工策略,即将模型按固定层数机械地划分为端侧部分和云端部分,但该策略未考虑云端当前的推理负载状况以及端侧设备集群中各设备的实时资源状态,在云端负载较高或端侧设备资源紧张时,固定分工反而会加剧系统整体延迟。此外,现有方案通常忽略端侧设备的数据缓冲占用情况,当端侧数据缓冲已接近饱和时仍向其分配推理任务,容易引发数据丢失或任务堆积。
技术实现思路
1、鉴于上述提及的问题,结合本发明的第一方面,本发明实施例提供一种应用于地震波大模型的端云协同服务优化方法,所述方法包括:
2、获取云端地震波大模型在处理目标区域地震波数据时产生的云端推理延迟记录和云端资源占用比例记录,同时获取所述目标区域内端侧地震波采集设备集群中每个端侧地震波采集设备的端侧资源空闲比例记录和端侧数据缓冲占用记录;
3、基于所述云端推理延迟记录、所述云端资源占用比例记录、所述端侧资源空闲比例记录和所述端侧数据缓冲占用记录,将所述云端地震波大模型的第一模型结构层集合所对应的第一地震波推理任务分配至云端执行节点,将所述云端地震波大模型的第二模型结构层集合所对应的第二地震波推理任务分配至所述端侧地震波采集设备集群中选定的目标端侧地震波采集设备执行,得到端云协同推理任务分配方案,所述第二模型结构层集合中的模型结构层的计算复杂度低于所述第一模型结构层集合中的模型结构层的计算复杂度,所述目标端侧地震波采集设备是根据所述端侧资源空闲比例记录从所述端侧地震波采集设备集群中选取的;
4、根据所述端云协同推理任务分配方案,控制所述云端执行节点对所述第一模型结构层集合执行第一推理操作以生成第一地震波中间推理结果,并控制所述目标端侧地震波采集设备对所述第二模型结构层集合和所述第一地震波中间推理结果执行第二推理操作以生成目标地震波推理结果;
5、基于所述目标地震波推理结果,生成面向所述目标区域的地震波分析服务响应信息,并将所述地震波分析服务响应信息发送至地震波监测分析终端。
6、再一方面,本发明实施例还提供一种应用于地震波大模型的端云协同服务优化系统,包括:
7、处理器;机器可读存储介质,用于存储所述处理器的机器可执行指令;其中,所述处理器配置为经由执行所述机器可执行指令来执行上述的应用于地震波大模型的端云协同服务优化方法。
8、基于以上方面,通过同时采集云端推理延迟记录、云端资源占用比例记录、端侧资源空闲比例记录以及端侧数据缓冲占用记录这四维度状态信息,构建了覆盖端云两侧全链路的实时资源感知机制,在此基础上依据模型结构层的计算复杂度差异将地震波大模型解耦为高复杂度的第一模型结构层集合和低复杂度的第二模型结构层集合,并以端侧资源空闲比例为核心依据从端侧设备集群中动态选取目标端侧地震波采集设备,从而实现了端云协同推理任务分配方案与当前系统全局资源状态的匹配,避免了固定分工策略在资源波动场景下的性能劣化,使得高计算复杂度的推理任务始终由资源充裕的云端执行节点承担,而低计算复杂度的推理任务则被调度至资源空闲且数据缓冲未饱和的端侧设备上执行,端侧设备在获得云端生成的第一地震波中间推理结果后即可在本地完成第二推理操作并直接输出目标地震波推理结果,大幅缩短了从数据采集到结果输出的端到端路径,尤其在地震预警等对时效性要求极高的场景中能够显著降低整体推理延迟,同时通过端侧数据缓冲占用记录的引入有效防止了因端侧存储饱和导致的数据丢失风险,实现了推理精度、响应时效与系统资源利用率三者之间的全局最优平衡。
技术特征:
1.一种应用于地震波大模型的端云协同服务优化方法,其特征在于,所述方法包括:
2.根据权利要求1所述的应用于地震波大模型的端云协同服务优化方法,其特征在于,所述基于所述云端推理延迟记录、所述云端资源占用比例记录、所述端侧资源空闲比例记录和所述端侧数据缓冲占用记录,将所述云端地震波大模型的第一模型结构层集合所对应的第一地震波推理任务分配至云端执行节点,将所述云端地震波大模型的第二模型结构层集合所对应的第二地震波推理任务分配至所述端侧地震波采集设备集群中选定的目标端侧地震波采集设备执行,得到端云协同推理任务分配方案,包括:
3.根据权利要求1所述的应用于地震波大模型的端云协同服务优化方法,其特征在于,所述根据所述端云协同推理任务分配方案,控制所述云端执行节点对所述第一模型结构层集合执行第一推理操作以生成第一地震波中间推理结果,并控制所述目标端侧地震波采集设备对所述第二模型结构层集合和所述第一地震波中间推理结果执行第二推理操作以生成目标地震波推理结果,包括:
4.根据权利要求1所述的应用于地震波大模型的端云协同服务优化方法,其特征在于,所述方法还包括:
5.根据权利要求4所述的应用于地震波大模型的端云协同服务优化方法,其特征在于,所述将所述第二模型结构层集合中尚未被所述目标端侧地震波采集设备执行的剩余模型结构层集合进行二次划分,得到第一剩余模型结构层子集合和第二剩余模型结构层子集合,包括:
6.根据权利要求1所述的应用于地震波大模型的端云协同服务优化方法,其特征在于,所述方法还包括:
7.根据权利要求1所述的应用于地震波大模型的端云协同服务优化方法,其特征在于,所述方法还包括:
8.根据权利要求4所述的应用于地震波大模型的端云协同服务优化方法,其特征在于,所述方法还包括:
9.根据权利要求1所述的应用于地震波大模型的端云协同服务优化方法,其特征在于,所述方法还包括:
10.一种应用于地震波大模型的端云协同服务优化系统,其特征在于,包括:
技术总结
本发明提供一种应用于地震波大模型的端云协同服务优化方法及系统,涉及端云协同计算技术领域,获取云端地震波大模型的推理延迟和资源占用记录,以及端侧采集设备集群中各设备的资源空闲比例和数据缓冲占用记录;基于上述四类记录,将高计算复杂度的第一模型结构层集合分配至云端执行节点,将低计算复杂度的第二模型结构层集合分配至根据端侧资源空闲比例选取的目标端侧设备;云端生成第一中间推理结果后传输至目标端侧设备,由其结合第一中间推理结果完成第二推理操作生成目标结果,并据此生成分析服务响应信息发送至监测终端。本发明实现了端云任务的动态最优分配,有效降低地震波分析的端到端延迟。
技术研发人员:李永辉,王建波,向玉开,胡健,安融通,郭思尧,周宇洋
受保护的技术使用者:成都超算中心运营管理有限公司
技术研发日:
技术公布日:2026/9/4
- 还没有人留言。
