一种AI模型编排方法、装置、电子设备及介质与流程

本技术涉及人工智能，尤其是涉及一种ai模型编排方法、装置、电子设备及介质。

背景技术：

1、ai模型编排是指将不同的ai模型组合在一起，以实现更复杂的任务或提升整体性能的过程。模型编排允许研究人员和工程师充分利用各种模型、算法和数据，以实现更好的性能和适应性。满足更强大、多功能的ai系统的需求，以应对不断增长的数据和任务复杂性。模型集成、模型融合以及模型堆叠是目前常见的ai模型编排的技术和方法。以上方法通常是工程师基于固定的规则和模版，进行硬性编码完成模型组合，该做法存在以下弊端：

2、1.无法动态处理复杂多样数据、解决多模态问题或需要适应不同任务的应用场景。

3、2.无法保证稳定性和可靠性。

4、3.涉及多个模型、算法和数据源的整合，增加了开发、调试和维护的复杂性。

5、4.模型编排导致更加复杂的模型，这降低模型的可解释性。

6、5.不同模型之间的协同工作可能导致更多的错误和问题，不能动态调整模型的组合。

7、6.由于其臃肿的代码结构，导致在高并发场景下，系统的处理和返回存在明显的延迟。

8、这些问题可能导致系统难以解释和维护，增加了开发和维护的难度，同时也可能引发集成错误和数据不一致性。

9、因此，如何提供一种的ai模型编排方法，是目前亟待解决的问题.

技术实现思路

1、为了解决上述问题，本技术提供了一种ai模型编排方法、装置、电子设备及介质。

2、第一方面，本技术提供一种ai模型编排方法，应用于ai模型编排系统，所述系统包括规则引擎和有限状态机，所述方法包括：

3、分别进行有限状态机和规则引擎的初始化；

4、分别进行有限状态机和规则引擎的实例化；

5、接收外部的输入数据；

6、所述规则引擎根据初始化的配置进行规则执行，将执行结果发送到有限状态机；

7、所述有限状态机根据初始化的配置执行相应的状态转换和动作，调用具体的ai模型；

8、根据ai模型的处理结果，更新所述有限状态机的状态。

9、可选的，所述有限状态机的初始化方法包括：

10、任务识别：定义ai模型编排的任务，包括输入、输出以及所需的决策和处理步骤；

11、状态定义：定义有限状态机的状态，每个状态对应所述系统或ai模型的不同运行状态；

12、状态迁移定义：定义状态之间的转换关系；

13、状态迁移动作/事件：确定触发状态迁移的事件或条件；

14、动作/事件驱动加载：定义每个状态迁移执行的动作或操作；

15、数据初始化：对有限状态机的数据结构进行初始化。

16、可选的，所述规则引擎的初始化方法包括：

17、规则定义：定义规则，每条规则对应在特定条件下需要执行的操作；

18、规则存储：将所定义的规则存储在规则引擎中；

19、规则引擎配置：进行规则引擎的配置，包括规则引擎的参数设置、决策表的加载、规则文件的指定；

20、输入驱动加载：针对规则引擎需要访问数据，对数据源进行初始化。

21、可选的，所述规则定义的步骤，具体包括：

22、定义条件和触发事件：为不同模态数据类型定义条件，用于触发规则引擎中的操作；

23、创建规则集合：为每种模态数据类型创建相应的规则集合，每个规则包括一组条件和操作；

24、设置规则的优先级：为不同模态数据的规则设置优先级，为规则引擎中的不同条件和操作分配权重和优先级。

25、可选的，所述分别进行有限状态机和规则引擎的实例化的步骤，具体包括：

26、根据任务实例化有限状态机，创建具体的状态机对象；

27、创建引擎对象、加载规则、初始化运行时环境。

28、可选的，所述规则引擎将执行结果发送到有限状态机的步骤，具体包括：

29、所述规则引擎通过不同的数据管道，将执行结果动态路由到不同的状态机状态。

30、可选的，所述方法还包括：

31、判断ai模型编排是否结束；

32、如果未结束，根据所述有限状态机的配置，继续等待接收外部的输入数据；

33、如果结束，则关闭规则引擎实例和状态机实例，并进行资源清理。

34、第二方面，本技术提供一种ai模型编排装置，应用于ai模型编排系统，所述系统包括规则引擎和有限状态机，所述装置包括：

35、初始化单元，用于分别进行有限状态机和规则引擎的初始化；

36、实例化单元，用于分别进行有限状态机和规则引擎的实例化；

37、输入接收单元，用于接收外部的输入数据；

38、规则引擎单元，用于所述规则引擎根据初始化的配置进行规则执行，将执行结果发送到有限状态机；

39、状态机单元，用于所述有限状态机根据初始化的配置执行相应的状态转换和动作，调用具体的ai模型；根据ai模型的处理结果，更新所述有限状态机的状态

40、第三方面，本技术提供一种电子设备，包括：

41、一个或多个处理器；

42、存储器；

43、一个或多个应用程序，其中所述一个或多个应用程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个程序配置用于执行如第一方面所述的方法。

44、第四方面，本技术提供一种计算机可读存储介质，所述计算机可读存储介质中存储有程序代码，所述程序代码可被处理器调用执行如第一方面所述的方法。

45、综上所述，本技术包括以下至少一种有益技术效果：

46、1.灵活性和可解释性：规则引擎提供了逻辑规则和条件的灵活定义，使其适用于多样的任务。有限状态机提供了状态和状态转换的可视化和明确定义，增强了系统的可解释性。这种结合使得编排更容易理解、修改和调整。

47、2.高度可控制和可管理性：规则引擎允许用户自定义规则和条件，以满足特定需求，而有限状态机提供了明确的状态控制和转换机制。这增强了系统的可控性和可管理性，有助于满足特定的业务逻辑和规则。

48、3.实时决策和响应：这种组合方法使得实时决策和即时响应成为可能，因为规则引擎和有限状态机都具备快速执行规则和状态转换的能力。这使其适用于需要快速响应的任务，如智能控制系统和实时监控。

49、4.适用于复杂业务流程：基于规则引擎和有限状态机的编排方法特别适用于复杂的业务流程和工作流程，可以定义多层级的规则和状态转换，以满足复杂的业务逻辑需求。

50、5.可扩展性：这种组合方法可以相对容易地扩展，以适应新的规则和状态，以及处理更复杂的任务和场景。这增加了系统的适应性和可扩展性。

51、6.故障处理和容错性：有限状态机提供了对系统状态的明确控制和故障处理机制，同时规则引擎可以用于定义应对不同故障或异常情况的规则。这使得系统更具容错性，可以更好地处理异常情况和故障恢复。