通过扰动交易参数来解释黑盒模型的系统、方法和计算机程序产品与流程

本公开大体上涉及“黑盒”机器学习模型，且在非限制性实施例或方面中，涉及通过扰动交易参数来解释黑盒机器学习模型的系统、方法和计算机程序产品。

背景技术：

1、引入“黑盒”机器学习模型以结合电子支付交易使用。然而，由于机器学习模型的未知(例如，“黑盒”)性质，很难理解输入数据的哪些方面驱动模型的决策(输出)。这种缺乏透明度的情况使用户很难监控模型、理解模型或从中学习，或在遇到质询时证明其结果。

技术实现思路

1、根据非限制性实施例或方面，提供一种计算机实施的方法，包括：用至少一个处理器接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中风险得分是由机器学习模型基于多个交易参数生成的；对于多个交易参数中的每个交易参数，用至少一个处理器扰动交易参数的值，且用机器学习模型重新分析第一支付交易以基于受扰动交易参数生成受扰动风险得分；用至少一个处理器通过比较针对多个交易参数中的每一个生成的受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及用至少一个处理器基于至少一个影响参数生成查询响应消息。

2、在非限制性实施例或方面，扰动交易参数的值可包括将交易参数的值递增一定量和/或所述值的百分比，其中受扰动交易参数包括数字交易参数。递增交易参数的值可包括将所述值增加或减小高达5％以形成受扰动交易参数。受扰动交易参数可包括分类交易参数，其中扰动分类交易参数的值可包括将分类交易参数的类别从第一类别改变为第二类别。用机器学习模型重新分析第一支付交易以基于受扰动交易参数生成受扰动风险得分可以在每次仅扰动多个交易参数中的单个交易参数的情况下进行。风险得分可以满足阈值。第一支付交易可包括授权决策，其中基于风险得分，授权决策为拒绝授权决策。授权决策可能已经由代表发行方的发行方系统的交易服务提供商的交易处理系统生成。授权决策可能已经由交易处理系统在发行方系统未能与电子支付处理网络的组件通信时生成。授权决策可能已经由交易处理系统通过将多个交易参数应用于黑盒机器学习模型而生成，其中黑盒机器学习模型是基于发行方系统的建模历史授权决策生成的。授权决策可能已经由交易处理系统基于与发起第一支付交易的用户相关联的历史交易数据生成。确定至少一个影响参数可包括从多个交易参数中确定风险得分与对应受扰动风险得分之间的差满足阈值的至少一个交易参数。所述方法还可包括：在用户装置上显示与第一支付交易相关联的数据和与与第一支付交易相关联的数据相关联的可选元素；由用户装置接收指示可选元素的选择的用户输入；以及响应于可选元素的选择，由用户装置生成并发送查询请求消息。

3、根据非限制性实施例或方面，提供一种系统，包括至少一个处理器，所述至少一个处理器被编程或配置成：接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中风险得分是由机器学习模型基于多个交易参数生成的；对于多个交易参数中的每个交易参数，扰动交易参数的值，且用机器学习模型重新分析第一支付交易以基于受扰动交易参数生成受扰动风险得分；通过比较针对多个交易参数中的每一个生成的受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及基于至少一个影响参数生成查询响应消息。

4、在非限制性实施例或方面，扰动交易参数的值可包括将交易参数的值递增一定量和/或所述值的百分比，其中受扰动交易参数包括数字交易参数。递增交易参数的值可包括将所述值增加或减小高达5％以形成受扰动交易参数。受扰动交易参数可包括分类交易参数，其中扰动分类交易参数的值包括将分类交易参数的类别从第一类别改变为第二类别。用机器学习模型重新分析第一支付交易以基于受扰动交易参数生成受扰动风险得分可以在每次仅扰动多个交易参数中的单个交易参数的情况下进行。风险得分可以满足阈值。第一支付交易可包括授权决策，其中基于风险得分，授权决策为拒绝授权决策。授权决策可能已经由代表发行方的发行方系统的交易服务提供商的交易处理系统生成。授权决策可能已经由交易处理系统在发行方系统未能与电子支付处理网络的组件通信时生成。授权决策可能已经由交易处理系统通过将多个交易参数应用于黑盒机器学习模型而生成，其中黑盒机器学习模型是基于发行方系统的建模历史授权决策生成的。授权决策可能已经由交易处理系统基于与发起第一支付交易的用户相关联的历史交易数据生成。确定至少一个影响参数可包括从多个交易参数中确定风险得分与对应受扰动风险得分之间的差满足阈值的至少一个交易参数。所述系统可包括用户装置，所述用户装置被编程或配置成：显示与第一支付交易相关联的数据和与与第一支付交易相关联的数据相关联的可选元素；接收指示可选元素的选择的用户输入；以及响应于可选元素的选择，生成并发送查询请求消息。

5、根据非限制性实施例或方面，提供一种计算机程序产品，包括至少一个非瞬态计算机可读介质，所述至少一个非瞬态计算机可读介质包括程序指令，所述程序指令在由至少一个处理器执行时使所述至少一个处理器：接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中风险得分是由机器学习模型基于多个交易参数生成的；对于多个交易参数中的每个交易参数，扰动交易参数的值，且用机器学习模型重新分析第一支付交易以基于受扰动交易参数生成受扰动风险得分；通过比较针对多个交易参数中的每一个生成的受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及基于至少一个影响参数生成查询响应消息。

6、在非限制性实施例或方面，扰动交易参数的值可包括将交易参数的值递增一定量和/或所述值的百分比，其中受扰动交易参数包括数字交易参数。递增交易参数的值可包括将所述值增加或减小高达5％以形成受扰动交易参数。受扰动交易参数可包括分类交易参数，其中扰动分类交易参数的值包括将分类交易参数的类别从第一类别改变为第二类别。用机器学习模型重新分析第一支付交易以基于受扰动交易参数生成受扰动风险得分可以在每次仅扰动多个交易参数中的单个交易参数的情况下进行。风险得分可以满足阈值。第一支付交易可包括授权决策，其中基于风险得分，授权决策为拒绝授权决策。授权决策可能已经由代表发行方的发行方系统的交易服务提供商的交易处理系统生成。授权决策可能已经由交易处理系统在发行方系统未能与电子支付处理网络的组件通信时生成。授权决策可能已经由交易处理系统通过将多个交易参数应用于黑盒机器学习模型而生成，其中黑盒机器学习模型是基于发行方系统的建模历史授权决策生成的。授权决策可能已经由交易处理系统基于与发起第一支付交易的用户相关联的历史交易数据生成。确定至少一个影响参数可包括从多个交易参数中确定风险得分与对应受扰动风险得分之间的差满足阈值的至少一个交易参数。程序指令在由用户装置执行时可以使所述用户装置：显示与第一支付交易相关联的数据和与与第一支付交易相关联的数据相关联的可选元素；接收指示可选元素的选择的用户输入；以及响应于可选元素的选择，生成并发送查询请求消息。

7、将在以下编号条款中阐述其它非限制性实施例或方面：

8、条款1：一种计算机实施的方法，包括：用至少一个处理器接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中所述风险得分是由机器学习模型基于所述多个交易参数生成的；对于所述多个交易参数中的每个交易参数，用至少一个处理器扰动所述交易参数的值，且用所述机器学习模型重新分析所述第一支付交易以基于受扰动交易参数生成受扰动风险得分；用至少一个处理器通过比较针对所述多个交易参数中的每一个生成的所述受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及用至少一个处理器基于所述至少一个影响参数生成查询响应消息。

9、条款2：根据条款1所述的方法，其中扰动所述交易参数的值包括将所述交易参数的所述值递增一定量和/或所述值的百分比，其中所述受扰动交易参数包括数字交易参数。

10、条款3：根据条款1或2所述的方法，其中递增所述交易参数的所述值包括将所述值增加或减小高达5％以形成所述受扰动交易参数。

11、条款4：根据条款1至3中任一项所述的方法，其中所述受扰动交易参数包括分类交易参数，其中扰动所述分类交易参数的值包括将所述分类交易参数的类别从第一类别改变为第二类别。

12、条款5：根据条款1至4中任一项所述的方法，其中用所述机器学习模型重新分析所述第一支付交易以基于所述受扰动交易参数生成受扰动风险得分是在每次仅扰动所述多个交易参数中的单个交易参数的情况下进行的。

13、条款6：根据条款1至5中任一项所述的方法，其中所述风险得分满足阈值。

14、条款7：根据条款1至6中任一项所述的方法，其中所述第一支付交易包括授权决策，其中基于所述风险得分，所述授权决策为拒绝授权决策。

15、条款8：根据条款1至7中任一项所述的方法，其中所述授权决策是由代表发行方的发行方系统的交易服务提供商的交易处理系统生成的。

16、条款9：根据条款1至8中任一项所述的方法，其中所述授权决策是由所述交易处理系统在所述发行方系统未能与电子支付处理网络的组件通信时生成的。

17、条款10：根据条款1至9中任一项所述的方法，其中所述授权决策是由所述交易处理系统通过将所述多个交易参数应用于黑盒机器学习模型而生成的，其中所述黑盒机器学习模型是基于所述发行方系统的建模历史授权决策生成的。

18、条款11：根据条款1至10中任一项所述的方法，其中所述授权决策是由所述交易处理系统基于与发起所述第一支付交易的用户相关联的历史交易数据生成的。

19、条款12：根据条款1至11中任一项所述的方法，其中确定所述至少一个影响参数包括从所述多个交易参数中确定所述风险得分与对应受扰动风险得分之间的差满足阈值的至少一个交易参数。

20、条款13：根据条款1至12中任一项所述的方法，包括：在用户装置上显示与所述第一支付交易相关联的数据和与与所述第一支付交易相关联的所述数据相关联的可选元素；由所述用户装置接收指示所述可选元素的选择的用户输入；以及响应于所述可选元素的选择，由所述用户装置生成并发送所述查询请求消息。

21、条款14：一种系统，包括至少一个处理器，所述至少一个处理器被编程或配置成：接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中所述风险得分是由机器学习模型基于所述多个交易参数生成的；对于所述多个交易参数中的每个交易参数，扰动所述交易参数的值，且用所述机器学习模型重新分析所述第一支付交易以基于受扰动交易参数生成受扰动风险得分；通过比较针对所述多个交易参数中的每一个生成的所述受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及基于所述至少一个影响参数生成查询响应消息。

22、条款15：根据条款14所述的系统，其中扰动所述交易参数的值包括将所述交易参数的所述值递增一定量和/或所述值的百分比，其中所述受扰动交易参数包括数字交易参数。

23、条款16：根据条款14或15所述的系统，其中递增所述交易参数的所述值包括将所述值增加或减小高达5％以形成所述受扰动交易参数。

24、条款17：根据条款14至16中任一项所述的系统，其中所述受扰动交易参数包括分类交易参数，其中扰动所述分类交易参数的值包括将所述分类交易参数的类别从第一类别改变为第二类别。

25、条款18：根据条款14至17中任一项所述的系统，其中用所述机器学习模型重新分析所述第一支付交易以基于所述受扰动交易参数生成受扰动风险得分是在每次仅扰动所述多个交易参数中的单个交易参数的情况下进行的。

26、条款19：根据条款14至18中任一项所述的系统，其中所述风险得分满足阈值。

27、条款20：根据条款14至19中任一项所述的系统，其中所述第一支付交易包括授权决策，其中基于所述风险得分，所述授权决策为拒绝授权决策。

28、条款21：根据条款14至20中任一项所述的系统，其中所述授权决策是由代表发行方的发行方系统的交易服务提供商的交易处理系统生成的。

29、条款22：根据条款14至21中任一项所述的系统，其中所述授权决策是由所述交易处理系统在所述发行方系统未能与电子支付处理网络的组件通信时生成的。

30、条款23：根据条款14至22中任一项所述的系统，其中所述授权决策是由所述交易处理系统通过将所述多个交易参数应用于黑盒机器学习模型而生成的，其中所述黑盒机器学习模型是基于所述发行方系统的建模历史授权决策生成的。

31、条款24：根据条款14至23中任一项所述的系统，其中所述授权决策是由所述交易处理系统基于与发起所述第一支付交易的用户相关联的历史交易数据生成的。

32、条款25：根据条款14至24中任一项所述的系统，其中确定所述至少一个影响参数包括从所述多个交易参数中确定所述风险得分与对应受扰动风险得分之间的差满足阈值的至少一个交易参数。

33、条款26：根据条款14至25中任一项所述的系统，包括用户装置，所述用户装置被编程或配置成：显示与所述第一支付交易相关联的数据和与与所述第一支付交易相关联的所述数据相关联的可选元素；接收指示所述可选元素的选择的用户输入；以及响应于所述可选元素的选择，生成并发送所述查询请求消息。

34、条款27：一种计算机程序产品，包括至少一个非瞬态计算机可读介质，所述至少一个非瞬态计算机可读介质包括程序指令，所述程序指令在由至少一个处理器执行时使所述至少一个处理器：接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中所述风险得分是由机器学习模型基于所述多个交易参数生成的；对于所述多个交易参数中的每个交易参数，扰动所述交易参数的值，且用所述机器学习模型重新分析所述第一支付交易以基于受扰动交易参数生成受扰动风险得分；通过比较针对所述多个交易参数中的每一个生成的所述受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及基于所述至少一个影响参数生成查询响应消息。

35、条款28：根据条款27所述的计算机程序产品，其中扰动所述交易参数的值包括将所述交易参数的所述值递增一定量和/或所述值的百分比，其中所述受扰动交易参数包括数字交易参数。

36、条款29：根据条款27或28所述的计算机程序产品，其中递增所述交易参数的所述值包括将所述值增加或减小高达5％以形成所述受扰动交易参数。

37、条款30：根据条款27至29中任一项所述的计算机程序产品，其中所述受扰动交易参数包括分类交易参数，其中扰动所述分类交易参数的值包括将所述分类交易参数的类别从第一类别改变为第二类别。

38、条款31：根据条款27至30中任一项所述的计算机程序产品，其中用所述机器学习模型重新分析所述第一支付交易以基于所述受扰动交易参数生成受扰动风险得分是在每次仅扰动所述多个交易参数中的单个交易参数的情况下进行的。

39、条款32：根据条款27至31中任一项所述的计算机程序产品，其中所述风险得分满足阈值。

40、条款33：根据条款27至32中任一项所述的计算机程序产品，其中所述第一支付交易包括授权决策，其中基于所述风险得分，所述授权决策为拒绝授权决策。

41、条款34：根据条款27至33中任一项所述的计算机程序产品，其中所述授权决策是由代表发行方的发行方系统的交易服务提供商的交易处理系统生成的。

42、条款35：根据条款27至34中任一项所述的计算机程序产品，其中所述授权决策是由所述交易处理系统在所述发行方系统未能与电子支付处理网络的组件通信时生成的。

43、条款36：根据条款27至35中任一项所述的计算机程序产品，其中所述授权决策是由所述交易处理系统通过将所述多个交易参数应用于黑盒机器学习模型而生成的，其中所述黑盒机器学习模型是基于所述发行方系统的建模历史授权决策生成的。

44、条款37：根据条款27至36中任一项所述的计算机程序产品，其中所述授权决策是由所述交易处理系统基于与发起所述第一支付交易的用户相关联的历史交易数据生成的。

45、条款38：根据条款27至37中任一项所述的计算机程序产品，其中确定所述至少一个影响参数包括从所述多个交易参数中确定所述风险得分与对应受扰动风险得分之间的差满足阈值的至少一个交易参数。

46、条款39：根据条款27至38中任一项所述的计算机程序产品，其中所述程序指令在由用户装置执行时使所述用户装置：显示与所述第一支付交易相关联的数据和与与所述第一支付交易相关联的所述数据相关联的可选元素；接收指示所述可选元素的选择的用户输入；以及响应于所述可选元素的选择，生成并发送所述查询请求消息。

47、在参考附图考虑以下描述和所附权利要求书时，本公开的这些和其它特征和特性以及相关结构元件和各部分的组合的操作方法和功能以及制造经济性将变得更加显而易见，所有附图形成本说明书的部分，其中相似附图标号在各图中标示对应部分。然而，应明确地理解，图式仅出于说明和描述的目的，并非旨在作为本发明的限制的定义。