协同窗口处理方法、系统及电子设备与流程

文档序号:33535842发布日期:2023-03-22 08:32阅读:45来源:国知局
协同窗口处理方法、系统及电子设备与流程
协同窗口处理方法、系统及电子设备
1.本技术是分案申请,原申请的名称是协同窗口处理方法、系统及电子设备,原申请的申请号是202111095503.8,原申请日是2021年09月17日,原申请的全部内容通过引用结合在本技术中。
技术领域
2.本技术涉及终端设备领域,尤其涉及一种协同窗口处理方法、系统及电子设备。


背景技术:

3.用户拥有的多个终端之间可相互配合实现跨设备的多屏协同。例如,手机向平板投屏,平板上可以显示手机的一个或多个协同窗口。其中,只有一个协同窗口的显示界面与手机显示界面相同。若用户在一个协同窗口(该协同窗口的显示界面与手机显示界面不同)显示的应用界面中点击相机功能选项,手机摄像头采集信息的界面只会在该协同窗口中显示。此时,用户需要手持手机采集信息,但又只能在协同窗口中查看信息采集情况,操作极为不便。


技术实现要素:

4.为了解决上述技术问题,本技术实施例提供一种协同窗口处理方法、系统及电子设备。在该方法中,用户在任一协同窗口显示的应用中调起相机功能时,手机摄像头采集信息的界面都可以在手机上显示,方便用户操作,进而提升了用户体验。
5.第一方面,本技术实施例提供一种协同窗口处理系统。该系统包括第一电子设备和第二电子设备,第二电子设备通过无线通信连接到第一电子设备。第一电子设备向第二电子设备投屏。第二电子设备在显示屏上显示第一协同窗口和至少一个第二协同窗口,其中,第一协同窗口中与第一电子设备的显示屏上均显示目标显示界面;第二协同窗口中显示第一电子设备中目标应用的显示界面,目标显示界面和目标应用的显示界面不同。第二电子设备响应于对第二协同窗口的显示界面上相机功能选项的点击操作,向第一电子设备发送第一指示信息,其中,第一指示信息用于向第一电子设备指示启动摄像头。第一电子设备响应于接收到的第一指示信息,在第一电子设备的显示屏上显示第一电子设备的摄像头采集信息的界面,并投屏使第一协同窗口中显示摄像头采集信息的界面。第一电子设备响应于对第一电子设备的目标操作,获取与相机功能选项对应的信息采集结果,将第一电子设备的显示屏上的显示界面恢复至目标显示界面,并投屏使第一协同窗口的显示界面恢复至目标显示界面,使第二协同窗口中显示目标应用获取到信息采集结果后的显示界面。这样,即使在与第一电子设备显示不同的一个协同窗口显示的应用中,调起相机功能任务,也可以将相机功能任务的显示界面搬移到第一电子设备显示屏上显示。此时,用户无需手持第一电子设备,但在第二电子设备的协同窗口中查看信息采集情况,极大地提高了用户操作的便捷性。而且,当完成信息采集时,第一电子设备的显示界面会还原,信息采集结果依旧会在原协同窗口中显示,不会影响用户的使用体验。
6.示例性的,目标应用指的是任意一种可以调用相机的应用,可以是调用相机的拍摄功能,也可以是调用相机的扫描功能。示例性的,目标应用可以是备忘录,微信,淘宝等。
7.示例性的,相机功能选项可以是拍摄选项(也可以称之为相机选项)。相应的,摄像头采集信息的界面可以是摄像头采集图像的界面;信息采集结果可以采集的图像、视频等;对第一电子设备的目标操作,可以是对摄像头采集图像的界面上拍摄选项的点击操作。
8.示例性的,相机功能选项可以是扫描选项,如“扫一扫”。相应的,摄像头采集信息的界面可以是摄像头扫描图像的界面;信息采集结果可以扫描结果、扫码结果等;对第一电子设备的目标操作,可以是对第一电子设备的移动操。
9.根据第一方面,当相机功能选项为拍摄选项时,第一电子设备响应于对摄像头采集图像的界面上拍摄选项的点击操作,获取拍摄图像,并投屏使第二协同窗口中显示目标应用的显示界面,目标应用的显示界面中包括拍摄图像。这样,即使在与第一电子设备显示不同的一个协同窗口显示的应用中,调起相机任务(拍摄任务),也可以将相机拍摄界面搬移到第一电子设备显示屏上显示。此时,用户无需手持第一电子设备,但在第二电子设备的协同窗口中查看图像采集情况,极大地提高了用户操作的便捷性。而且,当拍摄完成时,第一电子设备的显示界面会还原,拍摄图像会在原协同窗口中显示,不会影响用户的使用体验。
10.示例性的,目标应用的显示界面包括拍摄图像,可以是目标应用的显示界面中只显示拍摄图像,也可以是目标应用的显示界面中同时显示拍摄图像及目标应用的其它信息。
11.根据第一方面,或者以上第一方面的任意一种实现方式,第一电子设备响应于对摄像头采集图像的界面上拍摄选项的点击操作,在第一电子设备的显示屏上显示拍照预览界面,在第一协同窗口中显示拍照预览界面;第一电子设备响应于对拍照预览界面上拍照完成确认选项的点击操作,获取拍摄图像。这样,即使在与第一电子设备显示不同的一个协同窗口显示的应用中,调起相机任务(拍摄任务),也可以将相机拍摄界面搬移到第一电子设备显示屏上显示。此时,用户无需手持第一电子设备,但在第二电子设备的协同窗口中查看图像采集情况,极大地提高了用户操作的便捷性。而且,用户拍摄完成时可以在第一电子设备显示屏上查看拍摄效果,用户确认后第一电子设备的显示界面才会还原,并将拍摄图像会在原协同窗口中显示,提升了用户的使用体验。
12.根据第一方面,或者以上第一方面的任意一种实现方式,当相机功能选项为扫描选项时,第一电子设备响应于对第一电子设备的移动操作,执行扫描操作,获取扫描结果,并投屏使第二协同窗口中显示目标应用的显示界面。其中,目标应用的显示界面中包括与扫描结果对应的显示界面。这样,即使在与第一电子设备显示不同的一个协同窗口显示的应用中,调起扫描任务,也可以将扫描界面搬移到第一电子设备显示屏上显示。此时,用户无需手持第一电子设备,但在第二电子设备的协同窗口中查看信息采集扫描情况,极大地提高了用户操作的便捷性。而且,当扫描完成时,第一电子设备的显示界面会还原,扫描结果(如与二维码对应的链接界面)会在原协同窗口中显示,不会影响用户的使用体验。
13.根据第一方面,或者以上第一方面的任意一种实现方式,在第二电子设备响应于对第二协同窗口的显示界面上相机功能选项的点击操作,向第一电子设备发送第一指示信息之前,第二电子设备响应于对第二协同窗口的显示界面的至少一次操作,在第二协同窗
口中显示包括相机功能选项的显示界面。这样,无论是相机功能选项存在于目标应用的哪级菜单中,都可以将原本应该显示于第二协同窗口中的第一电子设备摄像头采集信息的界面,显示于第一电子设备的显示屏上,以此提供用户的使用体验。
14.根据第一方面,或者以上第一方面的任意一种实现方式,第一电子设备响应于接收到的第一指示信息,通过目标应用在目标应用堆栈中创建相机功能任务,在第一电子设备屏幕缓冲区中的第一扩展屏中创建目标应用第一临时堆栈。其中,目标应用堆栈设置于第一扩展屏中,第二协同窗口中显示第一扩展屏的显示界面。第一电子设备将相机功能任务由目标应用堆栈中弹出,推入目标应用第一临时堆栈中。第一电子设备将目标应用第一临时堆栈,由设置于第一扩展屏中更改为设置于第一电子设备屏幕缓冲区中的主屏中,以实现在第一电子设备的显示屏上显示第一电子设备的摄像头采集信息的界面。其中,第一电子设备的显示屏以及第一协同窗口中显示主屏的显示界面。第一电子设备销毁目标应用第一临时堆栈,以实现将第一电子设备的显示屏上的显示界面恢复至目标显示界面。这样,针对适配了单应用多任务的目标应用(也即适配了系统搬移协同窗口的能力,支持多窗口启动),将目标应用的相机功能任务由第一扩展屏搬移至主屏,以此实现了将原本应该显示于第二协同窗口中的第一电子设备摄像头采集信息的界面,显示于第一电子设备的显示屏上。而且,当目标应用的相机功能任务搬移至主屏时,目标应用还可以提供与其它任务对应的功能,以供用户使用。
15.根据第一方面,或者以上第一方面的任意一种实现方式,第一电子设备响应于接收到的第一指示信息,通过目标应用在目标应用堆栈中创建相机功能任务。其中,目标应用堆栈设置于第一电子设备屏幕缓冲区中的第一扩展屏中,第二协同窗口中显示第一扩展屏的显示界面。第一电子设备将目标应用堆栈,由设置于第一扩展屏中更改为设置于第一电子设备屏幕缓冲区中的主屏中,以实现在第一电子设备的显示屏上显示第一电子设备的摄像头采集信息的界面。其中,第一电子设备的显示屏以及第一协同窗口中显示主屏的显示界面。第一电子设备销毁目标应用堆栈中的相机功能任务,并将目标应用堆栈,由设置于主屏中恢复为设置于第一扩展屏中,以实现将第一电子设备的显示屏上的显示界面恢复至目标显示界面。这样,针对未适配单应用多任务的目标应用(也即未适配系统搬移协同窗口的能力),将目标应用堆栈整体由第一扩展屏搬移至主屏,以此实现了将原本应该显示于第二协同窗口中的第一电子设备摄像头采集信息的界面,显示于第一电子设备的显示屏上。而且,无需对目标应用进行任何更改。
16.根据第一方面,或者以上第一方面的任意一种实现方式,第一电子设备响应于接收到的第一指示信息,通过目标应用在目标应用堆栈中创建相机功能任务。其中,目标应用堆栈设置于第一电子设备屏幕缓冲区中的第一扩展屏中,第二协同窗口中显示第一扩展屏的显示界面。第一电子设备在第一电子设备屏幕缓冲区中的主屏中创建目标应用第二临时堆栈。其中,第一电子设备的显示屏以及第一协同窗口中显示主屏的显示界面。第一电子设备将相机功能任务由目标应用堆栈中弹出,推入目标应用第二临时堆栈中,以实现在第一电子设备的显示屏上显示第一电子设备的摄像头采集信息的界面。第一电子设备销毁目标应用第二临时堆栈,以实现将第一电子设备的显示屏上的显示界面恢复至目标显示界面。这样,针对未适配单应用多任务的目标应用(也即未适配系统搬移协同窗口的能力),将目标应用的相机功能任务由第一扩展屏搬移至主屏,以此实现了将原本应该显示于第二协同
窗口中的第一电子设备摄像头采集信息的界面,显示于第一电子设备的显示屏上。
17.根据第一方面,或者以上第一方面的任意一种实现方式,第一电子设备在目标应用堆栈中创建相机功能任务之后,向第二电子设备发送第二指示信息,第二指示信息用于指示第二电子设备冻结第二协同窗口的显示界面。第二电子设备响应于接收到的第二指示信息,冻结第二协同窗口的显示界面。这样,针对未适配单应用多任务的目标应用,当其相机功能任务由第二协同窗口搬移到手机显示屏上时,与目标应用其它任务对应的功能无法提供给用户使用,但通过冻屏的方式将显示目标应用的原协同窗口锁定,不会影响用户的视觉体验。
18.根据第一方面,或者以上第一方面的任意一种实现方式,第二电子设备响应于接收到的第二指示信息,对第二协同窗口进行截屏以获取截屏图像。第二电子设备将截屏图像锁定显示在第二协同窗口中,以冻结第二协同窗口的显示界面。这样,第二电子设备根据第一电子设备的指示,对显示目标应用的原协同窗口进行截屏,并通过在协同窗口中锁定截屏图像的方式,实现对该协同窗口的冻屏,不会影响用户的视觉体验。
19.根据第一方面,或者以上第一方面的任意一种实现方式,第二电子设备响应于接收到的第二指示信息,获取第一电子设备发送的显示图像;其中,显示图像为第一电子设备对第一扩展屏截屏而获取的;将显示图像锁定显示在第二协同窗口中,以冻结第二协同窗口的显示界面。这样,第一电子设备对第一扩展屏进行截屏,并将截屏图像发送给第二电子设备,以供第二电子设备对显示目标应用的原协同窗口进行冻屏,不会影响用户的视觉体验。
20.根据第一方面,或者以上第一方面的任意一种实现方式,第一电子设备在获取与相机功能选项对应的信息采集结果之后,向第二电子设备发送第三指示信息,第三指示信息用于指示第二电子设备解除对第二协同窗口的显示界面的冻结。第二电子设备响应于接收到的第三指示信息,解除对第二协同窗口的显示界面的冻结,在第二协同窗口中显示第一扩展屏的显示界面。这样,当第一设备摄像头信息采集完成时,显示目标应用的第二协同窗口的显示会还原,不会影响用户的使用体验。
21.根据第一方面,或者以上第一方面的任意一种实现方式,第一电子设备包括手机,第二电子设备包括电脑、平板、电视。
22.第二方面,本技术实施例提供一种协同窗口处理方法。该方法包括:第一电子设备向第二电子设备投屏。第二电子设备在显示屏上显示第一协同窗口和至少一个第二协同窗口,其中,第一协同窗口中与第一电子设备的显示屏上均显示目标显示界面;第二协同窗口中显示第一电子设备中目标应用的显示界面,目标显示界面和目标应用的显示界面不同。第二电子设备响应于对第二协同窗口的显示界面上相机功能选项的点击操作,向第一电子设备发送第一指示信息,第一指示信息用于向第一电子设备指示启动摄像头。第一电子设备响应于接收到的第一指示信息,在第一电子设备的显示屏上显示第一电子设备的摄像头采集信息的界面,并投屏使第一协同窗口中显示摄像头采集信息的界面。第一电子设备响应于对第一电子设备的目标操作,获取与相机功能选项对应的信息采集结果,将第一电子设备的显示屏上的显示界面恢复至目标显示界面,并投屏使第一协同窗口的显示界面恢复至目标显示界面,使第二协同窗口中显示目标应用获取到信息采集结果后的显示界面。
23.根据第二方面,当相机功能选项为拍摄选项时,摄像头采集信息的界面包括摄像
头采集图像的界面;第一电子设备响应于对第一电子设备的目标操作,获取与相机功能选项对应的信息采集结果,并投屏使第二协同窗口中显示目标应用获取到信息采集结果后的显示界面,包括:第一电子设备响应于对摄像头采集图像的界面上拍摄选项的点击操作,获取拍摄图像,并投屏使第二协同窗口中显示目标应用的显示界面,目标应用的显示界面中包括拍摄图像。
24.根据第二方面,或者以上第二方面的任意一种实现方式,第一电子设备响应于对摄像头采集信息的界面上相机选项的点击操作,获取拍摄图像,包括:第一电子设备响应于对摄像头采集图像的界面上拍摄选项的点击操作,在第一电子设备的显示屏上显示拍照预览界面,在第一协同窗口中显示拍照预览界面;第一电子设备响应于对拍照预览界面上拍照完成确认选项的点击操作,获取拍摄图像。
25.根据第二方面,或者以上第二方面的任意一种实现方式,当相机功能选项为扫描选项时,第一电子设备响应于对第一电子设备的目标操作,获取与相机功能选项对应的信息采集结果,并投屏使第二协同窗口中显示目标应用获取到信息采集结果后的显示界面,包括:第一电子设备响应于对第一电子设备的移动操作,执行扫描操作,获取扫描结果,并投屏使第二协同窗口中显示目标应用的显示界面,目标应用的显示界面中包括与扫描结果对应的显示界面。
26.根据第二方面,或者以上第二方面的任意一种实现方式,在第二电子设备响应于对第二协同窗口的显示界面上相机功能选项的点击操作,向第一电子设备发送第一指示信息之前,方法还包括:第二电子设备响应于对第二协同窗口的显示界面的至少一次操作,在第二协同窗口中显示包括相机功能选项的显示界面。
27.根据第二方面,或者以上第二方面的任意一种实现方式,第一电子设备响应于接收到的第一指示信息,在第一电子设备的显示屏上显示第一电子设备的摄像头采集信息的界面,并投屏使第一协同窗口中显示摄像头采集信息的界面,包括:第一电子设备响应于接收到的第一指示信息,通过目标应用在目标应用堆栈中创建相机功能任务,在第一电子设备屏幕缓冲区中的第一扩展屏中创建目标应用第一临时堆栈;其中,目标应用堆栈设置于第一扩展屏中,第二协同窗口中显示第一扩展屏的显示界面;第一电子设备将相机功能任务由目标应用堆栈中弹出,推入目标应用第一临时堆栈中;第一电子设备将目标应用第一临时堆栈,由设置于第一扩展屏中更改为设置于第一电子设备屏幕缓冲区中的主屏中,以实现在第一电子设备的显示屏上显示第一电子设备的摄像头采集信息的界面;其中,第一电子设备的显示屏以及第一协同窗口中显示主屏的显示界面。第一电子设备将第一电子设备的显示屏上的显示界面恢复至目标显示界面,包括:第一电子设备销毁目标应用第一临时堆栈,以实现将第一电子设备的显示屏上的显示界面恢复至目标显示界面。
28.根据第二方面,或者以上第二方面的任意一种实现方式,第一电子设备响应于接收到的第一指示信息,在第一电子设备的显示屏上显示第一电子设备的摄像头采集信息的界面,并投屏使第一协同窗口中显示摄像头采集信息的界面,包括:第一电子设备,响应于接收到的第一指示信息,通过目标应用在目标应用堆栈中创建相机功能任务;其中,目标应用堆栈设置于第一电子设备屏幕缓冲区中的第一扩展屏中,第二协同窗口中显示第一扩展屏的显示界面;第一电子设备将目标应用堆栈,由设置于第一扩展屏中更改为设置于第一电子设备屏幕缓冲区中的主屏中,以实现在第一电子设备的显示屏上显示第一电子设备的
摄像头采集信息的界面;其中,第一电子设备的显示屏以及第一协同窗口中显示主屏的显示界面。第一电子设备将第一电子设备的显示屏上的显示界面恢复至目标显示界面,包括:第一电子设备,销毁目标应用堆栈中的相机功能任务,并将目标应用堆栈,由设置于主屏中恢复为设置于第一扩展屏中,以实现将第一电子设备的显示屏上的显示界面恢复至目标显示界面。
29.根据第二方面,或者以上第二方面的任意一种实现方式,第一电子设备响应于接收到的第一指示信息,在第一电子设备的显示屏上显示第一电子设备的摄像头采集信息的界面,并投屏使第一协同窗口中显示摄像头采集信息的界面,包括:第一电子设备响应于接收到的第一指示信息,通过目标应用在目标应用堆栈中创建相机功能任务;其中,目标应用堆栈设置于第一电子设备屏幕缓冲区中的第一扩展屏中,第二协同窗口中显示第一扩展屏的显示界面;第一电子设备在第一电子设备屏幕缓冲区中的主屏中创建目标应用第二临时堆栈;其中,第一电子设备的显示屏以及第一协同窗口中显示主屏的显示界面;第一电子设备将相机功能任务由目标应用堆栈中弹出,推入目标应用第二临时堆栈中,以实现在第一电子设备的显示屏上显示第一电子设备的摄像头采集信息的界面。第一电子设备将第一电子设备的显示屏上的显示界面恢复至目标显示界面,包括:第一电子设备销毁目标应用第二临时堆栈,以实现将第一电子设备的显示屏上的显示界面恢复至目标显示界面。
30.根据第二方面,或者以上第二方面的任意一种实现方式,方法还包括:第一电子设备,在目标应用堆栈中创建相机功能任务之后,向第二电子设备发送第二指示信息,第二指示信息用于指示第二电子设备冻结第二协同窗口的显示界面;第二电子设备响应于接收到的第二指示信息,冻结第二协同窗口的显示界面。
31.根据第二方面,或者以上第二方面的任意一种实现方式,第二电子设备响应于接收到的第二指示信息,冻结第二协同窗口的显示界面,包括:第二电子设备响应于接收到的第二指示信息,对第二协同窗口进行截屏以获取截屏图像;第二电子设备将截屏图像锁定显示在第二协同窗口中,以冻结第二协同窗口的显示界面。
32.根据第二方面,或者以上第二方面的任意一种实现方式,第二电子设备响应于接收到的第二指示信息,冻结第二协同窗口的显示界面,包括:第二电子设备响应于接收到的第二指示信息,获取第一电子设备发送的显示图像;其中,显示图像为第一电子设备对第一扩展屏截屏而获取的;第二电子设备将显示图像锁定显示在第二协同窗口中,以冻结第二协同窗口的显示界面。
33.根据第二方面,或者以上第二方面的任意一种实现方式,方法还包括:第一电子设备在获取与相机功能选项对应的信息采集结果之后,向第二电子设备发送第三指示信息,第三指示信息用于指示第二电子设备解除对第二协同窗口的显示界面的冻结;第二电子设备响应于接收到的第三指示信息,解除对第二协同窗口的显示界面的冻结,在第二协同窗口中显示第一扩展屏的显示界面。
34.根据第二方面,或者以上第二方面的任意一种实现方式,第一电子设备包括手机,第二电子设备包括电脑、平板、电视。
35.第二方面以及第二方面的任意一种实现方式分别与第一方面以及第一方面的任意一种实现方式相对应。第二方面以及第二方面的任意一种实现方式所对应的技术效果可参见上述第一方面以及第一方面的任意一种实现方式所对应的技术效果,此处不再赘述。
36.第三方面,本技术实施例提供一种协同窗口处理方法。该方法包括:第一电子设备向第二电子设备投屏,以使第二电子设备在显示屏上显示第一协同窗口和至少一个第二协同窗口,其中,第一协同窗口中与第一电子设备的显示屏上均显示目标显示界面;第二协同窗口中显示第一电子设备中目标应用的显示界面,目标显示界面和目标应用的显示界面不同。第一电子设备响应于接收到的第一指示信息,在第一电子设备的显示屏上显示第一电子设备的摄像头采集信息的界面,并投屏使第一协同窗口中显示摄像头采集信息的界面,其中,第一指示信息用于向第一电子设备指示启动摄像头。第一电子设备响应于对第一电子设备的目标操作,获取与相机功能选项对应的信息采集结果,将第一电子设备的显示屏上的显示界面恢复至目标显示界面,并投屏使第一协同窗口的显示界面恢复至目标显示界面,使第二协同窗口中显示目标应用获取到信息采集结果后的显示界面。
37.第三方面以及第三方面的任意一种实现方式分别与第一方面以及第一方面的任意一种实现方式相对应。第三方面以及第三方面的任意一种实现方式所对应的技术效果可参见上述第一方面以及第一方面的任意一种实现方式所对应的技术效果,此处不再赘述。
38.第四方面,本技术实施例提供一种协同窗口处理方法。该方法包括:第二电子设备接受第一电子设备的投屏,在显示屏上显示第一协同窗口和至少一个第二协同窗口,其中,第一协同窗口中与第一电子设备的显示屏上均显示目标显示界面;第二协同窗口中显示第一电子设备中目标应用的显示界面,目标显示界面和目标应用的显示界面不同。第二电子设备响应于对第二协同窗口的显示界面上相机功能选项的点击操作,向第一电子设备发送第一指示信息,第一指示信息用于向第一电子设备指示启动摄像头。第二电子设备接受第一电子设备的投屏,在第一协同窗口中显示摄像头采集信息的界面。第二电子设备接受第一电子设备的投屏,将第一协同窗口的显示界面恢复至目标显示界面,在第二协同窗口中显示目标应用获取到信息采集结果后的显示界面。
39.第四方面以及第四方面的任意一种实现方式分别与第一方面以及第一方面的任意一种实现方式相对应。第四方面以及第四方面的任意一种实现方式所对应的技术效果可参见上述第一方面以及第一方面的任意一种实现方式所对应的技术效果,此处不再赘述。
40.第五方面,本技术实施例提供一种电子设备。该电子设备包括存储器和处理器。处理器与存储器耦合;存储器存储有程序指令,当程序指令由处理器执行时,使得电子设备执行第三方面以及第三方面中的任一项的协同窗口处理方法,或者使得电子设备执行第四方面以及第四方面中的任一项的协同窗口处理方法。
41.第五方面以及第五方面的任意一种实现方式分别与第一方面以及第一方面的任意一种实现方式相对应。第五方面以及第五方面的任意一种实现方式所对应的技术效果可参见上述第一方面以及第一方面的任意一种实现方式所对应的技术效果,此处不再赘述。
42.第六方面,本技术实施例提供一种计算机可读存储介质。该计算机可读存储介质包括计算机程序,当计算机程序在电子设备上运行时,使得电子设备执行第二方面以及第二方面中第一电子设备或第二电子设备所执行的协同窗口处理方法,或者使得电子设备执行第三方面以及第三方面中的任一项的协同窗口处理方法,或者使得电子设备执行第四方面以及第四方面中的任一项的协同窗口处理方法。
附图说明
43.图1a~图1c为示例性示出的应用场景示意图;
44.图2为示例性示出的电子设备的结构示意图;
45.图3为示例性示出的电子设备的软件结构示意图;
46.图4为本技术实施例提供的模块交互示意图;
47.图5a~图5b为示例性示出的应用场景示意图;
48.图6为本技术实施例提供的模块交互示意图;
49.图7a~图7c为示例性示出的应用场景示意图;
50.图8为本技术实施例提供的电子设备的屏与堆栈的关系示意图;
51.图9为本技术实施例提供的模块交互示意图;
52.图10a~图10b为示例性示出的应用场景示意图;
53.图11a~图11d为示例性示出的应用场景示意图;
54.图12为本技术实施例提供的模块交互示意图;
55.图13a~图13b为示例性示出的应用场景示意图;
56.图14为本技术实施例提供的电子设备的屏与堆栈的关系示意图;
57.图15为示例性示出的应用场景示意图;
58.图16为本技术实施例提供的模块交互示意图;
59.图17为本技术实施例提供的电子设备的屏与堆栈的关系示意图;
60.图18为本技术实施例提供的模块交互示意图;
61.图19为示例性示出的应用场景示意图。
具体实施方式
62.下面将结合本技术实施例中的附图,对本技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本技术一部分实施例,而不是全部的实施例。基于本技术中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本技术保护的范围。
63.本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,a和/或b,可以表示:单独存在a,同时存在a和b,单独存在b这三种情况。
64.本技术实施例的说明书和权利要求书中的术语“第一”和“第二”等是用于区别不同的对象,而不是用于描述对象的特定顺序。例如,第一目标对象和第二目标对象等是用于区别不同的目标对象,而不是用于描述目标对象的特定顺序。
65.在本技术实施例中,“示例性的”或者“例如”等词用于表示作例子、例证或说明。本技术实施例中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其它实施例或设计方案更优选或更具优势。确切而言,使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。
66.在本技术实施例的描述中,除非另有说明,“多个”的含义是指两个或两个以上。例如,多个处理单元是指两个或两个以上的处理单元;多个系统是指两个或两个以上的系统。
67.在一种应用场景下,第二电子设备的屏幕上可以显示,第一电子设备投屏在第二电子设备上生成的协同窗口。其中,协同窗口的数量可以是一个或多个,在协同窗口中可以
显示第一电子设备的桌面,也可以显示第一电子设备中任意应用的显示界面。在本技术实施例中,示例性地将此场景称之为多屏协同,也可以将其命名为其它,如协同协商等,对此不作限定。在多屏协同场景下,用户拥有的多个终端之间可相互配合实现跨设备的多屏协同,如手机与智能电视、个人计算机(personal computer,pc)及平板电脑等终端之间实现多屏协同,再如平板与智能电视及pc等终端之间实现多屏协同,以给用户提供连续的服务体验。其中,实现多屏协同的终端之间需要建立通信连接,可以是有线通信连接,也可以是无线通信连接,无线通信的解决方案可以包括如无线保真(wireless fidelity,wi-fi),蓝牙(bluetooth,bt),全球导航卫星系统(global navigation satellite system,gnss),调频(frequency modulation,fm),近距离无线通信技术(near field communication,nfc),红外技术(infrared,ir)等。
68.如图1a~图1c所示为示例性示出的一种应用场景示意图。参照图1a,以手机和平板通过wi-fi连接实现多屏协同为例,在手机与平板建立多屏协同连接后,平板的显示界面上(可以是平板上的任意区域)显示协同窗口101,协同窗口101上始终显示手机的显示界面,也就是说手机的显示界面102上包括的所有控件和图像均会在协同窗口101上实时显示。当用户在平板的协同窗口101中开启一应用,以备忘录为例,并将备忘录在新窗口中打开时,平板接收用户操作,并将用户操作(包括用户操作对应的压力值和位置坐标等)发送至手机,手机可以获取到用户在平板的协同窗口101上的操作行为,手机响应于用户的操作行为,将备忘录的显示界面发送至平板,相应的,平板基于手机发送的界面,在平板的显示界面上(可以是平板上的任意区域)显示协同窗口103,并在协同窗口103上显示备忘录的显示界面。
69.参照图1b,用户在需要使用备忘录的相机功能时,点击平板的协同窗口103中显示的备忘录的相机选项(也可以称之为拍摄选项)104,平板接收用户操作,并将用户操作(包括用户操作对应的压力值和位置坐标等)发送至手机。手机获取到用户在平板的协同窗口103上的操作行为,手机响应于用户的操作行为,将备忘录的相机拍摄界面发送至平板。相应的,平板基于手机发送的界面,在平板的协同窗口103中显示备忘录的相机拍摄界面,如图1c所示。需要注意的是,平板的协同窗口101中的显示界面与手机的显示界面102始终是一致的。
70.参照图1c,平板的协同窗口103中备忘录的相机拍摄界面中的图像是通过手机的摄像头(后置摄像头或前置摄像头)采集的,但手机的显示界面中不会显示手机的摄像头采集的图像。此时,用户需要一手(如右手)手持手机进行图像采集,在平板的协同窗口103中备忘录的相机拍摄界面中查看图像采集情况,并在确定平板的协同窗口103中备忘录的相机拍摄界面中的图像符合用户需求时,用户另一手(如左手)点击平板的协同窗口103中备忘录的相机拍摄界面中的拍摄选项105,完成图像拍摄操。这样,在多屏协同的应用场景下,用户需要一手手持手机采集图像,由于手机的显示界面中又不会显示图像采集情况,用户只能观察平板的协同窗口103中备忘录的相机拍摄界面中显示的图像采集情况,并在确定图像采集情况满足用户需求时,使用另一手点击平板的协同窗口103中备忘录的相机拍摄界面中的拍摄选项105,以完成图像拍摄,无疑增加了用户操作的不便性。
71.如图2所示为电子设备100的结构示意图。可选地,电子设备100可以为终端,也可以称为终端设备,终端可以为蜂窝电话(cellular phone)或平板电脑(pad)等具有摄像头
的设备,本技术不做限定。需要说明的是,电子设备100的结构示意图可以适用于图1a~图1c中的手机,也可以适用于图1a~图1c中的平板。应该理解的是,图2所示电子设备100仅是电子设备的一个范例,并且电子设备100可以具有比图中所示的更多的或者更少的部件,可以组合两个或多个的部件,或者可以具有不同的部件配置。图2中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。
72.电子设备100可以包括:处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,usb)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170a,受话器170b,麦克风170c,耳机接口170d,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,sim)卡接口195等。其中传感器模块180可以包括压力传感器,陀螺仪传感器,气压传感器,磁传感器,加速度传感器,距离传感器,接近光传感器,指纹传感器,温度传感器,触摸传感器,环境光传感器,骨传导传感器等。
73.处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,ap),调制解调处理器,图形处理器(graphics processing unit,gpu),图像信号处理器(image signal processor,isp),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,dsp),基带处理器,和/或神经网络处理器(neural-network processing unit,npu)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
74.其中,控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
75.处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。
76.usb接口130是符合usb标准规范的接口,具体可以是mini usb接口,micro usb接口,usb type c接口等。usb接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备,例如ar设备等。
77.充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过usb接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备供电。
78.电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,外部存储器,显示屏194,摄像头193,和无线通信模块160等供电。
79.电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
80.天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆
盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
81.移动通信模块150可以提供应用在电子设备100上的包括2g/3g/4g/5g等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,lna)等。
82.无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wireless local area networks,wlan)(如wi-fi网络),蓝牙,gnss,fm,nfc,ir等无线通信的解决方案。
83.在一些实施例中,电子设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。
84.电子设备100通过gpu,显示屏194,以及应用处理器等实现显示功能。gpu为图像处理的微处理器,连接显示屏194和应用处理器。gpu用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个gpu,其执行程序指令以生成或改变显示信息。
85.显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,lcd),有机发光二极管(organic light-emitting diode,oled)等。在一些实施例中,电子设备100可以包括1个或n个显示屏194,n为大于1的正整数。
86.电子设备100可以通过isp,摄像头193,视频编解码器,gpu,显示屏194以及应用处理器等实现拍摄功能。
87.isp用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给isp处理,转化为肉眼可见的图像。isp还可以对图像的噪点,亮度,肤色进行算法优化。isp还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,isp可以设置在摄像头193中。
88.摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,ccd)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,cmos)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给isp转换成数字图像信号。isp将数字图像信号输出到dsp加工处理。dsp将数字图像信号转换成标准的rgb,yuv等格式的图像信号。在一些实施例中,电子设备100可以包括1个或n个摄像头193,n为大于1的正整数。
89.数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
90.视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,mpeg)1,mpeg2,mpeg3,mpeg4等。
91.外部存储器接口120可以用于连接外部存储卡,例如micro sd卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
92.内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括
指令。处理器110通过运行存储在内部存储器121的指令,从而执行电子设备100的各种功能应用以及数据处理,使得电子设备100实现本技术实施例中的协同窗口处理方法。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,ufs)等。
93.电子设备100可以通过音频模块170,扬声器170a,受话器170b,麦克风170c,耳机接口170d,以及应用处理器等实现音频功能。例如音乐播放,录音等。
94.音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
95.压力传感器用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器可以设置于显示屏194。压力传感器的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电子设备100也可以根据压力传感器的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
96.触摸传感器,也称“触控面板”。触摸传感器可以设置于显示屏194,由触摸传感器与显示屏194组成触摸屏,也称“触控屏”。触摸传感器用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器也可以设置于电子设备100的表面,与显示屏194所处的位置不同。
97.按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入,产生与电子设备100的用户设置以及功能控制有关的键信号输入。
98.马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。
99.指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
100.电子设备100的软件系统可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。本技术实施例以分层架构的android系统为例,示例性说明电子设备100的软件结构。
101.图3是本技术实施例的电子设备100的软件结构框图。
102.电子设备100的分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将android系统分为三层,从上至下分别为
应用程序层,应用程序框架层,以及内核层。
103.应用程序层可以包括一系列应用程序包。
104.如图3所示,应用程序包可以包括相机,视频编解码器,蓝牙,协同协商应用,wlan,备忘录,微信等应用程序。其中,协同协商应用用于实现多屏协同。
105.应用程序框架层为应用程序层的应用程序提供应用编程接口(application programming interface,api)和编程框架。应用程序框架层包括一些预先定义的函数。
106.如图3所示,应用程序框架层可以包括窗口(windows)管理器,堆栈(stack)管理器,任务(task)管理器,内容提供器,视图系统,电话管理器,资源管理器,通知管理器等。
107.窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
108.堆栈管理器用于管理堆栈程序。堆栈管理器可以解除和建立堆栈与任务之间的对应关系。
109.任务管理器用于管理任务程序。任务管理器可以按照堆栈的窗口参数加载任务的内容布局。
110.视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知选项的显示界面,可以包括显示文字的视图以及显示图片的视图。
111.通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。
112.内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,wi-fi驱动,传感器驱动等。
113.可以理解的是,图3示出的软件结构中的层以及各层中包含的部件,并不构成对电子设备100的具体限定。在本技术另一些实施例中,电子设备100可以包括比图示更多或更少的层,以及每个层中可以包括更多或更少的部件,本技术不做限定。
114.可以理解的是,电子设备为了实现本技术实施例中的协同窗口处理方法,其包含了执行各个功能相应的硬件和/或软件模块。结合本文中所公开的实施例描述的各示例的算法步骤,本技术能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。本领域技术人员可以结合实施例对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本技术的范围。
115.在介绍本技术实施例提供的一种协同窗口处理方法之前,对本技术实施例所采用的手机与平板进行多屏协同的实现方式进行解释说明。
116.在一示例中,结合如图4所示的各模块的交互流程示意图,以及如图5a~图5b所示的应用场景示意图,对手机与平板之间多屏协同的实现过程进行详细说明,参照图4,具体包括:
117.s401,视图系统响应于接收到的用户操作,创建虚拟屏幕缓冲区。
118.当用户需要将手机与平板进行多屏协同时,示例性的,用户在平板上点击同意启动多屏协同功能选项。平板响应于用户的操作行为,对附近可建立多屏协同连接的电子设备(例如手机)进行扫描,并对扫描到的电子设备发起多屏协同连接请求。若发现的手机不
是用户想要进行多屏协同的电子设备,则用户可点击平板提示框中的“扫码连接”选项,以使平板通过扫码的方式向指定的电子设备发起多屏协同连接请求。手机接收到平板发送的多屏协同请求后,手机侧的显示界面上显示提示框。示例性的,提示框中可以包括但不限于:待建立多屏协同连接的设备的选项、“取消”选项和“连接”选项。用户点击“连接”选项,手机的视图系统响应于用户的操作行为,与平板建立多屏协同连接,并创建虚拟屏幕缓冲区。
119.在本示例中,虚拟屏幕缓冲区是相对于主屏屏幕缓冲区而言的,其中,主屏屏幕缓冲区中主屏窗口会被直接送显至手机主屏。也就是说,手机主屏的显示界面与主屏屏幕缓冲区域中的主屏窗口的界面始终是一致的。而虚拟屏幕缓冲区中的各个屏窗口会被投射至平板上进行显示,例如可以采用cast+投射方式。
120.s402,窗口管理器将主屏屏幕缓冲区的主屏窗口镜像至虚拟屏幕缓冲区中。
121.虚拟屏幕缓冲区中的各个屏窗口可以是通过镜像主屏屏幕缓冲区中的各个屏窗口而得到的。示例性的,由于手机的屏幕分辨率要高于平板的屏幕分辨率,窗口管理器可以将主屏屏幕缓冲区中的各个屏窗口的像素大小按比例缩小后再镜像至虚拟屏幕缓冲区中。
122.s403,窗口管理器发送虚拟屏幕缓冲区中的视频图像至视频编解码器。
123.在本步骤中,虚拟屏幕缓冲区中只包括主屏窗口,相应的,窗口管理器发送虚拟屏幕缓冲区中的视频图像可选地为主屏窗口中显示的视频图像。
124.s404,视频编解码器对视频图像进行编码。
125.示例性的,视频编解码器在接收到窗口管理器发送的视频图像之后,对视频图像进行编码,以生成视频图像帧。
126.s405,wi-fi驱动将视频图像帧封装成数据包后传输至多屏协同终端。
127.wi-fi驱动在接收到视频编解码器发送的视频图像帧之后,对视频图像帧进行封装,生成数据包,并数据包传输至多屏协同终端。在本示例中,也即手机通过wi-fi驱动将视频图像帧封装后生成的数据包传输至平板。平板的wi-fi驱动接收到数据包之后,对数据包进行解封装,得到视频图像帧,并将视频数据帧发送至平板的视频编解码器。平板的视频编解码器对接收到的视频图像帧进行解码,并将解码得到的视频图像发送至平板的窗口管理器。平板的窗口管理器将接收到的视频图像在平板的显示界面上显示的协同窗口中进行显示。
128.参照图5a,手机视图系统在创建虚拟屏幕缓冲区后,窗口管理器将主屏屏幕缓冲区中的主屏窗口镜像至虚拟屏幕缓冲区中。此时,平板的显示界面上(可以是平板上的任意区域)显示协同窗口501。其中,主屏屏幕缓冲区中的主屏窗口会被直接送显至手机显示界面,虚拟屏幕缓冲区中的主屏窗口会被投射至平板的显示界面上协同窗口501上。由于虚拟屏幕缓冲区中的主屏窗口与主屏屏幕缓冲区中的主屏窗口是镜像关系,平板的显示界面上协同窗口501中的显示界面与手机显示界面始终是一致的。
129.s406,视图系统响应于接收到的用户操作,扩展主屏屏幕缓冲区。
130.示例性的,用户在平板的显示界面上协同窗口501中点击(如双击开启)一个新应用。以新应用为相机为例,平板的显示界面上协同窗口响应于用户的操作行为,将用户操作的点击坐标发送至平板的协同协商应用。平板的协同协商应用确定与点击坐标对应的点击指针,并将点击指针发送给手机的协同协商应用。手机的协同协商应用接收到点击指针,响
应于与点击指针相应的用户操作,向相机应用发送开启请求。相机应用开启,向窗口管理器发送指示信息,窗口管理器根据指示信息向视图系统发送显示指令。视图系统根据显示指令在主屏屏幕缓冲区中主屏窗口显示相机界面。同时,窗口管理器将相机界面镜像至虚拟屏幕缓冲区中的主屏窗口。此时,手机显示界面和平板的显示界面上协同窗口501中均显示相机界面。
131.当用户需要在新窗口中显示相机界面时,示例性的,用户在协同窗口501中点击“在新窗口中打开”选项(示例性的名称,也可以称之为“在新窗口中打开应用”选项等)。平板的显示界面上协同窗口响应于用户的操作行为,将用户操作的点击坐标发送至平板的协同协商应用。平板的协同协商应用确定与点击坐标对应的点击指针,并将点击指针发送给手机的协同协商应用。手机的协同协商应用接收到点击指针,响应于与点击指针相应的用户操作,向视图系统发送指示信息。其中,该指示信息可以用于指示视图系统进行主屏屏幕缓冲区进行扩展的操作。视图系统接收到该指示信息之后,根据该指示信息扩展主屏屏幕缓冲区。在视图系统将主屏屏幕缓冲区进行扩展之后,窗口管理器可以在主屏屏幕缓冲区中的扩展区域中创建扩展屏窗口。此时,主屏屏幕缓冲区中除了主屏窗口之外,还可以包括一个或多个扩展屏窗口,下述主屏屏幕缓冲区中包括扩展屏1窗口为例进行解释说明。
132.s407,窗口管理器在主屏屏幕缓冲区的扩展屏1中显示新开启应用界面,并将扩展屏1窗口镜像至虚拟屏幕缓冲区中。
133.窗口管理器在主屏屏幕缓冲区的扩展屏1窗口中显示新开启应用界面,例如相机界面。此时,主屏屏幕缓冲区的主屏窗口中显示新开启应用前的界面,例如显示手机主视图(桌面应用)。相应的,经过主屏屏幕缓冲区与虚拟屏幕缓冲区之间的屏窗口镜像后,虚拟屏幕缓冲区的主屏窗口中显示新开启应用前的界面,例如显示手机主视图(桌面应用),虚拟屏幕缓冲区的扩展屏1窗口中显示新开启应用界面,也就是相机界面。
134.s408,窗口管理器发送虚拟屏幕缓冲区视频图像至视频编解码器。
135.在本步骤中,虚拟屏幕缓冲区中不仅包括主屏窗口,还包括扩展屏1窗口。相应的,窗口管理器发送虚拟屏幕缓冲区视频图像,不仅包括主屏窗口显示的视频图像,还包括扩展屏1窗口中显示的视频图像。示例性的,虚拟屏幕缓冲区中属于不同屏窗口的视频图像会携带有相应的屏窗口标识,例如可以是屏窗口id,以便于平板的窗口管理器将视频图像进行划分后在不同的协同窗口中进行显示。
136.s409,视频编解码器对视频图像进行编码。
137.关于s409的解释说明可以参见s404,在此不再赘述。
138.s410,wi-fi驱动将视频图像帧封装成数据包后流传输至多屏协同终端。
139.关于s410的解释说明可以参见s405,在此不再赘述。
140.平板的窗口管理器将接收到的视频图像,在平板的显示界面上显示的多个协同窗口中进行显示。示例性的,平板的窗口管理器根据视频图像携带的屏窗口标识,对接收到的视频图像进行划分,并在不同的协同窗口中进行视频图像的显示。
141.参照图5b,手机视图系统在扩展主屏屏幕缓冲区后,窗口管理器在主屏屏幕缓冲区中创建扩展屏1窗口,并将主屏屏幕缓冲区中的主屏窗口和扩展屏1窗口分别对应镜像至虚拟屏幕缓冲区中的主屏窗口和扩展屏1窗口。此时,平板的显示界面上(可以是平板上的任意区域)显示协同窗口501和协同窗口502,其中,协同窗口501对应于虚拟屏幕缓冲区中
的主屏窗口,协同窗口502对应于虚拟屏幕缓冲区中的扩展屏1窗口。主屏屏幕缓冲区中的主屏窗口会被直接送显至手机显示界面,虚拟屏幕缓冲区中的主屏窗口会被投射至平板的显示界面上协同窗口501上,虚拟屏幕缓冲区中的扩展屏1窗口会被投射至平板的显示界面上协同窗口502上。由于虚拟屏幕缓冲区中的主屏窗口与主屏屏幕缓冲区中的主屏窗口是镜像关系,平板的显示界面上协同窗口501中的显示界面与手机显示界面始终是一致的;由于虚拟屏幕缓冲区中的扩展屏1窗口与主屏屏幕缓冲区中的扩展屏1窗口是镜像关系,平板的显示界面上协同窗口502中的显示界面与主屏屏幕缓冲区中的扩展屏1窗口的界面始终是一致的。
142.在另一示例中,手机与平板之间实现多屏协同,具体包括:手机接收到平板发送的多屏协同请求后,手机侧的显示界面上显示提示框,示例性的,提示框中可以包括但不限于:待建立多屏协同连接的设备的选项、“取消”选项和“连接”选项。用户点击“连接”选项,手机响应于用户的操作行为,与平板建立多屏协同连接,主屏屏幕缓冲区中主屏窗口在被直接送显至手机主屏的同时,还会被投射至平板的显示界面上(可以是平板上的任意区域)显示的一个协同窗口(此协同窗口对应于主屏屏幕缓冲区中的主屏窗口)中进行显示。
143.示例性的,用户在平板的显示界面上协同窗口501中点击(如双击开启)一个新应用。以新应用为相机为例,平板的显示界面上协同窗口响应响应于用户的操作行为,将用户操作的点击坐标发送至平板的协同协商应用。平板的协同协商应用确定与点击坐标对应的点击指针,并将点击指针发送给手机的协同协商应用。手机的协同协商应用接收到点击指针,响应于与点击指针相应的用户操作,向相机应用发起开启请求。相机应用开启,向窗口管理器发送指示信息,窗口管理器根据指示信息向视图系统发送显示指令。视图系统根据显示指令在主屏屏幕缓冲区中主屏窗口显示相机界面,主屏窗口显示的界面送显至手机主屏的同时,还会被投射至平板的显示界面上显示的一个协同窗口。此时,手机显示界面和平板的显示界面上协同窗口501中均显示相机界面。
144.当用户需要在新窗口中显示相机界面时,示例性的,用户在协同窗口501中点击“在新窗口中打开”选项。平板的显示界面上协同窗口响应于用户的操作行为,将用户操作的点击坐标发送至平板的协同协商应用。平板的协同协商应用确定与点击坐标对应的点击指针,并将点击指针发送给手机的协同协商应用。手机的协同协商应用接收到点击指针后,响应于与点击指针相应的用户操作,向视图系统发送指示信息。其中,该指示信息可以用于指示视图系统进行主屏屏幕缓冲区进行扩展的操作。视图系统接收到该指示信息之后,根据该指示信息扩展主屏屏幕缓冲区。在视图系统将主屏屏幕缓冲区进行扩展之后,窗口管理器可以在主屏屏幕缓冲区中的扩展区域中创建扩展屏1。扩展屏1的窗口会被投射至平板的显示界面上(可以是平板上的任意区域)显示的另一个协同窗口(此协同窗口对应于主屏屏幕缓冲区中的扩展屏1窗口)中进行显示。此时,主屏屏幕缓冲区中除了主屏窗口之外,还可以包括一个或多个扩展屏窗口。针对每个一个扩展屏窗口,扩展屏窗口的显示界面可以直接投射至平板的显示界面上的协同窗口中。此时,平板的显示界面上一个协同窗口中的显示界面与手机显示界面始终是一致的,另一个协同窗口中显示的新开启应用的显示界面。
145.本示例与前述示例的区别在于,不采用将主屏屏幕缓冲区中各个屏窗口镜像至虚拟屏幕缓冲区中再投射至平板的方式,而是采用将主屏屏幕缓冲区中的主屏窗口以及创建
的各个扩展屏窗口直接投射至平板的方式。本技术实施例对手机与平板之间实现多屏协同的方式不做限定,下述结合前述示例采用的多屏协同方式对本技术实施例进行详细说明。
146.本技术实施例提供一种协同窗口处理方法,具体的,响应于用户在平板的第二协同窗口中对目标应用的相机功能选项的点击操作,将目标应用的相机功能任务显示界面在平板的第一协同窗口中显示,其中,平板的显示界面上显示至少两个协同窗口,第一多屏协同窗对应于主屏屏幕缓冲区中的主屏窗口,第二协同窗口对应于主屏屏幕缓冲区中的扩展屏窗口。示例性的,相机功能选项可以是用于拍摄的相机选项(或者称拍摄选项),也可以是用于扫描的扫描选项(如“扫一扫”)。相应的,相机功能任务可以是相机任务(或者称拍摄任务),也可以是扫描任务。
147.本技术实施例以目标应用为备忘录,第二协同窗口对应于主屏屏幕缓冲区中的扩展屏1窗口为例进行说明。在其他实施例中,本技术的具体实施方式可以应用于其他需要调用相机(或摄像头)的目标应用,如短视频应用、支付应用、聊天应用等需要调用摄像头的应用,本技术的具体实施方式可以应用于平板的显示界面上显示的对应于主屏屏幕缓冲区中其他扩展屏窗口的第三协同窗口,本技术不再重复说明。
148.一个可能的应用场景为:目标应用为适配了单应用多任务的应用,也即目标应用能够在已有窗口的基础上开启一个新窗口用于承载目标应用的一个任务;另一个可能的应用场景为:目标应用为未适配单应用多任务的应用,也即目标应用无法在已有窗口的基础上开启一个新窗口用于承载目标应用的一个任务。
149.场景一
150.在本场景中,以目标应用为备忘录为例,对本技术实施例具体实现方式进行详细说明,其中,该备忘录为适配了单应用多任务的应用。
151.如图6所示为各模块的交互示意图,参照图6,本技术实施例提供的协同窗口处理方法的流程,具体包括:
152.s601,平板的备忘录协同窗口接收用户点击相机选项的操作。
153.平板上的备忘录协同窗口,也即平板的显示界面上的备忘录所在的协同窗口。其中,该协同窗口的显示界面是与主屏屏幕缓冲区中的扩展屏窗口对应的(下述以备忘录所在的协同窗口与扩展屏1窗口对应为例)。也就是说,该协同窗口的显示界面是与手机显示界面是不同的。
154.参照如图7a(1)所示的应用场景示意图,手机显示界面和平板的显示界面上协同窗口702均显示手机桌面界面,平板的显示界面上协同窗口701显示备忘录笔记任务的显示界面。用户点击协同窗口701中备忘录笔记任务显示界面上的相机选项7011,协同窗口701接收到用户点击相机选项7011的操作。
155.s602,平板的备忘录协同窗口向平板协同协商应用发送点击坐标。
156.其中,点击坐标可选地为,参照与协同窗口1对应的坐标系,用户点击相机选项时手指(或触控笔等)接触平板的位置点的坐标。
157.s603,平板的协同协商应用向手机的协同协商应用发送坐标指针。
158.平板的协同协商应用根据接收到的点击坐标确定相应的坐标指针,并将坐标指针发送给手机的协同协商应用。
159.s604,手机的协同协商应用请求备忘录相机功能启动。
160.手机的协同协商应用根据平板的协同协商应用上报的坐标指针,确定用户需要启动的是备忘录相机功能(或者称备忘录扫描功能、备忘录拍照功能),则向备忘录发送启动备忘录相机功能的请求。
161.s605,手机的备忘录创建备忘录相机任务。
162.其中,相机任务属于相机功能任务中的一种,用于拍摄。示例性的,相机功能任务还可以是扫描任务,用于扫描。在本实施例中,以与备忘录应用对应的相机功能任务为相机任务为例进行解释说明。
163.手机的备忘录接收到启动备忘录相机功能的请求之后,在备忘录笔记任务(或者称编辑任务)上创建备忘录相机任务(或者称扫描任务、拍照任务)。参照图8(1),备忘录堆栈位于扩展屏1中,在备忘录创建备忘录相机任务之前,备忘录堆栈的栈顶为备忘录笔记任务。参照图8(2),在备忘录创建备忘录相机任务之后,忘录相机任务入栈备忘录堆栈,此时备忘录堆栈的栈顶为备忘录相机任务。
164.s606,手机的窗口管理器创建备忘录临时堆栈,并将备忘录相机任务由备忘录堆栈放入备忘录临时堆栈,将备忘录临时堆栈由扩展屏1搬移至主屏中。
165.在本场景中,由于备忘录为适配了单应用多任务的应用,所以备忘录在创建备忘录相机任务后,可以声明将备忘录相机任务在新建窗口中进行界面显示。需要指出的是,同备忘录原有窗口一样,新建窗口在扩展屏1中进行显示。
166.参照图8(2),手机的窗口管理器根据备忘录声明,在扩展屏1中创建备忘录临时堆栈801,并将备忘录相机任务由备忘录堆栈搬移至备忘录临时堆栈801中。同备忘录堆栈一样,备忘录临时堆栈也被添加在扩展屏1中。需要指出的是,在扩展屏或主屏中,新建或新开启的堆栈会覆盖于当前已开启的堆栈之上,相应的,扩展屏或主屏的显示窗口也会随之改变。本示例中,在扩展屏1中,新创建的备忘录临时堆栈会覆盖在备忘录堆栈之上。在备忘录堆栈被覆盖之前,扩展屏1中显示的是与备忘录堆栈对应的显示窗口;而在备忘录堆栈被覆盖之后,扩展屏1中显示的是与备忘录临时堆栈对应的显示窗口。将备忘录相机任务由备忘录堆栈搬移至备忘录临时堆栈801中之前,备忘录堆栈的栈顶为备忘录相机任务,备忘录临时堆栈为空;将备忘录相机任务由备忘录堆栈搬移至备忘录临时堆栈801中之后,备忘录堆栈的栈顶为备忘录笔记任务,备忘录临时堆栈801中仅包括备忘录相机任务。随后,窗口管理器将备忘录临时堆栈801由扩展屏1中搬移至主屏中。
167.如图9所示为各模块的交互示意图。参照图9,本技术实施例提供的协同窗口相机任务的搬移流程,具备包括:
168.s901,窗口管理器在扩展屏1创建备忘录临时堆栈。
169.参照图8(1),在扩展屏1中只存在备忘录堆栈。当备忘录创建备忘录相机任务之后,窗口管理器在扩展屏1新创建备忘录临时堆栈801,可以参照图8(2)。其中,备忘录临时堆栈801用于实现将备忘录相机任务由扩展屏1搬移至主屏中。
170.窗口管理器在创建备忘录临时堆栈801之后,备忘录临时堆栈801和备忘录堆栈均存在于扩展屏1中。由于备忘录临时堆栈801是新创建的,备忘录临时堆栈801会覆盖于备忘录堆栈之上,可以参见图8(2)。关于堆栈在屏中的覆盖,可以参见前述解释说明,在此不再赘述。
171.s902,窗口管理器向堆栈管理器发送指示信息。
172.窗口管理器向堆栈管理器发送的指示信息,用于指示将备忘录相机任务由备忘录堆栈搬移至备忘录临时堆栈中。
173.s903,堆栈管理器解除备忘录相机任务与备忘录堆栈的对应关系。
174.堆栈管理器根据指示信息,解除备忘录相机任务与备忘录堆栈的对应关系,也即将备忘录相机任务的上级设置为空,也就是说,将备忘录相机任务在备忘录堆栈中取出。
175.s904,堆栈管理器设置备忘录相机任务的上级为备忘录临时堆栈。
176.堆栈管理器根据指示信息,设置备忘录相机任务的上级为备忘录临时堆栈,也即建立了备忘录相机任务与备忘录临时堆栈的对应关系。
177.s905,任务管理器向窗口管理器查询备忘录临时堆栈的窗口参数。
178.窗口参数可以包括但不限于:窗口尺寸和窗口位置。
179.s906,窗口管理器向任务管理器发送备忘录临时堆栈的窗口参数。
180.窗口管理器向任务管理器发送指示信息,指示信息中可以包括窗口参数,如窗口尺寸和窗口位置等。
181.s907,任务管理器按照备忘录临时堆栈的窗口参数重新加载备忘录相机任务的内容布局。
182.任务管理器按照备忘录临时堆栈的窗口参数,重新加载备忘录相机任务的内容,实现备忘录相机任务的内容布局。也即,将备忘录相机任务放入备忘录临时堆栈中,在与备忘录临时堆栈对应的窗口中展示备忘录相机任务的显示界面。
183.s908,任务管理器向窗口管理器发送指示信息。
184.任务管理器向窗口管理器发送的指示信息,用于指示窗口管理器将备忘录临时堆栈由扩展屏1搬移至主屏。
185.s909,窗口管理器解除备忘录临时堆栈与扩展屏1的对应关系,建立备忘录临时堆栈与主屏的对应关系。
186.窗口管理器根据指示信息,解除备忘录临时堆栈与扩展屏1的对应关系,也即将备忘录临时堆栈的上级设置为空。解除了备忘录临时堆栈与扩展屏1的对应关系,也就相当于将备忘录临时堆栈从扩展屏1中取出。同时,窗口管理器建立备忘录临时堆栈与主屏的对应关系,也即将备忘录临时堆栈的上级设置为主屏。窗口管理器建立备忘录临时堆栈与主屏的对应关系,也就相当于将备忘录临时堆栈放入主屏中。参照图8(1),以主屏中仅存在桌面应用堆栈为例。在建立了备忘录临时堆栈与主屏的对应关系之后,备忘录临时堆栈被放入主屏中,覆盖于桌面应用堆栈之上,可以参照图8(2)。示例性的,若主屏中存在依次覆盖的多个堆栈,备忘录临时堆栈在被放入主屏中之后,会覆盖于这多个堆栈之上。
187.s607,手机的窗口管理器向手机视图系统发送指示信息。
188.手机的窗口管理器向手机的视图系统发送的指示信息,可以用于指示视图系统刷新各个屏的窗口显示界面。
189.s608,手机的视图系统在主屏窗口显示备忘录相机任务的显示界面。
190.手机的视图系统根据指示信息,对主屏和扩展屏1的窗口显示界面进行刷新。其中,在主屏窗口显示备忘录相机任务的显示界面,在扩展屏1窗口显示备忘录笔记任务的显示界面。
191.参照图8(2),在主屏中,由于备忘录临时堆栈覆盖于桌面应用堆栈之上,主屏窗口
显示的是备忘录临时堆栈对应的窗口,也即显示的是备忘录临时堆栈中备忘录相机任务的显示界面。与此同时,在扩展屏1中只存在备忘录堆栈,扩展屏1窗口显示的是备忘录堆栈对应的窗口,也即显示的是备忘录堆栈中栈顶的备忘录笔记任务的显示界面。
192.示例性的,手机的窗口管理器将主屏屏幕缓冲区中主屏和扩展屏1的窗口显示界面镜像至虚拟屏幕缓冲区中。
193.s609,手机的视图系统向手机的视频编解码器发送编码请求。
194.s610,手机的视频编解码器对视频图像进行编码操作。
195.手机的窗口管理器将虚拟屏幕缓冲区中主屏和扩展屏1显示的视频图像,发送至视屏编解码器进行编码操作,以生成视频图像帧。
196.s611,手机的协同协商应用向平板的协同协商应用传输视频图像帧。
197.在手机和平板建立wi-fi连接的场景下,手机协同协商应用可以基于手机wi-fi驱动和平板wi-fi驱动实现将视频图像帧以数据包的形式传输至平板协同协商应用。
198.s612,平板的协同协商应用向平板的视频编解码器发送解码码请求。
199.s613,平板的视频编解码器对视频图像帧进行解码操作。
200.s614,平板的窗口管理器将视频图像在多个窗口进行显示。
201.平板的窗口管理器将接收到的视频图像,按照视频图像所属的屏窗口分别在平板的显示界面上显示的多个协同窗口中进行显示。也即,平板的窗口管理器将与备忘录相机任务的显示界面对应的视频图像,在平板的显示界面上显示的与主屏窗口对应的协同窗口中进行显示;平板的窗口管理器将与备忘录笔记任务的显示界面对应的视频图像,在平板的显示界面上显示的与扩展屏1窗口对应的协同窗口中进行显示。
202.如图10a~图10b所示为示例性示出的应用场景示意图。在窗口管理器执行协同窗口相机任务搬移流程之前,如图10a所示,在主屏屏幕缓冲区中,主屏窗口1001中显示桌面应用的显示界面,扩展屏1窗口1002中显示备忘录笔记任务的显示界面。其中,主屏窗口1001中显示的桌面应用的显示界面直接被送显至手机的显示界面中进行显示。同时,主屏屏幕缓冲区的各个屏窗口镜像至虚拟屏幕缓冲区中。在虚拟屏幕缓冲区中,主屏窗口1003中显示桌面应用的显示界面,扩展屏1窗口1004中显示备忘录笔记任务的显示界面。虚拟屏幕缓冲区中的各个屏窗口的显示界面对应投射到平板的显示界面上的协同窗口中。其中,协同窗口1005中与主屏窗口1003对应,显示桌面应用的显示界面;协同窗口1006与扩展屏1窗口1004对应,显示备忘录笔记任务的显示界面。在窗口管理器执行协同窗口相机任务搬移流程之后,如图10b所示,在主屏屏幕缓冲区中,主屏窗口1001中显示备忘录相机任务的显示界面,扩展屏1窗口1002中继续显示备忘录笔记任务的显示界面。其中,主屏窗口1001中显示的备忘录相机任务的显示界面直接被送显至手机的显示界面中进行显示。同时,主屏屏幕缓冲区的各个屏窗口镜像至虚拟屏幕缓冲区中。在虚拟屏幕缓冲区中,主屏窗口1003中显示备忘录相机任务的显示界面,扩展屏1窗口1004中继续显示备忘录笔记任务的显示界面。虚拟屏幕缓冲区中的各个屏窗口的显示界面对应投射到平板的显示界面上的协同窗口中、其中,协同窗口1005中与主屏窗口1003对应,显示备忘录相机任务的显示界面;协同窗口1006与扩展屏1窗口1004对应,继续显示备忘录笔记任务的显示界面。
203.继续参照如图7a~图7b所示的应用场景示意图。如图7a(1)所示,用户在平板的显示界面上协同窗口701中,点击备忘录笔记任务的显示界面上的相机选项7011。平板和手机
响应于用户的操作行为,平板和手机的界面变化可以参照图7a(2)。如图7a(2)所示,平板的显示界面上协同窗口701继续显示备忘录笔记任务的显示界面,手机显示界面703与平板的显示界面上协同窗口702中同时显示备忘录相机任务的显示界面。此时,用户可以点击手机显示界面703中的拍摄选项7031实现拍照操作。示例性的,手机和平板响应于用户的操作行为,平板和手机的界面变化可以参照图7b。如图7b所示,平板的显示界面上协同窗口702和手机显示界面704显示拍照预览图,当用户点击手机显示界面704上返回选项7042时,平板和手机的界面返回至如图7a(2)所示。当用户确定拍照预览图符合用户需求时,用户可以点击确认选项7041指示完成拍照。
204.需要指出的,如图7a(2)所示,平板的显协同窗口701中显示的备忘录笔记任务的显示界面是可供用户操作的。示例性的,也就是说协同窗口701中的选项7011~7015均是可供用户点击操作的,依旧为用户提供备忘录笔记功能。
205.s615,手机的备忘录接收用户点击完成拍照的操作。
206.用户在手机显示界面的备忘录相机任务的显示界面中,点击完成拍照的操作。参照图7b,用户点击手机显示界面704中确认选项7041的操作,点击确认选项7041的操作即向备忘录相机任务指示完成拍照。
207.s616,手机的备忘录销毁备备忘录相机任务。
208.响应于用户点击完成拍照的操作,备忘录销毁备备忘录相机任务。
209.s617,手机的窗口管理器销毁备忘录临时堆栈。
210.备忘录相机任务销毁后,原本与备忘录相机任务存在对应关系的备忘录临时堆栈变为空堆栈,手机窗口管理器可以随即将备忘录临时堆栈销毁。参照图8(2)和图8(3),备忘录临时堆栈801被销毁后,主屏中仅存在桌面应用堆栈。
211.s618,手机的窗口管理器向手机的视图系统发送指示信息。
212.手机的窗口管理器向手机的视图系统发送的指示信息,用于指示视图系统刷新各个屏窗口的显示界面。
213.s619,手机的视图系统在主屏窗口显示桌面界面。
214.手机的视图系统根据指示信息,对主屏和扩展屏1的窗口显示界面进行刷新。其中,主屏窗口的显示界面切换回手机桌面界面,扩展屏1窗口继续显示备忘录笔记任务的显示界面。
215.参照图8(3),在主屏中只存在桌面应用堆栈,主屏窗口显示的是桌面应用堆栈对应的窗口,也即显示的是手机桌面。与此同时,在扩展屏1中只存在备忘录堆栈,扩展屏1窗口显示的是备忘录堆栈对应的窗口,也即显示的是备忘录堆栈中栈顶的备忘录笔记任务的显示界面。
216.示例性的,手机的窗口管理器依旧会将主屏屏幕缓冲区中主屏和扩展屏1的窗口显示界面镜像至虚拟屏幕缓冲区中。
217.s620,手机的视图系统向手机的视频编解码器发送编码请求。
218.s621,手机的视频编解码器对视频图像进行编码操作。
219.s622,手机的协同协商应用向平板的协同协商应用传输视频图像帧。
220.s623,平板的协同协商应用向平板的视频编解码器发送解码码请求。
221.s624,平板的视频编解码器对视频图像帧进行解码操作。
222.关于s620~s624的解释说明可以参见前述,在此不再赘述。
223.s625,平板的窗口管理器将视频图像在多个窗口进行显示。
224.平板的窗口管理器将接收到的视频图像,按照视频图像所属的屏窗口分别在平板的显示界面上显示的多个协同窗口中进行显示。也即,平板的窗口管理器将与桌面界面对应的视频图像,在平板的显示界面上显示的与主屏窗口对应的协同窗口中进行显示;平板的窗口管理器将与备忘录笔记任务的显示界面对应的视频图像,在平板的显示界面上显示的与扩展屏1窗口对应的协同窗口中进行显示。此时,可以继续参见图10a,在此不再赘述。
225.在前述图7a~图7b的基础上,响应于用户点击手机显示界面704中确认选项7041(也即完成拍照)的操作,平板和手机的界面变化可以参照图7c。如图7c所示,手机显示界面704和平板的显示界面上协同窗口702中均恢复显示手机桌面界面,平板的显示界面上协同窗口701中继续显示备忘录笔记任务的显示界面,并在该显示界面中备忘录可编辑处显示了通过拍摄采集到的图像7016。
226.如图7a和图7c所示为另一种应用场景。如图7a(1)所示,用户在平板的显示界面上协同窗口701中,点击备忘录笔记任务的显示界面上的相机选项7011。平板和手机响应于用户的操作行为,平板和手机的界面变化可以参照图7a(2)。如图7a(2)所示,平板的显示界面上协同窗口701继续显示备忘录笔记任务的显示界面,手机显示界面703与平板的显示界面上协同窗口702中同时显示备忘录相机任务的显示界面。此时,用户可以点击手机显示界面703中的拍照选项7031即可完成拍照(此时无需用户再次确认拍摄图像)。示例性的,手机和平板响应于用户的操作行为,平板和手机的界面变化可以参照图7c。如图7c所示,手机显示界面704和平板的显示界面上协同窗口702中均恢复显示手机桌面界面,平板的显示界面上协同窗口701中继续显示备忘录笔记任务的显示界面,并在该显示界面中备忘录可编辑处显示了通过拍摄采集到的图像7016。
227.上述应用场景中相机任务执行拍摄图像操作为例进行解释说明的。若相机任务执行拍摄视频操作,处理流程可以参见相机任务执行拍摄图像操作的处理流程,不再赘述。
228.如图11a~图11d所示为又一种应用场景。在本应用场景中,以目标应用为微信为例,相机功能选项为扫描选项为例,如“扫一扫”选项。参照如图11a所示的应用场景示意图,手机显示界面和平板的显示界面上协同窗口1102均显示手机桌面界面,平板的显示界面上协同窗口1101显示微信聊天任务的显示界面。如图11a所示,用户点击协同窗口1101中微信聊天任务显示界面上的发现选项11011。平板和手机响应于用户的操作行为,平板和手机的界面变化可以参照图11b。如图11b所示,平板的显示界面上协同窗口1101微信发现任务的显示界面,手机显示界面和平板的显示界面上协同窗口1102不变,继续显示手机桌面界面。如图11b所示,用户点击协同窗口1101中发现任务显示界面上的扫一扫选项。平板和手机响应于用户的操作行为,平板和手机的界面变化可以参照图11c。如图11c所示,平板的显示界面上协同窗口1101继续显示微信发现任务的显示界面,手机显示界面与平板的显示界面上协同窗口1102中同时显示微信扫描任务的显示界面。如图11c所示,用户手持手机移动,使手机摄像头可以采集到待扫描的二维码。当手机摄像头采集到完整的二维码图像时,微信扫描任务随即执行扫描操作,获取扫描结果。随即,手机和平板的界面变化可以参照图11d。如图11d所示,手机显示界面和平板的显示界面上协同窗口1102中均恢复显示手机桌面界面,平板的显示界面上协同窗口1101中显示与扫描结果对应的显示界面,如扫描到的二维
码链接到的公众号显示界面。
229.在本应用场景中,平板响应于用户点击协同窗口1101中微信聊天任务显示界面上的发现选项的操作,在协同窗口1101中显示包括相机功能选项(如“扫一扫”)的显示界面。具有相机功能选项的应用有很多,不同应用中相机功能选项的菜单设置层级也就不同。当在协同窗口1101显示目标应用的显示界面时,只要目标应用具有相机功能选项,平板响应于用户对显示界面的一次或多次操作,即可在协同窗口1101中显示包括相机功能选项的显示界面。
230.需要指出的是,本应用场景中的微信扫描任务对应于前述备忘录相机任务,均属于相机功能任务中的一种。针对微信扫描任务的协同处理方法流程,可以参见与针对备忘录相机任务的协同窗口处理方法的流程,在此不再赘述。另外,如图7a(2)和图11c所示的手机显示界面,均为摄像头采集信息的界面的一种。其中,如图7a(2)所示的手机显示界面,为摄像头采集图像的界面;如图11c所示的手机显示界面,为摄像头扫描图像的界面。如7c所示的协同窗口101,以及如图11d所示的协同窗口1101,显示的均是目标应用获取到信息采集结果后的显示界面的一种。其中,如7c所示的协同窗口101显示的是备忘录获取到拍摄图像后的显示界面;如如图11d所示的协同窗口1101显示的是微信获取到图像扫描结果后的显示界面,也即跳转至二维码链接后的显示界面。目标应用获取到信息采集结果后的显示界面,视应用不同而不同,本实施例不做限定。
231.这样,在多屏协同的应用场景下,即使在协同窗口(与手机屏幕显示不同)显示的应用中调起相机功能任务,也可以将相机功能任务的显示界面在手机上显示。此时,用户无需手持手机进行信息采集,但在协同窗口中查看信息采集情况,极大地提高了用户操作的便捷性。而且,当完成信息采集时,第一电子设备的显示界面会还原,信息采集结果依旧会在原协同窗口中显示,不会影响用户的使用体验。
232.本技术实施例提供的技术方案,适用于适配了单应用多任务的应用。当该应用的相机功能任务由协同窗口搬移到手机显示窗口时,应用其它任务的显示界面还可以在协同窗口中显示,以供用户使用与其它任务对应的功能。例如,当备忘录的相机功能任务由协同窗口搬移到手机显示窗口时,备忘录的笔记任务的显示界面还可以在协同窗口中显示,供用户使用。
233.场景二
234.在本场景中,以目标应用为备忘录为例,对本技术实施例具体实现方式进行详细说明,其中,该备忘录为未适配单应用多任务的应用。一种可选的实施方式中,通过搬移整个备忘录堆栈可以实现将相机任务的显示窗口搬移到手机的显示界面中;另一种可选的实施方式中,通过搬移备忘录相机任务可以实现将相机任务的显示窗口搬移到手机的显示界面中。下述分别对这两种可选的实施方式进行解释说明。
235.一种可选的实施方式,可以参见如图12所示为各模块的交互示意图。参照图12,本技术实施例提供的协同窗口处理方法的流程,具体包括:
236.s1201,平板的备忘录协同窗口接收用户点击相机选项的操作。
237.s1202,平板的备忘录协同窗口向平板协同协商应用发送点击坐标。
238.s1203,平板的协同协商应用向手机的协同协商应用发送坐标指针。
239.s1204,手机的协同协商应用请求备忘录相机功能启动。
240.关于s1201~s1204的解释说明可以参见前述,不再赘述。
241.s1205,手机的协同协商应用向平板的协同协商应用发送冻屏请求。
242.冻屏请求,可选地为指示将扩展屏窗口画面冻结的请求。其中,冻屏请求中可以携带扩展屏的信息,如编号信息。在本实施例中,冻屏请求用于指示将扩展屏1窗口画面冻结的请求,也即冻屏请求中携带扩展屏1的信息。
243.s1206,平板的协同协商应用请求平板的窗口管理器冻结扩展屏1的显示画面。
244.平板的协同协商应用在接收到冻屏请求之后,解析冻屏请求,确定需要进行冻结显示画面的扩展屏。平板的协同协商应用,向平板的窗口管理器发送冻结扩展屏1的显示画面的请求,以使平板的窗口管理器执行对扩展屏1显示画面的冻结操作。
245.s1207,平板的窗口管理器冻结扩展屏1的显示画面。
246.平板的窗口管理器获取备忘录笔记界面图像,将备忘录笔记界面图像在扩展屏1的窗口中进行显示,并锁定备忘录笔记界面图像的显示位置,以实现将扩展屏1的显示画面的冻结。其中,备忘录笔记界面图像可选地为备忘录相机任务启动前一时刻备忘录笔记任务的显示界面。
247.作为一种可选的实施方式,平板的窗口管理器获取的备忘录笔记界面图像,是平板的管理器主动获取的。具体的,平板的窗口管理器在接收到平板的协同协商应用发送的冻结扩展屏1的显示画面的请求时,响应于该请求,获取扩展屏1中当前显示的一帧备忘录笔记界面图像。
248.作为另一种可选的实施方式,平板的窗口管理器获取的备忘录笔记界面图像,是手机的窗口管理器主动获取的,并发送至平板的窗口管理器的。具体的,手机的协同协商应用向平板的协同协商应用发送冻屏请求之后,向手机的窗口管理器发送指示信息。手机的窗口管理器根据指示信息,获取扩展屏1中当前显示的一帧备忘录笔记界面图像。该帧备忘录笔记界面图像,经过编码、封装、解封装、解码等操作后,被发送至平板的窗口管理器。
249.s1208,手机的备忘录创建备忘录相机任务。
250.手机的备忘录接收到启动备忘录相机功能的请求之后,在备忘录笔记任务上创建备忘录相机任务。参照图14(1),备忘录堆栈位于扩展屏1中,在备忘录创建备忘录相机任务之前,备忘录堆栈的栈顶为备忘录笔记任务。参照图14(2),在备忘录创建备忘录相机任务之后,忘录相机任务入栈备忘录堆栈,此时备忘录堆栈的栈顶为备忘录相机任务。
251.s1209,手机的备忘录向手机的窗口管理器发送指示信息。
252.手机的备忘录向手机的窗口管理器发送的指示信息,可以用于指示手机的窗口管理器将备忘录堆栈在主屏和扩展屏之间进行搬移。在本实施例中,该指示信息用于指示手机的窗口管理器将备忘录堆栈由扩展屏1搬移到主屏中。
253.s1210,手机的窗口管理器将备忘录堆栈由扩展屏1搬移到主屏中。
254.手机的窗口管理器解除备忘录堆栈与扩展屏1的对应关系,也即将备忘录堆栈的上级设置为空。解除了备忘录堆栈与扩展屏1的对应关系,也就相当于将备忘录堆栈从扩展屏1中取出。同时,手机的窗口管理器建立备忘录堆栈与主屏的对应关系,也即将备忘录堆栈的上级设置为主屏。建立了备忘录堆栈与主屏的对应关系,也就相当于将备忘录堆栈放入主屏中。参照图14(1),以主屏中仅存在桌面应用堆栈为例。在建立了备忘录堆栈与主屏的对应关系之后,备忘录堆栈被放入主屏中,覆盖于桌面应用堆栈之上,可以参照图14(2)。
示例性的,若主屏中存在依次覆盖的多个堆栈,备忘录堆栈在被放入主屏中之后,会覆盖于这多个堆栈之上。
255.继续参照图14(2),由于在备忘录堆栈被搬移前扩展屏1中仅存在备忘录堆栈,所以在备忘录堆栈被搬移后扩展屏1中不存在任何堆栈,扩展屏1为空。示例性的,当扩展屏为空时,扩展屏的窗口显示界面中无图像,可以通过黑色像素点填充。
256.s1211,手机的窗口管理器向手机视图系统发送指示信息。
257.手机的窗口管理器向手机的视图系统发送的指示信息,可以用于指示视图系统刷新各个屏的窗口显示界面。
258.s1212,手机的视图系统在主屏窗口显示备忘录相机任务的显示界面。
259.手机的视图系统根据指示信息,对主屏和扩展屏1的窗口显示界面进行刷新。其中,在主屏窗口显示备忘录相机任务的显示界面,在扩展屏1窗口显示无图像,如黑屏显示。
260.参照图14(2),在主屏中,由于备忘录堆栈覆盖于桌面应用堆栈之上,主屏窗口显示的是备忘录堆栈对应的窗口,也即显示的是备忘录堆栈中备忘录相机任务的显示界面。与此同时,在扩展屏1中无堆栈,扩展屏1窗口显示无图像,可以以黑屏为例示出。
261.示例性的,手机的窗口管理器将主屏屏幕缓冲区中主屏和扩展屏1的窗口显示界面镜像至虚拟屏幕缓冲区中。
262.s1213,手机的视图系统向手机的视频编解码器发送编码请求。
263.s1214,手机的视频编解码器对视频图像进行编码操作。
264.手机的窗口管理器将虚拟屏幕缓冲区中主屏显示的视频图像,发送至视屏编解码器进行编码操作,以生成视频图像帧。
265.s1215,手机的协同协商应用向平板的协同协商应用传输视频图像帧。
266.在手机和平板建立wi-fi连接的场景下,手机协同协商应用可以基于手机wi-fi驱动和平板wi-fi驱动实现将视频图像帧以数据包的形式传输至平板协同协商应用。
267.s1216,平板的协同协商应用向平板的视频编解码器发送解码码请求。
268.s1217,平板的视频编解码器对视频图像帧进行解码操作。
269.关于s1213~s1217的解释说明可以参见前述,不再赘述。
270.s1218,平板的窗口管理器将视频图像在多个窗口进行显示。
271.平板的窗口管理器将接收到的视频图像,按照视频图像所属的屏窗口分别在平板的显示界面上显示的多个协同窗口中进行显示。
272.在本实施例中,平板的窗口管理器将与备忘录相机任务的显示界面对应的视频图像,在平板的显示界面上显示的与主屏窗口对应的协同窗口中进行显示。
273.由于扩展屏1中无图像,故在平板的显示界面上显示的与扩展屏1窗口对应的协同窗口中无视频图像显示。另外,由于手机的协同协商应用在请求备忘录相机功能启动时,也向平板的协同协商应用发送了冻屏请求(参见s1205~s1207),故在平板的显示界面上显示的与扩展屏1窗口对应的协同窗口中显示备忘录笔记界面图像。
274.需要注意的,若在平板的显示界面上显示的与扩展屏1窗口对应的协同窗口中,没有将备忘录笔记界面图像锁定显示,则该协同窗口中无视频图像显示,例如可以是黑屏。
275.如图15所示为示例性示出的应用场景示意图。在窗口管理器执行协同窗口相机任务搬移流程之前,可以如图10a所示,不再赘述。在窗口管理器执行协同窗口相机任务搬移
流程之后,如图15所示,在主屏屏幕缓冲区中,主屏窗口1001中显示备忘录相机任务的显示界面,扩展屏1窗口1002中无视频图像显示。其中,主屏窗口1001中显示的备忘录相机任务的显示界面直接被送显至手机的显示界面中进行显示。同时,主屏屏幕缓冲区的各个屏窗口镜像至虚拟屏幕缓冲区中。在虚拟屏幕缓冲区中,主屏窗口1003中显示备忘录相机任务的显示界面,扩展屏1窗口1004中无视频图像显示。虚拟屏幕缓冲区中的各个屏窗口的显示界面对应投射到平板的显示界面上的协同窗口中。其中,协同窗口1005中与主屏窗口1003对应,显示备忘录相机任务的显示界面;协同窗口1006与扩展屏1窗口1004对应,无视频图像显示。由于平板的窗口管理器在协同窗口1006中进行了冻屏处理,故在协同窗口1006中会锁定显示备忘录笔记界面图像(备忘录笔记任务的冻屏图像)10061,不会出现协同窗口1006黑屏的现象。
276.继续参照如图7a(1)、图13a~图13b所示的应用场景示意图。如图7a(1)所示,用户在平板的显示界面上协同窗口701中,点击备忘录笔记任务的显示界面上的相机选项7012。平板和手机响应于用户的操作行为,平板和手机的界面变化可以参照图13a。如图13a所示,平板的显示界面上协同窗口701上显示备忘录笔记界面图像705,手机显示界面703与平板的显示界面上协同窗口702中同时显示备忘录相机功能任务的显示界面。其中,备忘录笔记界面图像705为用户点击备忘录笔记任务的显示界面上的相机选项7011时,在平板的显示界面上协同窗口701中显示的图像。
277.此时,如图13a所示,用户可以点击手机显示界面703中的相机选项7031实现拍照操作。示例性的,手机和平板响应于用户的操作行为,平板和手机的界面变化可以参照图13b。如图13b所示,平板的显示界面上协同窗口701上继续显示备忘录笔记界面图像705,平板的显示界面上协同窗口702和手机显示界面704显示拍照预览图。当用户点击手机显示界面704上返回选项7042时,平板和手机的界面返回至如图13a所示。当用户确定拍照预览图符合用户需求时,用户可以点击确认选项7041指示完成拍照。
278.需要指出的,如图13a所示,平板的显协同窗口701上显示的是备忘录笔记界面图像705,备忘录笔记界面图像705虽然是备忘录笔记任务的显示界面,但是无法供用户操作的。示例性的,也就是说备忘录笔记界面图像705中的选项7051~7055均是无法供点击操作的,例如可以通过将选项7051~7055设置为灰色,以提醒用户无法操作。
279.s1219,手机的备忘录接收用户点击完成拍照的操作。
280.用户在手机显示界面的备忘录相机功能任务的显示界面中,点击完成拍照的操作。参照图13b,用户点击手机显示界面704中确认选项7041的操作,点击确认选项7041的操作即向备忘录相机功能任务指示完成拍照。
281.s1220,手机的备忘录销毁备忘录相机任务。
282.响应于用户点击完成拍照的操作,备忘录销毁备备忘录相机任务。
283.s1221,手机的窗口管理器将备忘录堆栈由主屏搬移到扩展屏1中。
284.备忘录相机任务销毁后,备忘录堆栈的栈顶为备忘录笔记任务,并由主屏搬移回扩展屏1中,可以参见图14(2)。
285.手机的窗口管理器解除备忘录堆栈与主屏的对应关系,也即将备忘录堆栈的上级设置为空。解除了备忘录堆栈与主屏的对应关系,也就相当于将备忘录堆栈从主屏中取出。同时,手机的窗口管理器建立备忘录堆栈与扩展屏1的对应关系,也即将备忘录堆栈的上级
设置为扩展屏1。建立了备忘录堆栈与扩展屏1的对应关系,也就相当于将备忘录堆栈放入扩展屏1中。参照图14(2),在解除了备忘录堆栈与主屏的对应关系之后,主屏中仅存在桌面应用堆栈;在建立了备忘录堆栈与扩展屏1的对应关系之后,备忘录堆栈被放入扩展屏1中,此时扩展屏1中由无堆栈变为存在备忘录堆栈。
286.s1222,手机的窗口管理器向手机的视图系统发送指示信息。
287.手机的窗口管理器向手机的视图系统发送的指示信息,可以用于指示视图系统刷新各个屏窗口的显示界面。
288.s1223,手机的视图系统在扩展屏1窗口显示备忘录笔记任务的显示界面。
289.手机的视图系统根据指示信息,对主屏和扩展屏1的窗口显示界面进行刷新。其中,主屏窗口的显示界面切换回手机桌面界面,扩展屏1窗口继续显示备忘录笔记任务的显示界面。
290.参照图14(2),在主屏中只存在桌面应用堆栈,主屏窗口显示的是桌面应用堆栈对应的窗口,也即显示的是手机桌面。与此同时,在扩展屏1中只存在备忘录堆栈,扩展屏1窗口显示的是备忘录堆栈对应的窗口,也即显示的是备忘录堆栈中栈顶的备忘录笔记任务的显示界面。
291.示例性的,手机的窗口管理器依旧会将主屏屏幕缓冲区中主屏和扩展屏1的窗口显示界面镜像至虚拟屏幕缓冲区中。
292.s1224,手机的备忘录向手机的协同协商应用发送指示信息。
293.手机的备忘录在销毁备忘录相机任务之后,向手机的协同协商应用发送指示信息。其中,指示信息可以用于指示备忘录相机任务已销毁。
294.s1225,手机的协同协商应用向平板的协同协商应用发送解除冻屏请求。
295.解除冻屏请求,可选地为指示将扩展屏窗口画面解除冻结的请求。其中,解除冻屏请求中可以携带扩展屏的信息,如编号信息。在本实施例中,解除冻屏请求用于指示将扩展屏1窗口画面解除冻结的请求,也即解除冻屏请求中携带扩展屏1的信息。
296.s1226,平板的协同协商应用请求平板的窗口管理器解除对扩展屏1的显示画面的冻结。
297.平板的协同协商应用在接收到解除冻屏请求之后,解析解除冻屏请求,确定需要进行显示画面解除冻结的扩展屏。平板的协同协商应用,向平板的窗口管理器发送解除冻结扩展屏1的显示画面的请求,以使平板的窗口管理器执行对扩展屏1显示画面解除冻结的操作。
298.s1227,平板的窗口管理器解除对扩展屏1的显示画面的冻结。
299.平板的窗口管理器,关闭在扩展屏1的窗口中显示的备忘录笔记界面图像,重新显示扩展屏1的窗口,以实现解除对扩展屏1的显示画面的冻结。也就是说,在平板的窗口管理器解除对扩展屏1的显示画面的冻结之后,平板的显示界面上与扩展屏1对应的协同窗口中显示的是扩展屏1的窗口界面。
300.s1228,手机的视图系统向手机的视频编解码器发送编码请求。
301.s1229,手机的视频编解码器对视频图像进行编码操作。
302.s1230,手机的协同协商应用向平板的协同协商应用传输视频图像帧。
303.s1231,平板的协同协商应用向平板的视频编解码器发送解码码请求。
304.s1232,平板的视频编解码器对视频图像帧进行解码操作。
305.关于s1228~s1232的解释说明可以参见前述,不再赘述。
306.s1233,平板的窗口管理器将视频图像在多个窗口进行显示。
307.平板的窗口管理器将接收到的视频图像,按照视频图像所属的屏窗口分别在平板的显示界面上显示的多个协同窗口中进行显示。也即,平板的窗口管理器将与桌面界面对应的视频图像,在平板的显示界面上显示的与主屏窗口对应的协同窗口中进行显示;平板的窗口管理器将与备忘录笔记任务的显示界面对应的视频图像,在平板的显示界面上显示的与扩展屏1窗口对应的协同窗口中进行显示。此时,可以继续参见图10a,在此不再赘述。
308.在前述图7a(1)、图13a~图13b的基础上,响应于用户点击手机显示界面704中确认选项7041(也即完成拍照)的操作,平板和手机的界面变化可以参照图7c,不再赘述。
309.需要指出的是,s1205~s1207可以在s1208~s1217之前执行,也可以与s1208~s1217同时执行,不做限定,只需在平板的协同窗口刷新显示前完成对扩展屏1对应的协同窗口冻屏即可。s1225~s1227可以在s1228~s1232之前执行,也可以与s1228~s1232同时执行,不做限定,只需在平板的协同窗口刷新显示前完成对扩展屏1对应的协同窗口冻屏解除即可。
310.这样,在多屏协同的应用场景下,即使在协同窗口显示的应用中调起相机功能任务,也可以将相机功能任务的显示窗口搬移到手机的显示界面中。此时,用户仅需一手就可完成采集图像以及完成图像拍摄的操作,极大地提高了用户操作的便捷性。而且,当用户拍照完成,协同窗口的显示会还原,不会影响用户的使用体验。
311.本实施方式提供的技术方案,适用于未适配单应用多任务的应用。当该应用的相机任务由协同窗口搬移到手机显示窗口时,应用其它任务无法提供给用户使用,但通过冻屏的方式将显示应用的原协同窗口锁定,不会影响用户的视觉体验。
312.一种可选的实施方式,可以参见如图16所示为各模块的交互示意图。参照图16,本技术实施例提供的协同窗口处理方法的流程,具体包括:
313.s1601,平板的备忘录协同窗口接收用户点击相机选项的操作。
314.s1602,平板的备忘录协同窗口向平板协同协商应用发送点击坐标。
315.s1603,平板的协同协商应用向手机的协同协商应用发送坐标指针。
316.s1604,手机的协同协商应用请求备忘录相机功能启动。
317.s1605,手机的协同协商应用向平板的协同协商应用发送冻屏请求。
318.s1606,平板的协同协商应用请求平板的窗口管理器冻结扩展屏1的显示画面。
319.s1607,平板的窗口管理器冻结扩展屏1的显示画面。
320.关于s1601~s1607的解释说明可以参见前述,不再赘述。
321.s1608,手机的备忘录创建备忘录相机任务。
322.手机的备忘录接收到启动备忘录相机功能的请求之后,在备忘录笔记任务上创建备忘录相机任务。参照图17(1),备忘录堆栈位于扩展屏1中,在备忘录创建备忘录相机任务之前,备忘录堆栈的栈顶为备忘录笔记任务。参照图17(2),在备忘录创建备忘录相机任务之后,忘录相机任务入栈备忘录堆栈,此时备忘录堆栈的栈顶为备忘录相机任务。
323.s1609,手机的备忘录向手机的窗口管理器发送指示信息。
324.手机的备忘录向手机的窗口管理器发送的指示信息,可以用于指示手机的窗口管
理器将备忘录相机任务由扩展屏1搬移到主屏中。
325.s1610,手机的窗口管理器在主屏中创建备忘录临时堆栈,并将备忘录相机任务由备忘录堆栈放入备忘录临时堆栈。
326.在本场景中,由于备忘录为未适配单应用多任务的应用,备忘录无法声明将备忘录相机任务在新建窗口中进行界面显示。因此,手机的窗口管理器根据指示信息,在主屏中创建备忘录临时堆栈,用于显示备忘录相机任务的显示界面。
327.参照图17(2),手机的窗口管理器根据指示信息在主屏1中创建备忘录临时堆栈1701,并将备忘录相机任务由备忘录堆栈搬移至备忘录临时堆栈1701中。需要指出的是,在主屏中,新建或新开启的堆栈会覆盖于当前已开启的堆栈之上,相应的,主屏的显示窗口也会随之改变。本示例中,在主屏中,新创建的备忘录临时堆栈会覆盖在桌面应用堆栈之上。在桌面应用堆栈被覆盖之前,主屏中显示的是与桌面应用堆栈对应的显示窗口;而在桌面应用堆栈被覆盖之后,主屏中显示的是与备忘录临时堆栈对应的显示窗口。将备忘录相机任务由备忘录堆栈搬移至备忘录临时堆栈1701中之前,备忘录堆栈的栈顶为备忘录相机任务,备忘录临时堆栈为空;将备忘录相机任务由备忘录堆栈搬移至备忘录临时堆栈1701中之后,备忘录堆栈的栈顶为备忘录笔记任务,备忘录临时堆栈1701中仅包括备忘录相机任务。
328.如图18所示为各模块的交互示意图。参照图18,本技术实施例提供的协同窗口相机任务的搬移流程,具备包括:
329.s1801,窗口管理器在主屏中创建备忘录临时堆栈。
330.参照图17(1),在主屏中只存在桌面应用堆栈。当备忘录创建备忘录相机任务之后,窗口管理器在主屏中新创建备忘录临时堆栈1701,可以参照图17(2)。其中,备忘录临时堆栈1701用于实现将备忘录相机任务由扩展屏1搬移至主屏中。
331.窗口管理器在创建备忘录临时堆栈1701之后,备忘录临时堆栈1701和桌面应用堆栈均存在于主屏中。由于备忘录临时堆栈1701是新创建的,备忘录临时堆栈1701会覆盖于备忘录堆栈之上,可以参见图17(2)。关于堆栈在屏中的覆盖,可以参见前述解释说明,在此不再赘述。
332.s1802,窗口管理器向堆栈管理器发送指示信息。
333.窗口管理器向堆栈管理器发送的指示信息,用于指示将备忘录相机任务由备忘录堆栈搬移至备忘录临时堆栈中。
334.s1803,堆栈管理器解除备忘录相机任务与备忘录堆栈的对应关系。
335.堆栈管理器根据指示信息,解除备忘录相机任务与备忘录堆栈的对应关系,也即将备忘录相机任务的上级设置为空,也就是说,将备忘录相机任务在备忘录堆栈中取出。
336.s1804,堆栈管理器设置备忘录相机任务的上级为备忘录临时堆栈。
337.堆栈管理器根据指示信息,设置备忘录相机任务的上级为备忘录临时堆栈,也即建立了备忘录相机任务与备忘录临时堆栈的对应关系。
338.s1805,任务管理器向窗口管理器查询备忘录临时堆栈的窗口参数。
339.窗口参数可以包括但不限于:窗口尺寸和窗口位置。
340.s1806,窗口管理器向任务管理器发送备忘录临时堆栈的窗口参数。
341.窗口管理器向任务管理器发送指示信息,指示信息中可以包括窗口参数,如窗口
尺寸和窗口位置等。
342.s1807,任务管理器按照备忘录临时堆栈的窗口参数重新加载备忘录相机任务的内容布局。
343.任务管理器按照备忘录临时堆栈的窗口参数,重新加载备忘录相机任务的内容,实现备忘录相机任务的内容布局。也即,将备忘录相机任务放入备忘录临时堆栈中,在与备忘录临时堆栈对应的窗口中展示备忘录相机任务的显示界面。
344.s1611,手机的窗口管理器向手机视图系统发送指示信息。
345.手机的窗口管理器向手机的视图系统发送的指示信息,可以用于指示视图系统刷新各个屏的窗口显示界面。
346.s1612,手机的视图系统在主屏窗口显示备忘录相机任务的显示界面。
347.手机的视图系统根据指示信息,对主屏和扩展屏1的窗口显示界面进行刷新。其中,在主屏窗口显示备忘录相机任务的显示界面,在扩展屏1窗口显示备忘录笔记任务的显示界面。
348.参照图17(2),在主屏中,由于备忘录临时堆栈覆盖于桌面应用堆栈之上,主屏窗口显示的是备忘录临时堆栈对应的窗口,也即显示的是备忘录临时堆栈中备忘录相机任务的显示界面。与此同时,在扩展屏1中仅存在备忘录堆栈,扩展屏1窗口显示的是备忘录堆栈对应的窗口,也即显示的是备忘录堆栈中备忘录笔记任务的显示界面。
349.示例性的,手机的窗口管理器将主屏屏幕缓冲区中主屏和扩展屏1的窗口显示界面镜像至虚拟屏幕缓冲区中。
350.s1613,手机的视图系统向手机的视频编解码器发送编码请求。
351.s1614,手机的视频编解码器对视频图像进行编码操作。
352.s1615,手机的协同协商应用向平板的协同协商应用传输视频图像帧。
353.s1616,平板的协同协商应用向平板的视频编解码器发送解码码请求。
354.s1617,平板的视频编解码器对视频图像帧进行解码操作。
355.关于s1613~s1617的解释说明可以参见前述,不再赘述。
356.s1618,平板的窗口管理器将视频图像在多个窗口进行显示。
357.平板的窗口管理器将接收到的视频图像,按照视频图像所属的屏窗口分别在平板的显示界面上显示的多个协同窗口中进行显示。也即,平板的窗口管理器将与备忘录相机任务的显示界面对应的视频图像,在平板的显示界面上显示的与主屏窗口对应的协同窗口中进行显示;平板的窗口管理器将与备忘录笔记任务的显示界面对应的视频图像,在平板的显示界面上显示的与扩展屏1窗口对应的协同窗口中进行显示。
358.如图19所示为示例性示出的应用场景示意图。在窗口管理器执行协同窗口相机任务搬移流程之前,可以如图10a所示,不再赘述。在窗口管理器执行协同窗口相机任务搬移流程之后,如图19所示,在主屏屏幕缓冲区中,主屏窗口1001中显示备忘录相机任务的显示界面,扩展屏1窗口1002中显示备忘录笔记任务的显示界面。其中,主屏窗口1001中显示的备忘录相机任务的显示界面直接被送显至手机的显示界面中进行显示。同时,主屏屏幕缓冲区的各个屏窗口镜像至虚拟屏幕缓冲区中。在虚拟屏幕缓冲区中,主屏窗口1003中显示备忘录相机任务的显示界面,扩展屏1窗口1004中显示备忘录笔记任务的显示界面。虚拟屏幕缓冲区中的各个屏窗口的显示界面对应投射到平板的显示界面上的协同窗口中。其中,
协同窗口1005中与主屏窗口1003对应,显示备忘录相机任务的显示界面;协同窗口1006与扩展屏1窗口1004对应,显示备忘录笔记任务的显示界面。由于平板的窗口管理器在协同窗口1006中进行了冻屏处理,故在协同窗口1006中会显示备忘录笔记界面图像(备忘录笔记任务的冻屏图片)10061,不会显示备忘录笔记任务的显示界面。
359.在本实施方式中,可以继续参照如图7a(1)、图13a~图13b所示的应用场景示意图,在此不再赘述。
360.s1619,手机的备忘录接收用户点击完成拍照的操作。
361.用户在手机显示界面的备忘录相机任务的显示界面中,点击完成拍照的操作。参照图13b,用户点击手机显示界面704中确认选项7041的操作,点击确认选项7041的操作即向备忘录相机任务指示完成拍照。
362.s1620,手机的备忘录销毁备忘录相机任务。
363.响应于用户点击完成拍照的操作,备忘录销毁备备忘录相机任务。
364.s1621,手机的窗口管理器销毁备忘录临时堆栈。
365.备忘录相机任务销毁后,备忘录临时堆栈为空,手机的窗口管理器随即将其销毁,可以参见图17(2)。
366.s1622,手机的窗口管理器向手机的视图系统发送指示信息。
367.手机的窗口管理器向手机的视图系统发送的指示信息,可以用于指示视图系统刷新各个屏窗口的显示界面。
368.s1623,手机的视图系统在主屏窗口显示桌面界面。
369.手机的视图系统根据指示信息,对主屏和扩展屏1的窗口显示界面进行刷新。其中,主屏窗口的显示界面切换回手机桌面界面,扩展屏1窗口继续显示备忘录笔记任务的显示界面。
370.参照图17(3),在主屏中只存在桌面应用堆栈,主屏窗口显示的是桌面应用堆栈对应的窗口,也即显示的是手机桌面。与此同时,在扩展屏1中只存在备忘录堆栈,扩展屏1窗口显示的是备忘录堆栈对应的窗口,也即显示的是备忘录堆栈中栈顶的备忘录笔记任务的显示界面。
371.示例性的,手机的窗口管理器依旧会将主屏屏幕缓冲区中主屏和扩展屏1的窗口显示界面镜像至虚拟屏幕缓冲区中。
372.s1624,手机的备忘录向手机的协同协商应用发送指示信息。
373.手机的备忘录在销毁备忘录相机任务之后,向手机的协同协商应用发送指示信息。其中,指示信息可以用于指示备忘录相机任务已销毁。
374.s1625,手机的协同协商应用向平板的协同协商应用发送解除冻屏请求。
375.s1626,平板的协同协商应用请求平板的窗口管理器解除对扩展屏1的显示画面的冻结。
376.s1627,平板的窗口管理器解除对扩展屏1的显示画面的冻结。
377.s1628,手机的视图系统向手机的视频编解码器发送编码请求。
378.s1629,手机的视频编解码器对视频图像进行编码操作。
379.s1630,手机的协同协商应用向平板的协同协商应用传输视频图像帧。
380.s1631,平板的协同协商应用向平板的视频编解码器发送解码码请求。
381.s1632,平板的视频编解码器对视频图像帧进行解码操作。
382.关于s1625~s1632的解释说明可以参见前述,不再赘述。
383.s1633,平板的窗口管理器将视频图像在多个窗口进行显示。
384.平板的窗口管理器将接收到的视频图像,按照视频图像所属的屏窗口分别在平板的显示界面上显示的多个协同窗口中进行显示。也即,平板的窗口管理器将与桌面界面对应的视频图像,在平板的显示界面上显示的与主屏窗口对应的协同窗口中进行显示;平板的窗口管理器将与备忘录笔记任务的显示界面对应的视频图像,在平板的显示界面上显示的与扩展屏1窗口对应的协同窗口中进行显示。此时,可以继续参见图10a,在此不再赘述。
385.在前述图7a(1)、图13a~图13b的基础上,响应于用户点击手机显示界面704中确认选项7041(也即完成拍照)的操作,平板和手机的界面变化可以参照图7c,不再赘述。
386.需要指出的是,s1605~s1607可以在s1608~s1617之前执行,也可以与s1608~s1617同时执行,不做限定,只需在平板的协同窗口刷新显示前完成对扩展屏1对应的协同窗口冻屏即可。s1625~s1627可以在s1628~s1632之前执行,也可以与s1628~s1632同时执行,不做限定,只需在平板的协同窗口刷新显示前完成对扩展屏1对应的协同窗口冻屏解除即可。
387.这样,在多屏协同的应用场景下,即使在协同窗口显示的应用中调起相机任务,也可以将相机任务的显示窗口搬移到手机的显示界面中。此时,用户仅需一手就可完成采集图像以及完成图像拍摄的操作,极大地提高了用户操作的便捷性。而且,当用户拍照完成,协同窗口的显示会还原,不会影响用户的使用体验。
388.本实施方式提供的技术方案,适用于未适配单应用多任务的应用。当该应用的相机任务由协同窗口搬移到手机显示窗口时,应用其它任务无法提供给用户使用,但通过冻屏的方式将应用显示的原协同窗口锁定,不会影响用户的视觉体验。
389.在本实施方式中,s1605~s1607以及s1625~s1627可以是可选的操作。在s1605~s1607以及s1625~s1627不执行的情况下:当该应用的相机任务由协同窗口搬移到手机显示窗口时,应用其它任务的显示界面还可以在协同窗口中显示(参见图10b,不再赘述),以供用户使用与其它任务对应的功能。例如,当备忘录的相机任务由协同窗口搬移到手机显示窗口时,备忘录的笔记任务的显示界面还可以在协同窗口中显示,供用户使用。
390.在场景二的两种实施方式中,也可以以微信扫描任务为例进行解释说明。在这两种实施方式中,针对微信扫描任务的协同处理方法流程,可以参见与针对备忘录相机任务的协同窗口处理方法的流程,在此不再赘述。关于与微信扫描任务对应的协同处理方法的应用场景示例图可以继续参见图11a~图11d,区别在于:在场景一中,图11c中平板的显示界面上的协同窗口1101中显示的发现任务显示界面是可供用户操作,也即协同窗口1101中显示的发现任务显示界面中的各选项是可供用户点击操作的;在场景二中,图11c中平板的显示界面上的协同窗口1101被冻结后,平板的显示界面上的协同窗口1101中虽然显示的是发现任务显示界面,但是无法供用户操作的,其实际显示的是与发现任务显示界面对应的截屏图像。示例性的,截屏图像中显示的发现任务显示界面中的各选项可以设置为灰色,以提示用户无法操作。
391.上述本技术实施例提供的一种协同窗口处理方法中电子设备100所执行的步骤,也可以由终端电子设备中包括的一种芯片系统来执行,其中,该芯片系统可以包括处理器
和蓝牙芯片。该芯片系统可以与存储器耦合,使得该芯片系统运行时调用该存储器中存储的计算机程序,实现上述电子设备100执行的步骤。其中,该芯片系统中的处理器可以是应用处理器也可以是非应用处理器的处理器。
392.本实施例还提供一种计算机存储介质,该计算机存储介质中存储有计算机指令,当该计算机指令在电子设备上运行时,使得电子设备执行上述相关方法步骤实现上述实施例中的协同窗口处理方法。
393.本实施例还提供了一种计算机程序产品,当该计算机程序产品在计算机上运行时,使得计算机执行上述相关步骤,以实现上述实施例中的协同窗口处理方法。
394.另外,本技术的实施例还提供一种装置,这个装置具体可以是芯片,组件或模块,该装置可包括相连的处理器和存储器;其中,存储器用于存储计算机执行指令,当装置运行时,处理器可执行存储器存储的计算机执行指令,以使芯片执行上述各方法实施例中的协同窗口处理方法。
395.其中,本实施例提供的电子设备、计算机存储介质、计算机程序产品或芯片均用于执行上文所提供的对应的方法,因此,其所能达到的有益效果可参考上文所提供的对应的方法中的有益效果,此处不再赘述。
396.通过以上实施方式的描述,所属领域的技术人员可以了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。
397.在本技术所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个装置,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
398.作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是一个物理单元或多个物理单元,即可以位于一个地方,或者也可以分布到多个不同地方。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
399.另外,在本技术各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
400.本技术各个实施例的任意内容,以及同一实施例的任意内容,均可以自由组合。对上述内容的任意组合均在本技术的范围之内。
401.集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个可读取存储介质中。基于这样的理解,本技术实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该软件产品存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本技术各个实施例方法的全部或部分步骤。而前述
的存储介质包括:u盘、移动硬盘、只读存储器(read only memory,rom)、随机存取存储器(random access memory,ram)、磁碟或者光盘等各种可以存储程序代码的介质。
402.上面结合附图对本技术的实施例进行了描述,但是本技术并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本技术的启示下,在不脱离本技术宗旨和权利要求所保护的范围情况下,还可做出很多形式,均属于本技术的保护之内。
403.结合本技术实施例公开内容所描述的方法或者算法的步骤可以硬件的方式来实现,也可以是由处理器执行软件指令的方式来实现。软件指令可以由相应的软件模块组成,软件模块可以被存放于随机存取存储器(random access memory,ram)、闪存、只读存储器(read only memory,rom)、可擦除可编程只读存储器(erasable programmable rom,eprom)、电可擦可编程只读存储器(electrically eprom,eeprom)、寄存器、硬盘、移动硬盘、只读光盘(cd-rom)或者本领域熟知的任何其它形式的存储介质中。一种示例性的存储介质耦合至处理器,从而使处理器能够从该存储介质读取信息,且可向该存储介质写入信息。当然,存储介质也可以是处理器的组成部分。处理器和存储介质可以位于asic中。另外,该asic可以位于网络设备中。当然,处理器和存储介质也可以作为分立组件存在于网络设备中。
404.本领域技术人员应该可以意识到,在上述一个或多个示例中,本技术实施例所描述的功能可以用硬件、软件、固件或它们的任意组合来实现。当使用软件实现时,可以将这些功能存储在计算机可读介质中或者作为计算机可读介质上的一个或多个指令或代码进行传输。计算机可读介质包括计算机存储介质和通信介质,其中通信介质包括便于从一个地方向另一个地方传送计算机程序的任何介质。存储介质可以是通用或专用计算机能够存取的任何可用介质。
405.上面结合附图对本技术的实施例进行了描述,但是本技术并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本技术的启示下,在不脱离本技术宗旨和权利要求所保护的范围情况下,还可做出很多形式,均属于本技术的保护之内。
406.以上所述,以上实施例仅用以说明本技术的技术方案,而非对其限制;尽管参照前述实施例对本技术进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本技术各实施例技术方案的范围。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1