示例涉及用于光学成像系统(诸如外科光学成像系统(surgical opticalimaging system,或称为手术光学成像系统))的装置、光学成像系统、方法和计算机程序。
背景技术:
1、在外科光学成像系统中,外科医生经常使用主目镜对或目镜显示器来进行外科程序。在许多情况下,外科医生并不是单独进行外科程序,而是在助手的帮助下进行。出于这个目的,一些外科显微镜配备了第二目镜对或目镜显示器(被称为“助手侧观察器”),其可以供助手使用。主目镜对或目镜显示器和第二目镜对或目镜显示器两者均可以接收相同的实时相机视频。此外,外科医生和助手可能想要查看不同的内容。因此,可能需要多个混合设备来实现多个视频流输出,每个视频流输出具有不同的内容。然而,多个混合设备的使用可能是成本密集的、体积大的和/或可能导致视频特征错配。例如,由于使用帧缓冲区(buffer),基于计算机的视频混合方案在视频的捕获和显示中引入了额外的延迟。
2、因此,可能期望一种为光学成像系统提供多个视频流输出的改进概念。
技术实现思路
1、这一期望通过独立权利要求的主题来解决。
2、本公开中提出的概念基于以下见解,即多个视频流输出可以通过使用主存储设备和从属存储设备来提供。用于在两个存储设备处接收传感器数据的数据速率可以由主存储设备来设定。因此,主存储设备可以控制在从属存储设备处的数据接收。此外,如果主存储设备正在向例如主显示设备传输数据,则从属存储设备仅可以例如向从属显示设备传输存储的传感器数据。以这种方式,主存储设备可以间接地控制从属存储设备上显示的信息。
3、示例提供了一种用于光学成像系统的装置。该装置包括一个或多个处理器、主存储设备和从属存储设备。该装置被配置为设定用于接收光学成像系统的传感器的传感器数据的数据速率。传感器数据指示通过光学成像系统的显微镜观察的样本的实时视图。数据速率由主存储设备设定。此外,该装置被配置为基于设定的数据速率,在主存储设备处和在从属存储设备处接收传感器数据。该装置被进一步配置为存储接收到的传感器数据用于向主显示设备传输。用于向主显示设备传输的传感器数据存储在主存储设备处。该装置被进一步配置为存储接收到的传感器数据用于向从属显示设备传输。用于向从属显示设备传输的传感器数据存储在从属存储设备处。该装置被进一步配置为将存储的传感器数据从主存储设备向例如主显示设备传输。此外,该装置被配置为将存储的传感器数据从从属存储设备向例如从属显示设备传输。主存储设备和从属存储设备可以是不同的存储设备。只有主存储设备可以能够设定用于接收传感器数据的数据速率。因此,从属存储设备可能不能调整用于接收传感器数据的数据速率。例如,在从属存储设备处的传感器数据的接收仅可以由主存储设备来调节。例如,如果主存储设备正在向例如主显示设备传输存储的传感器数据,则从属存储设备仅可以向例如从属显示设备传输存储的传感器数据。因此,在主显示设备同时也正在显示信息的请况下,从属显示设备才可以显示信息。主显示设备可以与从属存储设备不同。因此,信息可以显示在不同的显示设备上。通过仅允许主存储设备设定用于接收的数据速率,主存储设备可以以便利的方式调整稳定状态,例如,防止过载或确保资源的合理分配。当主存储设备处于稳定状态时,从属存储设备能够锁定至主存储设备的时序(timing)。以这种方式,具有低延迟的多个视频流输出可以通过仅使用一个主存储设备和至少一个从属存储设备来生成。
4、在示例中,该装置可以被进一步配置为获得关于主存储设备的已用存储容量的信息,并且基于该已用存储容量来设定数据速率。已用存储容量可以是主存储设备的写入存储空间。例如,已用存储容量可能不可用于存储其他传感器数据。因此,主存储设备的存储器负载可以基于已用存储容量由该装置来确定。以这种方式,数据速率可以根据主存储设备的可用存储空间来设定。
5、在示例中,该装置可以被进一步配置为响应于确定主存储设备已满,通过节流数据速率来设定数据速率。节流可以用于调节数据写入主存储设备的速率例如,以例如防止卡顿或画面撕裂(tear)。例如,如果主存储设备被写入的速度快于其可以被读取的速度,则该装置可以暂时降低数据速率以允许主存储设备赶上(catch up)。例如,主存储设备已满的事实可以指示主存储设备被写入的速度快于其可以被读取的速度。以这种方式,如果需要的话,该装置可以调整设定的数据速率。例如,该装置可以迭代地调整设定的数据速率。
6、在示例中,该装置可以被进一步配置为生成指示主存储设备存储传感器数据的能力的能力数据。此外,该装置可以被配置为基于能力数据,通过传输确认(ack)信号来设定数据速率。可以将ack信号传输至光学成像系统。ack信号可以指示设定的数据速率。例如,当将数据写入主存储设备时,光学成像系统的发送设备(例如发生器(producer),诸如传感器或存储设备(例如,来自图像处理设备))可以在发送下一个数据块之前使用ack信号来确定接收设备(主存储设备)是否已经处理了先前数据块。这可以有助于确保主存储设备不会被传感器数据淹没。此外,这可以有助于确保传感器数据以与显示设备的刷新率一致的速率写入主存储设备。例如,该装置可以从发送设备接收ack信号,并且作为响应可以传输指示设定的数据速率的ack信号。以这种方式,发送设备和主存储设备之间的数据传输可以以便利的方式进行调整。
7、在示例中,该装置可以被进一步配置为基于从属存储设备的存储容量,在从属存储设备处接收传感器数据。因此,可以防止从属存储设备的过载。
8、在示例中,该装置可以被进一步配置为响应于确定从属存储设备已满,停止在从属存储设备处接收传感器数据。因此,如果从属存储设备已满,则可以停止在从属存储设备处接收传感器数据。以这种方式,该装置可以防止从属存储设备的过载。
9、在示例中,该装置可以被进一步配置为通过打开开关来停止在从属存储设备处接收传感器数据。以这种方式,可以以便利的方式停止传感器数据的接收。
10、在示例中,该装置可以被进一步配置为响应于确定开关被打开,重置从属存储设备。在示例中,该装置可以被进一步配置为响应于确定从属存储设备已满,重置从属存储设备。例如,从属存储设备可以通过重置来清理。以这种方式,可以以便利的方式设定从属存储设备以接收更多的传感器数据。
11、在示例中,该装置可以被进一步配置为响应于确定传感器数据的帧的帧定界符(delimiter),在从属存储设备处重新建立传感器数据的接收。因此,通过确定帧定界符,该装置可以确定存储新传感器数据的适当时间,例如帧的开始和/或帧的结束。以这种方式,该装置可以容易地将从属存储设备锁定到与主存储设备相同的帧上。
12、在示例中,该装置可以被进一步配置为通过关闭开关来重新建立在从属存储设备处的传感器数据的接收。以这种方式,传感器数据的接收的重新建立可以以便利的方式执行。
13、在示例中,该装置可以被配置为将传感器数据存储在主存储设备和/或从属存储设备中的先进先出(fifo)队列中。当数据在系统中的不同部件(例如,光学成像系统的传感器和显示设备)之间流动时,fifo队列可以用于临时保存数据。fifo队列可以用于管理数据,同时保持项目的顺序是重要的。以这种方式,通过使用fifo队列,可以实现视频流输出的低延迟。
14、在示例中,该装置可以进一步包括第一混合器设备和第二混合器设备。来自主存储设备的存储的传感器数据可以被传输至第一混合器设备,并且来自从属存储设备的存储的传感器数据可以被传输至第二混合器设备。这可以允许以低延迟,尤其是比通过使用帧缓冲区所能实现的更低的延迟,将相同的实时视图传输至不同的混合器设备。以这种方式,可以减少显示多个视频流输出的延迟。
15、在示例中,该装置可以被进一步配置为接收辅助数据,该辅助数据指示用于光学成像系统的用户的辅助信息。辅助数据可以在第一混合器设备和/或第二混合器设备处接收。此外,该装置可以被配置为生成接收到的传感器数据和辅助数据的视觉叠加。以这种方式,由该装置可以生成单独的不同视频流输出。
16、在示例中,该装置可以被进一步配置为将第一输出信号传输至主显示设备。第一输出信号可以从第一混合器设备传输。此外,该装置可以被配置为将第二输出信号传输至从属显示设备。第二输出信号可以从第二混合器设备传输。第二输出信号与第一输出信号不同。第一输出信号和/或第二输出信号指示生成的视觉叠加。因此,该装置可以将视觉叠加传输至显示设备,以控制或触发向用户显示信息。以这种方式,用户可以容易地接收视觉叠加的信息。
17、在示例中,该装置可以进一步包括第二主存储设备和第二从属存储设备。该装置可以被进一步配置为设定用于接收光学成像系统的第二传感器的第二传感器数据的第二数据速率。第二数据速率可以由第二主存储设备设定。第二传感器数据指示从第二视角通过光学成像系统的显微镜观察的样本的实时视图。此外,该装置可以被进一步配置为基于设定的第二数据速率,在第二主存储设备处接收第二传感器数据。该装置可以被进一步配置为在第二主存储设备处存储接收到的第二传感器数据,用于向主显示设备和/或从属显示设备传输。该装置可以被进一步配置为从第二主存储设备传输存储的第二传感器数据。以这种方式,来自多个传感器的传感器数据可以被组合以显示给用户。
18、在示例中,可以将第二传感器数据传输至第一混合器设备或第二混合器设备。以这种方式,第一混合器设备可以生成包括多个传感器的传感器数据的视觉叠加。
19、在示例中,该装置可以被进一步配置为基于传感器数据和第二传感器数据生成实时视图的三维表示。此外,该装置可以被配置为将指示三维表示的第一输出信号或第二输出信号从第一混合器设备或第二混合器设备传输至主显示设备或从属显示设备。以这种方式,用户可以以便利的方式接收实时视图的三维表示。
20、示例涉及包括如上文所描述的装置的光学成像系统。
21、示例涉及一种方法,该方法包括设定用于接收光学成像系统的传感器的传感器数据的数据速率。数据速率由主存储设备设定。传感器数据指示通过光学成像系统的显微镜观察的样本的实时视图。该方法进一步包括基于设定的数据速率,在主存储设备处和在从属存储设备处接收传感器数据。此外,该方法包括在主存储设备处存储接收到的传感器数据用于向主显示设备传输。该方法进一步包括在从属存储设备处存储接收到的传感器数据用于向从属显示设备传输。此外,该方法包括将存储的传感器数据从主存储设备传输至主显示设备。此外,该方法包括将存储的传感器数据从从属存储设备传输至从属显示设备。
22、本公开的各种示例涉及具有程序代码的对应计算机程序,该程序代码用于当计算机程序在处理器上执行时执行以上方法。