用于内窥镜成像的图像重新取向的系统和方法与流程

文档序号:31010219发布日期:2022-08-03 12:56阅读:111来源:国知局
用于内窥镜成像的图像重新取向的系统和方法
1.相关申请的交叉引用本技术要求2019年11月1日提交的美国临时申请第62/929,349号的权益,其全部内容通过引用结合到本文中。
技术领域
2.本发明总体上涉及医学成像,并且更具体地涉及内窥镜成像。


背景技术:

3.内窥镜摄像机系统通常包括连接到摄像机控制单元(ccu)的摄像头。ccu处理来自摄像机的图像传感器的输入图像数据,然后输出图像数据用于显示。通常,摄像头具有附接或安装到摄像头的耦合器组合件。耦合器将内窥镜安装到摄像头上,用于在微创手术过程期间身体内部的可视化。
4.摄像头和耦合器可以针对各种外科专业或过程而不同。因此,摄像头和耦合器可以是专用的,具有不同的形式和功能。这种专业化的一个示例是用于泌尿学和/或ent的摄像头。耦合器的连接到内窥镜的一端相对于摄像头中的成像传感器的图像感测平面以直角定向。然后,由内窥镜提供的图像平面有效地定向成与成像传感器的图像感测平面成直角(即,90
°
)。由于图像平面的这种取向,耦合器通常包括将图像光重新定向90
°
的光学组件。
5.通常,反射组件用于使光重新定向90
°
。各种棱镜已经用于这个目的,包括五棱镜和阿米西屋脊棱镜。五棱镜是利用这些表面中的两个表面将光束在棱镜内部反射两次的五面反射棱镜。五棱镜允许图像被反射并透射通过该棱镜,而不倒转或不反转图像(即,没有图像翻转)。屋脊棱镜是三角形反射棱镜,其在棱镜的长边上包括“屋脊”部分。图像从形成棱镜“屋脊”的两个成角度的表面反射,导致图像的反转(横向翻转)。另外,由于棱镜的45
°
长边缘,图像在其穿过棱镜时也倒转(垂直翻转)。图像的反转和倒转的组合最终会导致图像旋转180
°
。这简化了摄像机解释数据的要求,因为摄像机传感器可以被倒置(从法线旋转180
°
)安装以匹配倒置棱镜图像。
6.与五棱镜和屋脊棱镜相关的重复反射和光学路径长度的增加能够降低图像质量。此外,必须使制造公差最小化,以便精确地反射图像。


技术实现要素:

7.根据一些实施例,系统和方法可以包括摄像机控制器,其可以检测连接的内窥摄像头的配置并且控制摄像头和/或数字地处理从摄像头接收的图像数据以生成其中场景被正确取向的图像,即使当场景被错误地定向为由摄像头的一个或多个成像传感器接收时。根据一些实施例,摄像机控制器控制摄像头和/或数字地处理图像数据以相对于其在摄像头处的取向改变场景取向的能力使得能够实现具有直角棱镜的直角摄像头,在直角棱镜中光经由单次反射被重新定向90
°
,这可以改进图像质量并且可以降低制造成本。
8.根据一些实施例,摄像机控制器可以经由存储在摄像头中和/或将摄像头连接到
摄像机控制器的线缆中的数据来检测摄像机的配置。该配置数据可以指示摄像头是直角摄像头。根据一些实施例,基于摄像机头配置信息,摄像机控制器可以指示摄像机头以反转顺序读取成像传感器像素,使得场景相对于它如何被一个或多个成像传感器接收而翻转,这可以校正由摄像机头内的单次反射引起的场景的翻转。在其他实施例中,摄像机控制器可以通过例如反转每个图像内的像素的顺序以翻转场景来数字地处理图像数据。
9.根据一些实施例,摄像头可以配置有用于检测摄像头的取向的一个或多个传感器,并且摄像机控制器可以控制摄像头和/或处理从摄像头接收的图像数据,以在摄像头被上下翻转时将场景维持在正确(相对于用户的期望)的取向上。这可以为用户提供将摄像头上下翻转的能力,以便在手术期间改进内窥镜摄像组合件的操作,而不使场景在显示器上上下翻转。
10.根据一些实施例,一种医学成像系统包括摄像机组合件,所述摄像机组合件包括:成像传感器组合件,包括用于对场景成像的至少一个成像传感器;至少一个聚焦光学元件,用于将光聚焦到所述成像传感器组合件上;至少一个反射光学元件,用于将由所述摄像机组合件从所述场景接收的光朝向所述至少一个聚焦光学元件反射,其中,反射所述光使所述场景在所述成像传感器组合件处进行倒转和反转中的至少一种;以及摄像机控制器,其被配置成基于从成像传感器接收的图像数据生成场景的无反转和无倒转图像。
11.在这些实施例的任一个中,所述摄像机控制器可以被配置成控制所述摄像机组合件,使得相对于所述至少一个成像传感器的至少一个维度反转地从所述至少一个成像传感器读取数据。
12.在这些实施例的任一个中,摄像机控制器可以被配置成对从成像传感器接收的图像数据重新排序以生成场景的图像。
13.在这些实施例的任一个中,摄像机控制器可以被配置成基于存储在摄像机组合件中的摄像机组合件配置数据来检测摄像机组合件的配置,并且基于摄像机组合件配置数据来生成场景的图像。
14.在这些实施例的任一个中,摄像机控制器可以经由线缆连接到包括成像传感器组合件的摄像头,并且摄像机组合件配置数据可以存储在线缆中或摄像头中。
15.在这些实施例的任一个中,所述一个或多个反射光学元件可被配置成倒转所述场景。
16.在这些实施例的任一个中,成像传感器组合件可以被配置成使得至少一个成像传感器接收反转的场景。
17.在这些实施例的任一个中,一个或多个反射光学元件可被配置成仅反射光一次。
18.在这些实施例的任一个中,一个或多个反射光学元件可以包括直角棱镜。
19.在这些实施例的任一个中,摄像机组合件可以被配置成用于将瞄准镜(scope)安装在相对于至少一个聚焦光学元件的光轴的直角取向处。
20.在这些实施例的任一个中,摄像头可以包括成像传感器组合件,并且内窥镜可以可移除地安装到摄像头。
21.在这些实施例的任一个中,当内窥镜安装到摄像机组合件时,内窥镜的光轴可以垂直于至少一个聚焦光学元件的光轴。
22.在这些实施例的任一个中,一个或多个反射光学元件可被配置成以直角反射光。
23.在这些实施例的任一个中,一个或多个反射光学元件可被配置成以在80
°
至100
°
的范围内的角度反射光。
24.在这些实施例的任一个中,成像传感器组合件可以包括用于将聚焦光反射到至少一个成像传感器的至少一个棱镜。
25.根据一些实施例,一种用于医学成像的方法包括在摄像机组合件处接收来自场景的光,所述摄像机组合件包括至少一个反射光学元件和成像传感器组合件;经由所述至少一个反射光学元件将由所述摄像机组合件从所述场景接收的光朝向所述成像传感器组合件反射,其中,反射所述光使所述场景在所述成像传感器组合件处进行倒转和反转中的至少一种;利用至少一个聚焦光学元件将所述反射光聚焦到所述成像传感器组合件上;将从来自所述成像传感器组合件的所述聚焦光生成的图像数据发送到摄像机控制器;以及,由摄像机控制器从由成像传感器组合件生成的数据生成场景的无倒转和无反转图像。
26.在这些实施例的任一个中,所述方法可以包括在摄像机控制器处接收摄像机配置数据,并且基于摄像机配置数据指示场景在成像传感器组合件处的不正确取向来生成场景的正确取向的图像。
27.在这些实施例的任一个中,所述方法可以包括相对于至少一个成像传感器的至少一个维度反转地从成像传感器组合件的至少一个成像传感器读取数据。
28.在这些实施例的任一个中,所述方法可以包括对从成像传感器接收的图像数据重新排序以生成场景的图像。
29.在这些实施例的任一个中,所述方法可以包括基于存储在摄像机组合件中的摄像机组合件配置数据来检测摄像机组合件的配置,并且基于摄像机组合件配置数据来生成场景的图像。
30.在这些实施例的任一个中,所述摄像机控制器可以经由线缆连接到包括成像传感器组合件的摄像机头,并且摄像机组合件配置数据可以存储在线缆中或摄像机头中。
31.在这些实施例的任一个中,所述一个或多个反射光学元件可以倒转场景。
32.在这些实施例的任一个中,所述方法可以包括在成像传感器组合件处接收反转的场景。
33.在这些实施例的任一个中,一个或多个反射光学元件可被配置成仅反射光一次。
34.在这些实施例的任一个中,一个或多个反射光学元件可以包括直角棱镜。
35.在这些实施例的任一个中,所述摄像机组合件可以被配置成用于将瞄准镜安装在相对于至少一个聚焦光学元件的光轴的直角度取向处。
36.在这些实施例的任一个中,所述摄像头可以包括成像传感器组合件,并且所述内窥镜可以可移除地安装到摄像头。
37.在这些实施例的任一个中,当所述内窥镜安装到摄像机组合件时,所述内窥镜的光轴可以垂直于至少一个聚焦光学元件的光轴。
38.在这些实施例的任一个中,一个或多个反射光学元件可被配置成以直角反射光。
39.在这些实施例的任一个中,一个或多个反射光学元件可被配置成以在80
°
至100
°
的范围内的角度反射光。
40.在这些实施例的任一个中,所述成像传感器组合件可以包括用于将聚焦光反射到至少一个成像传感器的至少一个棱镜。
41.根据一些实施例,一种用于医学成像的方法包括:经由摄像机控制器和摄像机之间的连接,在摄像机控制器处接收用于摄像机的摄像机配置数据;基于所述摄像机配置数据来确定所述摄像机是否被配置成将倒转和反转中的至少一个的场景反射到所述摄像机的至少一个成像传感器上;根据确定所述摄像机被配置成将倒转和反转中的至少一个的所述场景反射到所述摄像机的至少一个成像传感器上,根据第一成像过程来控制所述摄像机并处理从所述摄像机接收的图像数据以生成无倒转和无反转的场景图像;以及,根据确定摄像机被配置成以正确的取向将场景反射到摄像机的至少一个成像传感器上,根据与第一成像过程不同的第二成像过程控制摄像机并且处理从摄像机接收的图像数据以生成在正确的取向上的场景的图像。
42.在这些实施例的任一个中,第一成像过程可以包括控制摄像机根据关于至少一个像素维度的反向像素读取将与场景相关联的图像数据发送到摄像机控制器;以及,从图像数据生成无倒转和无反转的场景图像。
43.在这些实施例的任一个中,第一成像过程可以包括在摄像机控制器处接收与来自摄像机的倒转场景和反转场景中的至少一个相关联的图像数据;以及,数字地处理所述图像数据,使得所述场景的图像是无倒转和无反转的。
44.在这些实施例的任一个中,第二成像过程可以包括在摄像机控制器处从摄像机接收与正确取向的场景相关联的图像数据;以及,从图像数据生成在正确的取向上的场景的图像。
45.根据一些实施例,一种用于医学成像的摄像机控制器包括一个或多个处理器;存储器;以及一个或多个程序,其存储在所述存储器中并且可由所述一个或多个处理器执行以用于:经由摄像机控制器和摄像机之间的连接在摄像机控制器处接收用于摄像机的摄像机配置数据;基于所述摄像机配置数据来确定所述摄像机是否被配置成将倒转和反转中的至少一个的场景反射到所述摄像机的至少一个成像传感器上;根据确定所述摄像机被配置成将倒转和反转中的至少一个的所述场景反射到所述摄像机的至少一个成像传感器上,根据第一成像过程来控制所述摄像机并处理从所述摄像机接收的图像数据以生成场景的无倒转和无反转图像;以及,根据确定摄像机被配置成以正确的取向将场景反射到摄像机的至少一个成像传感器上,根据与第一成像过程不同的第二成像过程控制摄像机并且处理从摄像机接收的图像数据以生成在正确的取向上的场景的图像。
46.在这些实施例的任一个中,第一成像过程可以包括控制摄像机根据关于至少一个像素维度的反向像素读取将与场景相关联的图像数据发送到摄像机控制器;以及,从图像数据生成场景的无倒转和无反转图像。
47.在这些实施例的任一个中,第一成像过程包括在摄像机控制器处从摄像机接收与倒转场景和反转场景中的至少一个相关联的图像数据;以及,数字地处理所述图像数据,使得所述场景的图像是无倒转和无反转的。
48.在这些实施例的任一个中,第二成像过程可以包括在摄像机控制器处从摄像机接收与正确取向的场景相关联的图像数据;以及,从图像数据生成在正确的取向上的场景的图像。
49.根据一些实施例,一种医学成像系统包括摄像机组合件,所述摄像机组合件包括:成像传感器组合件,所述成像传感器组合件包括用于对场景成像的至少一个成像传感器,
以及,用于感测所述摄像机组合件相对于所述成像传感器组合件的光轴的角度取向传感器;以及,摄像机控制器,其被配置成接收由所述取向传感器生成的摄像机组合件取向信息,并且响应于从所述摄像机组合件接收到指示所述摄像机组合件处于相对于所述成像传感器组合件的光轴的预定角度取向范围内的取向信息,生成具有重新取向的场景的图像。
50.在这些实施例的任一个中,角度取向传感器可以包括陀螺仪和加速度计中的至少一个。
51.在这些实施例的任一个中,所述摄像机控制器可以被配置成将场景重新取向180
°

52.在这些实施例的任一个中,所述摄像机控制器可以被配置成重新取向场景,使得当摄像机组合件被倒置时,图像中的场景是正面朝上的。
53.在这些实施例的任一个中,所述摄像机控制器可以被配置成通过指示摄像机组合件改变像素读取顺序来生成具有重新取向的场景的图像。
54.在这些实施例的任一个中,所述摄像机控制器可被配置成通过重新排序从成像传感器组合件接收的图像数据来生成具有重新取向的场景的图像。
55.在这些实施例的任一个中,所述预定角度取向范围可以是从倒置起+/-90
°

56.根据一些实施例,一种用于医学成像的方法包括在摄像机组合件的成像传感器组合件处对场景进行成像,并且感测所述摄像机组合件相对于所述成像传感器组合件的光轴的角度取向;在摄像机控制器处从所述成像传感器组合件接收成像数据;在所述摄像机控制器处接收摄像机组合件取向数据;以及,响应于接收到指示摄像机组合件相对于成像传感器组合件的光轴处于预定角度取向范围内的摄像机组合件取向,生成具有重新取向的场景的图像。
57.在这些实施例的任一个中,感测角度取向可以包括经由陀螺仪和加速度计中的至少一个感测角度取向。
58.在这些实施例的任一个中,所述方法可以包括将场景重新取向180
°

59.在这些实施例的任一个中,所述方法可以包括重新取向场景,使得当摄像机组合件倒置时图像中的场景正面朝上。
60.在这些实施例的任一个中,所述方法可以包括指示摄像机组合件改变像素读取顺序。
61.在这些实施例的任一个中,所述方法可以包括对从成像传感器组合件接收的图像数据重新排序。
62.在这些实施例的任一个中,角度取向的预定范围可以是从倒置起+/-90
°

附图说明
63.现在将参考附图仅通过示例的方式描述本发明,其中:图1a示出根据一些实施例的内窥镜成像系统100的第一实施例,其中,内窥镜与成像轴成一直线地安装到摄像头;图1b示出根据一些实施例的内窥镜成像系统100的第二实施例,其中,内窥镜垂直于成像轴安装到摄像头;图2a-2c示出根据一些实施例的内窥镜摄像机单元,其包括摄像头,该摄像头将内
窥镜相对于成像传感器组合件以直角度取向安装在摄像头内;图3示出根据一些实施例的场景通过内窥镜成像系统的行进,该内窥镜成像系统具有带直角瞄准镜附件的摄像头;图4示出根据一些实施例的用于通过在摄像机控制器处数字地重新取向场景来生成具有正确取向的场景的图像的方法;图5示出根据一些实施例的用于通过修改摄像机单元操作使摄像机单元根据正确取向的场景向摄像机控制器发送图像数据来生成具有正确取向的场景的图像的方法;图6a和6b示出根据一些实施例的成像系统,其中,摄像机单元可以被上下翻转,同时自动地保持从摄像机单元生成的图像中的场景的正面朝上取向;以及图7示出根据各种实施例的内窥镜成像系统。
具体实施例
64.现在将详细参考本文所述的系统和方法的各个方面和变型的实现方式和实施例。尽管本文描述了系统和方法的若干示例性变型,但是系统和方法的其它变型可以包括以具有所描述的方面中的全部或一些的组合的任何合适的方式组合的本文描述的系统和方法的方面。
65.本文描述了用于生成具有正确取向的场景的图像(其包括单个图像和视频帧)的医学成像系统和方法的各种实施例,其中,摄像头被配置成和/或取向成使在成像传感器处从用户的视角以不正确的取向接收场景。根据各种实施例,一种医学成像系统可以包括通信地耦合到摄像机控制器的摄像头,所述摄像机控制器从摄像头接收图像数据并且生成图像以用于显示和/或存储。摄像机控制器可以从摄像头接收配置信息,该配置信息指示摄像头正在以不正确的取向捕获场景。根据各种实施例,该配置信息可以是静态信息,诸如指示摄像头被配置成在成像传感器处以不正确的取向接收场景,和/或可以是指示摄像头的当前取向的动态信息。
66.在一些实施例中,摄像机控制器控制摄像机以使场景在由摄像机控制器接收时被正确地取向的方式将成像数据发送到摄像机控制器。例如,摄像机控制器可以指示摄像头以相对于常规读取顺序反转的顺序读取像素。在一些实施例中,摄像机控制器可以数字地处理图像数据以反转像素值的相对位置,这数字地翻转了摄像机控制器内的场景。
67.根据各种实施例,通过配置摄像机控制器和摄像头使摄像头被控制和/或来自摄像头的图像数据被处理以重新取向场景,直角摄像头可以配置有直角棱镜,其仅反射光一次。相对于使用多次反射来重新定向90
°
的常规摄像头,诸如具有五棱镜的系统和具有屋脊棱镜的系统,这种单次反射可以导致改善的图像质量。此外,直角棱镜可以比多次反射光的棱镜或棱镜系统更容易制造并且对公差较不敏感。
68.根据各种实施例,通过配置摄像机控制器和摄像头使摄像头被控制和/或来自摄像头的图像数据被处理以重新取向场景,摄像头可被倒置使用,同时维持场景正面朝上。一个或多个取向传感器可被包括在摄像头中,并且可以将取向信息从摄像头提供给摄像机控制器。当摄像头被倒置使用时,摄像机控制器可以控制摄像头和/或处理成像数据,使得场景被重新取向,并且当摄像头被正面朝上使用时,控制和/或图像处理可以例如返回到常规过程。
69.在各种实施例的以下描述中,应理解,除非上下文另外明确地指示,否则以下描述中所使用的单数形式“一”、“一个”和“该”也应包括复数形式。还应当理解,这里使用的术语“和/或”是指并包含一个或多个相关的所列项目的任何和所有可能的组合。还应当理解,术语“包括(includes)”、“包括(including)”、“包含(comprises)”和/或“包含(comprising)”当在本文中使用时,指定陈述的特征、整体、步骤、操作、要素、组件和/或单元的存在,但是不排除还有一个或多个其它特征、整体、步骤、操作、要素、组件、单元和/或其群组的存在或加入。
70.本公开的某些方面包括本文以算法形式描述的过程步骤和指令。应当注意,本公开的过程步骤和指令可以以软件、固件或硬件来实现,并且当以软件来实现时,可以被下载以驻留在由各种操作系统使用的不同平台上并且可以从这些平台操作。除非特别声明,否则如从以下讨论中显而易见的,可以理解,在整个描述中,利用诸如“处理”、“计算”、“运算”、“确定”、“显示”、“生成”等术语的讨论指的是计算机系统或类似电子计算设备的动作和过程,其操纵和变换表示为计算机系统存储器或寄存器或其他这样的信息存储、发送或显示设备内的物理(电子)量的数据。
71.在一些实施例中,本公开还涉及用于执行本文的操作的设备。该设备可以是为所需目的而专门构造的,或者它可以包括由存储在计算机中的计算机程序选择性地激活或重新配置的通用计算机。这样的计算机程序可以存储在非暂时性计算机可读存储介质中,诸如但不限于任何类型的盘,包括软盘、usb闪存驱动器、外部硬盘驱动器、光盘、cd-rom、磁光盘、只读存储器(rom)、随机存取存储器(ram)、eprom、eeprom、磁卡或光卡、专用集成电路(asic)或适合于存储电子指令的任何类型的介质,并且每个都连接到计算机系统总线。此外,说明书中所指的计算机可以包括单个处理器,或者可以是采用多处理器设计以提高计算能力的架构。
72.本文描述的方法、设备和系统并非固有地与任何特定计算机或其他装置相关。各种通用系统也可以与根据这里的教导的程序一起使用,或者可以证明构造更专用的装置来执行所需的方法步骤是方便的。各种这些系统所需的结构将从下面的描述中明显。此外,本发明不是参考任何特定的编程语言来描述的。应当理解,可以使用各种编程语言来实现本文描述的本发明的教导。
73.摄像机系统常规上被配置成捕捉场景的图像,其中,场景在使用摄像机时会根据用户的视点来取向。因此,当摄像机指向水平方向时,摄像机就被配置成使由摄像机捕获的图像将使场景的顶部在图像的顶部处。这通常通过在摄像机内取向成像传感器使传感器的“顶部”接收来自场景顶部的光来完成。因此,如本文所使用的,接收正确取向的场景的成像传感器意味着场景的顶部、底部、左部和右部分别由成像传感器的顶部、底部、左部和右部接收。此外,如本文所使用的,具有正确取向的场景的图像意味着当在显示器上观看时,场景的顶部、底部、左部和右部分别是图像的顶部、底部、左部和右部。
74.如本文所使用的,错误取向的场景是未如上所定义的正确取向的场景。场景可以以不同的方式错误取向。如本文所使用的,倒转场景是其中场景围绕从左到右延伸的水平轴翻转180
°
的场景。如本文所使用的,反转场景是其中场景围绕从顶部到底部延伸的垂直轴翻转180
°
的场景。场景可以是倒转和反转二者,这会导致围绕垂直于该场景延伸的水平轴旋转180
°
的场景。
75.图1a和1b示出内窥镜成像系统100的实施例。如下面进一步讨论的,图1a示出了系统100的一个实施例,其中,内窥镜安装到摄像头,使得内窥镜与成像轴成一直线,并且图1b示出了系统100的一个实施例,其中,内窥镜垂直于成像轴安装。
76.成像系统100包括内窥镜摄像机单元102,其包括根据第一取向捕获场景的成像传感器组合件106和摄像机控制器104,其可以控制成像传感器组合件106和/或处理来自成像传感器组合件106的成像数据,以在成像传感器组合件106处相对于场景的取向重新取向场景。重新取向场景的能力可以提供许多优点,包括用于场景平面垂直于成像传感器组合件的成像平面的实施例的简化光学器件,以及用户在保持场景在显示器上正面朝上的取向的同时以倒置取向使用内窥镜摄像机单元102的能力。
77.内窥镜摄像机单元102可以包括摄像头108,其包括成像传感器组合件106。内窥镜110从摄像头108延伸,并且如本领域所公知的,可被插入到手术腔内以在手术腔内成像。摄像头108包括将内窥镜110耦合到摄像头108的内窥镜耦合装置111a、b。示出了两种示例性内窥镜安装配置。在图1a中,内窥镜耦合装置111a提供了内窥镜的直前安装,使得内窥镜的纵轴与成像轴对准。在图1b中,内窥镜耦合装置111b提供了内窥镜110的直角安装,使得内窥镜的纵轴垂直于成像轴,这对于某些外科手术,诸如泌尿科和/或ent手术可能是有利的。诸如经由耦合111b以直角安装内窥镜的摄像头在此也称为直角摄像头。
78.内窥镜110包括接收来自场景114的光的远端。如本领域所公知的,光沿着内窥镜110诸如经由透镜组合件被传送到成像传感器组合件106。成像传感器组合件106包括在多个像素处接收来自场景114的光并生成像素数据的一个或多个成像传感器。来自一个或多个成像传感器的像素数据可以诸如经由线缆116和/或无线地被发送到摄像机控制器104,并且摄像机控制器104从像素数据生成一个或多个图像118(例如,单个图像和视频帧)。图像118可以存储在存储介质120中和/或可以显示在一个或多个显示器122上。
79.场景114可能在成像传感器组合件106处以不正确的取向被接收。例如,可以在与捕获场景的底部相关联的成像传感器组合件106的像素处接收该场景的顶部,并且可以在与捕获场景的顶部相关联的成像传感器组合件106的像素处接收该场景的底部。
80.场景114在成像传感器组合件106处的不正确取向可能是由例如以倒置方式使用的摄像头108引起的,这在用户在手术腔内操纵内窥镜时可能是有用的。如图1a所示,内窥镜110安装成与摄像头108成一直线的实施例可以观察场景。当摄像头正面朝上时,场景114的正确取向由成像传感器组合件106捕获。然而,当倒置使用摄像头时,成像传感器组合件106捕获相对于该场景的实际取向旋转180
°
的场景,如旋转的场景114a所指示的。
81.在一些实施例中,场景可能会由于内窥镜摄像机单元102内的光的反射而被错误取向。例如,如以下进一步讨论的,如图1b所示,内窥镜110可以附接到直角摄像头,一个或多个棱镜或反射镜可以用于将光重新定向90
°
,并且重新定向可能会导致场景在成像传感器组合件106处的错误取向,如倒转场景114b所指示的。
82.摄像机控制器104可以检测摄像头108的配置并且根据需要校正场景取向。摄像机控制器104从成像传感器组合件106接收像素数据,并且生成场景的图像。摄像机控制器104可以控制成像传感器组合件106,使得由摄像机控制器104根据正确的取向从成像传感器组合件106接收像素数据,和/或可以修改从传感器组合件106接收的像素数据以生成具有正确取向的场景的图像。例如,摄像机控制器104可以控制传感器组合件106,使得由成像传感
器组合件106的一个或多个成像传感器以反转的顺序读取像素,和/或摄像机控制器104可以处理从传感器组合件106接收的像素数据以交换像素来重新取向场景。
83.根据一些实施例,摄像机控制器104可以从内窥镜摄像机单元102接收指示由成像传感器组合件106捕获的场景的取向或与该取向相关的信息。在一些实施例中,场景取向相关信息可以包括摄像机单元配置信息,诸如指示摄像机单元102在传感器组合件106处捕获错误取向的场景—例如,由于内窥镜被附接到具有直角内窥镜耦合111b的摄像头108。在一些实施例中,场景取向相关信息可以包括关于摄像机单元102正被如何使用的信息。例如,该信息可以指示摄像机单元102正以倒置方式使用,使得场景正由传感器组合件106以相对于用户的预期倒置的方式被捕获。在一些实施例中,场景取向相关信息可以包括配置信息(即,直角配置相对于标准配置)以及使用信息(例如摄像机单元取向)二者。
84.根据一些实施例,场景取向信息子系统124可以诸如经由线缆116向摄像机控制器104发送指示摄像机单元102如何被配置和/或正在被使用的场景取向相关信息。例如,场景取向信息子系统124可以发送指示摄像机单元102被配置成使场景总是在传感器组合件106处被倒转的信息—例如,由于内窥镜被附接到直角摄像头。在一些实施例中,场景取向信息子系统124可被配置成诸如经由一个或多个陀螺仪和/或加速度计来检测摄像机单元102的取向,并且可以将指示摄像机单元的当前取向(例如,倒置或正面朝上)的取向信息发送到摄像机控制器104。在一些实施例中,场景取向信息子系统124提供了摄像机单元配置信息(例如,直角摄像机)以及摄像机单元取向信息(例如,摄像机单元当前处于倒置配置)两者。基于从场景取向信息子系统124接收的信息,摄像机控制器104可以修改传感器组合件106的控制和/或可以修改从传感器组合件106接收的像素数据的处理以生成具有正确取向的场景的图像。
85.场景取向信息子系统124可包括单个组件或多个相互关联或单独的组件。在一些实施例中,场景取向信息子系统124是存储器,诸如非易失性存储器,其存储配置数据,诸如指示摄像机单元是直角摄像机单元。在将摄像机单元102连接到摄像机控制器104时、在连接到摄像机控制器104的摄像机单元102启动时、连续地、或以其任意组合的方式,可以将存储在存储器中的配置数据发送到摄像机控制器104。存储在存储器中的配置数据可以由摄像机单元102中的一个或多个处理器或者摄像机控制器104中的一个或多个处理器进行访问。存储器可以容纳在摄像头108中、将摄像头108连接到摄像机控制器104的线缆116中、或其组合。
86.在一些实施例中,场景取向信息子系统124包括用于生成场景取向相关信息的多个组件,诸如存储器、一个或多个处理器和/或一或多个传感器。例如,场景取向信息子系统124可以包括由一个或多个由处理器控制的一个或多个取向传感器(例如,陀螺仪、加速度计等),所述一个或多个处理器从所述一个或多个传感器生成取向信息。可以以连续的方式将该信息发送到摄像机控制器104,使得摄像机控制器104知道摄像机单元102的取向何时改变。
87.在一些实施例中,场景取向信息子系统124包括可以互连或可以不互连的多个不同的子单元。例如,在一些实施例中,场景取向信息子系统124包括存储摄像机单元配置数据的存储器,并且还包括生成摄像头取向信息的单独的传感器单元。这些子组件可以彼此通信地耦合或可以不彼此通信地耦合,并且可以位于或可以不位于相同的物理空间中。例
如,如图1a和图1b所示,摄像机单元取向传感器系统124a可以容纳在摄像头108中,而存储配置数据的存储器124b可以容纳在线缆116中。
88.图2a示出了内窥镜摄像机单元200,其包括摄像头204,该摄像头204相对于摄像头204内的成像传感器组合件以直角取向安装内窥镜202。摄像机单元200可特别适用于泌尿科手术,其中,用户通常希望将内窥镜相对于摄像头定向成直角。
89.在传统的直角摄像头配置中使用的光学组件可能不能以足够高的质量发送高质量的图像,以用于在诸如4k成像传感器的成像传感器中可用的不断增加的分辨率。根据一些实施例,通过使用直角棱镜来缩短光路长度(图像光必须行进的长度)并使反射量最小化,实现了实质的光学改进,这相对于诸如使用五棱镜和屋脊棱镜的常规布置可以使损耗最小化并提高图像分辨率。另外,直角棱镜在组装期间比多次反射棱镜更不易于受到对准误差影响,从而改进图像的可重复性和一致性并降低制造成本。
90.然而,使用直角棱镜需要执行多次“翻转”以在所得到的图像中重新获得场景的正确视觉取向。机械补偿(即传感器安装方向)不足以正确地重新取向图像。因此,如以下进一步描述的,内窥镜摄像机单元200可以连接到摄像机控制器(诸如图1的摄像机控制器104),其可以控制摄像机单元200和/或处理来自摄像机单元200的像素数据以生成具有正确取向的场景的图像。
91.摄像头204包括容纳成像传感器组合件的第一外壳部分240,这将在下面更详细地讨论。第一外壳部分240的尺寸和形状被设计成诸如在外科手术期间可由使用者抓握和操纵。第一外壳部分240可以包括一个或多个用户接口220(诸如一个或多个切换器、按钮、滑块、触摸屏等),用于控制摄像机单元200的一个或多个功能和/或摄像机单元可操作地连接到的成像系统的一个或多个功能。
92.第二外壳部分250从第一外壳部分240的远端延伸。第二外壳部分250可容纳一个或多个光学元件,如下面进一步讨论的。第二外壳部分250可以组装到第一外壳部分,以形成密封的壳体,从而保护其中的敏感成像组件。第二外壳部分250可以被配置成相对于成像传感器组合件的光轴(参见图2c中的光轴273)以直角配置安装内窥镜202。
93.耦合器206安装到第二外壳部分250,并且被配置成用于将内窥镜202耦合到摄像头204上。耦合器206可以是适于附接到内窥镜或其它外科观察设备的任何设备。根据一些实施例,耦合器206被配置成用于可移除地耦合内窥镜202,例如通过包括用于将内窥镜202夹持到摄像头204上的弹簧加载结构。
94.内窥镜202可以是常规内窥镜,并且通常包括沿着纵向轴线227延伸的细长轴223。如本领域所公知的,轴223可以包括光学元件串,该光学元件串包括一个或多个透镜、棱镜和/或其它光学元件,这些光学元件被布置成从轴223的远端沿纵向方向发送来自场景的光。光端口(未示出)可以与光输入连接以选择性地将光经由内窥镜202发送到目标。
95.摄像头204可被连接或可连接到用于将摄像机单元200连接到摄像机控制器的摄像机线缆218。摄像机线缆218可以可移除地或不可移除地附接到摄像头204。摄像机线缆218可以将诸如成像数据和/或用户输入数据的信息发送到连接的摄像机控制单元。
96.图2b是根据不同实施例的内窥摄像机单元200的剖视图,其示出了位于第一和第二外壳部分240、250中的光学组件。图2c是根据各种实施例的内窥摄像机单元200的分解图,其中,为了清楚起见未示出第二外壳部分。
97.第二外壳部分250(见图2b)包括可以接收光入口窗口266的光入口孔264。来自场景的光可以经由光入口窗口266从连接的内窥镜接收。光入口窗口266可以被配置和安装在第二外壳部分250中,以便密封摄像机单元200。
98.中继透镜组合件268可以安装在第二外壳部分250内,位于光入口窗口266后面,用于沿第一光轴267中继光。中继透镜组合件268可以包括一个或多个透镜、滤光器或用于操纵从内窥镜接收的光的其他光学元件。
99.棱镜270安装在第二外壳部分250中,在中继透镜组合件268的下游。棱镜270将沿着第一光轴267行进的光重新定向到沿着第二光轴273朝向成像传感器组合件288延伸的路径。棱镜270可被配置成重新定向光离开棱镜270的长边271,使得光仅被棱镜270反射一次。长边271可以根据光的期望重新定向而成角度。例如,长边271可相对于第一光轴267成45
°
角以直角反射光(如本文所用,以直角重新定向光包括使光基本上重新定向90
°
,这可以包括使光在80
°
至100
°
之间的范围内重新定向)。因为光仅被棱镜反射一次,所以场景被棱镜270反转,如下面进一步讨论的。
100.由棱镜270反射的光沿着以与第一光轴267成一角度(例如垂直)延伸通过可以安装在第二外壳部分250中的透镜系统298的第二光轴273行进。透镜系统298可以包括一个或多个透镜,用于将光聚焦到成像传感器组合件288上。透镜系统298可以包括一个或多个可移动透镜,用于实现用户和/或自动聚焦。在一些实施例中,光行进通过透镜系统298,使得场景在透镜系统298的下游端处相对于场景在透镜系统298的上游端处的取向旋转180
°
,如现有技术中众所周知的。因此,成像传感器组合件288可以相对于摄像头的取向旋转180
°
,以补偿透镜系统298对场景的180
°
旋转。在其它实施例中,透镜系统298可以包括一个或多个附加光学组件,其导致场景在下游端相对于透镜系统298的上游端具有相同的取向。
101.来自透镜系统298的光是由成像传感器组合件288接收的,该成像传感器组合件可以容纳在第一外壳部分240中并且与第二光轴273对准。成像传感器组合件288可以包括用于检测入射在其上的光的一个或多个成像传感器。一个或多个成像传感器可以包括任何合适的成像传感器,诸如cmos和/或ccd成像传感器。成像传感器组合件288可以包括一个或多个光学元件,包括例如一个或多个透镜、棱镜、滤光器等,用于定向、整形和/或控制入射在一个或多个成像传感器上的波段的光。成像传感器组合件288可以固定地安装在第二外壳部分250、第一外壳部分240或两者内,使得一个或多个成像传感器相对于成像传感器组合件288上游的光学元件串处于固定关系。
102.成像传感器组合件288生成包括像素数据的一个或多个成像信号,其可以诸如经由线缆218被发送到可操作地耦合到摄像机单元200的摄像机控制器。根据各种实施例,成像传感器组合件288可生成并发送单个图像和/或视频数据。成像传感器组合件288可以包括一个或多个处理器,用于控制和/或处理来自一个或多个成像传感器的信号。在一些实施例中,一个或多个处理器可以控制像素数据从摄像机单元200传送到操作地耦合的摄像机控制器的方式。例如,一个或多个处理器可以控制成像传感器组合件288以反转的顺序读出像素,诸如从右到左而不是从左到右。在一些实施例中,一个或多个处理器可以与连接的摄像机控制器通信以改变像素读出模式。例如,连接的摄像机控制器可以控制成像传感器组合件288的一个或多个处理器以将读出模式从常规模式改变为反转模式,并且反之亦然。
103.图3示出了根据一些实施例的场景300通过内窥镜成像系统的行进,该内窥镜成像
系统具有带直角摄像头的内窥镜成像单元302。可以被配置成类似于图2a-c的内窥镜摄像机单元200的内窥镜成像单元302连接到摄像机控制器304。内窥镜成像单元302具有直角瞄准镜安装配置,其中,内窥镜303相对于成像单元302的成像传感器组合件388成直角地安装到成像单元302。
104.内窥镜成像系统可用于对场景300成像,该场景可以是例如外科手术腔内的组织区域。组织区域可以反射由内窥镜的光递送系统递送的光和/或可以从诸如一个或多个荧光发射器(例如,荧光染料、自发荧光等) 发射光,并且反射的和/或发射的光是由内窥镜接收的。来自场景300的光可以在第一方向330上行进通过内窥镜、通过窗口366、并且然后通过中继透镜系统368到达直角棱镜370。
105.直角棱镜370将光重新定向为沿第二方向332朝向成像传感器组合件388。直角棱镜370仅反射光一次,并且由于该单次反射,场景变成倒转的(相对于在场景的中间延伸的水平线翻转了180
°
),产生倒转的场景300a。倒转的场景300a行进通过透镜系统398,其可以将该倒转的场景300a传递到成像传感器组合件388。在一些实施例中,透镜系统398可以旋转该倒转的场景300a。
106.成像传感器组合件388可以包括任何合适数量和类型的成像传感器。例如,可以使用单个成像传感器。在所示实施例中,成像传感器组合件388包括三个成像传感器389a、b、c以分别检测不同的光波长。为了分开和定向从透镜系统398接收的光,成像传感器389a、b、c被设置在分束棱镜组合件391上。如本领域所公知的,棱镜组合件391可以包括用于将光分成三个不同波段并根据其波长定向光的滤光器。例如,光可以被分成红/ir光、绿光和蓝光波段以提供荧光和白光成像。三个不同的波长带被定向到相应的成像传感器389a、b、c,这些成像传感器各自被安装以便在相同的取向上接收场景。
107.棱镜组合件391可以被配置成将光反射向离轴成像传感器389b和389c。棱镜组合件391可被配置成反射光,使得相应成像传感器389与棱镜组合件391之间的界面处的场景的取向与从透镜系统398接收到的场景的取向相同。例如,棱镜组合件391可以被配置成使得通过棱镜组合件391到达离轴成像传感器389b、c中的每一个的光路包括两次反射,其中,第一反射翻转场景并且第二反射将场景翻转回来。因此,呈现给每个传感器的场景的取向可以与棱镜组合件391接收到的场景的取向相同。
108.根据一些实施例,成像传感器组合件388可以被配置成使得场景是由一个或多个成像传感器389以相对于倒转的场景300a重新取向的方式接收的。例如,一个或多个成像传感器389可以被上下倒置取向(如图3中由在底部上+和顶部上-所指示的),这有效地将场景旋转180
°
,如由一个或多个成像传感器所接收的。这可以产生相对于场景300被反转的反转场景300b(该场景相对于原始场景300围绕垂直线翻转180
°
)。因此,由一个或多个成像传感器接收的场景处于不正确的取向上(例如,如在所示实施例中那样反转)。
109.成像传感器组合件388生成从内窥镜成像单元302发送到摄像机控制器304的像素数据。摄像机控制器304可以处理从内窥镜成像单元302接收的像素数据,以生成场景的一个或多个图像用于存储和/或显示。根据各种实施例,摄像机控制器304可以控制内窥镜成像单元302和/或处理来自内窥镜成像单元302的像素数据,以生成具有正确取向的场景的图像。
110.在一些实施例中,摄像机控制器304本身处理从成像单元302接收的像素数据,以
重新取向场景,如附图标记310所指示的。例如,摄像机控制器304可以反转每行内的像素的顺序,以将反转的场景300b跨垂直线翻转成正确取向的场景300c。摄像机控制器304可以以任何合适的方式操纵像素数据,诸如通过旋转场景、跨垂直线翻转场景、和/或跨水平线翻转场景。
111.在一些实施例中,摄像机控制器304控制内窥镜成像单元302以如下方式向摄像机控制器304发送像素数据,即,使得摄像机控制器304根据场景的正确取向接收像素数据,如附图标记316所示。例如,对于反转的场景300b,摄像机控制器304可以指示内窥镜成像单元302以相对于传统读取模式反转的顺序从一个或多个传感器389a、b、c读取像素数据。例如,像素可以从右到左而不是从左到右跨越每行被读取,并且按顺序读取的发送出去。这可以导致场景从右向左翻转,这可以导致正确取向的场景从内窥镜成像单元302发送到摄像机控制器304。因此,根据正确取向的场景从成像单元302接收像素数据,并且摄像机控制器304可以以常规方式处理像素数据以生成具有正确取向的场景的图像。
112.在一些实施例中,反转的成像传感器读取模式被预编程到内窥镜成像单元302中,使得根据一个或多个传感器的反转的读取将像素数据发送到摄像机控制器304,而不涉及摄像机控制器304。然而,提供摄像机控制器304控制一个或多个传感器的读取模式的能力可以使得相同的成像传感器组合件(即,(一个或多个)成像传感器和相关联的处理)能够用于不同的成像单元,诸如直角摄像头和直线摄像头两者。
113.摄像机控制器304可以将具有正确取向的场景的一个或多个图像(即,单个图像和视频帧)保存到可以是本地或远程存储器的存储器312,和/或可以将具有正确取向的场景的一个或多个图像发送到一个或多个显示器314以显示给用户。
114.图4示出了根据一些实施例的用于通过在摄像机控制器处数字地重新取向场景来生成具有正确取向的场景的图像的方法400。方法400可以由包括摄像机单元的系统执行,该摄像机单元生成成像数据并将成像数据发送到所连接的摄像机控制器,诸如例如图1的系统100。方法400可被用于校正由诸如图2的摄像头204的直角摄像头捕获的场景的取向,并且可以用于对使用倒置的摄像头产生的场景进行重新定向,如下面参考图6a和6b进一步讨论的。
115.在步骤402,摄像机控制器从摄像机单元接收配置信息。配置信息可被存储在计算机可读介质中,该计算机可读介质可以位于摄像头中,诸如并入摄像头的成像传感器组合件中,或者位于将摄像头连接到摄像机控制器的线缆中。在一些实施例中,配置信息可以由摄像机控制器从摄像头或摄像机线缆中的存储装置直接读取。在一些实施例中,配置信息可以由摄像机单元的处理器响应于从摄像机控制器接收的查询/命令而发送。配置信息可以指示摄像机单元是以不正确的取向捕获场景的直角摄像机单元。在一些实施例中,摄像机控制器自动地从摄像机单元接收配置信息。例如,在将摄像机单元连接到摄像机控制器时(或者在对摄像机单元和/或摄像机控制器加电时),摄像机控制器可以向摄像机单元中的配置信息单元查询配置信息。
116.在步骤404,摄像机单元对场景进行成像并生成像素数据,其被发送到摄像机控制器。摄像机单元可以以未经由(一个或多个)成像传感器的安装校正的方式以由于来自摄像机单元内的场景的光反射而错误取向的方式在一个或多个成像传感器处捕获场景。因此,发送到摄像机控制器的像素数据包括错误取向的场景。
117.在步骤406,摄像机控制器从摄像机单元接收像素数据。像素数据可以经由将摄像头连接到摄像机控制器的线缆来接收,或者可以无线地接收。可根据错误取向的场景来接收像素数据。例如,在一些实施例中,由摄像机控制器接收的场景可以处于反转的取向(即,围绕垂直轴翻转)。
118.在步骤408,摄像机控制器处理像素数据,以基于在步骤402接收的配置数据将场景数字地重新取向到正确的取向。数字地重新取向场景通常包括改变数据集内像素的相对位置。从摄像机单元接收的像素数据可以被组织为像素强度矩阵,其中,矩阵中的强度位置对应于在成像传感器组合件中生成强度的传感器像素的位置,并且重新取向场景可以包括交换矩阵中的强度值。例如,矩阵的每行中的像素值的顺序可以被反转以围绕垂直轴翻转该场景,和/或每列中的像素值的顺序可以被反转以围绕水平轴翻转该场景。在一些实施例中,在从摄像机单元接收的像素数据中反转场景,并且数字地重新取向场景包括反转像素矩阵的每行内的像素的顺序以将场景从反转的场景翻转成正确取向的场景。
119.在步骤410,具有适当取向的场景的图像(例如,单个图像或视频帧)被存储和/或被发送到显示器以便向用户显示。图像中的场景的取向与内窥镜所接收的场景的取向相同。
120.图5示出了根据一些实施例的用于通过修改摄像机单元操作使摄像机单元根据正确取向的场景向摄像机控制器发送图像数据来生成具有正确取向的场景的图像的方法500。方法500可以由包括摄像机单元的系统来执行,该摄像机单元生成成像数据并将成像数据发送到连接的摄像机控制器,诸如例如图1的系统100。方法400可以用于校正由诸如图2的摄像头204的直角摄像头捕获的场景的取向,并且可以用于对使用倒置的摄像头产生的场景进行重新取向,如下面参考图6a和6b进一步讨论的。
121.在步骤502,摄像机控制器从摄像机单元接收配置数据,该配置数据指示摄像机单元是否在摄像机单元的(一个或多个)成像传感器处接收到不正确取向的图像。该步骤可以类似于方法400的步骤402。
122.在步骤504,响应于接收到指示摄像机单元的不正确场景取向捕获的配置信息,摄像机控制器向摄像机单元发送指令以修改其操作,使摄像机单元以使得摄像机控制器接收正确取向的场景的方式来发送像素数据。摄像机控制器可以经由线缆或无线地向摄像机单元发送指令。
123.在步骤506,响应于从摄像机控制器接收到指令,摄像机单元可以修改其从一个或多个成像传感器读取像素数据的方式。例如,摄像机单元可以以反转的顺序读取像素—例如,从右到左而不是从左到右,和/或从下到上而不是从上到下,例如通过根据期望的像素读出序列设置一个或多个寄存器值。然后,摄像机单元根据修改的读取程序来发送像素数据,这使摄像机控制器接收到相对于场景被一个或多个成像传感器捕获的取向被翻转的场景。例如,由于在通过成像传感器的倒置安装进行旋转之后通过90
°
棱镜对场景进行倒转可以反转由一个或多个成像传感器捕获的场景,并且反转像素读出程序使被反转的场景被翻转到正确的取向。
124.在步骤508,由摄像机控制器接收对应于正确取向的场景的像素数据。在步骤510,摄像机控制器以常规方式处理传入像素数据,以生成具有正确取向的场景的图像。例如,摄像机控制器可以常规地通过按照从摄像机单元接收图像矩阵的顺序填充图像矩阵的位置
来生成图像。摄像机控制器可以将第一像素值放置在图像矩阵的左上角,然后填充第一行的剩余部分,以类似的方式填充第二行,并且以这种方式继续直到从摄像机单元接收的用于给定图像或视频帧的最后像素值被放置在矩阵的右下角。由于摄像机单元反转地读取和发送每一行中的像素值,摄像机控制器将由一个或多个成像传感器的最右像素生成的像素值放置在图像矩阵的最左侧位置中,这产生了相对于场景如何被一个或多个成像传感器捕获的翻转场景。
125.因此,根据方法500,场景的重新取向可以由摄像机单元完成,并且由摄像机控制器进行的图像处理可以是常规的。在一些实施例中,方法500还可以包括由摄像机控制器进行的数字重新取向步骤。例如,摄像机单元可以执行反转读取步骤以围绕第一轴线翻转场景,并且摄像机控制器可以围绕第二轴线数字地翻转场景。
126.摄像机控制器可被配置成与传统内窥镜摄像机单元以及如本文所述配置的摄像机单元操作地耦合,并且可以根据连接到它的摄像机单元的类型来修改其成像处理。根据摄像机控制器基于从摄像机单元和/或摄像机线缆接收的配置数据检测到连接的摄像机单元被配置成捕获错误取向的场景,摄像机控制器可以根据诸如参考以上方法400和/或方法500描述的第一成像过程继续,以生成具有正确取向的场景的图像。根据摄像机控制器基于从摄像机单元和/或摄像机线缆接收的配置数据检测到连接的摄像机单元被配置成捕获正确取向的场景,摄像机控制器可以根据第二成像过程继续进行,第二成像过程控制摄像机单元并且以常规方式处理来自摄像机单元的像素数据。因此,摄像机控制器可以基于来自摄像机单元的配置数据使用不同的模式来控制连接的摄像机单元。在一些实施例中,当没有从摄像机单元接收到配置数据时,摄像机控制器可以根据常规模式继续进行。
127.图6a和6b示出了根据一些实施例的成像系统600,其中,摄像机单元可以上下翻转,同时自动保持从摄像机单元生成的图像中的场景的正面朝上取向。摄像机单元可以包括一个或多个传感器以检测摄像机单元的取向,并且连接的摄像机控制器可以数字地处理从摄像机单元接收的成像数据以基于摄像机单元取向维持场景取向。例如,用户可以将摄像机单元上下倒置,并且摄像机控制器可以旋转从摄像机单元接收的像素数据以生成具有处于正面朝上取向(即,相对于用户正面朝上)的场景的图像。
128.传统上,当摄像头和内部成像传感器以其设计的正面朝上取向使用时,内窥镜摄像机系统将显示被认为正面朝上的图像。在一些情况下,内窥镜摄像机用户可能期望将摄像头倒置以允许更容易地接近外科器械或更符合人体工程学的抓握。这对于诸如本文所述的直角摄像头是特别有利的,其中,摄像机耦合器的直角使摄像头的线缆端相对于内窥镜轴线垂直指向,而不是更与内窥镜轴线成一直线并指向使用者。
129.在常规系统中,作为将摄像头和(一个或多个)内部成像传感器上下倒置的结果,当场景取向出现在显示器上时,场景取向也将上下倒置(或旋转180
°
),这可能导致用户迷失方向。在这些情况下,用户可能希望重新取向显示图像以将视图返回到与用户的正面朝上的期望对准。传统上,用户已经依赖于手动方法来重新取向,包括诸如手动切换摄像机控制器以数字地重新取向图像、在监视器本身上选择替代显示选项、或者甚至物理地将监视器上下倒置的方法。
130.根据各种实施例,摄像头和摄像机控制器被配置成相对于由一个或多个成像传感器捕获的场景的取向自动地重新取向所生成的图像中的场景,以便维持正面朝上的场景,
而不管摄像机头的正面朝上或倒置取向。这可以优于常规系统,因为它可以最小化用户交互以重新取向场景和/或避免与具有例如可旋转成像传感器的摄像头相关联的复杂性。
131.成像系统600包括摄像机单元602,其包括用于对场景成像的成像传感器组合件606。成像传感器组合件具有顶侧(+)和底侧(-)。摄像机单元602将成像数据发送到摄像机控制器604,其从成像数据生成一个或多个图像(单个图像和/或视频帧)。
132.摄像机单元602包括场景取向信息单元608,用于监视摄像机单元602的取向,并向摄像机控制器604提供与摄像机单元602的取向有关的信息。场景取向信息单元608可以包括用于感测摄像机单元取向的改变的一个或多个传感器。也可以使用任何合适的传感器,包括一个或多个加速度计、陀螺仪、诸如惯性测量单元(imu)之类的集成单元等的任何合适的组合,以用于检测摄像机单元的取向的改变。场景取向信息单元608可以包括一个或多个处理器和/或与一个或多个处理器对接,用于处理来自一个或多个传感器的数据,诸如用于计算摄像机单元取向,并且将数据提供给摄像机控制器604。
133.来自场景取向信息单元608的信息被提供给摄像机控制器604,使得摄像机控制器604能够基于摄像机单元取向的改变自动地重新取向场景。在一些实施例中,来自场景取向信息单元608的一个或多个传感器的信号被提供给摄像机控制器604,并且摄像机控制器604确定摄像机单元取向。在其他实施例中,场景取向信息单元608执行其自身的取向确定,并且向摄像机控制器604提供取向状态标识符—例如,摄像机单元通知摄像机控制器它是倒置还是正面朝上。
134.基于从一个或多个传感器接收的信息,摄像机控制器604可以自动处理从摄像机单元602接收的图像数据,以在传感器数据指示摄像机单元是倒置的时相对于由一个或多个传感器捕获的场景的取向重新取向场景。如果检测到摄像机头取向的任何后续改变(即摄像机头返回到正面朝上),则可以反转该图像重新定向。
135.图6a和6b示出了生成具有当摄像机单元602被倒置时被自动地重新取向180
°
的场景的图像的过程。来自场景610的光穿过摄像机单元602的光学元件串,并聚焦到成像传感器组合件606上。根据本文所述的各种实施例(例如,由于内窥镜到摄像头的直角安装),场景可根据其被摄像机单元602或附接的内窥镜接收的取向在成像传感器组合件606处被接收,或者可根据不正确的取向在成像传感器组合件606处被接收。
136.用户可以相对于正常使用将摄像机单元取向为正面朝上(图6a)或正面朝下(图6b)。当被倒置取向时,来自成像传感器组合件606的所得到的图像数据相对于当摄像机单元正面朝上时的取向旋转180
°
。摄像机控制器604从摄像机单元602接收指示摄像机单元是倒置还是正面朝上的取向信息。在一些实施例中,摄像机单元602执行其自己的取向确定并相应地通知摄像机控制器604,而在其他实施例中,摄像机控制器604基于来自摄像机单元602的传感器数据做出其自己的确定,该传感器数据可以是例如由摄像机单元内的惯性测量单元(imu)提供的三维位置数据。
137.当摄像机控制器604确立了摄像机单元602是倒置的(图6b)时,摄像机控制器604可以将图像数据读取方向修改为从正常图像数据读取方向倒转和反转(180
°
旋转)。替代地,摄像机控制器604可以对从摄像机单元接收的像素数据数字地重新排序以旋转场景。然后,摄像机控制器可以将具有重新取向的场景的图像输出到显示器和/或存储装置。
138.摄像机控制器604可以从摄像机单元接收摄像机单元取向更新,并且基于该更新,
可以确定摄像头返回到正面朝上状态,并且可以将图像数据读取方向反转到先前的方向或者将像素数据处理反转到常规模式。摄像机控制器604可以根据摄像头的任何随后重新取向而在模式(即,重新取向和不重新取向)之间切换。
139.术语“倒置”和“正面朝上”在这里用来指触发场景重新取向的取向的相对变化,而不是意味着仅限于完美的“倒置”和“正面朝上”取向。例如,在一些实施例中,只要摄像头在预定的角度取向范围内,就可以认为摄像机相对于场景处于给定取向。然后,摄像头在预定范围内的移动不会触发场景的重新取向,但是摄像头超出预定范围的移动将会触发场景重新取向。例如,将完美的正面朝上视为0
°
取向,可以不触发图像重新取向,只要摄像头在从0
°
起的+/-90
°
的范围内(即,更接近于完美的正面朝上,而不是倒置),并且一旦摄像头旋转超过该范围(即,更接近于倒置,而不是正面朝上),则摄像机控制器命令场景的重新取向。类似地,只要摄像头在从180
°
起+/-90
°
的范围内,场景就可以继续被重新取向,并且一旦摄像头旋转超过该范围,场景就可以仅停止被重新取向。这些仅仅是示例性阈值,并且触发场景重新取向的上阈值和下阈值可以根据需要来设置。
140.在一些实施例中,场景重新定向触发阈值是相对于当前取向的。例如,当摄像头旋转到相反取向的预定范围内时,可以触发场景重新取向。例如,当摄像头旋转到180
°
的+/-10
°
的范围内时,可以触发场景重新取向,并且可以维持场景重新取向,直到摄像头旋转回到0
°
的+/-10
°
的范围内。因此,例如当摄像头处于90
°
时的场景取向可以根据先前的场景取向而变化。这在减少所显示的图像从用户的角度翻转的次数方面可能是有利的。
141.根据一些实施例,场景相对于在成像传感器组合件处的场景的取向被取向/重新定向180
°
。因此,所生成的和/或向用户显示的(一个或多个)图像将示出在摄像头旋转时在成像传感器组合件处接收的取向中的场景—即,所显示的场景将随摄像头旋转,直到达到预定阈值,在该点处场景将相对于场景在成像传感器组合件处的取向旋转180
°
。因此,摄像头的角运动将会被观看所生成的图像的用户观察到。这与其它领域中已知的图像稳定系统形成对比,诸如监视或电影制作,其中,场景相对于用户保持在给定的取向,而不管摄像头如何移动。
142.图7示出了根据各种实施例的内窥镜成像系统10。成像系统10包括可以在内窥镜手术中使用的内窥镜成像单元11。内窥镜成像单元11可以包括耦合到摄像头13的内窥镜或瞄准镜12,摄像头13具有位于摄像头13的远端用于耦合瞄准镜12的耦合器14。摄像头13可以根据本文所述的实施例中的任何一个来配置,包括图1的摄像机单元102和图2a-2c的摄像机单元200。光由光源16经由光导15(诸如光纤线缆)提供给瞄准镜12。摄像头13耦合到可以根据本文描述的任何实施例配置的摄像机控制器17,包括图1的摄像机控制器104和图3的摄像机控制器304。摄像头13可以经由电气线缆18或无线地耦合到摄像机控制器17。摄像头13的操作可以部分地由摄像机控制器17来控制。线缆18或无线通信系统(未示出)将视频或静止图像数据从摄像头13传送到摄像机控制器17,并在摄像头13和摄像机控制器17之间双向传送各种控制信号。
143.控制或切换装置20可以设置在摄像头13上,以便用户手动地控制系统10的各种功能。根据各种实施例,这些和其它功能也可以使用语音控制单元23通过语音命令来控制,该语音控制单元可以耦合到摄像机控制器17。可选地,语音命令可被输入到安装在由外科医生佩戴的耳机25上的麦克风24中,并且耦合到语音控制单元23。手持控制设备26,诸如具有
触摸屏用户接口的平板电脑或pda,可以作为另外的控制接口耦合到语音控制单元23。在所示的实施例中,记录器27和打印机28也耦合到摄像机控制器17。附加的设备(诸如图像捕获和存档设备),可被包括在系统10中并耦合到摄像机控制器17。由摄像头13获得并由摄像机控制器17处理的视频图像数据被转换成图像,该图像可以显示在一个或多个显示器29上、由记录器27记录、和/或用于生成静态图像,其硬拷贝可以由打印机28产生。
144.为了解释的目的,已经参考特定实施例描述了前面的说明。然而,以上说明性讨论不是要穷举或将本发明限制为所公开的精确形式。鉴于上述教导,许多修改和变化是可能的。选择和描述实施例是为了最好地解释技术的原理及其实际应用。因此,本领域的其他技术人员能够最好地利用具有适于所考虑的特定用途的各种修改的技术和各种实施例。
145.尽管已经参考附图充分描述了本公开和示例,但是应当注意,各种改变和修改对于本领域技术人员来说应当变得显而易见。这样的改变和修改应被理解为包括在由权利要求限定的本公开和示例的范围内。最后,本技术中所引用的专利和公布的全部公开内容在此通过引入并入本文。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1