用于外科探针的光学系统,组成其的系统和方法,以及用于执行外科手术的方法与流程

文档序号:19160753发布日期:2019-11-16 01:20阅读:219来源:国知局
用于外科探针的光学系统,组成其的系统和方法,以及用于执行外科手术的方法与流程

相关申请

本申请要求申请日为2016年9月29日、62/401,390号美国临时申请的优先权,其内容通过全部内容的参考合并在此。

本申请要求申请日为2017年5月10日、62/504,175号美国临时申请的优先权,其内容通过全部内容的参考合并在此。

本申请要求申请日为2017年6月9日、62/517,433号美国临时申请的优先权,其内容通过全部内容的参考合并在此。

本申请要求申请日为2017年4月4日、62/481,309号美国临时申请的优先权,其内容通过全部内容的参考合并在此。

本申请要求申请日为2017年7月17日、62/533,644号美国临时申请的优先权,其内容通过全部内容的参考合并在此。

本申请与申请日为2013年12月30日、61/921,858号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2014年12月19日、pct/us2014/071400号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2015年11月20日、14/892,750号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2010年10月22日、61/406,032号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2011年10月21日、pct/us2011/057282号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2013年4月19日、13/880,525号美国专利申请、现为8,992,421号美国专利关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2014年12月31日、14/587,166号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2011年6月2日、61/492,578号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2012年6月1日、pct/us12/40414号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2013年11月21日、14/119,316号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2010年11月11日、61/412,733号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2011年11月10日、pct/us2011/060214号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2013年5月9日、13/884,407号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2017年5月5日、15/587,832号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2011年4月6日、61/472,344号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2012年4月5日、pct/us12/32279号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2013年9月30日、14/008,775号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2015年11月18日、14/944,665号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2015年11月19日、14/945,685号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2011年9月13日、61/534,032号美国临时申请关联其内容通过全部内容的参考合并在此。

本申请与申请日为2012年9月12日、pct/us12/54802号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2014年3月10日、14/343,915号美国专利申请、现为授权日2017年9月12日、9,757,856号美国专利关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2016年3月8日、15/064,043号美国专利申请、现为授权日2017年2月21日、9,572,628号美国专利关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2017年8月23日、15/684,268号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2010年7月28日、61/368,257号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2011年7月21日、pct/us2011/044811号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2013年1月25日、13/812,324号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2011年12月21日、61/578,582号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2012年12月20日、pct/us12/70924号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2014年6月10日、14/364,195号美国专利申请、现为授权日2016年6月14日、9,364,955号美国专利关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2016年6月13日、15/180,503号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2012年8月9日、61/681,340号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2013年8月9日、pct/us13/54326号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2015年2月2日、14/418,993号美国专利申请、现为授权日2017年6月13日、9,675,380号美国专利关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2017年6月12日、15/619,875号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2013年1月11日、61/751,498号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2014年1月9日、pct/us14/10808号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2014年1月9日、14/759,020号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2012年6月7日、61/656,600号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2013年6月3日、pct/us13/43858号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2014年11月19日、14/402,224号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2013年5月20日、61/825,297号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2014年5月20日、pct/us13/38701号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2015年11月2日、14/888,541号美国专利申请、现为授权日2016年12月13日、9,517,059号美国专利关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2016年11月14日、15/350,549号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2013年5月2日、61/818,878号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2014年5月2日、pct/us14/36571号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2015年10月30日、14/888,189号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2013年11月27日、61/909,605号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2014年9月19日、62/052,736号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2014年11月24日、pct/us14/67091号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2016年5月23日、15/038,531号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2014年6月5日、62/号美国临时申请关联008,453其内容通过全部内容的参考合并在此。

本申请与申请日为2015年6月5日、pct/us15/34424号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2016年12月2日、15/315,868号美国专利申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2015年4月20日、62/150,223号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2016年2月24日、62/299,249号美国临时申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2016年4月20日、pct/us16/28374号pct申请关联,其内容通过全部内容的参考合并在此。

本申请与申请日为2006年12月20日、11/630,279号美国专利申请、公开为2009/0171151号美国专利申请公开关联,其内容通过全部内容的参考合并在此。



背景技术:

随着微创医学技术和程序更为普遍,医疗专业人员、例如外科医生,需要铰接外科工具,例如内窥镜,来执行这种微创医学技术和程序,其通过身体上的孔口、例如嘴,进入身体的内部区域。



技术实现要素:

在一方面,用于为病人执行医疗程序的工具定位系统包括,铰接探针和立体成像组件,用于提供目标位置的图像。立体成像组件包括:第一摄像机组件,包括第一透镜和第一传感器,其中第一摄像机组件构造和布置得来提供目标位置的第一放大率;以及第二摄像机组件,包括第二透镜和第二传感器,其中第二摄像机组件构造和布置得来提供目标位置的第二放大率。在一些实施方式中,第二放大率大于第一放大率。

在一些实施方式中,铰接探针包括包含多个铰接内环的内探针,以及围绕内探针且包括多个铰接外环的外探针。

在一些实施方式中,内探针或外探针之一构造为在刚性模式和柔性模式之间转换,并且内探针和外探针另一者构造为在刚性模式和柔性模式之间转换且被引导。

在一些实施方式中,外探针被构造为被引导。

在一些实施方式中,工具定位系统进一步包括供应组件,为内探针和外探针施力。

在一些实施方式中,该力使得内探针和外探针独立前进或缩回。

在一些实施方式中,该力使得内探针和外探针在刚性模式和柔性模式之间独立转换。

在一些实施方式中,该力使得内探针或外探针的另一者被引导。

在一些实施方式中,供应组件位于供应器舱上。

在一些实施方式中,工具定位系统进一步包括使用者界面。

在一些实施方式中,使用者界面构造为向供应组件传递指令,以向内探针和外探针施力。

在一些实施方式中,使用者界面包括选自包含以下的组的部件:操纵杆;键盘;鼠标;开关;显示屏、触摸屏;触摸板;轨迹球;显示器;触摸屏;音频元件;扬声器;蜂鸣器;灯光;led;及其组合。

在一些实施方式中,工具定位系统进一步包括工作通道,位于多个内环和多个外环之间,并且其中,立体成像组件进一步包括位于工作通道内的线缆。

在一些实施方式中,至少一个外环包括位于其外部的旁瓣,旁瓣包括旁瓣通道,其中立体成像组件进一步包括位于旁瓣通道内的线缆。

在一些实施方式中,铰接探针构造和布置得被插入病人的自然孔口中。

在一些实施方式中,铰接探针构造和布置得通过病人的切口被插入。

在一些实施方式中,铰接探针构造和布置得提供进入病人体内的剑突下(subxiphoid)入口。

在一些实施方式中,工具定位系统进一步包括图像处理组件,构造为接收处于第一放大率的由第一摄像机组件获取的第一图像和处于第二放大率的由第二摄像机组件获取的第二图像。

在一些实施方式中,图像处理组件构造为由第一图像和第二图像产生二维图像,二维图像具有可在第一放大率和第二放大率之间改变的放大率。

在一些实施方式中,二维图像通过融合第一图像的至少一部分与第二图像的至少一部分来产生。

在一些实施方式中,随着二维图像的放大率从第一放大率增加至第二放大率,更大百分比的二维图像由第二图像形成。

在一些实施方式中,在第一放大率,大约百分之五十的二维图像由第一图像形成且大约百分之五十的二维图像由第二图像形成。

在一些实施方式中,在第二放大率,大约百分之零的二维图像由第一图像形成且大约百分之百的二维图像由第二图像形成。

在一些实施方式中,在第一放大率和第二放大率之间的放大率,比起由第二图像形成的,更少百分比的二维图像由第一图像形成。

在一些实施方式中,二维图像的放大率在第一放大率和第二放大率之间连续改变。

在一些实施方式中,第一传感器和第二传感器选自包含下述的组:电荷耦合器件(ccd)、互补金属氧化物半导体(cmos)器件和光纤束传感器器件。

在一些实施方式中,第一摄像机组件和第二摄像机组件安装在壳体内。

在一些实施方式中,工具定位系统进一步包括安装在壳体中的至少一个led。

在一些实施方式中,工具定位系统进一步包括安装在壳体中的多个led,每一个能够为目标位置提供不同水平的亮度。

在一些实施方式中,多个led的每个构造为可调整的,从而为在目标图像中探测到的较暗区域提供较高亮度的输出,并且为在目标位置中探测到的较亮区域提供较低亮度的输出。

在一些实施方式中,立体成像组件旋转地安装在壳体内,位于铰接探针的末梢部,壳体进一步包括偏转机构,安装在壳体和立体成像组件之间,用于为立体成像组件提供偏转力,以及执行器,安装在壳体和立体成像组件之间,用于结合偏转力,在壳体内旋转立体成像组件。

在一些实施方式中,偏转机构包括弹簧。

在一些实施方式中,执行器包括线性执行器。

在一些实施方式中,工具定位系统进一步包括图像处理组件,包括算法,构造为数字增强图像。

在一些实施方式中,算法构造为调整图像参数,选自包含下述的组:尺寸;颜色;对比;色调;锐度;像素尺寸;及其组合。

在一些实施方式中,立体成像组件构造为提供目标位置的3d图像。

在一些实施方式中,目标位置的第一图像由第一摄像机组件获取且目标位置的第二图像由第二摄像机组件获取;该系统构造为操纵大体上相应于第二图像的特性的第一图像的特性,并且组合操纵的第一图像与第二图像,以产生目标位置的三维图像。

在一些实施方式中,目标位置的第一图像由具有第一视野的第一摄像机组件获取且目标位置的第二图像由具有第二视野的第二摄像机组件获取,第二视野比第一视野窄;该系统构造为操纵大体上相应于第二图像的第二视野的第一图像的第一视野,并且组合操纵的第一图像与第二图像,以产生目标位置的三维图像。

在一些实施方式中,立体成像组件包括功能元件。

在一些实施方式中,功能元件包括转换器。

在一些实施方式中,转换器包括选自包含以下的组的部件:螺线管;热传递换能器;热提取换能器;振动元件;及其组合。

在一些实施方式中,功能元件包括传感器。

在一些实施方式中,传感器包括选自包含以下的组的部件:温度传感器;压力传感器;电压传感器;电流传感器;电磁场传感器;光学传感器;及其组合。

在一些实施方式中,传感器构造为探测立体成像组件的不希望的状态。

在一些实施方式中,工具定位系统进一步包括:第三透镜,构造和布置得提供目标位置的第三放大率;以及第四透镜,构造和布置得提供目标位置的第四放大率;其中,第三和第四放大率之间的关系与第一和第二放大率之间的关系不同。

在一些实施方式中,第一和第二传感器位于立体成像组件中的固定位置,并且第一、第二、第三和第四透镜安装在立体成像组件中的可旋转边框中;以及在第一构造中,第一和第二透镜定位得引导光线至第一和第二传感器,并且在第二构造中,第三和第四透镜定位得引导光线至第一和第二传感器。

在一些实施方式中,第一摄像机组件包括用于摄像机参数的第一值,并且第二摄像机组件包括用于摄像机参数的第二值,并且其中,摄像机参数选自包含以下的组:视野;f-停止;聚焦深度;及其组合。

在一些实施方式中,第一值与第二值的比相对地等于第一摄像机组件与第二摄像机组件的放大率的比。

在一些实施方式中,第一摄像机组件的第一透镜以及第二摄像机组件的第二透镜的每个位于铰接探针的末梢部。

在一些实施方式中,第一摄像机组件的第一传感器以及第二摄像机组件的第二传感器两者都位于铰接探针的末梢部。

在一些实施方式中,第一摄像机组件的第一传感器以及第二摄像机组件的第二传感器两者都位于铰接探针的基部。

在一些实施方式中,工具定位系统进一步包括光学导线,光学地连接第一透镜至第一传感器以及第二透镜至第二传感器。

在一些实施方式中,第二放大率是大于第一放大率的整数值。

在一些实施方式中,第二放大率是第一放大率的两倍。

在一些实施方式中,第一放大率是5x且第二放大率是10x。

在一些实施方式中,第一放大率小于7.5x且第二放大率至少为7.5x。

在一些实施方式中,目标位置包括选自包含以下的组的位置:食管组织;声带;结肠组织;阴道组织;子宫组织;鼻组织;脊柱组织,如脊柱前侧组织;心脏组织,如心脏后侧组织;拟从体内取出的组织;拟在体内治疗的组织;癌变组织;鼻组织;组织及其组合。

在一些实施方式中,工具定位系统进一步包括图像处理组件。

在一些实施方式中,图像处理组件进一步包括显示器。

在一些实施方式中,图像处理组件进一步包括算法。

在一些实施方式中,工具定位系统进一步包括错误探测程序,用于在过程期间提醒系统的使用者第一和第二摄像机组件的操作中的一个或多个错误。

在一些实施方式中,错误探测程序构造为监测第一和第二摄像机组件的操作,基于探测到第一和第二摄像机探测组件的一者的错误,使得使用者使用第一和第二摄像机组件的另一者继续过程。

在一些实施方式中,错误探测程序进一步构造为监测第一和第二摄像机组件的另一者的操作,并且基于探测到第一和第二摄像机组件的另一者的错误来停止过程。

在一些实施方式中,错误探测程序包括覆盖功能。

在一些实施方式中,工具定位系统进一步包括诊断功能,用于确定第一和第二摄像机组件的校准诊断。

在一些实施方式中,诊断功能构造为:从第一摄像机组件接收校准目标的第一诊断图像以及从第二摄像机组件接收校准目标的第二诊断图像;处理第一和第二诊断图像以识别相应特征;基于相应特征执行第一和第二诊断图像的比较;以及如果第一和第二诊断图像有多于预定量的不同,确定校准诊断已经失败。

在一些实施方式中,工具定位系统进一步包括深度图产生组件。

在一些实施方式中,深度图产生组件构造为:从第一摄像机组件接收目标位置的第一深度图图像以及从第二摄像机组件接收目标位置的第二深度图图像,第一和第二摄像机组件彼此远离已知距离;以及产生相应于目标位置的深度图,使得,第一深度图图像中的一位置与第二深度图图像中的相应位置越不一致,关于该位置的深度越大。

在一些实施方式中,深度图产生组件包括与图像传感器对齐的飞行时间传感器,飞行时间传感器构造为提供相应于目标位置的一部分的图像的每个像素的深度,以产生目标位置的深度图。

在一些实施方式中,深度图产生组件包括发光设备,在目标位置上发射预定光图,以及图像传感器用于探测目标位置上的光图;深度图产生组件构造为计算预定光图和探测的光图之间的差异,以产生深度图。

在一些实施方式中,系统进一步构造为使用深度图产生目标位置的三维图像。

在一些实施方式中,系统进一步构造为:旋转由第一摄像机组件获取的第一图像至希望的位置;旋转深度图,与处于希望位置的第一图像对齐;通过应用旋转的深度图至旋转的第一图像,产生第二旋转图像;以及从旋转的第一和第二旋转图像产生三维图像。

在一些实施方式中,第一和第二传感器的至少一者构造为获取,在第一和第二传感器的至少一者的第一组像素行中的第一曝光量的图像数据,以及在第一和第二传感器的至少一者的第二组像素行中的第二曝光量的图像数据。

在一些实施方式中,第一组像素行是第一和第二传感器的至少一者的奇数像素行,以及第二组像素行是第一和第二传感器的至少一者的偶数像素行。

在一些实施方式中,第一曝光量是高曝光量且第二曝光量是低曝光量。

在一些实施方式中,第一曝光量用于图像的较暗区域中且第二曝光量用于图像的较亮区域中。

在一些实施方式中,成像组件需要动力,并且该系统进一步包括远离成像组件的动力源,其中动力通过动力导线被传送至图像组件。

在一些实施方式中,工具定位系统进一步包括图像处理组件,其中图像数据被成像组件记录且通过动力导线被传送至图像处理组件。

在一些实施方式中,工具定位系统进一步包括差分信号驱动器,构造为ac耦合图像数据至动力导线。

在另一个方面,立体成像组件,用于提供目标位置的图像,包括:第一传感器,安装在壳体内;第二传感器,安装在壳体内;以及可变透镜组件,可旋转地安装在壳体内,其中,在可变透镜组件的各个位置处,不同水平放大率的图像数据通过可变透镜组件被提供给第一和第二传感器的每个。

在一些实施方式中,可变透镜组件包括阿尔瓦雷斯透镜。

在另一个方面,用于获取目标位置图像的方法,包括:提供包括末梢部的铰接探针,以及提供立体成像组件,其一部分位于铰接探针的末梢部,用于提供目标位置的图像。立体成像组件包括:第一摄像机组件,包括第一透镜和第一传感器,其中第一摄像机组件构造和布置得来提供目标位置的第一放大率;以及第二摄像机组件,包括第二透镜和第二传感器,其中第二摄像机组件构造和布置得来提供目标位置的第二放大率,其中,第二放大率大于第一放大率。铰接探针的末梢部位于目标位置处;以及使用立体成像组件获取目标位置处的图像。

在一些实施方式中,该方法进一步包括在使用者界面提供获取的图像。

附图说明

本发明构思的实施方式的前述和其它目的、特征和优点将从优选实施方式的更特别描述中变得清晰,正如附图所示,其中,相同的附图标记表示贯穿不同视图中的相同元件。附图并不需要是成比例的,重点是示出优选实施方式的原则。

图1a和1b是依照本发明构思的实施方式,铰接探针系统的部分图解、部分透视的示意图;

图2是依照本发明构思的实施方式,立体图像组件系统的端视图;

图3是依照本发明构思的实施方式,立体图像组件的示意图;

图4是依照本发明构思的实施方式,示出了3d图像产生程序的流程图;

图5a和5b是依照本发明构思的实施方式,示出了由不同摄像机组件获取的图像数据的示意图;

图5c是依照本发明构思的实施方式,示出了组合图像数据来产生放大图像的构思的示意图;

图5d是依照本发明构思的实施方式,示出了每个摄像机组件对合成3d图像的影响的图;

图6是依照本发明构思的实施方式,示出了冗余特征的流程图;

图7是依照本发明构思的实施方式,示出了诊断程序的流程图;

图8是依照本发明构思的实施方式,具有旋转透镜壳体的立体图像组件的另一实施方式的端视图;

图9是依照本发明构思的实施方式,具有旋转透镜壳体的立体图像组件的另一实施方式的端视图;

图10a-10c是依照本发明构思的实施方式,具有水平校正特征的立体图像组件的另一实施方式的端视图;

图11是依照本发明构思的实施方式,图像传感器的示意图;

图12是依照本发明构思的实施方式,示出了高动态范围特征的流程图;

图13a-13e是示出了旋转图像轴的构思的示意图;

图14a-14d是依照本发明构思的实施方式,示出了由目标区域的多个图像产生深度图的构思的透视图;

图14e-14f是依照本发明构思的实施方式,产生的深度图和来自摄像机组件的相关本机映像的示意;

图15是依照本发明构思的实施方式,示出了2d图像的深度图绘制进程的流程图;

图16是依照本发明构思的实施方式,铰接探针系统的透视示意图;

图17a-17c是依照本发明构思的实施方式,铰接探针设备的图形演示;

图18是依照本发明构思的实施方式,视觉机器人外科手术设备线的透视图;

图19是依照本发明构思的实施方式,内窥镜设备的透视示意图;以及

图20是依照本发明构思的实施方式,立体图像组件的一部分的示意图。

具体实施方式

这里使用的术语仅用于描述特定的实施例的目的,且并不意欲限制发明的构思。正如在此使用的,除非特别说明,单数形式“一”、“一个”和“该”也包括复数形式。可进一步理解的是,当术语“包括”和/或“包含”在此使用时,指定了具有所表述的特征、整体、步骤、操作、元素和/或部件,但是也不排除还具有一个或多个其它特征、整体、步骤、操作、元素、部件和/或它们的组合。

将理解的是,尽管在此使用了术语第一、第二、第三等来描述多个限制、元件、部件、区域、层和/或片段,但这些限制、元件、部件、区域、层和/或片段并不被这些术语限制。这些术语仅用于一个限制、元件、部件、区域、层和/或片段与其它限制、元件、部件、区域、层和/或片段区分。因此,下文讨论的第一限制、元件、部件、区域、层和/或片段可被称为第二限制、元件、部件、区域、层和/或片段,而不偏离本申请的教导。

将进一步理解的是,当元件被表述为“之上”或“连接”或“耦合”至另一元件时,它可被直接位于其上或上方、或连接或耦合至另一元件或可存在中间元件。相对地,当元件被表述为“直接在之上”或“直接连接”或“直接耦合”至另一元件时,不存在中间元件。用于描述元件之间关系的其它词语应被解释为类似形式(例如,“在之间”对“直接在之间”,“相邻”对“直接相邻”,等)。当一个元件在此表述为在另一个元件“上方”时,它可在另一元件的上方或下方,并且既可直接连接至另一元件,或可存在中间元件,或者这俩元件可由空间或缺口分开。

将进一步理解的是,当第一元件被表述为在第二元件“内”、“上”、“处”和/或“之内”时,第一元件可位于:第二元件的内部空间中、第二元件的一部分中(例如,第二元件的壁中);位于第二元件的外和/或内表面上;以及这些的一个或多个的组合,但并不限于此。

对于在此描述或另外理解的功能特征、操作和/或步骤的范围,被包含在发明构思的各个实施方式中,这些功能特征、操作和/或步骤可被嵌入在功能块、单元、模块、操作和/或方法中。并且对于这些功能块、单元、模块、操作和/或方法的范围,包括计算机程序码,这种计算机程序码可存储在计算机可读媒介中,例如非易失性存储器和媒介,其可由至少一个计算机处理器执行。

在下面的描述中,参考获取、操纵和处理图像。将理解的是,这可指单一静止图像,且还可指作为视频流中的单一帧(frame)的图像。在后者情形中,视频流可包括很多图像作为流中的帧。

图1a和1b是依照本发明构思的实施方式,铰接探针系统10的部分图解、部分透视的示意图;图1a和1b,当在线101连接时,示出了铰接探针系统10的实施方式。如上所述,在一些实施方式中,铰接探针系统10包括供应器单元300和界面单元200。如图1a和1b所述,供应器单元300可包括铰接探针100,包括外探针110,包括外环111,以及内探针120,包括内环121。操纵组件310包括位于供应器单元300中的多个驱动电机和线缆,其使得铰接探针100的操作者以上文描述的参考图16和17a-17c的方式调用探针。特别地,内控制连接器311包括线缆和配线,用于使得操作者能够控制内探针120的运动,以及外控制连接器312包括线缆和配线,用于使得操作者能够控制外探针110的运动,基于操纵组件310的输入。

界面单元200包括处理器210,包括软件225。软件225可包括一个或多个算法、规则和/或其它程序(在此称为“算法”),用于由处理器210执行,其使得在此描述的铰接探针系统10能够操作。界面单元200的使用者界面230相应于人机界面设备hid202,用于接收来自外科医生、技术员和/或系统10的其它操作者的触摸指令,以及显示器201,用于提供视觉和/或听觉反馈,如附图16所示。界面单元200进一步包括图像处理组件220,包括光学接收器221,用于接收和处理光学信号。光学信号通过光学导线134a和134b被输入至光学接收器221,其接收分别来自摄像机组件135a和135b的图像信息。摄像机组件135a和135b在下文详细描述。光学导线134a和134b包括任何类型的能够从摄像机组件135a和135b向光学接收器221传送光学信息的导线,用于在图像处理组件220中进行处理。还通过导线134a、134b向摄像机组件135a、135b提供动力。这些导线的示例可包括光纤或其它数据传输线缆。界面单元200和供应器单元300进一步分别包括功能元件209和309,用于向铰接探针系统10提供额外输入,以进一步增强铰接探针100的操纵和定位。这些功能元件的示例包括但不限于,加速计和陀螺仪。

图1b是铰接探针100的末梢部108的透视图。图1b所示的是外探针110的外环111和内探针120的内环121(示出为虚线)。导管105沿着末梢部108延伸且终止于侧口118。导管105和侧口118使得铰接探针系统10的操作者能够在铰接探针100的端部引导和定位工具20,以执行各种进程。

当执行调查或外科手术进程时,铰接探针100的操作者必须具有清晰的,以及在进程中的特定点,铰接探针被引导以及在进程中检查或外科手术本身所处的环境的放大视野。典型的环境还称为包括解剖位置的“目标位置”,具有选自包含以下的组的组织类型:食管组织;声带;结肠组织;阴道组织;子宫组织;鼻组织;脊柱组织,如脊柱前侧组织;心脏组织,如心脏后侧组织;拟从体内取出的组织;拟在体内治疗的组织;癌变组织;鼻组织;组织及其组合。重要的是,操作者能够推近或放大该位置,来确保精确性,以及便于更好的术中决定。有困难的一个挑战是提供正确的光学变焦,其提供了更高的放大率,同时还向使用者提供了相同或更好的光学细节。可移动变焦透镜,其包括彼此相对移动以改变系统放大率的多个透镜,通常使用来使得摄像机系统的使用者能够推近或放大目标。然而,这些透镜系统,即使是微型的,用于一些进程中也是庞大的,例如使用铰接探针100来执行的进程类型。这些系统还是非常昂贵的,并且,在一些情形中,其中(图16的)供应器顶部组件330或铰接探针100意图在进程中使用之后是可丢弃的,重要的是管理和最小化铰接探针系统10的使用中涉及的费用。此外,这些系统不能向操作者提供三维图像。另一选择可以是通过软件操纵提供数码变焦。然而,数码变焦涉及插值算法,其使得图像模糊且会降低图像的光学清晰度。

铰接探针100的末梢部108包括耦合至末梢外环112的立体成像组件130,包括第一摄像机组件135a和第二摄像机组件135b。依照本发明构思的多方面,摄像机组件135a、135b每个包括固定放大率透镜132a、132b和光学组件133a、133b。光学组件133a、133n可以是电荷耦合器件(ccd)、互补金属氧化物半导体(cmos)器件和光纤束系统,或适用于本申请的任何其它技术。

依照本发明构思的一个实施方式,透镜132a和132b具有不同水平的放大率。例如,透镜132a具有提供第一视野fov1的第一放大率,且透镜132b具有提供第二视野fov2的第二放大率。如图1b所示,在一个实施方式中,透镜132a的视野fov1比透镜132b的视野fov2窄。这会导致透镜132a比透镜132b具有更大的放大率。例如,透镜132b具有5x放大率且透镜132a具有10x放大率。然而,将理解的是,可以使用任何组合的透镜放大率,只要透镜具有不同的放大率水平。重要的是注意到,摄像机组件135a、135b彼此对齐且定向,对中且聚焦在目标位置上的相同点。正如在下文更详细描述的,使用具有不同放大率水平的多个摄像机组件,使得图像处理组件220能够操纵从每个摄像机组件接收到的图像数据,以产生以每个透镜132a、132b的放大率水平、以及它们之间的放大率水平放大的图像。多个摄像机组件的使用还使得图像处理组件220能够操纵从每个摄像机组件接收到的图像数据,来产生由立体图像组件130观察的目标位置的三维图像。在一些实施方式中,第一摄像机组件135b包括用于摄像机参数的第一值,且第二摄像机组件135b包括用于(相同)摄像机参数的第二值。在这些实施方式中,摄像机参数是选自包含以下的组的参数:视野;f-停止;聚焦深度;及其组合。两个值的比可以相对等于两个摄像机组件的放大率的比。

图2是立体图像组件130的端视图,如从图1b的线113看。示出的是侧口118,以及立体图像组件130,其包括摄像机组件135a和135b。立体图像组件130还包括为摄像机组件135a、135b提供照明的多个led138a-d,在铰接探针100的运行路径上提供,以及一旦铰接探针100位于将要执行进程的位置上,在目标位置上提供。尽管图2中示出了四个led138a-d,将被理解的是,在立体图像组件130中可使用更少的led或更多的led。此外,多于两个摄像机组件可被合并至立体图像组件130,每个具有不同的放大率水平,但是全部聚焦在目标位置的相似点上。还包括功能元件119,用于向铰接探针系统10提供额外输入,以进一步增强铰接探针100的操纵和定位。这些功能元件的示例包括但不限于,加速计和陀螺仪。

依照本发明构思的一方面,led138a-138d可独立受控,以优化提供给操作者和给立体图像组件130的视野。基于从光学组件133a、133b接收到图像,处理器210,基于由图像处理组件220执行的图像分析,可改变由每个led138提供的光强,使得能够通过图像一致曝光。在另一实施方式中,光学组件的每个象限中的像素照明可被分析,并且相应led的输出受控以优化得出的图像。

图3是立体图像组件130的示意图,包括摄像机组件135a和135b。如图所示,摄像机组件135b包括透镜132a和光学组件133a。基于透镜132a的放大率水平,摄像机组件135a具有视野fov1。类似地,摄像机组件135b包括透镜132b和光学组件133b。基于透镜132b的放大率水平,摄像机组件135b具有视野fov2。在一个实施方式中,当透镜132a的放大率是透镜132b的放大率的两倍时,视野fov1是视野fov2的因子,例如是一半。透镜之间的放大率的不同比值将导致视野的不同的成比例的差异。例如,摄像机组件135a可具有40度视野且提供10x放大率,同时摄像机组件135b可具有80度视野且提供5x放大率。

每个摄像机组件135a和135b捕获的二维图像分别通过光学导线134a和134b被传送至图像处理组件220以及光学接收器221。依照本发明构思的一方面,接收的2d图像帧可被图像处理组件220处理,以产生相应的3d图像帧。这一进程主要在图4的流程图1000中示出。在步骤1002,目标区域的第一图像由摄像机组件135a获取,如上所述,其具有窄视野fov1。同时发生的,目标区域的相应第二图像由摄像机组件135b获取,其具有较宽视野fov2。在步骤1004,第二图像被处理,使得其匹配第一图像的视野。这一进程包含数字放大、或增加第二图像的变焦,使得它匹配第一图像的视野fov1。在步骤1006,使用第一、窄视野的视图和数字放大的第二图像,以传统方式产生3d图像。数字放大的第二图像用于向组合的3d图像的观察者提供深度信息。尽管当数字放大时丧失了第二图像的一些分辨率,已知的是,在3d成像场中,观察者可有效地感知3d图像同时观察到改变分辨率的图像。较高分辨率图像(窄视野图像,如上所述)向观察者提供清晰度,同时较低分辨率图像提供深度线索。因此,为了在个各实施方式中考虑的目的,铰接探针系统10有效地能够提供以窄视野摄像机的放大率水平的无损3d视频图像。

多摄像机系统还能够产生一图像,能够具有每个摄像机组件135a、135b的放大率水平之间的模拟连续放大率的范围,通过组合来自每个摄像机组件的图像数据。参考图5a-d描述各种放大率水平的图像的构造。图5a示出的由具有宽fov(fov2)透镜的摄像机组件135b获取的图像数据的图解表示,且图5b示出的是由具有窄视野fov(fov1)透镜的摄像机组件135a获取的图像数据的图解表示。如图5a所示,图像数据的表示包括更大的区域,然而,由于像素数量保持恒定,获取的图像的分辨率将降低,如图像正方形中的网格尺寸所示的。如图5b所示,当使用组件135a的窄fov(fov1)透镜时,获取的图像数据的区域更小且甚至分布在与前面提到的相同数量的像素上。这样带来了,比起由组件135b的宽fov(fov2)透镜获取的图像,具有更小区域但是更高分辨率的图像。继续上面的示例,图5a所示的宽foa2图像数据是图5b所示的窄fov1图像数据的两倍面积。

典型地,执行外科手术进程的使用者主要关心显示在显示器201上的可视工作空间的中部。在图5a的较低分辨率图像的中部插入图5b的较高分辨率图像,提供了关注区域的更好可视性。为了确保使用者仍然具有看到更大区域且工作的能力,低数据密度区域与高数据密度区域对齐且显示为“周边”。这一构造的示例在图5c中示出。

通过两个图像重叠,如图5c所示,最终“图像”的中心具有较高数据密度(每英寸的点数,或每英寸的代表像素),并且来自具有较低放大水平、或宽fov2的摄像机组件135b的外部,具有较低数据密度(每英寸的点数更少,或每英寸的代表像素更少)。为了模拟“放大的”或放大图像的尺寸类似于附图5a所示的由摄像机组件135b产生的图像尺寸,这一“图像”的一部分随后被选择(基于希望的放大水平)来显示给使用者,并且由於图卡显示图像,低数据密度的区域(周边图像数据)将比起高数据密度的区域(中心图像数据,相应于来自摄像机组件135a的fov1图像)更不清晰。

图5d示出了每个摄像机组件135a、135b对来自图像处理组件220的所得图像输出的图像源影响量,视乎为图像选择的放大率。虚线指示了摄像机组件135a、窄视野(fov1)摄像机的影响百分比,以及实线指示了摄像机组件135b、宽视野(fov2)摄像机的影响百分比。在相对放大率因子为1处,其在上述示例中是5x,从图像处理组件220输出的图像的50%包含由摄像机组件135a获取的图像以及图像的50%包含由摄像机组件135b获取的图像。这在图5c中在180示出。正如图5c中可见,总图像180的中间50%部分包括100%的来自摄像机组件135a的窄视野(fov1)图像,并且图像180的外50%包括100%的来自摄像机组件135b的宽视野(fov2)图像。然而,由于来自摄像机组件135a的图像数据覆盖或代替了中间50%的来自摄像机组件135b的图像数据,仅有50%的fov2图像被显示且对使用者可见。因此,在得到的图像180中,图像的中间50%包括来自摄像机组件135a的fov1图像,并且图像的外50%包括来自摄像机组件135b的fov2图像。

同样,在相对放大率因子为2处,其在上述示例中是10x,从图像处理组件220输出的图像的包含近似100%的由摄像机组件135a获取的fov1图像,具有近似0%的由摄像机组件135b获取的fov2图像。这在图5c中在182示出。在这一例子中,显示给使用者的图像可通过处理软件225成比例放大至适合被显示器201显示的大小。

在5x和10x之间的放大率水平处,由摄像机组件135a和135b获取的图像基于放大率水平的比例贡献给输出放大的图像。例如,对于在7.5x(或者相对放大率因子是1.5,在图5c中示出为184且在附图5d中示出为虚线)的输出图像,从图像处理组件220输出的图像的中间75%包括近似100%的由摄像机组件135a获取的fov1图像,并且图像的外25%包括由摄像机组件135b获取的fov2图像的一部分。为了在这一示例中衡量放大率因子1.5(7.5x放大率),外25%的fov2图像被修剪,以使得fov1图像能够对得到的图片184贡献更大百分比。由于来自摄像机组件135a的图像数据覆盖或代替了中间75%的来自摄像机组件135b的图像数据,仅有近似25%的fov2图像被显示且对使用者可见。

对于小于7.5x(或相对放大率因子为1.5)的输出图像,由窄视野摄像机组件135a获取的fov1图像组成了较低百分比的所得到输出图像,并且由宽视野摄像机组件135b获取的fov2图像组成了较高百分比的所得到的输出图像。同样,对于大于7.5x(或相对放大率因子为1.5)的输出图像,由窄视野摄像机组件135a获取的fov1图像组成了较高百分比的所得到输出图像,并且由宽视野摄像机组件135b获取的fov2图像组成了较低百分比的所得到的输出图像。

通常,由图像处理组件220输出的图像包括近似100%的由摄像机组件135a获取的fov1图像,其组成输出图像的近似50%至100%之间,取决于应用至输出图像的放大率因子。此外,取决于应用至输出图像的放大率因子,近似0%至50%之间的输出图像包括由摄像机组件135b获取的fov2图像的至少一部分。接近放大率因子为1的放大率将包括更大部分的fov2图像,同时接近放大率因子为2的放大率将包括更小部分的fov2图像。在每个例子中,得到的图像可通过处理软件225成比例放大或缩小至适合显示器201的大小。

在具有多于两个摄像机组件的实施方式中,更多的图像数据可被用于提供在由每个摄像机组件提供放大率之间的放大率所产生的变焦图像。

为了在连续变焦相位期间提供进一步的粒度,输出图像被进一步改进,具有多个图像处理特征,其提供了图像的数字增强。示例包括尺寸、细节、颜色和其它参数。

依照本发明构思的另一方面,立体图像组件130包括错误探测程序,其可提供用于铰接探针系统10的冗余特征。因此,在摄像机组件135a、135b的一者在程序期间失效的情形中,操作者将被给出选择来使用单一操作摄像机组件继续程序,例如通过使用由错误探测程序提供的覆盖功能。这一进程在附图6的流程图1400中指示。在步骤1402,使用具有两个摄像机组件135a、135b操作的铰接探针100开始程序。步骤1404,处理器210持续监测两个摄像机组件的功能。步骤1416,如果未探测到失效,步骤1410,操作者能够继续进程。

然而,在步骤1406,如果探测到摄像机组件135a、135b之一失效,在步骤1408,通过使用者界面230告知操作者该失效并且询问是否仅使用剩下的可操作摄像机组件继续程序。在步骤1412,如果操作者选择不继续,在步骤1406,程序终止,用于更换失效的摄像机组件。在步骤1412,如果操作者选择继续程序,该选择可通过使用者界面230通讯至处理器210,在步骤1414,程序以“单一摄像机模式”继续。在步骤1418,处理器210继续监测剩余摄像机组件的功能。在步骤1420,只要未探测到第二失效,在步骤1422,程序继续。在步骤1420,如果探测到第二失效,在步骤1416,程序终止。结合前述,失效可以是摄像机组件提供最佳品质图像的任何类型的能力退化,例如,完全机械或电失效或甚至是相关透镜被碎片弄脏妨碍了它的正确操作。

为了确保两个摄像机组件135a、135b正确操作,可进行系统诊断程序。限制将参考附图7的流程1500描述示例校准程序。在步骤1502,诊断程序开始。在步骤1504,使用第一摄像机组件135a获取目标物体的第一图像。获取的图像可以是任何目标物体或样式,其可被两个摄像机组件获取。目标应具有足够的细节,以使得能够进行摄像机组件的彻底诊断测试。在一个实施方式中,可在程序开始处使用校准目标30(附图1b)。在步骤1506,使用第二摄像机组件135b获取目标物体的第二图像。在步骤1508,第一和第二图像被图像处理组件220处理来识别图像的特征,并且在步骤1510,第一和第二图像的识别的特征被彼此比较。在步骤1512,如果第一和第二图像的识别的特征的比较是预期的(也就是,它们彼此相应,相对于每个摄像机组件的放大率特性),在步骤1514,系统被认为已经通过了诊断程序,并且程序被允许继续。然而,在步骤1512,如果比较显示第一和第二图像的特征不是预期的,在步骤1516,系统被认为诊断程序失败,在步骤1518,使用者或操作者被警告失败。

这一程序可在每个程序的开始处实施,且还可贯穿程序周期或连续实施。通过诊断程序获得的数据可被用于参考附图6描述的功能监测程序。

附图8是立体图像组件130的另一实施方式的端视图,从图1b的线113观察,其中,多组成对透镜可被操作,来结合相关的光学组件一起使用。末梢外环150a包括静止外壳154a和旋转透镜壳155a。立体图像组件130包括两个光学组件133a、133b。然而,旋转透镜壳155a包括四个透镜135a-135d,并且每个提供不同的视野和放大率水平。在一个实施方式中,正如将变得明显的,透镜135a和135b成对操作且透镜135c和135d成对操作。在图8中所示,在第一位置,透镜135a和135b分别在光学组件133a和133b之上。以这一定向,图像处理组件220从每个光学组件133a、133b接收图像且能够处理图像数据,以产生透镜135a放大率水平、透镜135b放大率水平、或它们之间的任何放大率水平的图像,使用上面所述的程序。在旋转透镜壳155a的这一位置中,透镜135c和135d并不在光学组件上,并因此,它们对立体图像组件130获取的图像并无贡献。

外环150a进一步包括电机(未示出),用于驱动齿轮151,其与旋转透镜壳155a的外齿结构156啮合。如上所述,透镜135a-135d具有不同的放大率水平。因此,为了改变由光学组件133a和133b获取的图像的变焦范围,旋转透镜壳155a通过驱动齿轮151围绕轴线152旋转90度,以分别在光学组件133b和133a上定位透镜135c和135d。比起由透镜135a和135b提供的,这样给立体图像组件130提供了不同范围的放大率。

图9是立体图像组件130的另一实施方式的端视图,如从图1b的线113看。末梢外环150b包括静止外壳154b和旋转透镜壳155b。立体图像组件130包括两个光学组件133a、133b。然而,旋转透镜壳155b包括阿尔瓦雷斯型可变焦透镜132′,而不是上文描述的多个透镜。外环150b进一步包括电机(未示出),用于驱动齿轮151,其与旋转透镜壳155b的外齿结构156啮合。为了给每个光学组件133a和133b提供不同水平的放大率,透镜132′的可移动部分可相对于透镜135′的固定部分、通过齿轮151、围绕轴线152旋转。透镜132构造得使得,可变的、已知水平的放大率被提供给每个光学组件133a和133b。使用这一结构获取图像的进程与上文所述的类似。

图10a-10c是立体图像组件130的另一实施方式的端视图,如从图1b的线113看,具有水平校正特征。在铰接探针100经过自然孔口或外科医生创造的孔口、经过组织朝向目标区域、被环扣环地操作至目标位置的过程期间,对于末梢外环的定向可能的是,容纳立体图像组件130,以旋转至“外科手术水平线”、或外科医生期望的实现平面外部的定位。换句话说,摄像机组件135a和135b的轴线相对摄像机组件135a和135b的期望平面定位变得歪斜。当这样发生时,非常难的是通过旋转整个铰接探针100来旋转立体图像组件130,并且还困难的是旋转3d图像。因此,重要的是,立体图像组件130可被容易且迅速地旋转,使得摄像机轴线与外科手术水平线对齐,既为了操作者的视觉定向目的,还为了使得系统能够获取正确的图像数据用于产生3d图像。

如在图10a中所示,摄像机轴线,通过摄像机轴线170指示,其评分摄像机组件135a和135b,且并不与外科手术水平线共线。然而,末梢外环160包括水平校正装置,其使得立体图像组件130能够围绕中心轴线162旋转,以校正立体图像组件130的定向以及使摄像机组件135a、135b与外科手术水平线排成一行。

立体图像组件130可在可旋转壳165内、在末梢环160的壳164内、围绕中心轴162旋转。偏转弹簧161连接至壳164的一端且另一端连接至立体图像组件130,以在两个部件之间提供偏转力。抵抗偏转力的是线性执行器163,也耦合在壳体164和立体图像组件130之间。线性执行器163包括具有一定长度的设备,其可被电力地或机械地控制,以使得它能够施加抵抗弹簧161提供的偏转力的力,其使得立体图像组件130能够被可控制地在壳体164中旋转。这一线性执行器的示例可以是螺线管设备、镍钛诺线或具有类似属性的其它设备。偏转弹簧161构造为允许从摄像机位置的已知量的正和负偏移,在该位置,平分摄像机组件135a和135b的轴线170与外科手术水平线对齐。这一位置在图10c中示出。在这一位置中,其也被指示为当箭头169垂直指向上,摄像机轴线170与外科手术水平线对齐。

回到参考图10a,示出的是一种情形,其中立体图像组件130从对齐的位置z倾斜了偏转弹簧161和线性执行器163允许的最大偏移x。如图所示,偏转弹簧161处于半释放状态,并且线性执行器163延伸至能够最大偏移x的长度。为了对齐摄像机轴170与外科手术水平线,线性执行器163的长度可被缩短并且立体图像组件130旋转,抵抗弹簧161的偏转力,直到摄像机轴170与外科手术水平线对齐。

附图10b示出了一种情形,其中立体图像组件130从对齐的位置z倾斜了偏转弹簧161和线性执行器163允许的最小偏移-x。如图所示,偏转弹簧161处于延伸状态,并且线性执行器163缩短至能够最小偏移-x的长度。为了对齐摄像机轴170与外科手术水平线,线性执行器163的长度增加并且立体图像组件130旋转,由弹簧161的偏转力辅助,直到摄像机轴170与外科手术水平线对齐。

图10c示出了立体图像组件130的中间位置,其中线性执行器163的长度已经操作为使得立体图像组件130旋转一量y至调整的位置,在此,摄像机轴线170和外科手术水平线对齐。

在外科手术过程中,光线需要可彻底且快速地改变。在一些情形中,完全照明外科手术区所需的光亮会超过与立体图像组件130关联的发光系统的能力。为了补偿低光或高光情形,光学组件133a、133b的曝光参数可被改变,以允许光学组件133a、133b中的传感器的像素更多或更少倍,以整合接收进入中继给图像处理组件220的信号的光子。例如,如果外科手术位置非常暗,传感器的曝光可增加以允许更多的光子到达传感器且产生更亮的图像。相反地,如果外科手术位置非常亮,传感器的曝光可缩短以允许更少的光到达传感器,带来较低可能性的传感器饱和。

尽管增加或降低曝光会在一个时间引起一种照明条件,在定位铰接探针100的情形中且在外科手术进程中,照明条件可迅速改变,或者在单一帧中的目标区域内。因此,可使用高动态范围进程,以使得操作者能够获取具有不同曝光的图像且将它们组合为优化的图片,经过光学组件补偿光线变化。为了实现这样,具有多重曝光设置的图像可通过使用不同曝光设置交替光学组件的传感器内的像素的水平排。

本发明构思的一方面是改进摄像机组件135a、135b在高动态范围情形中的的性能,同时满足机器外科手术的低延时需求。这将是,例如,当特定区域的图像由足够的光照非常好的曝光时,同时图像的其它区域欠曝光且较暗。在一个实施方式中,每个摄像机组件135a、135b的模式可被激活,其提供不同曝光的交替线。奇数像素行被构造较高的曝光时间,从而在较暗区域中获取更多的图像细节。偶数像素行被构造较低的曝光时间,从而在高照明区域中获取图像细节。将被理解的是,可依照本发明构思的各个方面利用像素行的任何构造和曝光的改变量。例如,每三个像素行可被构造为较高曝光时间,相对于它们之间的两个像素行的较低曝光时间。高或低曝光时间的任何组合相应于像素行的任何组合或构造,被认为是落入本发明构思的范围中。

图11是光学组件133a、133b的一者的传感器133′的示意图。在一个实施方式中,奇数像素排被设置为高曝光,且偶数像素排被设置为低曝光。在一个示例中,传感器133′的偶数像素排具有曝光时间t,同时奇数像素排具有曝光时间2t。这样,奇数像素排将聚集偶数像素排两倍的光。使用高动态范围技术,图像可被图像处理组件操纵,以提供改进的动态范围,通过使用图像的暗区的较亮像素和图像的量区的较暗像素。

在一个实施方式中,摄像机传感器133′的输出被如下处理:获取的图像或视频流被输入值常规图像处理装置,例如,fpga设计来执行融合(高和低曝光数据的组合)至单一处理的图像中。图像的任何饱和区域可被更好呈现,由于装置施加了更高权重至来自偶数像素行的低曝光数据。任何暗区可被更好呈现,由于装置施加了更高权重至来自奇数像素行的长曝光数据。该进程随后允许所得图像的额外的调和映射,以增强或降低对比度。该装置可使用帧缓冲器和/或行缓冲器,以存储用于在处理装置中处理的数据。该装置可实时处理视频,由于数据缓冲,仅有小的额外延迟。

这一进程在图12的流程图1800中概述。在步骤1802,使用具有改变曝光属性的传感器133′获取图像,如上文所述。在步骤1804,通过在曝光融合进程中在曝光的像素上或下组合,产生单一图像。这一进程在现有技术中是已知的且将不在此描述。在步骤1806,产生的图像随后显示给操作者。

正如上文参考图10a-10c描述的,系统10能够机械地旋转立体图像组件130,以对齐摄像机轴170与外科手术水平线。在特定状况中,需要数字旋转立体图像。然而,由于产生立体图像涉及的复杂性,从摄像机组件分别简单旋转每个图像不能给使用者提供可知觉的立体图像。

在标准2d图像旋转中,图像围绕本机映像的中心旋转,如图13a所示。这样产生了旋转视图的自然和非转移模拟。3d图像旋转需要额外的操纵来产生旋转视图的自然模拟。为了产生观察者可知觉的3d图像,立体摄像机系统必须模仿观察者的自然眼睛位置和方位的定向(例如,按比例模仿眼睛)。如图13b所示,围绕立体图像对的每个的中心的旋转将不能正确模仿人类头和眼睛的旋转(例如,倾斜),如附图13c所示,其中眼睛围绕单一中心轴旋转。围绕它的中心轴旋转每个图像将改变立体对之间的关系,其中将防止当由使用者观察的时候图像“收敛”、或者形成具有可知觉深度的图像。然而,围绕共同的中心轴数字旋转立体对表现出了各自的挑战。如图13d和13e所示,当围绕该对的中心旋转立体图像时,“旋转的”图像需要系统不知晓的关于目标区域的信息。需要这一信息来保持图像,其聚合为给使用者的3d图像。

依照本发明构思的一方面,上述问题可被矫正,其中通过产生情景的深度图,其提供了获取的图像的逐像素的深度表示。在一个实施方式中,摄像机组件135a、135b每个获取了目标区域的图像。由于摄像机组件在它们之间具有已知的距离,从每个摄像机组件观察,相对于一个参考点,将是彼此不同的。可相对参考点计算两个图像之间的差异,以产生深度图,其与两个图像之一结合,可被用于再生两个图像的第二者(例如,在已经执行了旋转之后,如在此描述的)。沿着一个图像的深度图可被独立旋转,使得再生的图像也旋转,并且该对可被显示为数字旋转的立体对。

限制参考图14a-14f,将描述深度图的产生,其被用于产生来自摄像机组件135a、135b的单独图像,以形成可旋转的立体图。图14a示出了一对工具20a和20b的“左眼”图像和“右眼”图像。左眼图像由第一摄像机组件获取且右眼图像由第二摄像机组件获取,在此,第一和第二摄像机组件处于不同位置且彼此间隔已知距离(例如,立体对)。如图14b中可见,工具20a′和20b′的位置在左眼图像和右眼图像中是不同的。每个图像的中心点“x”用作参考点,来确定该差异的范围。标记21a和21b分别包括在工具20a和20b上,以提供进一步的导航参考点,用于深度图的产生,如下文所述。

图14b示出了图14a的左眼和右眼图像(2d)的覆盖,以示出两个工具从中心的不一致,正如每个摄像机看到的。如图所示,实线的工具20a和20b表示来自图14a的左眼图像的数据,并且虚线的工具20a′和20b′表示来自图14a的右眼图像的数据。这一信息由图像处理组件220和软件225使用以产生深度图,如图14c所示。正如看到的,物体22a表示了图14a的左眼图的工具20a的深度数据,以及物体22b表示了图14a的左眼图像的工具20b的深度数据。

工具与左眼和右眼图像(2d)中间的位置不一致越大,物体(或者组成物体的像素)与成像系统的关联的深度越大。因此,如图14c所示,较暗颜色的像素表示距离立体摄像机对更远的图像的部分,并且较亮颜色的像素表示更接近立体成像对的图像的部分。因此,在图14c中,基于物体22a从亮至暗的梯度,系统可确定工具20a的尖端比起工具20a的基端更远离立体摄像机对。相反,由于在图14c中构成物体22b的像素颜色基本相同,可以确定工具20b基本平行于立体摄像机对。图14b示出了左眼,其与图14c的深度图结合,可被图像处理组件220处理,以再生图14a的“右眼”图像。

图14e和14f是进一步示出了上文所述的深度图构思的图形。图14e示出了以上文参考图14a-14d描述的相同方式获取的图像的深度图。软件225检查左图和右图,确定逐像素深度图,其中通过识别每个图像中的相似像素,确定距中心的不一致,且产生竞争深度图。如图所示,更暗的像素表示距摄像机组件更远的图像数据,同时更亮的像素表示更接近摄像机组件的图像数据。这一深度图数据与图14f的图像(例如,“左眼”图像)组合,以再生“右眼”图像,产生显示给使用者的感知为3d图像的立体图像对。

图15是流程图1900,示出了在上文所述的利用深度图的进程中的步骤,以产生可被数字旋转的立体图像。在步骤1902,如果立体成像组件130在程序中位于不希望的旋转的方位(例如,摄像机轴不与外科手术水平线对齐),可如上所述的产生目标区域的深度图。在步骤1904,由摄像机组件135a、135b的一者获取的第一图像被旋转至正确的视角,在此,摄像机轴与外科手术水平线对齐。在步骤1906,旋转矩阵随后被应用至深度图以旋转它,来与旋转的图像对齐,并且深度图被应用至第一旋转的图像,以产生相应于摄像机组件的另一者的第二旋转的图像,得到在期望的水平方位中的3d立体图像。

替代地,可使用图像传感器来获取2d图像以及已经与图像传感器对齐的“飞行时间”传感器,产生深度图。“飞行时间”传感器可提供每个像素的深度并且软件可对齐2d图像与从飞行时间传感器接收的数据,以产生深度图。另一系统可包括,包含用于发射已知光图的发光设备、以及用于探测目标区域上的光图的图像传感器的系统。该系统随后计算由图像传感器探测的光图比起已经发射的已知光图的差异,并且计算深度图。

图16是依照本发明构思的实施方式,铰接探针系统10的透视示意图。系统10包括铰接探针100,包含立体成像组件130,如在此描述的。在一些实施方式中,铰接探针系统10包括供应器单元300和界面单元200(还称为控制台200)。供应器单元300,还称为供应机构,可在供应器支撑臂305处被安装至供应器舱302。供应器支撑臂305可调节高度,例如通过曲柄把手307的旋转,其可操作地连接至垂直高度调整器304,其滑动地连接供应器支撑臂305至供应器舱302。供应器支撑臂305可包括一个或多个子臂或部分,其在一个或多个机械关节305b处相对彼此枢转,其可以是通过一个或多个相关的连接设备锁定的和/或未锁定的夹子306。这一结构允许了用于相对病人位置定位供应器单元300的角度范围、定向位置、运动角度等等。在一些实施方式中,一个或多个供应器支撑305a被附加在供应器支撑臂305和供应器单元300之间,例如来部分支撑供应器单元300的重量,以缓解相对于供应器支撑臂305定位供应器单元300(例如,当供应器支撑臂305的一个或多个关节305b处于未锁定位置时,允许供应器单元300的操纵)。供应器支撑305a包括液压或气压支撑活塞,类似于用于机动车或卡车的支撑尾门的气压弹簧。在一些实施方式中,供应器支撑臂305的两个部分通过支撑活塞(未示出)被连接,例如位于两部分之一的支撑活塞,例如来支撑供应器单元300的重量,或者仅是简单的基座组件320。供应器单元300包括基座组件320和供应器顶部组件330,其可拆除地可连接至基座组件320。在一些实施方式中,第一供应器顶部组件330可在一次或多次使用之后被另一或第二顶部组件330代替(例如,以可丢弃方式)。一次使用可包括执行的单一程序或一个病人或在相同病人身上执行的多次程序。在一些实施方式中,基座组件320和顶部组件330彼此固定连接。

顶部组件330包括铰接探针100,例如包括环组件,包括具有多个内环的内环机构,以及具有多个外环的外环机构,如在此结合多个实施方式描述的,如在下文参考图17a-17c描述的。在一些实施方式中,铰接探针100包括铰接环的内部机构以及铰接环的外部机构,例如在申请人的国际合作条约pct申请号pct/us2012/70924、申请日为2012年12月20日,或者美国专利申请14/364,195、申请日为2014年6月10日中描述的那些,其内容通过全部内容的参考合并在此。探针100的位置、结构和/或方位通过位于基座组件320中的多个驱动电机和线缆操纵,如上文在图1中描述的。供应器舱302可被安装在轮302上,以允许它的位置的手动操纵。供应器车轮302a可包括一个或多个锁定特征,用于在铰接探针100、基座组件320和/或供应器单元300的其它元件的操纵或运动之后将舱302锁定在位。在一些实施方式中,将供应器单元300安装至可移动供应器舱302是有利的,例如给操作者提供位置选择的范围,提供供应器单元300相对操作桌或其它固定结构的相对安装。供应器单元300可包括功能元件309,如上文参考图1描述的。

在一些实施方式中,基座组件320可操作地连接至界面单元200,这种连接典型地包括电力线、光纤或无线通讯,用于传输动力和/或数据,或机械传输导线,例如机械连接或气压/液压传输管、示出的导线301。界面单元200包括使用者界面230,包括人机界面设备hid202,用于接收来自外科医生、技术员和/或系统10的其它操作者的触摸指令,以及显示器201用于提供视觉和/或听觉反馈。界面单元200同样可位于界面舱205上,其安装在轮205a(例如,可锁轮)上,以允许它的位置的手动操纵。基座组件320可包括处理器210,包括图像处理单元220和软件225,如上文参考图1描述的。基座组件320可进一步包括功能元件209,同样如上文所述的。

图17a-17c是依照本发明构思的实施方式,高度铰接探针设备的图形演示。依照图17a-17a所示实施方式,高度铰接机器探针100,本质上包括两个同心机构,一个外部机构和一个内部机构,每个可被看作是可转向机构。图17a-17c示出了铰接探针100的不同实施方式如何操作。参考图17a,内部机构可被称为第一机构或内环机构120。外机构可被称为第二机构或外环机构110。每个机构可在刚性和柔性状态之间交替。在刚性模式或状态中,机构是刚性的。在柔性模式或状态中,机构是高度柔性的,并因此既可假设它的周围形状,或可被重成形。应注意到,在此使用的术语“柔性”并不必然指定了一结构,其基于重力和它周围环境的形状被动假设了特定结构;相反,在这一申请中描述的“柔性”结构能够假设设备的操作者希望的位置和构造,并因此是铰接和受控的,而不是软弱的和被动的。

在一些实施方式中,一个机构开始柔性且另一个开始刚性。为了解释的缘故,假设外环机构110是刚性的且内环机构120是柔性的,如在图17a的步骤1看到的。现在,内环机构120被供应组件102(参见,例如图16)向前推动,在此所述的,且它的“头部”或末端被转向,如在图17a的步骤2中看到的。现在,内环机构120为刚性且外环机构440为柔性。外环机构110随后被向前推动,直到其赶上或与内环机构120同时延伸,如在图17a的步骤3中看到的。现在,外环机构110为刚性,内环机构120为柔性,并且程序随后重复。这一方法的一个变形是外环机构110还是可转向的。这种设备的操作在图17b中示出。在图17b中看到,每个机构能够赶上彼此且随后前进超过一个环。依照一个实施方式,外环机构110是可转向的且内环机构120不是。这种设备的操作在图17c中示出。

在医学应用、操作、程序等等中,一旦探针100到达期望位置,操作者,例如外科医生,可通过外环机构110、内环机构120的一个或多个工作通道,或形成在外环机构110和内环机构120之间的一个或多个工作动刀,滑动一个或多个工具,例如来执行各种诊断和/或治疗程序。在一些实施方式中,该通道被称为工作通道,其可以,例如,在形成在外环的系统中的第一凹处和形成在内环的系统中的第二凹处之间延伸。工作通道可被包含在铰接探针100的周边,例如工作通道包括一个或多个从外环机构110延伸的径向突起,这些突起包括一个或多个孔,大小为滑动地接收一个或多个工具。正如参考其他实施方式描述的,工作通道可以是铰接探针100的外部位置。

除了临床进程,例如外科手术,铰接探针100可被用于多种应用,包括但不限于:发动机检查、修理或改装;油箱检查和修理;监视应用;解除炸弹武装;在例如潜艇舱室或核武器等密闭空间进行检查或修理;建筑物检查等结构检查;危险废物补救;生物样品和毒素回收;及其组合。清楚地,本公开的发备具有广泛的多种应用,且不应被看作被限制于任何特定应用。

内环机构120和/或外环机构110是可转向的,且内环机构120和外环机构110每个可被制得既刚性又柔性,允许铰接探针100在三维中任何位置驱动同时是自支撑的。铰接探针100可“记忆”每个它的先前构造,且为了这一理由,铰接探针100可从三维体积、例如患者(例如人类患者)身体中内腔空间中的任何位置缩回和/或缩回至任何位置。

内环机构120和外环机构110每个包括一系列环,即分别是内环121和外环111,其相对彼此铰接。在一些实施方式中,外环用于转向和锁定探针,同时内环用于锁定铰接探针100。在“跟随指挥”方式中,尽管内环121被锁定,外环111前进超过最末梢的内环122。外环111通过系统转向线缆转向入位,且随后通过锁定转向线缆被锁定。内环121的线缆随后被释放且内环121前进来跟随外环。该程序以这一方式前进,直到到达了希望的位置和方位。组合的内环121和外环111包括工作通道,用于在外科手术位置临时或永久插入工具。在一些实施方式中,工具可在探针定位期间跟随环前进。在一些实施方式中,工具可通过跟随探针定位的环被插入。

在操作者控制的转向操纵开始之前,一个或多个外环111可前进超过最末梢内环,使得延伸超过最末梢内环的数量将基于转向指令被集体铰接。多个环转向可被用于降低程序时间,例如当不需要特殊单一环转向时。在一些实施方式中,可选择2至20个之间的外环同步转向,例如2至10之间的外环或2至7之间的外环。用于转向的环的数量相应于可完成的转向路径,使用更少数量能够得到更特殊的探针100的曲率。在一些实施方式中,操作者可选择用于转向的环数(例如,在1至10环之间选择,以在每个转向操纵之前前进)。

尽管已经描述了与外科探针设备结合使用的发明构思,将被理解的是,其同样适用于与任何类型的设备结合使用,在此,立体成像是有利的或希望的,例如视线机器人500,包括工具520a、520b和摄像机组件530,如图18所示,以及内窥镜600,具有包括摄像机组件630的范围602,如图19所示。

图20是依照本发明构思的实施方式,成像组件和界面单元的的示意图。正如在此描述的,成像组件130′包括一个或多个光学组件133(例如,立体成像组件包括两个光学组件)。在一些实施方式中,每个光学组件133包括一个或多个电子部件,例如ccd或cmos部件。在这些实施方式中,成像组件130′包括电路140,需要动力源以使它执行功能。可通过携带的电池提供动力,和/或通过连接至外部动力源、例如集成至如上所述的控制台或基座组件的动力源的动力输送线。在图20示出的实施方式中,通过包括一个或多个线束对、例如一个或多个扭转对的光学导线134′,从界面单元200提供动力。通过相同的光学导线134′(即,相同的传输动力和数据二者的两线束)在成像组件130′和界面单元200之间传输数字光学数据。界面单元200包括电路240,其包括动力传输组件250。动力传输组件250可包括电压调节器251、反馈电路252、组合器253、电感器254,构造为通过导线134′向电路140提供动力源。电感器254选择为在导管线134′上限制300-400mhz的信号噪声。

电路140包括电压调节器141和电感器144。电压调节器141构造为从传输组件250接收动力且向电路140提供动力。电压调节器141包括低压差(ldo)电压调节器,构造为降低提供给电路140的电压。调节器141构造为为光学组件133提供干净、稳定的电压轨。电感器144选择为在导线134′上限制300-400mhz的信号噪声。电路140进一步包括差分信号驱动器142,其从光学组件133接收光学数据。差分信号驱动器142通过ac耦合数据至导线134′来传输接收的光学数据至差分信号接收器242。差分信号接收器242可从导线134′分离光学数据,且传输该数据至处理器210的图像处理组件220。

尽管已经参考它们开发的环境描述了设备和方法的优选实施方式,它们仅是对本发明构思的原则的示意。上述组件的修改或组合,其它实施方式、构造和用于执行本发明的方法,以及本发明的多方面的变形,其对本领域技术人员是显而易见的,都意图落入权利要求的范围中。此外,这一申请已经列出的以特定次序的方法或进程的步骤,可能的是,或甚至在特定环境中是方便的,来改变一些步骤执行的次序,并且意图的是,权利要求在下文阐述的方法或进程的特定步骤,并不解释为特定次序,除非这一特定次序在权利要求中清楚地陈述了。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1