手术机器人系统及其腹腔镜操作方法以及体感式手术用图像处理装置及其方法_3

文档序号:9358864阅读:来源:国知局
0的情况,但是,接面部210由透视其后面的图像的材料形成时,也可以省略形成接目部220。施术者能够透视接面部210后面的图像的接面部210,例如由透明材料形成,或者也可以涂有偏振模或由用于观看3D IMAX电影的墨镜等透光性材料形成。
[0190]腹腔镜显示部20可以构成为,不仅具有作为用于施术者通过接目部220确认来自腹腔镜5图像的显示装置的功能,同时具有作为用于控制腹腔镜5位置和图像输入角度的控制命令输入部的功能。
[0191]在腹腔镜显示部20的接面部210突出形成有多个支承部230、240,以便施术者的面部接触或接近该支承部230、240,从而能够识别施术者的面部运动。例如,在上部形成的支承部230与施术者的额头接触,以能够用于固定额头位置,而在侧部形成的支承部240与施术者的眼睛下方部位(例如颧骨部位)接触,以能够用于固定面部位置。在图2中例示出的支承部的位置及数量是例示的,支承部的位置或形状可以有多种,例如下颚固定用托架、面部左右托架290等,支承部的数量也可以不同。面部左右托架的情况,例如可以以条状或板状等形状形成,面部向左侧或右侧运动时,进行支承以使接面部210向对应方向运动。
[0192]通过如此形成的支承部230、240,施术者的面部位置被固定,若施术者在通过接目部220观看来自腹腔镜5的图像的过程中向任一方向转动面部,则能够检测到该面部运动而将其作为用于调节腹腔镜5的位置及/或图像输入角度的输入信息利用。例如,当施术者想要确认当前以图像显示的手术部位的左侧部位(即,位于显示画面左侧的部位)时,只要面部朝向左侧的相对转动头部,就能够控制腹腔镜5进行与其相应操作而输出该部位的图像。
[0193]S卩,腹腔镜显示部20的接面部210与主界面4结合构成,以便随着施术者的面部运动,其位置和/或角度变更。为此,主界面4和腹腔镜显示部20的接面部210可以通过游动部250彼此结合。游动部250例如可以由弹性体形成,以便于改变腹腔镜显示部20的位置及/或角度,而且解除施术者面部运动施加的外力的情况下能够恢复到原状态。此外,游动部250由非弹性体形成的情况,也可以通过腹腔镜显示部20控制原状恢复部(参照图9)来使腹腔镜显示部20恢复到原状态。
[0194]通过游动部250接面部210可以操作成,在由XYZ轴形成的三维空间中,以虚拟中心点和坐标为基准,向直线方向移动,或向任一方向(例如顺时针方向、逆时针方向等中的一种以上)旋转移动。在此,虚拟中心点可以是接面部210内的任一点或轴,例如可以是接面部210的中心点。
[0195]在图3至图6中例示出接面部210的运动形态。
[0196]施术者的面部运动方向与X、Y或Z轴平行时,如图3所示,接面部210向面部运动施加力的方向平行移动。
[0197]施术者的面部运动方向为在X-Y平面上旋转的情况,如图5所例示,接面部210以基准轴为中心向面部运动施加力的方向旋转移动。此时,根据施加力的方向,接面部210可以向顺时针或逆时针方向旋转移动。
[0198]根据施术者面部运动的力向Χ、Υ和Z轴中的两个轴施加时,如图6所例示,接面部210以虚拟中心点和施加力的两个轴为基准进行旋转移动。
[0199]如此,接面部210以垂直/水平方向移动及旋转移动,根据面部移动施加的力的方向来决定,也可以如上所述的一种以上的运动形态组合来表示。
[0200]在下面参照相关附图详细说明腹腔镜显示部20检测施术者面部运动而生成相应的操作命令的方法及构成。
[0201]如图1和图2所例示,主界面4具有主操纵器,以便施术者用双手分别把持进行操作。主操纵器可以具有两个手柄10,或其以上数量的手柄10,随着施术者操作手柄10,相应操作信号传送到从机器人2,从而控制机器臂3。可以通过施术者操作手柄10来进行机器臂3的位置移动、旋转、切割作业等手术动作。
[0202]例如,手柄10可以包括主手柄(main handle)和副手柄(sub handle)。施术者可以仅通过主手柄操作从机器臂3或腹腔镜5等,或者也可以操作副手柄同时使多个手术设备进行实时操作。主手柄及副手柄根据其操作方式可以具有多种机械结构,例如,可以使用操纵杆形式、键盘、跟踪球、触摸屏等用于使从机器人2的机器臂3及/或其它手术设备动作的多种输入单元。
[0203]主操纵器并不限定于手柄10形状,只要是通过网络能够控制机器臂3动作的形式,均可不受限制地适用。
[0204]主机器人I和从机器人2可以通过有线通信网或无线通信网相连接,从而将操作信号、通过腹腔镜5输入的腹腔镜图像等传送给对方。如果,需要在相同及/或相近时间传送通过主界面4上所具有的多个手柄10的多个操作信号及/或用于调节腹腔镜5的操作信号时,各操作信号可以彼此独立地传送到从机器人2。在此,各操作信号‘独立’传送是表示,操作信号之间彼此不干扰,一个操作信号不会影响另一个操作信号。这样的,为了彼此独立地传送多个操作信号,可以利用如下不同方式,在生成各操作信号的阶段对各操作信号赋予标题信息进行传送,或者使各操作信息根据其生成顺序进行传送,或者关于各操作信息的传送顺序预定优先顺序并根据其顺序进行传送等。此时,可以独立地具有传送各操作信息的传送路径,从而从本质上防止各操作信号之间干扰。
[0205]从机器人2的机器臂3可以具有多自由度地驱动。机器臂3例如可以包括:手术工具,插入在患者的手术部位;偏转驱动部,根据手术位置以使手术工具向偏转(yaw)方向旋转;俯仰驱动部,向与偏转驱动部的旋转驱动正交的俯仰(pitch)方向旋转手术工具;移送驱动部,向长度方向移动手术工具;旋转驱动部,用于旋转手术工具;手术工具驱动部,设在手术工具的末端,用于切开或切割手术病灶。但是,机器臂3的结构并不限定于此,应该理解为,本发明的保护范围并不限定于这些例示。此外,施术者通过操作手柄10使机器臂3向对应方向旋转、移动等实际控制过程,与本发明的要旨有一定距离,故省略对其的详细说明。
[0206]为了对患者进行手术,可以利用一个以上的从机器人2,而用于将手术部位以便能够通过接面部220确认的图像(即画面图像)显示的腹腔镜5也可以由独立的从机器人2来实现。此外,如上所述,本发明的实施例可以广泛应用于利用除腹腔镜之外的各种手术用内窥镜(例如胸腔镜、关节镜、鼻镜等)的手术中。
[0207]图7是概略示出本发明的一实施例涉及的用于生成腹腔镜操作命令的腹腔镜显示部的构成的框图,图8是示出本发明的一实施例涉及的腹腔镜操作命令传送方法的流程图。
[0208]参照图7,腹腔镜显示部20包括运动检测部310、操作命令生成部320和传送部330。除此之外,腹腔镜显示部20还可以包括施术者通过接目部220能够视觉识别由腹腔镜5输入的手术部位图像的构成要素,但这些与本发明的要旨有一定距离,故省略对其的说明。
[0209]运动检测部310,通过检测施术者将面部接触于接面部210的支承部230 (及/或240)的状态下向某方向移动面部,来输出传感信息。运动检测部310可以包括用于检测面部运动方向及大小(例如距离)的传感单元。传感单元只要是能够检测接面部210向某方向运动多少的传感单元即可,例如,可以是用于检测支承接面部210的具有弹性的游动部250向某方向拉伸多少的传感器,或者设在主机器人I的内侧,以用于检测在接面部210内侧表面形成的特定点接近或/及旋转多少的传感器等。
[0210]操作命令生成部320利用从运动检测部310接收的传感信息来解析施术者的面部运动方向及大小,并根据解析结果生成用于控制腹腔镜5位置及图像输入角度的操作命令。
[0211 ] 传送部330将通过操作命令生成部320生成的操作命令传送给从机器人2,以便操作腹腔镜5的位置及图像输入角度,以提供相应的图像。为了传送用于操作机器臂3的操作命令,传送部330也可以是主机器人I所具有的传送部。
[0212]图8中示出了本发明的一实施例涉及的腹腔镜操作命令传送方法。
[0213]参照图8,在步骤410中,腹腔镜显示部20检测到施术者的面部运动,则转到步骤420,利用通过检测面部运动所生成的传感信息来生成用于操作腹腔镜5的操作命令。
[0214]接着,在步骤430中,将在步骤420中生成的用于操作腹腔镜5的操作命令传送给从机器人2。
[0215]在此,通过操作腹腔镜5所生成的操作命令,也可以对主机器人I执行特定动作的作用。例如,通过检测面部旋转来旋转腹腔镜5时,有关旋转的操作命令传送给从机器人2的同时,使主机器人I的操作手柄方向也与其相应地变更,从而能够保持施术者的直观性和手术便利性。例如,若检测到接面部210的旋转信号,则腹腔镜5根据生成的操作信号进行旋转,此时,屏幕上显示的图像及其图像上看到的手术用工具的位置可能与当前操作手柄的手的位置不一致,所以可以执行移动操作手柄位置的动作,以使与屏幕上显示的手术用工具的位置一致。如此控制操作手柄方向,不仅可以是接面部210旋转运动时适用,只要是屏幕上显示的手术用工具的位置/方向与实际操作手柄的位置/方向不一致的情况,直线运动时也同样可以适用。
[0216]图9是概略示出本发明的另一实施例涉及的用于生成腹腔镜操作命令的腹腔镜显示部的构成的框图,图10是示出本发明的另一实施例涉及的腹腔镜操作命令传送方法的流程图。
[0217]参照图9,腹腔镜显示部20可以包括运动检测部310、操作命令生成部320、传送部330、接触检测部510、原状恢复部520。
[0218]示出的运动检测部310、操作命令生成部320和传送部330在前面参照图7进行了说明,故省略对其的说明。但是,运动检测部310作为接触检测部510的传感信息识别到施术者面部接触于支承部230 (或/及240)的期间能够执行动作。
[0219]接触检测部510通过检测施术者的面部是否接触于支承部230 (或/及240)来输出传感信息。为此,例如,在支承部的端部可以具有接触检测传感器,除此之外,也可以适用能够检测面部是否接触的各种检测方式。
[0220]原状恢复部520作为接触检测部的传感信息识别到施术者的面部与支承部230 (或/及240)的接触结束了时,通过控制电机驱动部530来使接面部210恢复到原状态。原状恢复部520可以包括在下面说明的电机驱动部530。
[0221]在图9中例示出,作为使接面部210恢复到原状态的动作单元利用电机的电机驱动部530,但用于实现相同目的的动作单元并不限定于此。例如,也可以通过气压或液压等各种方法使接面部210恢复到原状态的进行处理。
[0222]原状恢复部520,例如可以利用有关接面部210基准状态(即位置及/或角度)的信息来控制电机驱动部530,或者利用根据操作命令生成部320解析的面部运动方向及大小来控制电机驱动部530向其反方向及大小操作,从而使接面部210恢复到原位置。
[0223]例如,施术者为了确认与当前以图像显示的手术部位不同的部位或对该部位采取措施而向该方向转动面部(接面部210也相应移动或旋转)以使腹腔镜5被相应操作的状态下,若检测到面部对接面部210的接触结束时,原状恢复部520可以控制电机驱动部530,使接面部210恢复到指定为默认(default)的基准状态。
[0224]电机驱动部530可以包括通过控制原状恢复部520而旋转的电机,电机驱动部530和接面部210彼此结合,以便通过电机的旋转能够调节接面部210的状态(即位置及/或角度)。电机驱动部530可以收纳在主界面4的内侧。电机驱动部530所包括的电机,例如可以是用于能够进行多自由度(degree of freedom)运动的球形电机,为了消除倾斜角度的极限,球形电机的支承结构由球形轴承和圆形转子构成,或者也可以构成为具有用于支承圆形转子的三个自由度的框架结构。
[0225]即使接面部210通过上述各构成要素的动作恢复到原状态,操作命令生成部320不会生成及传送对于其的操作命令,所以通过腹腔镜5输入并输出的图像不会改变。因此,能够保持之后施术者通过接目部220确认腹腔镜5图像同时进行手术的一致性。
[0226]至此,参照图9说明了通过操作电机驱动部530来实现腹腔镜显示部20的接目部210恢复原状态的情况,但解除施术者面部运动施加的外力时,也可以通过具有弹力的弹性体材料的游动部250来恢复到原状态。接面部210通过弹力恢复到原状态时,用于操作腹腔镜5的操作信号也不会生成。
[0227]在图10中示出了本发明的另一实施例涉及的腹腔镜操作命令传送方法。
[0228]参照图10,在步骤410中,腹腔镜显示部20检测到施术者的面部运动,则转到步骤420,利用通过检测面部运动所生成的传感信息来生成用于操作腹腔镜5的操作命令。之后,在步骤430中,将在步骤420中生成的用于操作腹腔镜5的操作命令传送给从机器人2。
[0229]接着,在步骤610中,腹腔镜显示部20判断施术者对接面部210的接触是否解除。若保持接触状态时,再次转到步骤410,若接触状态解除时,转到步骤620,以控制接面部210恢复到原位置。
[0230]图11是概略示出本发明的另一实施例涉及的用于生成腹腔镜操作命令的腹腔镜显示部的构成的框图。
[0231]参照图11,腹腔镜显示部20可以包括接触检测部510、摄像部710、存储部720、眼球跟踪部730、操作命令生成部320、传送部330和控制部740。
[0232]接触检测部510通过检测施术者的面部是否接触于在接面部210突出形成的支承部230 (或/及240)来输出传感信息。
[0233]摄像部710根据接触检测部510的传感信息检测到施术者的面部与接面部210接触了时实时拍摄施术者眼睛的图像。摄像部710可以配置成,在主界面4的内侧能够拍摄通过接目部220看到的施术者眼睛。通过摄像部710拍摄到的有关施术者眼睛的图像存储在存储部720,以便眼球跟踪部730进行眼球跟踪(eye tracking)处理。
[0234]通过摄像部710拍摄的图像只要是眼球跟踪部730能够进行眼球跟踪(eyetracking)处理的即可,也可以执行用于处理眼球跟踪部730的所需预处理之后存储在存储部720。用于眼球跟踪处理的图像生成方法及生成的图像类型,对于本领域的技术人员来说是显而易见的,故省略对其的说明。
[0235]眼球跟踪部730将以实时或规定周期存储在存储部720的图像按时间顺序进行比较分析,并解析施术者瞳孔位置变化及其注视方向来输出解析信息。此外,眼球跟踪部730也可以解析瞳孔模样(例如,眨眼等)来输出对其的解析信息。
[0236]操作命令生成部320参照眼球跟踪部730的解析信息来生成操作命令,该操作命令用于控制腹腔镜5的位置及/或图像输入角度,以便施术者的注视方向变化时与其相对应。此外,若瞳孔模样变化是用于输入预定命令的,则操作命令生成部320也可以生成对于此的操作命令。例如,根据瞳孔模样变化的指定命令,可以预定为例如连续眨两次右眼时腹腔镜5接近手术部位,连续眨两次左眼时向顺时针方向旋转等。
[0237]传送部330将由操作命令生成部320生成的操作命令传送给从机器人2,以便操作腹腔镜5的位置和图像输入角度,以提供相应图像。为了传送用于操作机器臂3的操作命令,传送部330也可以是已经设在主机器人I的传送部。
[0238]控制部740控制所述各构成要素执行指定动作。
[0239]至此,参照图11说明了利用眼球跟踪技术识别及处理瞳孔运动的腹腔镜显示部20。但是,并不限定于此,腹腔镜显示部20也可以以检测施术者面部自身的运动来进行识别及处理的方式实现。作为一例,也可以由摄像部710拍摄面部图像,若由分析处理部代替眼球跟踪部730解析拍摄图像中的特定点(例如,两眼位置、鼻子位置、人中位置等中一个以上)的位置及变化,则操作命令生成部320生成与其相应的操作命令。
[0240]图12是示出本发明的另一实施例涉及的腹腔镜操作命令传送方法的流程图。
[0241]参照图12,在步骤810中,若腹腔镜显示部20通过接触检测部510检测到施术者面部接触,则激活摄像部710生成有关通过接目部220看到的施术者眼睛的数字图像数据,并存储在存储部720。
[0242]在步骤820中,腹腔镜显示部20通过比较判断以实时或规定周期存储在存储部720的数字图像数据来生成有关施术者瞳孔位置及注视方向变化的解析信息。比较判断时,腹腔镜显示部20允许有一定误差,所以在规定范围内的位置信息变化,也可以识别为瞳孔位置未发生变化。
[0243]在步骤830中,腹腔镜显示部20判断施术者变更的注视方向是否维持了预定临界时间以上。
[0244]若变更的注视方向维持了临界时间以上,则在步骤840中,腹腔镜显示部20生成用于操作腹腔镜5能够接收该位置图像的操作命令,而传送给从机器人2。在此,临界时间可以设定为,根据施术者的瞳孔颤动或用于综合确认手术部位整体等的瞳孔运动,腹腔镜5不会被操作的时间,该时间值也可以根据试验、统计设定,或根据施术者等设定。
[0245]但是,变更的注视方向没有维持临界时间以上,则再次转到步骤810。
[0246]图13是示出本发明的另一实施例涉及的腹腔镜操作命令传送方法的流程图,图14是例示出本发明的实施例涉及的腹腔镜显示部的图像显示形式的示意图。
[0247]参照图13,在步骤810中,若腹腔镜显示部20通过接触检测部510检测到施术者面部接触,则激活摄像部710生成有关通过接目部220看到的施术者眼睛的数字图像数据,并存储在存储部720。
[0248]在步骤820中,腹腔镜显示部20通过比较判断以实时或规定周期存储在存储部720的数字图像数据来生成有关施术者瞳孔位置及注视方向变化的解析信息。
[0249]在步骤910中,腹腔镜显示部20判断施术者的注视方向是否为预定的设定。
[0250]在图14中例示出腹腔镜显示部20的图像显示形式。
[0251]如图14所例示,施术者可以通过接目部220确认通过腹腔镜5提供的影像图像1010,该影像图像可以包括手术部位和器械1020。此外,腹腔镜显示部20的图像,可以重叠显示施术者的注视位置1030,也可以一同显示设定位置。
[0252]作为设定位置可以包括外轮廓边1040、第一旋转指示位置1050和第二旋转指示位置1060等中的一个以上。例如,施术者注视位于外轮廓边1040中任一方向的边临界时间以上时,能够控制腹腔镜5向该方向移动。即,若注视外轮廓边1040中的左侧边临界时间以上时,为了拍摄比当前显示位置位于左侧的部位,能够控制腹腔镜5向左侧移动。此夕卜,若施术者注视第一旋转指示位置1050临界时间以上时,也可以控制腹腔镜向逆时针方向旋转,若施术者注视第二旋转指示位置1060临界时间以上时,控制腹腔镜向顺时针方向旋转。
[0253]再次参照图13,施术者注视位置不是上述设定的位置时,再次转到步骤810。
[0254]但是,再次参照图13,施术者注视位置为上述设定的位置时,转到步骤920,判断施术者注视是否维持了预定的临界时间以上。
[0255]如果施术者对设定位置的注视维持了临界时间以上时,在步骤930中,腹腔镜显示部20使腹腔镜5根据指定命令对该设定位置进行操作的生成操作命令,而传送给从机器人2。
[0256]但是,如果施术者对该设定位置的注视没有维持临界时间以上时,再次转到步骤810。
[0257]图15是示出本发明的另一实施例涉及的腹腔镜操作命令传送方法的流程图。
[0258]参照图15,在步骤810中,若腹腔镜显示部20通过接触检测部510检测到施术者面部接触,则激活摄像部710生成有关通过接目部220看到的施术者眼睛的数字图像数据,并存储在存储部720。
[0259]在步骤1110中,腹腔镜显示部20通过比较判断以实时或规定周期存储在存储部720的图像信息来生成有关运行者眼睛模样变化的解析信息。例如,解析信息可以是有关在规定时间内施术者眼睛眨了几次,若眨眼时哪只眼睛眨眼等的信息。
[0260]在步骤1120中,腹腔镜显示部20判断有关眼睛模样变化的解析信息是否满足预定的指定条件。例如,根据眼睛模样变化的指定条件可以预先设定,例如,在规定时间内右眼是否连续眨眼二次,在规定时间内左眼是否连续眨眼二次等。
[0261]如果有关眼睛模样变化的解析信息满足预定条件时,转到步骤1130,用满足该条件时的指定命令生成用于操作腹腔镜5的操作命令,并传送给从机器人2。例如,根据眼睛模样变化的指定命令可以预先指定为,例如,右眼连续眨眼二次时,腹腔镜5接近手术部位,左眼连续眨眼二次时,向顺时针方向旋转等。
[0262]但是,如果
当前第3页1 2 3 4 5 6 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1