内窥镜系统及其工作方法与流程

文档序号:29515201发布日期:2022-04-06 20:56阅读:174来源:国知局
内窥镜系统及其工作方法与流程

1.本发明涉及一种显示用于测定被摄体的大小的测量用标记的内窥镜系统及其工作方法。


背景技术:

2.在具有光源装置、内窥镜及处理器装置的内窥镜系统中,获取距被摄体的距离或被摄体的大小等。例如,在专利文献1中,将照明光及测量用光束光照射到被摄体,通过光束光的照射而使被摄体出现光斑等光束照射区域。并且,对应于光斑的位置,将用于测量被摄体的尺寸的测量用标记显示于被摄体图像上。
3.以往技术文献
4.专利文献
5.专利文献1:国际公开第2018/051680号


技术实现要素:

6.发明要解决的技术课题
7.作为从被摄体图像中准确地检测光斑的位置的方法,有rgb/hsv等使用了影像的颜色/明度/彩度等的颜色分离方式。然而,在被摄体中包括活体内漫反射、残渣、变质(变色)的组织的情况下,因这些活体内漫反射等而影像的颜色等改变,因此有时难以检测光斑的位置。因此,即使在有活体内漫反射等的情况下,也要求稳定地检测光斑的位置等测量用光束光的照射区域。
8.本发明的目的在于提供一种能够稳定地检测测量用光束光的照射区域的内窥镜系统及其工作方法。
9.用于解决技术课题的手段
10.本发明的内窥镜系统具备:内窥镜,具有对被摄体照射测量用光束光的光束光出射部及在前端部设置于与光束光出射部不同的位置并接收来自被摄体的光的摄像光学系统,测量用光束光相对于摄像光学系统的光轴倾斜地射出;以及处理器装置,处理器装置具有处理器,该处理器进行如下处理:获取基于通过摄像光学系统接收的光获得的被摄体图像,该被摄体图像包括通过测量用光束光的照射而出现在被摄体中的光束照射区域;从被摄体图像中识别光束照射区域;及在显示器显示根据光束照射区域来将用于测量被摄体的尺寸的测量用标记显示于被摄体图像上的测量用图像,被摄体图像中的光束照射区域具有特定形状的图案,该特定形状的图案包括白色的中心区域和覆盖中心区域的周围并具有基于测量用光束光的特征量的周边区域,处理器识别具有特定形状的图案的光束照射区域。
11.优选为,处理器通过针对被摄体图像的输入而输出光束照射区域的学习模型来识别光束照射区域。优选为,处理器使用预先确定的光束照射区域的模板图像来对被摄体图像进行图案匹配处理,由此识别光束照射区域。
12.优选为,处理器能够识别特定形状变形的图案的光束照射区域。优选为,特征量为
测量用光束光的颜色、除了测量用光束光的颜色以外的颜色、测量用光束光的亮度、明度、彩度、色相中的至少任一个。
13.优选为,特定形状为圆形。优选为,特定形状为线状。优选为,处理器接收包括多个彩色图像的被摄体图像,将测量用光束光的光量设为特定光量,将各彩色图像的像素值设为最大像素值,由此使光束照射区域的中心区域变成白色。
14.优选为,处理器将与光束照射区域的位置相对应的测量用标记显示于测量用图像。优选为,处理器将与光束照射区域的图案相对应的测量用标记显示于测量用图像。
15.本发明为内窥镜系统的工作方法,该内窥镜系统具备:内窥镜,具有对被摄体照射测量用光束光的光束光出射部及在前端部设置于与光束光出射部不同的位置并接收来自被摄体的光的摄像光学系统,测量用光束光相对于摄像光学系统的光轴倾斜地射出;以及处理器装置,具有处理器,该内窥镜系统的工作方法中,处理器具备如下步骤:获取基于通过摄像光学系统接收的光获得的被摄体图像,该被摄体图像包括通过测量用光束光的照射而出现在被摄体中的光束照射区域;从被摄体图像中识别所述光束照射区域;及在显示器显示根据光束照射区域来将用于测量被摄体的尺寸的测量用标记显示于被摄体图像上的测量用图像,被摄体图像中的光束照射区域具有特定形状的图案,该特定形状的图案包括白色的中心区域和覆盖中心区域的周围并具有基于测量用光束光的特征量的周边区域,处理器识别具有特定形状的图案的光束照射区域。
16.发明效果
17.根据本发明,通过将由测量用光束光形成于被摄体上的光束照射区域识别为包括白色的中心区域和周边区域的特定形状的图案,能够稳定地检测测量用光束光的照射区域。
附图说明
18.图1是内窥镜系统的外观图。
19.图2是表示内窥镜的前端部的俯视图。
20.图3是表示内窥镜系统的功能的框图。
21.图4是表示红色滤色器rf、绿色滤色器gf及蓝色滤色器bf的透射分布的曲线图。
22.图5是表示光束光出射部的功能的框图。
23.图6是表示光斑sp及测量用标记的图像图。
24.图7是表示测量用光束光的光轴与摄像光学系统的光轴的关系的说明图。
25.图8是表示信号处理部的功能的框图。
26.图9是表示光斑sp的中心区域cr1及周边区域sr1的说明图。
27.图10是表示红色图像rp、绿色图像gp及蓝色图像bp的像素值的分布的曲线图。
28.图11是表示测量用光束光在波长区域wmb中的透射率的曲线图。
29.图12是表示具有学习模型的照射区域识别部的功能的框图。
30.图13是表示从圆形变形的光斑sp的图案的说明图。
31.图14是表示具有图案匹配处理部的照射区域识别部的功能的框图。
32.图15是表示观察距离为近端px时的光斑及第1测量用标记的图像图。
33.图16是表示观察距离为中央附近py时的光斑及第1测量用标记的图像图。
34.图17是表示观察距离为远端pz时的光斑及第1测量用标记的图像图。
35.图18是表示十字型、带刻度的十字型、畸变十字型、圆及十字型及测量用点群型的第1测量用标记的说明图。
36.图19是表示颜色分别相同的3个同心圆状标记的图像图。
37.图20是表示颜色分别不同的3个同心圆状标记的图像图。
38.图21是表示畸变同心圆状标记的图像图。
39.图22是表示交叉线及刻度的图像图。
40.图23是表示交叉线的中心区域cr2及周边区域sr2的说明图。
41.图24是表示光斑sp的中心区域cr1的直径dm的说明图。
42.图25是表示本发明的一系列流程的流程图。
具体实施方式
43.如图1所示,内窥镜系统10具有内窥镜12、光源装置14、处理器装置16、显示器18及用户界面19。内窥镜12具有插入到受检体内的插入部12a、设置于插入部12a的基端部分的操作部12b及通用电缆12c。通用电缆12c为引导光源装置14所发出的照明光的光导件28(参考图3)、用于传输用于控制内窥镜12的控制信号的控制线、发送对观察对象进行拍摄而获得的图像信号的信号线、向内窥镜12的各部供给电力的电源线等成为一体的电缆。在通用电缆12c的前端设置有与光源装置14连接的连接器29。
44.光源装置14例如通过led(light emittingdiode:发光二极管)、ld(laser diode:激光二极管)等半导体光源、氙气灯等卤素灯来产生照明光。在将连接器29与光源装置14连接的情况下,照明光射入到连接器29的光导件28(参考图3),并从插入部12a的前端照射到观察对象。
45.并且,光源装置14与处理器装置16电连接,内窥镜12的连接器29经由光源装置14与处理器装置16连接。光源装置14与连接器29的控制信号、图像信号等的收发为无线通信。因此,光源装置14以无线的方式将与连接器29进行收发的控制信号等传输到处理器装置16。而且,光源装置14向连接器29供给用于驱动内窥镜12的电力,但是该电力的供给也以无线的方式进行。
46.处理器装置16控制光源装置14所发出的照明光的光量、发光定时、内窥镜12的各部,使用对被照明光照射的观察对象进行拍摄而获得图像信号来生成内窥镜图像。并且,处理器装置16与显示器18及用户界面19电连接。显示器18显示处理器装置16所生成的内窥镜图像、与内窥镜图像相关的信息等。用户界面19具有接收功能设定等输入操作的功能。
47.内窥镜12具备通常观察模式、特殊观察模式及测长模式,这3个模式通过设置于内窥镜12的操作部12b的模式切换开关13a进行切换。通常观察模式为通过照明光照亮观察对象的模式。特殊观察模式为通过与照明光不同的特殊光照亮观察对象的模式。测长模式中,利用照明光及测量用光束光照亮观察对象,并且在通过对观察对象进行摄像而获得的被摄体图像上显示用于测定观察对象的大小等的测量用标记。另外,照明光为用于对观察对象整体赋予亮度来对观察对象整体进行观察的光。特殊光为用于强调观察对象中的特定区域的光。测量用光束光为用于显示测量用标记的光。
48.并且,在内窥镜12的操作部12b设置有用于操作静止图像获取命令的冻结开关
13b,该静止图像获取命令进行获取被摄体图像的静止图像的命令。通过用户操作冻结开关13b,显示器18的画面冻结显示,同时发出表示进行静止图像获取的警告音(例如“哔
‑”
)。然后,在冻结开关13b的操作定时前后获得的被摄体图像的静止图像被保存于处理器装置16内的静止图像保存部42(参考图3)。另外,静止图像保存部42为硬盘、usb(universal serial bus:通用串行总线)存储器等存储部。在处理器装置16能够与网络连接的情况下,可以代替或除了静止图像保存部42以外,在与网络连接的静止图像保存服务器(未图示)保存被摄体图像的静止图像。
49.另外,可以使用除了冻结开关13b以外的操作设备,进行静止图像获取命令。例如,可以将脚踏板与处理器装置16连接,并在用户用脚操作脚踏板(未图示)的情况下,进行静止图像获取命令。关于模式切换,可以利用脚踏板来进行。并且,可以将识别用户的手势的手势识别部(未图示)与处理器装置16连接,并在手势识别部识别出由用户进行的特定的手势的情况下,进行静止图像获取命令。关于模式切换,可以使用手势识别部来进行。
50.并且,可以将设置于显示器18附近的视线输入部(未图示)与处理器装置16连接,并在视线输入部识别出用户的视线停留在显示器18中的规定区域内一定时间以上的情况下,进行静止图像获取命令。并且,可以将语音识别部(未图示)与处理器装置16连接,并在语音识别部识别出用户所发出的特定的语音的情况下,进行静止图像获取命令。关于模式切换,可以使用语音识别部来进行。并且,可以将触控面板等操作面板(未图示)与处理器装置16连接,并在用户对操作面板进行了特定的操作的情况下,进行静止图像获取命令。关于模式切换,可以使用操作面板来进行。
51.如图2所示,内窥镜12的前端部12d呈大致圆形,并且设置有接收来自被摄体的光的摄像光学系统21、用于对被摄体照射照明光的照明光学系统22、对被摄体放射测量用光束光的光束光出射部23、用于供处置器具朝向被摄体突出的开口24及用于进行送气送水的送气送水喷嘴25。
52.摄像光学系统21的光轴ax沿着与纸面垂直的方向延伸。纵向的第1方向d1与光轴ax正交,横向的第2方向d2与光轴ax及第1方向d1正交。摄像光学系统21和光束光出射部23分别设置于前端部12d的不同位置,并且沿着第1方向d1排列。
53.如图3所示,光源装置14具备光源部26和光源控制部27。光源部26产生用于照亮被摄体的照明光或特殊光。从光源部26射出的照明光或特殊光射入到光导件28,并通过照明透镜22a照射到被摄体。作为光源部26,作为照明光的光源,可使用射出白色光的白色光源、或包括白色光源和射出其他颜色的光的光源(例如,射出蓝色光的蓝色光源)的多个光源等。并且,作为光源部26,作为特殊光的光源,使用发出包括用于强调表层血管等表层信息的蓝色窄频带光的宽频带光的光源。光源控制部27与处理器装置16的系统控制部41连接。另外,作为照明光,可以设为将蓝色光、绿色光及红色光分别组合而成的白色的混色光。此时,优选以绿色光的照射范围比红色光的照射范围大的方式进行照明光学系统22的光学设计。
54.光源控制部27根据来自系统控制部41的命令来控制光源部26。系统控制部41除了对光源控制部27进行与光源控制相关的命令以外,还控制光束光出射部23的光源23a(参考图5)。在通常观察模式的情况下,系统控制部41进行点亮照明光,熄灭测量用光束光的控制。在特殊观察模式的情况下,进行点亮特殊光,熄灭测量用光束光的控制。在测长模式的
情况下,系统控制部41进行点亮照明光,点亮测量用光束光的控制。
55.照明光学系统22具有照明透镜22a,来自光导件28的光经由该照明透镜22a照射到观察对象。摄像光学系统21具有物镜21a、变焦透镜21b及成像元件32。来自观察对象的反射光经由物镜21a及变焦透镜21b射入到成像元件32。由此,在成像元件32中成像观察对象的反射像。
56.变焦透镜21b通过在望远端与广角端之间移动,作为变焦功能,具有放大或缩小被摄体的光学变焦功能。关于光学变焦功能的打开和关闭,能够由设置于内窥镜的操作部12b的变焦操作部13c(参考图1)进行切换,在光学变焦功能打开的状态下,进一步操作变焦操作部13c,由此以特定的放大率放大或缩小被摄体。
57.成像元件32为彩色的摄像传感器,对受检体的反射像进行拍摄并输出图像信号。该成像元件32优选为ccd(charge coupled device:电荷藕合器件)摄像传感器、cmos(complementary metal-oxide semiconductor:互补金属氧化物半导体)摄像传感器等。本发明中所使用的成像元件32为用于获得r(红色)、g(绿色)、b(蓝色)这3种颜色的红色图像、绿色图像及红色图像的彩色的摄像传感器。红色图像为从在成像元件32中设置有红色滤色器的红色像素输出的图像。绿色图像为从在成像元件32中设置有绿色滤色器的绿色像素输出的图像。蓝色图像为从在成像元件32中设置有蓝色滤色器的蓝色像素输出的图像。成像元件32由摄像控制部33控制。
58.如图4所示,红色滤色器rf在600~700nm的红色频带具有高透射率,因此红色像素在红色频带具有高灵敏度。绿色滤色器gf在500~600nm的绿色频带具有高透射率,因此绿色像素在绿色频带具有高灵敏度。蓝色滤色器bf在400~500nm的蓝色频带具有高透射率,因此蓝色像素在蓝色频带具有高灵敏度。另外,红色像素在绿色频带或蓝色频带也具有灵敏度。并且,绿色像素在红色频带或蓝色频带也具有灵敏度。并且,蓝色像素在红色频带或绿色频带也具有灵敏度。
59.从成像元件32输出的图像信号被发送到cds/agc电路34。cds/agc电路34对作为模拟信号的图像信号进行相关双采样(cds(correlated double sampling))、自动增益控制(agc(auto gain control))。经由cds/agc电路34的图像信号通过a/d转换器(a/d(analog/digital:模拟/数字)变频器)35转换为数字图像信号。经a/d转换的数字图像信号经由通信i/f(interface:接口)36被输入到光源装置14的通信i/f(interface)37。
60.在处理器装置16中,与各种处理相关的程序被装载到程序用存储器(未图示)中。通过由处理器构成的系统控制部41而使程序用存储器内的程序进行工作,由此处理器装置16实现接收部38、信号处理部39及显示控制部40的功能。
61.接收部38与光源装置14的通信i/f(interface)37连接。通信i/f接收从通信i/f37传输的图像信号并传递至信号处理部39。信号处理部39内置有暂存从接收部38接收的图像信号的存储器,处理存储于存储器中的图像信号的集合即图像信号组而生成被摄体图像。另外,接收部38可以将与光源控制部27相关联的控制信号直接发送到系统控制部41。并且,关于处理器装置16中的与测长模式相关联的处理部或存储部(例如,照射区域识别部58或标记用表62),可以设置与处理器装置16不同的测长用处理器(未图示)。此时,测长用处理器和处理器装置16事先设为能够相互通信的状态,以能够收发图像或各种信息。
62.在信号处理部39中,在设定为通常观察模式的情况下,进行将被摄体图像的蓝色
图像分配到显示器18的b通道、将被摄体图像的绿色图像分配到显示器18的g通道、将被摄体图像的红色图像分配到显示器18的r通道的信号分配处理,由此彩色的被摄体图像显示于显示器18。关于测长模式,也进行与通常观察模式相同的信号分配处理。另一方面,在信号处理部39中,在设定为特殊观察模式的情况下,被摄体图像的红色图像不用于显示器18的显示,将被摄体图像的蓝色图像分配到显示器18的b通道和g通道,将被摄体图像的绿色图像分配到显示器18的r通道,由此将伪彩色(pseudo-color)的被摄体图像显示于显示器18。另外,在信号处理部39中,在设定为测长模式的情况下,可以对被摄体图像实施强调血管等的结构的结构强调处理、扩展了观察对象中的正常部与病变部等的色差的色差强调处理。
63.显示控制部40将由信号处理部39生成的被摄体图像显示于显示器18。系统控制部41经由设置于内窥镜12的摄像控制部33进行成像元件32的控制。摄像控制部33还根据成像元件32的控制来进行cds/agc34及a/d35的控制。
64.如图5所示,光束光出射部23相对于摄像光学系统21的光轴ax(参考图7)倾斜地射出测量用光束光lm。光束光出射部23具备光源23a、衍射光学元件doe23b(diffractive optical element:衍射光学元件)、棱镜23c及出射部23d。光源23a射出能够由成像元件32的像素检测的颜色的光(具体而言为可见光),并且包括激光光源ld(laser diode:激光二极管)或led(light emitting diode:发光二极管)等发光元件和聚集从该发光元件射出的光的聚光透镜。另外,光源23a设置于观测器电基板(未图示)。观测器电基板设置于内窥镜的前端部12d,从光源装置14或处理器装置16接收电力的供给,并向光源23a供给电力。
65.在本实施方式中,使用光源23a所射出的光的波长例如为600nm以上且650nm以下的红色(光束光的颜色)的激光,但是可以使用其他波长带的光、例如495nm以上且570nm以下的绿色光或蓝色光。光源23a由系统控制部41控制,根据来自系统控制部41的命令来进行光出射。doe23b将从光源射出的光转换为用于获得测量信息的测量用光束光。另外,关于测量用光束光,优选根据保护人体、眼睛、内脏的观点来调整光量,并且,在内窥镜12的观察范围内调整为充分泛白(像素饱和)的程度的光量。
66.棱镜23c为用于改变由doe23b转换后的测量用光束光的行进方向的光学部件。棱镜23c变更测量用光束光的行进方向,以与包括物镜21a的摄像光学系统21的视野交叉。关于测量用光束光的行进方向的详细内容,也在后面进行叙述。从棱镜23c射出的测量用光束光lm通过由光学部件形成的出射部23d照射到被摄体。
67.通过将测量用光束光照射到被摄体,如图6所示,在被摄体中形成作为光束照射区域的光斑sp。该光斑sp的位置由照射区域识别部58(参考图8)识别,并且根据光斑sp的位置来设定表示被摄体的尺寸的测量用标记。显示控制部40将在被摄体图像上显示有所设定的测量用标记的测量用图像显示于显示器18。
68.光斑sp的位置与观察距离(内窥镜的前端部12d与观察对象之间的距离)有关联性,在光斑sp的位置位于下方的情况下观察距离小,光斑sp的位置越位于上方,则观察距离越大。所设定的测量用标记ma显示于被摄体图像上。测量用标记ma中自光斑sp的半径表示被摄体的实际尺寸(例如,5mm)。并且,测量用标记ma的尺寸(半径)根据光斑sp的位置、即观察距离而改变。例如,在光斑sp的位置在下方的情况下,测量用标记ma的尺寸大,光斑sp的位置越在上方,则测量用标记ma的尺寸越小。
69.另外,如后述,在测量用标记中包括第1测量用标记、第2测量用标记等多种类型,关于在被摄体图像上显示哪一种测量用标记,能够根据用户的命令来选择。作为用户的命令,例如,可使用用户界面19。
70.另外,代替由光学部件构成出射部23d,可以设为形成于内窥镜的前端部12d的测量辅助用狭缝。并且,在由光学部件构成出射部23d的情况下,优选施加防反射涂层(ar(anti-reflection:抗反射)涂层)(防反射部)。如此设置防反射涂层是因为:若测量用光束光不透射出射部23d而反射,从而照射到被摄体的测量用光束光的比例降低,则后述的照射区域识别部58难以识别通过测量用光束光形成于被摄体上的光斑sp的位置。
71.另外,光束光出射部23只要能够朝向摄像光学系统21的视野射出测量用光束光即可。例如,光源23a可以设置于光源装置,从光源23a射出的光可以通过光纤被引导至doe23b。并且,可以设为如下结构:不使用棱镜23c而相对于摄像光学系统21的光轴ax倾斜地设置光源23a及doe23b的朝向,由此在横跨摄像光学系统21的视野的方向上射出测量用光束光lm。
72.关于测量用光束光的行进方向,如图7所示,在测量用光束光的光轴lm与摄像光学系统21的光轴ax交叉的状态下,射出测量用光束光。可知:若能够在观察距离的范围rx内进行观察,则在范围rx的近端px、中央附近py及远端pz中,各点的摄像范围(由箭头qx、qy、qz表示)内的通过测量用光束光lm形成于被摄体上的光斑sp的位置(各箭头qx、qy、qz与光轴ax相交的点)不同。另外,摄像光学系统21的摄影视角在夹在2个实线101之间的区域内表示,在该摄影视角中像差少的中央区域(夹在2个虚线102之间的区域)进行测量。
73.如上所述,在使测量用光束光的光轴lm与光轴ax交叉的状态下,射出测量用光束光lm,由此能够根据相对于观察距离的变化的光斑位置的移动来测量被摄体的大小。然后,利用成像元件32对被测量用光束光照亮的被摄体进行拍摄,由此获得包括光斑sp的被摄体图像。在被摄体图像中,光斑sp的位置根据摄像光学系统21的光轴ax与测量用光束光lm的光轴lm的关系及观察距离而不同,但是观察距离越近,则显示相同的实际尺寸(例如5mm)的像素数越多,观察距离越远,则像素数越少。
74.如图8所示,处理器装置16的信号处理部39具备照射区域识别部58、测量用标记设定部61及标记用表62。另外,在信号处理部39中,在设定为通常观察模式的情况下,输入由照明光照亮的被摄体的被摄体图像。在设定为特殊观察模式的情况下,输入由特殊光照亮的被摄体的被摄体图像。在设定为测长模式的情况下,输入由照明光及测量用光束光照亮的被摄体的被摄体图像。
75.照射区域识别部58从被摄体图像中识别具有特定形状的图案的光束照射区域。具体而言,特定形状的图案包括白色中心区域cr1和覆盖中心区域的周围并具有基于测量用光束光的特征量的周边区域sr1。若为光束照射区域是上述的光斑sp的情况,则如图9所示,特定形状的图案具有圆形。此时,白色中心区域cr1为圆形,周边区域sr1为环形。
76.图10示出了作为多个彩色图像包括红色图像rp、绿色图像gp及蓝色图像bp的被摄体图像中的各彩色图像的像素值的分布。通过中心区域cr1中的红色图像rp、绿色图像gp及蓝色图像bp的像素值达到最大像素值(例如,255),中心区域cr1变成白色。此时,在测量用光束光射入到成像元件32的情况下,如图11所示,在测量用光束光的波长区域wmb中,不仅成像元件32的红色滤色器rf,还有绿色滤色器gf及蓝色滤色器bf均以100%的透射率透射
了测量用光束光。另一方面,在周边区域sr1中,红色图像rp的像素值变得比绿色图像gp或蓝色图像bp的像素值大。因此,周边区域sr1带有红色调。另外,在光源部26中,以特定光量发出测量用光束光的光量,由此将中心区域cr1中的红色图像rp、绿色图像gp及蓝色图像bp的像素值设为最大像素值。
77.在照射区域识别部58中,能够识别具有如上述的特定形状和特征量的光斑sp。具体而言,如图12所示,照射区域识别部58优选具有学习模型59,该学习模型59通过针对被摄体图像的输入而输出作为光束照射区域的光斑sp来识别光斑sp。学习模型59根据将被摄体图像与已识别完毕的光束照射区域建立对应关联的多个教师数据进行了机器学习。作为机器学习,优选使用cnn(convolutional neural network:卷积神经网络)。
78.通过使用学习模型59来识别光斑sp,不仅能够识别由圆形中心区域cr1和环形周边区域sr1构成的圆形光斑sp(参考图9),还能够识别从特定形状的圆形变形的图案的光斑sp。例如,如图13(a)所示,也能够识别在纵向上变形的光斑sp。并且,如图13(b)所示,也能够识别圆形的一部分缺损而变形的光斑sp。并且,作为使用学习模型59能够识别的周边区域sr1的特征量,除了作为测量用光束光的颜色的红色以外,还有蓝色、绿色。并且,作为使用学习模型59能够识别的周边区域sr1的特征量,有测量用光束光的亮度、明度、彩度、色相。另外,关于测量用光束的亮度、明度、彩度、色相,优选通过对被摄体图像中所包括的光斑sp的周边区域进行亮度转换处理或明度、彩度、色相转换处理来获取。
79.并且,如图14所示,照射区域识别部58可以具有图案匹配处理部60,该图案匹配处理部60使用光斑sp的模板图像作为预先确定的光束照射区域的模板图像来对被摄体图像进行图案匹配处理,由此识别光斑sp。关于光斑sp的模板图像,存储于模板图像存储部60a中。在模板图像存储部60a中不仅存储有由圆形中心区域cr1和环形周边区域sr1构成的圆形光斑sp的模板图像,还存储有从特定形状的圆形变形的图案的光斑sp的模板图像。并且,在图案匹配处理部60中,还能够根据周边部sr的特征量的图案来进行图案匹配处理。作为能够进行图案匹配处理的特征量,除了作为测量用光束光的颜色的红色的分布以外,还有蓝色、绿色的分布。并且,作为能够进行图案匹配处理的特征量,有测量用光束光的亮度、明度、彩度、色相的分布。
80.测量用标记设定部61根据光斑sp的位置来设定表示被摄体的实际尺寸(与实际尺寸相同的尺寸)的第1测量用标记,作为用于测量被摄体的尺寸的测量用标记。测量用标记设定部61参考将根据光斑sp的照射位置而显示方式不同的测量用标记图像与光斑sp的位置建立对应关联来存储的标记用表62,设定与光斑sp的位置相对应的测量用标记图像。另外,在标记用表62中,除了光斑sp的位置以外,还将根据在显示器18显示第1测量用标记的标记显示位置而显示方式不同的测量用标记图像与光斑sp的位置及标记显示位置建立对应关联来存储。
81.关于测量用标记图像,根据光斑sp的照射位置而例如大小或形状不同。关于测量用标记图像的显示,将在后面进行叙述。并且,关于标记用表62,即使在关闭处理器装置16的电源的情况下,也保持保存内容。另外,标记用表62将测量用标记图像和照射位置建立对应关联来存储,但是也可以将与照射位置相对应的与被摄体的距离(内窥镜12的前端部12d与被摄体的距离)和测量用标记图像建立对应关联来存储。
82.显示控制部40在显示器18显示根据作为光束照射区域的光斑sp的位置来将测量
用标记显示于被摄体图像上的测量用图像。具体而言,显示控制部40以光斑sp为中心,将重叠了第1测量用标记的测量用图像显示于显示器18。作为第1测量用标记,例如,使用圆形测量标记。此时,如图15所示,在观察距离靠近近端px的情况下,对准形成于被摄体的肿瘤tm1上的光斑sp1的中心,显示表示实际尺寸5mm(被摄体图像的水平方向及垂直方向)的标记m1。另外,在将测量用标记显示于显示器18的情况下,可以将观察距离也一同显示于显示器18。
83.并且,如图16所示,在观察距离靠近中央附近py的情况下,对准形成于被摄体的肿瘤tm2上的光斑sp2的中心,显示表示实际尺寸5mm(被摄体图像的水平方向及垂直方向)的标记m2。标记m2的标记显示位置位于不易受由摄像光学系统21引起的变形的影响的被摄体图像的中心部,因此标记m2不受变形等的影响而呈圆形。
84.并且,如图17所示,对准形成于被摄体的肿瘤tm3上的光斑sp3的中心,显示表示实际尺寸5mm(被摄体图像的水平方向及垂直方向)的标记m3。如以上的图15~图17所示,随着观察距离变长而与相同的实际尺寸5mm相对应的第1测量用标记的大小变小。并且,根据标记显示位置,对应于由摄像光学系统21引起的变形的影响而第1测量用标记的形状也不同。
85.另外,在图15~图17中,使光斑sp的中心与标记的中心一致而显示,但是在测量精确度上没有问题的情况下,可以在远离光斑sp的位置显示第1测量用标记。但是,此时,也优选在光斑的附近显示第1测量用标记。
86.并且,在图15~图17中,显示了与被摄体的实际尺寸5mm相对应的第1测量用标记,但是被摄体的实际尺寸可以根据观察对象、观察目的来设定任意值(例如,2mm、3mm、10mm等)。并且,在图15~图17中,将第1测量用标记设为大致圆形,但是如图18所示,也可以设为竖线与横线交叉的十字型。并且,也可以设为在十字型的竖线和横线中的至少一者附加了刻度mx的带刻度的十字型。并且,作为第1测量用标记,可以设为使竖线、横线中的至少任一者倾斜的畸变十字型。并且,可以将第1测量用标记设为组合十字型和圆而成的圆及十字型。除此以外,可以将第1测量用标记设为从光斑组合与实际尺寸相对应的多个测定点ep而成的测量用点群型。并且,第1测量用标记的数量可以是一个,也可以是多个,还可以根据实际尺寸来改变第1测量用标记的颜色。
87.另外,作为第1测量用标记,如图19所示,可以将大小不同的3个同心圆状标记m4a、m4b、m4c(大小分别为直径2mm、5mm、10mm)以形成于肿瘤tm4上的光斑sp4为中心显示于被摄体图像上。关于该3个同心圆状标记,由于显示多个标记,因此可省去切换的劳力和时间,并且,即使在被摄体呈非线形形状的情况下,也能够测量。另外,在以光斑为中心显示多个同心圆状标记的情况下,能够预先准备多个条件的组合并从该组合中选择,而不是针对每一个标记指定大小、颜色。
88.在图19中,将3个同心圆状标记全部以相同颜色(黑色)显示,但是在显示多个同心圆状标记的情况下,可以设为根据标记而改变颜色的多个带颜色的同心圆状标记。如图20所示,标记m5a由表示红色的虚线表示,标记m5b由表示蓝色的实线表示,标记m5c由表示白色的单点划线表示。通过如此改变标记的颜色,识别性得到提高,从而能够容易地进行测量。
89.并且,作为第1测量用标记,除了多个同心圆状标记以外,如图21所示,还可以使用使各同心圆畸变而成的多个畸变同心圆状标记。此时,畸变同心圆状标记m6a、标记m6b、标
记m6c以形成于肿瘤tm5的光斑sp5为中心显示于被摄体图像。
90.另外,关于测量用光束光,使用了在照射到被摄体的情况下形成为光斑的光,但是可以使用其他光。例如,如图22所示,可以使用在照射到被摄体的情况下在被摄体上形成为交叉线80的平面状的测量用光束光。通过将平面状的测量用光束光照射到被摄体,在被摄体上形成作为线状的光束照射区域的交叉线80。此时,作为测量用标记,生成由交叉线80及刻度82构成的第2测量用标记,该刻度82在交叉线80上成为被摄体的大小(例如,息肉p)的指标。
91.在使用平面状的测量用光束光的情况下,照射区域识别部58识别交叉线80的位置(测量用光束光的照射位置),作为具有特定形状的图案的光束照射区域。如图23所示,交叉线80包括白色中心区域cr2和覆盖白色中心区域r2并具有基于测量用光束光的特征量的周边区域sr2。中心区域cr2为线状,周边区域sr2由以特定的间隔分开的2条线状构成。照射区域识别部58能够识别具有以上图案及特征量的交叉线80。另外,关于线的一部分等缺损等从线状变形的交叉线80,也能够通过照射区域识别部58来识别。
92.关于通过照射区域识别部58识别出的交叉线80,与光斑sp同样地,越位于下方,则观察距离越近,交叉线80越位于上方,则观察距离越远。因此,在将第2测量用标记显示于测量用图像的情况下,交叉线80越位于下方,则刻度82的间隔越大,交叉线80越位于上方,则刻度82的间隔越小。
93.另外,在上述中,将光斑sp或交叉线80等与光束照射区域的位置相对应的测量用标记显示于测量用图像,但是取而代之,可以将与光束照射区域的图案相对应的测量用标记显示于测量用图像。例如,在光束照射区域为光斑sp的情况下,如图24所示,求出光斑sp中白色中心区域cr1的直径dm,将与直径dm相对应的测量用标记显示于测量用图像。已知在观察距离小的情况下,直径dm大,观察距离越大,则直径越小。使用该直径dm与观察距离的关系,确定根据直径dm而大小、形状等不同的测量用标记图像。
94.接着,使用图25所示的流程图,对本发明的一系列流程进行说明。若操作模式切换开关13a而切换到测长模式,则对被摄体照射照明光及测量用光束光。在被摄体中,通过测量用光束光而形成光斑sp。通过对包括光斑sp的被摄体进行拍摄,可获得包括光斑sp的被摄体图像。
95.接收部38接收从内窥镜12输出的被摄体图像。照射区域识别部58从被摄体图像中识别光斑sp的位置。此时,照射区域识别部58识别包括白色中心区域cr1和覆盖中心区域cr1的周围并具有基于测量用光束光的特征量的周边区域sr1的光斑sp的位置。显示控制部40在显示器18显示根据通过照射区域识别部58识别出的光斑sp的位置来将用于测量被摄体的尺寸的测量用标记显示于被摄体图像上的测量用图像。测量用标记与光斑sp的位置相对应,根据光斑sp的位置而大小、形状改变。
96.在上述实施方式中,接收部38、信号处理部39、显示控制部40、系统控制部41、静止图像保存部42、照射区域识别部58、学习模型59、图案匹配处理部60、模板图像存储部60a、测量用标记设定部61、标记用表62等执行各种处理的处理部(processing unit)的硬件结构为如以下所示的各种处理器(processor)。在各种处理器中包括执行软件(程序)而作为各种处理部发挥功能的通用的处理器即cpu(central processing unit:中央处理单元)、fpga(field programmable gate array:现场可编程门阵列)等制造之后能够变更电路结
构的处理器即可编程逻辑器件(programmable logic device:pld)、具有为了执行各种处理而专门设计的电路结构的处理器即专用电路等。
97.1个处理部可以由这些各种处理器中的1个构成,也可以由相同种类或不同种类的2个以上的处理器的组合(例如,多个fpga、cpu与fpga的组合)构成。并且,也可以由1个处理器构成多个处理部。作为由1个处理器构成多个处理部的例子,首先,有如以客户端、服务器等计算机为代表那样,由1个以上的cpu和软件的组合构成一个处理器,且该处理器作为多个处理部发挥功能的方式。其次,有如以片上系统(system on chip:soc)等为代表那样,使用由1个ic(integrated circuit:集成电路)芯片实现包括多个处理部的整个系统的功能的处理器的方式。如此,作为硬件结构,各种处理部使用1个以上的上述各种处理器构成。
98.而且,更具体而言,这些各种处理器的硬件结构为组合半导体元件等电路元件而成的形态的电路(circuitry)。并且,存储部的硬件结构为hdd(hard disc drive:硬盘驱动器)、ssd(solid state drive:固态硬盘)等存储装置。
99.作为本发明的另一方式,有以下方式。
100.一种内窥镜系统,其具备:内窥镜,具有对被摄体照射测量用光束光的光束光出射部及在前端部设置于与所述光束光出射部不同的位置并接收来自所述被摄体的光的摄像光学系统,所述测量用光束光相对于所述摄像光学系统的光轴倾斜地射出;以及处理器装置,其具有:接收部,获取基于通过所述摄像光学系统接收的光获得的被摄体图像,所述被摄体图像包括通过所述测量用光束光的照射而出现在所述被摄体中的光束照射区域;照射区域识别部,从所述被摄体图像中识别所述光束照射区域的位置;及显示控制部,在显示部显示根据所述光束照射区域的位置来将用于测量所述被摄体的尺寸的测量用标记显示于所述被摄体图像上的测量用图像,所述内窥镜系统中,
101.处理器装置通过所述照射区域识别部识别具有特定形状的图案的所述光束照射区域,所述特定形状的图案包括白色中心区域和覆盖所述中心区域的周围并具有基于所述测量用光束光的特征量的周边区域。
102.符号说明
103.10-内窥镜系统,12-内窥镜,12a-插入部,12b-操作部,12c-弯曲部,12d-前端部,13a-模式切换开关,13b-冻结开关,13c-变焦操作部,14-光源装置,16-处理器装置,18-显示器,19-用户界面,21-摄像光学系统,21a-物镜,21b-变焦透镜,22-照明光学系统,22a-照明透镜,23-光束光出射部,23a-光源,23b-doe,23c-棱镜,23d-出射部,24-开口,25-送气送水喷嘴,26-光源部,27-光源控制部,28-光导件,29-连接器,32-成像元件,33-摄像控制部,34-cds/agc电路,35-a/d转换器,36-通信i/f,37-通信i/f,38-接收部,39-信号处理部,40-显示控制部,41-系统控制部,42-静止图像保存部,58-照射区域识别部,59-学习模型,60-图案匹配处理部,60a-模板图像存储部,61-测量用标记设定部,62-标记用表,80-交叉线,82-刻度,bf-蓝色滤色器,gf-绿色滤色器,rf-红色滤色器,bp-蓝色图像,gp-绿色图像,rp-红色图像,cr1、cr2-中心区域,m1、m2、m3-十字型标记,ma-测量用标记,tm1、tm2、tm3、tm4、tm5-肿瘤,sp-光斑,sp1、sp2、sp3、sp4、sp5-光斑,sr1、sr2-周边区域,m4a、m4b、m4c、m5a、m5b、m5c-同心圆状标记,m6a、m6b、m6c-畸变同心圆状标记,p-息肉,wmb-(测量用标记的)波长区域。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1