早鸽—汇聚行业精英
  • 联系客服
  • 帮助中心
  • 投诉举报
  • 关注微信
400-006-1351
您的问题早鸽都有答案
3000+专业顾问
搜索
咨询

图像处理装置制作方法

  • 专利名称
    图像处理装置制作方法
  • 发明者
  • 公开日
  • 申请日期
  • 优先权日
  • 申请人
  • 文档编号
  • 关键字
  • 技术领域
    本发明涉及图像处理装置等
  • 背景技术
  • 具体实施例方式
    以下,说明本实施方式另外,以下说明的本实施方式并不对权利要求书记载的本发明的内容进行不适当的限定并且,在本实施方式中说明的全部结构不一定是本发明的必须构成要件1.第一实施方式首先,说明本实施方式的方法在使用了内窥镜的观察中,考虑的是,即使一度检测出病变部位,由于病变部位脱离了显示对象范围,因而也会看不到然而,再次发现所消失的病变部位(关注区域)是不容易的特别是,在医生专注于另一作业、或者检测关注区域的时间非常短等医生起初未注意到关注区域的检测等的情况下,可以说,只能期待偶然发现所消失的关注区域因此,本申请人提出以下的方法如后述的图14(A) 图14(C)所示,在特殊光图像中检测出的关注区域伴随内窥镜装置的摄像部的移动而在图像上移动然后,如图14(C) 所示,假定在某定时脱离了显示对象范围在这样的情况下,为了容易再发现所消失的关注区域,使用图14(A)、图14(B)的信息,如后述的图15所示,输出引导信息(在图15的例子中是箭头)在第一实施方式中,对特殊光图像是NBI (Narrow Band Imaging 窄带成像)图像的情况进行说明在1.1中说明具体的实施例,在1.2 1.4中说明变形例并且在1.5 中,使用流程图来说明由软件实现本实施方式的一部分处理的例子,在1.6中说明本实施方式的详细结构并且,在第二实施方式中,对特殊光图像是荧光图像(例如AFI (Auto FluorescenceImaging 自动荧光成像)等)和图像的情况进行说明1. 1本实施方式的方法参照图1说明包括本发明第一实施方式涉及的图像处理装置的内窥镜系统本实施方式涉及的内窥镜系统包括光源部100、插入部200、图像处理部300、输出部400 (显示部)以及外部接口部500光源部100包括产生白色光的白色光源110和用于将白色光会聚到导光光纤210 的会聚透镜120插入部200被形成为细长且能弯曲以便能插入到例如体腔内插入部200包括 用于引导由光源部会聚的光的导光光纤210 ;使由该导光光纤引导到前端的光扩散并照射到观察对象的照明透镜220 ;会聚从观察对象返回的反射光的物镜230 ;将会聚的反射光分离为两部分的半反射镜MO ;以及用于检测所分离的反射光的第一摄像元件250和第二摄像元件260第一摄像元件250是具有用于拍摄普通光图像的拜尔排列的滤色片的摄像元件 第一摄像元件250的滤色片r、g、b具有例如图2所示的分光特性第二摄像元件260是用于拍摄窄带光图像的摄像元件,是例如如图4所示具有2种滤色片g2和1^2被排列成棋盘格状的滤色片的摄像元件,其中,所述滤色片g2和1^2可分别让2种窄带光G2和B2透射关于第二摄像元件沈0的滤色片g2、b2,例如如图3所示,M具有让390 445nm 的波段的光透射的透射率特性,g2具有让530 550nm的波段的光透射的透射率特性图像处理部300包括A/D转换部310、普通光图像取得部320、特殊光图像取得部 330、输出图像生成部340以及控制部350控制部350与普通光图像取得部320、特殊光图像取得部330以及输出图像生成部340双向连接,对它们进行控制外部接口部500是用于由用户向该摄像装置进行输入等的接口,被构造成包括 用于进行电源的接通/断开的电源开关;用于开始摄影操作的快门按钮;用于切换摄影模式和其它各种模式的模式切换按钮等然后,该外部接口部500将所输入的信息输出到控制部350A/D转换部310将从第一摄像元件250或第二摄像元件260输出的模拟信号转换为数字信号并将其输出普通光图像取得部320根据从A/D转换部310输出的数字信号取得普通光图像 特殊光图像取得部330根据从A/D转换部310输出的数字信号取得特殊光图像关于普通光图像取得部320和特殊光图像取得部330的详情,将在后面描述由普通光图像取得部320所取得的普通光图像和由特殊光图像取得部330所取得的特殊光图像被输出到输出图像生成部340输出图像生成部340根据这2张图像生成1 张输出图像并将其输出到输出部400关于输出图像生成部340的详情,将在后面描述接着,使用图5说明普通光图像取得部320普通光图像取得部320包括普通光图像生成部321和普通光图像存储部322普通光图像生成部321对由A/D转换部310转换并输入的数字信号进行图像处理,生成普通光图像具体地说,进行已有的插值处理和白平衡、颜色转换、灰度转换等处理,生成普通光图像并将其输出普通光图像存储部322存储从普通光图像生成部321输出的普通光图像接着,使用图6说明特殊光图像取得部330特殊光图像取得部330包括特殊光图像生成部331和特殊光图像存储部332特殊光图像生成部331对由A/D转换部310转换并输入的数字图像信号进行图像处理,生成特殊光图像在本实施例中,特殊光图像是窄带光图像这里,说明在特殊光图像生成部331中生成窄带光图像的方法如前面所述,输入到特殊光图像生成部的数字图像信号是如图4所示的2种滤色片g2和1^2被排列成棋盘格状那样的图像信号首先对这样的图像信号进行插值处理,生成在全部像素中具有g2滤光片的信号值的G2图像和在全部像素中具有Μ滤光片的信号值的B2图像在通过插值处理计算出的像素值例如只要取周边4像素的平均值即可,例如在图4的g2(l,l)的位置的 b2的像素值132(1,1)以及在1^2(1,2)位置的g2的像素值g2(l,2)根据下式(1),(2)来计算b2(l,l) = [b2(0,1)+b2 (1,0)+b2 (1, 2)+b2 (2,1)]/4......(1)
  • 专利详情
  • 全文pdf
  • 权力要求
  • 说明书
  • 法律状态
专利名称:图像处理装置的制作方法以往,广泛使用这样的面顺序式的内窥镜系统使用旋转滤光片向体腔内的组织依次照射R1、G1、B1的3色光,使用根据它们的反射光图像生成的图像(普通光图像)来进行诊断。而且,提出了这样的内窥镜系统向体腔内的组织依次照射与所述的3色光特性不同的2种窄带光G2和B2,使用根据它们的反射光图像生成的窄带光图像来进行诊断(例如专利文献1)。并且,提出了这样的内窥镜系统向体腔内的组织照射窄带的激励光,使用通过取得自身荧光或药剂荧光而生成的荧光图像来进行诊断,所述自身荧光或药剂荧光通过激励光从组织产生(例如专利文献2)。专利文献1日本特开2006-68113号公报专利文献2日本特开2007-2^053号公报公知的是,通过使用上述专利文献1所示的取得窄带光图像的内窥镜系统来进行诊断,可将例如难以通过普通光观察来进行视觉确认的扁平上皮癌等的病变部位描绘为与正常部位不同的褐色区域,因而容易发现病变部位。并且,在使用上述专利文献2所示的取得荧光图像的内窥镜系统来进行诊断的情况下,通过使用具有特别地聚积在肿瘤等病变部位的性质的荧光药剂,仅肿瘤等病变部位产生荧光,从而容易发现该病变部位。然而,与普通光图像相比较,这些窄带光图像和荧光图像(将它们总称为特殊光图像)一般具有相当不同的颜色,而且由于照明光不足而成为非常暗的图像,因此仅使用特殊光图像来进行诊断是困难的。由于这样的原因,为了提高医生的诊断精度,考虑的是, 例如同时取得并显示普通光图像和特殊光图像。然而,当排列这些图像并同时显示时,医生经常一边关注多个图像一边进行诊断,医生的负担增加。并且,也考虑到由于暂时仅关注一个图像而看漏病变部位的情况。
根据本发明的若干方式,可提供能抑制看漏特殊光图像中的关注区域的情况的图像处理装置等。并且,根据本发明的若干方式,可提供这样的图像处理装置等根据特殊光图像来检测关注区域,根据关注区域有无消失的判定来生成引导信息,从而容易再发现所消失的关注区域,减少医生负担。本发明的一个方式涉及一种图像处理装置,该图像处理装置包括特殊光图像取得部,其取得包含具有特定波段中的信息的被摄体像的图像作为特殊光图像;关注区域检测部,其根据所述特殊光图像内的像素的特征量,检测应关注的区域即关注区域;有无消失判定部,其根据所述关注区域的检测结果,判定在显示于输出部上的区域即显示对象范围内所述关注区域有无消失;引导信息生成部,其根据所述有无消失判定部的判定结果,生成针对被判定为已消失的所述关注区域即消失关注区域的引导信息;以及输出控制部,其进行包含所生成的所述引导信息的信息的输出控制。在本发明的一个方式中,根据特殊光图像检测关注区域,判定关注区域有没有消失。然后,根据判定生成引导信息,输出所生成的引导信息。由此,与没有引导信息的情况相比,能容易地发现已消失的关注区域,能抑制看漏关注区域的情况等。图1是本实施方式的系统结构例。图2是滤色片R、G、B的分光特性。图3是滤色片g2、b2的分光特性。图4是滤色片g2、l32的说明图。图5是普通光图像取得部的结构例。图6是特殊光图像取得部的结构例。图7是输出图像生成部的结构例。图8是关注区域检测部的结构例。图9是局部区域的划分方法的说明图。图10是关注区域组的设定的说明图。图11是显示形态决定部的结构例。图12是与存储在存储部内的关注区域相关的信息的例子。图13 (A)是普通光图像的例子,图13⑶是特殊光图像的例子,图13 (C)、图13⑶ 是对普通光图像实施了加工的例子。图14㈧ 图14(C)是说明在各定时的特殊光图像上的关注区域组的移动的图。图15是引导信息的输出例。图16是用于说明本实施方式的处理的状态转移图。图17是在检测出多个关注区域组的情况下的处理的说明图。图18是用于说明本实施方式的处理的流程图。图19是用于说明关注区域检测处理的流程图。图20是用于说明显示形态决定处理的流程图。图21是本实施方式的其它系统结构例。图22是旋转滤光片的例子。图23是滤光片Fl、F2和荧光的分光特性。图M是屏障滤光片的分光特性。图25是各定时的滤光片和获得的图像的组合的例子。图沈是旋转滤光片的另一例。标号说明100 光源部;110 白色光源;120 会聚透镜;130 旋转滤光片;200 插入部; 210 导光光纤;220 照明透镜;230 物镜;240 半反射镜;250 第一摄像元件;260 第二摄像元件;270 屏障滤光片;280 二向色镜;300 图像处理部;310 :A/D转换部;320 普通光图像取得部;321 普通光图像生成部;322 普通光图像存储部;330 特殊光图像取得部;331 特殊光图像生成部;332 特殊光图像存储部;340 输出图像生成部;341 关注区域检测部;342 显示形态决定部;350 控制部;360 输出控制部;400 输出部;500 外部接口部;3411 局部区域设定部;3412 特征量计算部;3414 关注候选区域设定部;3415 可靠度计算部;3416 关注区域设定部;3421 加工部;3422 引导信息生成部;3423 存储部。
g2(l,2) = [g2(0,2)+g2(l,l)+g2(l,3)+g2(2,2)]/4......(2)然后,根据对全部像素进行了插值的G2图像和B2图像生成具有R、G、B的3通道的彩色图像。这里例如通过向彩色图像的R通道输出G2图像,向G通道和B通道输入B2 图像,来生成彩色图像。特殊光图像生成部331对所生成的彩色图像进一步进行白平衡、灰度转换等处理,作为窄带光图像来输出。特殊光图像存储部332存储从特殊光图像生成部331所输出的特殊光图像。接着,说明输出图像生成部340的具体结构。图7是说明第一实施方式中的输出图像生成部340的结构的一例的框图。输出图像生成部340包括关注区域检测部341和显示形态决定部;342。这里,来自普通光图像取得部320的图像信号被输出到显示形态决定部342。并且,来自特殊光图像取得部330的图像信号被输出到关注区域检测部341和显示形态决定部342。关注区域检测部341使用从特殊光图像取得部330输出的特殊光图像来检测关注区域,将关注区域信息输出到显示形态决定部342。关于关注区域检测部341的详情,将在后面描述。控制部350与关注区域检测部341和显示形态决定部342双向连接,对它们进行控制。并且,显示形态决定部342从由普通光图像取得部320输出的普通光图像和由特殊光图像取得部330输出的特殊光图像中选择图像,将图像输出到输出部400。然后,显示形态决定部342也可以根据从关注区域检测部341输出的关注区域信息,对普通光图像进行加工,之后将图像输出到输出部。关于显示形态决定部342的详情,将在后面描述。接着,说明关注区域检测部341的具体结构。图8是说明本实施方式中的关注区域检测部341的结构的一例的框图。关注区域检测部341包括局部区域设定部3411、特征量计算部3412、关注候选区域设定部3414、可靠度计算部3415以及关注区域设定部3416。控制部350与局部区域设定部3411、特征量计算部3412、关注候选区域设定部3414、可靠度计算部3415以及关注区域设定部3416双向连接,对它们进行控制。局部区域设定部3411针对从特殊光图像取得部330输出的特殊光图像,设定多个局部区域。这里,例如将特殊光图像划分为矩形区域,将所划分的各区域设定为局部区域。 该矩形区域的尺寸可适当地设定,这里,例如如图9所示,将16X16像素设定为1个局部区域。这里,设定特殊光图像由MXN个局部区域构成,并设定各局部区域的坐标由(m,η)表示。并且,设定坐标(m,η)的局部区域表示为a(m,η)。这里,将位于图像左上方的局部区域的坐标设定为(0,0),将右方向表示为m的正方向,将下方向表示为η的正方向。局部区域无需一定是矩形,当然可以将特殊光图像划分为任意的多边形,并将所划分的各个区域设定为局部区域。并且,也可以设置成能根据用户指示任意地设定局部区域。并且,这里为了削减后面的计算量,将由多个邻接的像素组构成的区域设定为1个局部区域,然而也能将1像素设定为1个局部区域。在该情况下,后面的处理完全相同。特征量计算部3412针对全部局部区域计算表示有病变可能的特征量。这里说明作为特征量的一例而使用颜色信息的情况。在本实施方式中,在作为特殊光图像来使用的窄带光图像中,由于扁平上皮癌等病变部位被描绘为褐色区域,因而通过使用色相H作为特征量,可检测出病变部位。将局部区域a(m,n)的色相设定为H(m,η)。为了计算H(m,η),首先使用各个局部区域内包含的全部像素,分别针对R、G、B通道计算平均信号值。这里,将局部区域a (m,η)中的R、G、B通道的平均信号值标记为r、g、 b,设定各信号值是8比特(0 255)。然后,根据该平均信号值r、g、b,例如使用以下的式(3) ⑶来计算各局部区域的色相H(m,η)。max = MAX (r, g, b) ......(3)这里,设定MAX函数是输出多个自变量中最大的自变量的函数。在max是0的情况下,为H = O ......在max不为0的情况下,为d = MAX(r, g, b) -MIN (r,g,b) ......(5)这里,设定MIN函数是输出多个自变量中最小的自变量的函数。而且,在r、g、b中r是最大的情况下,为H = 60* (g-b) /d ......(6)在r、g、b中g是最大的情况下,为H = 60* {2+ (b-r) }/d ......(7)在r、g、b中b是最大的情况下,为H = 60* {4+ (r-g) }/d ......(8)另外,在H <0的情况下,H加上360。并且,在H = 360的情况下,为H = 0。然后,关注候选区域设定部3414对针对全部局部区域计算出的特征量进行阈值处理,检测关注候选区域。这里由于想将褐色区域作为关注区域来检测,因而只要将例如色相H在5 35的范围内的局部区域设定为关注候选区域即可。然后,关注候选区域设定部3414根据作为关注候选区域检测出的多个局部区域 a(m, η)的坐标,检测由相互邻接的关注候选区域构成的关注候选区域组,通过附加标记信息来识别多个不同的关注候选区域组。例如,如图10所示,在存在2个关注候选区域组的情况下,关注候选区域设定部3414针对属于关注候选区域组1的关注候选区域,将标记值设定为1,针对属于关注候选区域组2的关注候选区域,将标记值设定为2。然后,关注候选区域设定部3414按照各关注候选区域组,计算属于关注候选区域组的局部区域的特征量的平均值。这里按照各关注候选区域组计算色相的平均值H_ave。然后,关注候选区域设定部3414将属于关注候选区域组的各局部区域a(m,η)的坐标和特征量的平均值作为关注候选区域信息,输出到可靠度计算部3415。并且,这里可以取代色相H而使用公知方法计算局部区域的平均的亮度或彩度, 将它们的值作为特征量来检测关注候选区域。而且,当然也可以通过将这些亮度、色相、彩度的信息任意组合来计算1个特征量,并检测关注候选区域。可靠度计算部3415针对关注候选区域组计算可靠度,用于判定是否是病变。这里根据附加给各关注候选区域的标记的信息,计算属于关注候选区域组的关注候选区域的数量,由此计算关注候选区域组的面积,将其用作可靠度。例如,关于图10的关注候选区域组 1和关注候选区域组2的可靠度dl和d2,在将1个局部区域的面积设定为1时,为dl = 9,d2 = 2。而且,可靠性计算部3415将属于关注候选区域组的各局部区域的坐标(m,η)、色相的平均值H_ave以及可靠度作为关注候选区域信息,输出到关注区域设定部3416。关注区域设定部3416根据关注候选区域信息内包含的可靠度设定关注区域。例如,通过将可靠度是大于等于5的关注候选区域组设定为关注区域,来仅将关注区域组1设定为关注区域。通过进行这样的处理,能将微小面积的关注候选区域组作为噪声排除,可检测可靠度高的关注区域。然后,关注区域设定部3416根据属于检测出的关注候选区域组(以下称为关注区域组)的各局部区域a (m,η)的坐标,计算关注区域组的重心坐标(x,y),将属于关注区域组的各局部区域的坐标a(m,η)和关注区域组的重心坐标(x,y)、色相的平均值H_ave、可靠度作为关注区域信息输出到显示形态决定部342。并且,关注区域设定部3416将在特殊光图像中是否检测出关注区域的控制信号输出到显示形态决定部342。另外,在本实施例中,根据属于关注候选区域组的关注候选区域的数量计算面积, 将其作为可靠度,然而,也可以计算属于关注候选区域组的关注候选区域的平均的色相和彩度、亮度,使用其来计算可靠度。而且,当然也能将关注候选区域组的面积和色相、彩度、 亮度进行组合来计算可靠度。接着,说明显示形态决定部342的具体结构。图11是说明本实施方式中的显示形态决定部;342的结构的一例的框图。显示形态决定部342包括加工部3421、引导信息生成部;3422以及存储部3423。从普通光图像取得部320和特殊光图像取得部330输出的图像信号被输入到加工部。加工部3421根据控制部350的控制,使用从关注区域检测部341输出的关注区域信息和从引导信息生成部3422输出的消失方向信息,对普通光图像进行加工。加工部3421还将加工后的普通光图像输出到输出部400。控制部350可根据用户指示对以下情况进行控制例如在检测出关注区域的情况下和未检测出关注区域的情况下,加工部3421将什么样的图像输出到输出部400。关于加工部3421和引导信息生成部3422的详情,将在后面描述。存储部3423存储从关注区域检测部341输出的关注区域信息中表示关注区域组的标记信息、关注区域组的重心坐标(χ,y)、特征量的平均值以及可靠度。图12示出所存储的信息的一例。这里,存储了 1至3这3个关注区域组,而这表示根据输入到关注区域检测部341的1帧的特殊光图像,检测出3个关注区域组。在本实施例中,由于假定了动态图像,因而向关注区域检测部341依次输入1帧的特殊光图像。其结果是,从关注区域检测部341依次输出针对各帧检测出的关注区域信息。 在该情况下,存储部3423与取得了特殊光图像的定时关联,存储关注区域信息。此时,存储部3423只要是存储例如以下处理所需要的任意个数的关注区域信息的环状缓存器即可。 另外,在根据特殊光图像未检测出关注区域的情况下,存储部3423存储表示无关注区域的 fn息ο这里,说明加工部3421和引导信息生成部3422的具体处理。在由关注区域检测部341检测出关注区域的情况下,加工部3421使用从关注区域检测部341输出的关注区域信息,对从普通光图像取得部320输出的普通光图像进行加工。图13(A)是示出从普通光图像取得部320输出的普通光图像和从关注区域检测部341输出的关注区域信息的一例。这里,虚线所示的关注区域组内包含的全部像素的位置信息被作为关注区域信息而输入到加工部3421。加工部3421例如针对普通光图像中作为关注区域信息而被输入的全部像素,使用以下的式(9) (11)来进行颜色转换处理。这里,1~(1,7)、8“,7)、13(1,7)是在颜色转换前的普通光图像的坐标(X,y)中的R、G、B通道的信号值,r_out (χ, y)、g_out (χ, y)、b_ out(x,y)是在颜色转换后的普通光图像的R、G、B通道的信号值。并且,T_r、T_g、T_b是任意的目标颜色的R、G、B信号值,gain是0 1的任意系数。r_out (χ, y) = gainer (χ, y) + (1-gain) *T_r......(9)g_out (χ, y) = gain*g(x, y) + (1-gain) *T_g......(10)b_out(x, y) = gain*b (x, y) +(1-gain) *T_b......(11)通过进行这样的处理,在观察图13(B)所示的特殊光图像时被怀疑是病变部位的关注区域如图13(C)所示作为颜色不同的区域重叠在普通光图像上进行显示,既能在进行使用了普通光图像和特殊光图像的诊断时减少医生的负担,又可防止看漏病变部位的情况。并且,加工部3421可以针对例如普通光图像中构成关注区域组的边界的全部像素,使用以下的式12 14来进行颜色转换处理。r_out(x, y) = T_r ......(12)g_out(x, y) = T_g ......(13)b_out(x, y) = T_b ......(14)通过进行这样的处理,如图13(D)所示,可将关注区域组作为由任意的目标颜色包围的部分重叠在普通光图像上进行显示。图14(A) 图14(C)是示出在用户移动了本实施方式中的内窥镜系统的插入部的情况下,从特殊光图像取得部330输出到关注区域检测部341的特殊光图像的图。在定时1所取得的特殊光图像1中,检测出关注区域组,而随着时间经过定时2、定时3,插入部朝左方向移动,伴随于此,关注区域组相对于图像朝右方向移动。其结果是,在定时3所取得的特殊光图像3中,关注区域组脱离取得图像的范围,从而未检测出关注区域组。当用户在没有关注图像的状态下无意识地进行了这样的插入部的动作时,看不到被怀疑是病变的区域即关注区域组,从而花费再次搜索关注区域组的工夫。另外,在用户关注图像的情况下,在使插入部快速地移动时,仅短时间地检测关注区域组,从而也会导致看漏关注区域组。为了解决这样的课题,在通过关注区域检测部341未检测出关注区域组的情况下,加工部3421向引导信息生成部3422输出控制信号,以使引导信息生成部3422进行消失方向的估计。引导信息生成部3422根据来自加工部3421的控制信号,从存储在存储部 3423内的关注区域信息估计消失方向。这里,为使说明变得简单,假定在特殊光图像1和特殊光图像2中检测出1个关注区域组来进行说明。例如,在图14(C)所示的特殊光图像3 中未检测出关注区域组的情况下,引导信息生成部首先根据图14(A)所示的在定时1所取得的特殊光图像1和图14(B)所示的在定时2所取得的特殊光图像2,判定是否检测出关注区域组。然后,在根据特殊光图像1和特殊光图像2检测出关注区域组的情况下,使用根据特殊光图像1检测出的关注区域组的重心坐标(X1_T1,yl_Tl)、和根据特殊光图像2检测出的关注区域组的重心坐标(Xl_T2,yl_T2),根据下式(15)计算关注区域组的移动矢量V。V= (Vx, Vy) = (xl_T2-xl_Tl, yl_T2-yl_Tl)......(15)然后,引导信息生成部3422根据计算出的移动矢量(Vx,Vy),例如利用下式(16) 决定关注区域组的消失方向。在(Vy < 0,Vx > 0,Vy>Vx)的情况下消失方向上
在(Vy < 0,Vx > 0,Vy<Vx)的情况下消失方向右
在(Vy > 0,Vx > 0,Vy<Vx)的情况下消失方向右
在(Vy > 0,Vx > 0,Vy>Vx)的情况下消失方向下
在(Vy > 0,Vx < 0,Vy>Vx)的情况下消失方向下
在(Vy > 0,Vx < 0,Vy<Vx)的情况下消失方向左
在(Vy < 0,Vx < 0,Vy<Vx)的情况下消失方向左
在(Vy < 0,Vx < 0,Vy>Vx)的情况下消失方向上
..(16)之后,引导信息生成部3422将所决定的消失方向作为消失方向信息输出到加工部3421。如果将本实施例的消失方向信息设定为VI,则Vl具有表示右的信息。加工部3421 使用接收到的消失方向信息,对从普通光图像取得部320输出的普通光图像进行加工。这里,例如如图15所示,将消失方向信息Vl作为向右的箭头来附加。另外,在特殊光图像1或特殊光图像2中未检测出关注区域的情况下,在引导信息生成部3422处不决定消失方向信息。在该情况下,加工部3421将从普通光图像取得部320 输出的普通光图像照原样输出到输出部400。在本实施方式中,关于消失方向信息,是从上下左右的4个方向中选择1个方向, 然而也可以从例如附加了倾斜方向的8个方向中选择1个方向。并且,在本实施方式中,针对未检测出关注区域的特殊光图像,使用根据在前面最近的2个定时所取得的特殊光图像检测出的关注区域信息来决定消失方向,然而,也可以使用根据在过去的任意定时所取得的特殊光图像检测出的关注区域信息来决定消失方向。并且,在本实施方式中,将消失方向信息作为箭头来附加,然而也能使用任意的记号或文字信息等作为消失方向信息。并且,在本实施方式中,当根据在定时3的下一定时所取得的特殊光图像未检测出关注区域的情况下,引导信息生成部3422判定根据特殊光图像2和特殊光图像3是否检测出了关注区域。这里,由于根据特殊光图像3未检测出关注区域,因而在引导信息生成部 3422处不决定消失方向信息。在该情况下,加工部3421将在前1个定时所决定的消失方向信息Vl附加给普通光图像。在根据在之后的定时所取得的特殊光图像未检测出关注区域的情况下,也是一样的。这样,通过进行将决定了一次的消失方向信息按一定期间继续附加给普通光图像的处理,在看不到关注区域的情况下,也能容易搜索关注区域。并且,在用户使插入部快速移动且仅短时间地检测关注区域的情况下,也能防止看漏关注区域的情况。关于将决定了一次的消失方向信息附加给普通光图像的期间,例如用户可以从外部接口部500指示,也可以预先设定任意的时间。并且,在根据新取得的特殊光图像检测出关注区域的情况下,可以进行停止附加消失方向信息的控制。
使用图16的状态转移图来再次说明以上的本实施方式的方法。在图16中,特别是,详细地说明在一定时间内将输出了一次的引导信息继续输出的例子。经过多个定时 (帧)继续输出引导信息,由此,用户容易注意到引导信息的输出,能提高关注区域的再发现和抑制看漏的效果。如图16所示,状态大致是3个,即SO、Sl-I Sl-K以及S2。SO是检测出关注区域组(没有消失)且引导信息为非输出的状态,Si-I Sl-K是关注区域组消失且输出了引导信息的状态。另外,S2是关注区域组消失且引导信息为非输出的状态。这里,K是表示将决定了一次的消失方向信息继续附加给普通光图像的时间的参数。首先,在关注区域组消失(继续消失)的情况下,继续停留在S2。此时,不输出引导信息。当检测出关注区域组时,转移到so。此时也不输出引导信息。然后,在继续检测关注区域组期间,停留在SO。在SO中,当关注区域组消失时,输出引导信息,转移到S1-1。当在Sl-I中关注区域组消失(继续消失)时,转移到S1-2,当在S1-2中关注区域组消失时,转移到S1-3。其间,继续输出引导信息。当在Sl-K中关注区域组消失时,转移到S2,使引导信息为非输出。也就是说,当引导信息显示了一次时,在K帧期间,只要未再次检测出关注区域组,就继续输出引导信息。并且,在图16的例子中,当在Sl-I Sl-K中检测出关注区域组时,使引导信息为非输出状态并转移到SO。这相当于在检测出关注区域组的情况下停止附加引导信息的控制。不过,处理不限于此,在检测出关注区域组时,也可以继续显示引导信息。1. 2变形例1 (基于移动矢量的大小的附加期间控制)下面说明本实施方式的变形例。在以上说明中,使用方向信息来作为引导信息,然而不限于此。由于移动矢量具有方向和大小,因而可以根据移动矢量的大小控制引导信息的输出形态。由于移动矢量的大小相当于与到消失关注区域的距离相关的信息,因而能根据消失关注区域组在远距离还是在近距离来变更处理等。例如在本实施方式中,根据关注区域组的移动矢量,控制将消失信息附加给普通光图像的期间。具体地说,引导信息生成部3422根据关注区域组的移动矢量V= (Vx, Vy), 使用下式(17)计算移动矢量的大小V_n0rm。然后,将V_n0rm与消失方向信息一起输出到加工部3421。然后,加工部3421根据V_n0rm控制将消失方向信息附加给普通光图像的期间。算式1V norm = ^Vx2+ Vy2 ……(17)由于在V_n0rm大的情况下,插入部的移动速度被预测为快,因而当将消失方向信息附加给普通光图像的期间长时,消失方向信息的精度变差。因此,加工部3421可以进行这样的控制例如在V_n0rm大的情况下,缩短将消失方向信息附加给普通光图像的期间, 在V_n0rm小的情况下,延长将消失方向信息附加给普通光图像的期间。1. 3变形例2 (检测出多个关注区域组的例子)以上,为使说明变得简单,说明了在特殊光图像1和特殊光图像2中检测出1个关注区域组的情况,然而,在检测出多个关注区域组的情况下,引导信息的输出形态成为问题。在同时输出多个引导信息的情况下,例如,考虑到同时显示右箭头和左箭头的情况等,使用户搞混。在限定输出一个引导信息的情况下,有必要选择输出与哪个关注区域组相关的引导信息,而且在特殊光图像1和特殊光图像2中进行关注区域组之间的匹配处理。因此在本实施方式中,弓丨导信息生成部3422可以进行例如以下的处理。首先,选择在特殊光图像2中检测出的多个关注区域组中可靠度最高的关注区域组N。然后,从在特殊光图像1中检测出的多个关注区域组中选择与关注区域组N对应的关注区域组M。这里,只要选择例如特征量的平均值或可靠度的值与关注区域组N最近的关注区域组来作为对应的关注区域组M即可。之后,引导信息生成部3422与上述方法一样,根据所选择的关注区域组N和M的重心坐标决定消失方向,将消失方向信息输出到加工部3421。加工部3421使用接收到的消失方向信息,对从普通光图像取得部320输出的普通光图像进行加工。图17示出具体例。图17与图12—样,示出与存储在存储部3423内的关注区域组相关的数据的结构例。假定在定时1(对应于特殊光图像1)检测出1 3这3个关注区域组,在定时2(对应于特殊光图像幻检测出4、5这2个关注区域组。在定时3是零(未检测出关注区域组)的情况下,如上所述,根据特殊光图像1和特殊光图像2决定消失方向。在图17的例子的情况下,在定时2选择可靠度最高的关注区域组。这里,如果假定b4 > b5,则选择关注区域组4作为相当于上述的关注区域组N的关注区域组。然后,从定时1的关注区域组1 3中,使用特征量的平均值H_ave或可靠度b或者其双方,计算与关注区域组4的类似度。这里,如果设定H_aVe4和H_aVe3、b4和b3的类似度高,则选择关注区域组3作为与关注区域组4对应的关注区域组M。以下处理与已说明的处理相同,根据(x4,y4)和 (x3,y3)求出移动矢量V,使用式(16)来生成引导信息。通过进行这样的处理,即使在根据特殊光图像检测出多个关注区域组的情况下, 也能显示可靠度最高的关注区域组的消失方向。而且,通过限制为显示一个消失方向,可抑制用户搞混。1. 4变形例3 (与关注区域组相关的上限数量的设定)另外,在同时检测出多个关注区域组的情况下,考虑到存在多个具有相同的特征量、可靠度的关注区域组,产生不能适当地进行关注区域组之间的匹配处理的可能性。当不能适当进行匹配处理时,决定错误的消失方向的可能性增高。因此,引导信息生成部3422保持与关注区域组的上限数量相关的信息。然后,在根据特殊光图像检测出大于等于上限数量的关注区域组的情况下,进行停止决定消失方向的处理,通过进行这样的处理,可抑制决定了错误的消失方向的情况。1. 5本实施方式的流程图并且,在本实施方式中,构成图像处理部300的各部由硬件构成,然而不限于此。 例如,可以采用由CPU针对使用胶囊型内窥镜等的摄像装置预先取得的图像进行各部的处理的结构,作为软件,通过由CPU执行程序来实现。或者,各部进行的处理的一部分可以由软件构成。作为各部进行的处理的一部分由软件构成的情况的一例,使用图18的流程图来说明针对预先所取得的普通光图像和特殊光图像,使用软件实现图7的输出图像生成部 340的处理的情况的处理次序。
在该情况下,首先将特殊光图像读入到存储器内(步骤1),然后将与该特殊光图像同时取得的普通光图像读入到存储器内(步骤幻。然后使用所读入的特殊光图像,检测关注区域,输出关注区域信息(步骤3)。之后,决定显示形态并输出显示图像(步骤4)。这里,既可以从所读入的普通光图像和特殊光图像中选择图像,作为显示图像来输出,也可以根据在步骤3中所输出的关注区域信息,对普通光图像或特殊光图像进行加工,之后作为显示图像来输出。之后,在针对全部图像完成了一系列处理的情况下,结束处理,在残留未处理的图像的情况下,继续相同的处理(步骤5)。然后,使用图19的流程图来说明在图18的关注区域检测步骤(步骤3)中的详细处理次序。首先,说明局部区域设定步骤(步骤31)。在局部区域设定步骤中,首先针对特殊光图像,如上述的图9所示,设定多个局部区域。然后,说明特征量计算步骤(步骤3 。在特征量计算步骤中,针对所设定的全部局部区域,计算特征量。这里,作为特征量的一例,使用上述的式(3) (8)所示的色相H。然后,说明关注候选区域设定步骤(步骤33)。在关注候选区域设定步骤中,首先对针对全部局部区域计算出的特征量进行阈值处理,检测关注候选区域。这里,由于想要将褐色区域作为关注区域来检测,因而只要将例如色相H在5 35的范围内的局部区域设定为关注候选区域即可。然后,根据作为关注候选区域检测出的多个局部区域a(m,η)的坐标,检测由相互邻接的关注候选区域构成的关注候选区域组,通过附加标记信息来识别多个不同的关注候选区域组。然后,按照检测出的各关注候选区域组,计算属于关注候选区域组的局部区域的特征量的平均值。这里,按照各关注候选区域组计算色相的平均值H_ave。然后,说明可靠度计算步骤(步骤34)。在可靠度计算步骤中,针对关注候选区域组计算可靠度,以用于判定是否是病变。这里,例如如前面所述,通过计算属于各关注候选区域组的关注候选区域的数量来计算关注候选区域组的面积,将其用作可靠度。接着,说明关注区域设定步骤(步骤3 。在关注区域设定步骤中,如上面所述,根据关注候选区域组的可靠度设定关注区域。例如将可靠度是大于等于5的关注候选区域组设定为关注区域。接着,说明关注区域信息输出步骤(步骤36)。在关注区域信息输出步骤中,根据属于检测出的关注候选区域组(以下称为关注区域组)的各局部区域a(m,n)的坐标,计算关注区域组的重心坐标(x,y),将属于关注区域组的各局部区域的坐标a (m,η)和关注区域组的重心坐标(x,y)、色相的平均值H_ave、可靠度作为关注区域信息来输出。并且,在关注区域信息输出步骤中,还输出在特殊光图像中是否检测出关注区域的标记信息。接着,使用图20的流程图来说明在图18的显示形态决定步骤(步骤4)中的处理次序。首先,说明普通光图像的加工步骤(步骤41)。在普通光图像的加工步骤中,首先使用在关注区域检测步骤中所输出的关注区域信息,利用上述的式(9) (11)所示的方法来对普通光图像进行加工。接着,说明消失方向估计步骤(步骤42)。在消失方向估计步骤中,根据在关注区域检测步骤中所输出的标记信息,使用上述的式(1幻、(16)所示的方法来估计消失方向。
接着,说明消失方向信息的附加步骤(步骤43)。在消失方向信息的附加步骤中, 将在消失方向的估计步骤中所估计的消失方向信息附加给普通光图像。这里,例如如上面所述,在一定期间内,进行将决定了一次的消失方向信息继续附加给普通光图像的处理。通过进行这样的处理,在观察图13(B)所示的特殊光图像时,如图13(C)所示,被怀疑是病变部位的关注区域作为颜色不同的区域重叠在普通光图像上进行显示,在进行使用了普通光图像和特殊光图像的诊断时,既能够减少医生的负担,又可以防止看漏病变部位的情况。而且,在用户使插入部快速地移动且仅短时间地检测关注区域的情况下,也能防止看漏关注区域的情况。1.6本实施方式的详细结构在以上的本实施方式中,图像处理装置如图1所示,包括取得特殊光图像的特殊光图像取得部330。并且,如图7所示,包括检测应关注的区域即关注区域的关注区域检测部341。而且,如图11所示,包括有无消失判定部和引导信息生成部3422。有无消失判定部判定关注区域有无从显示对象范围消失,引导信息生成部生成针对所消失的关注区域的引导信息。并且,如图1所示,包括进行信息的输出控制的输出控制部360,该信息包含引导 fn息ο这里,关注区域是对用户来说观察的优先位次相对地比其它区域高的区域,例如, 在用户是医生且希望治疗的情况下,是指对粘膜部或病变部位作了拍照的区域。并且,作为另一例子,在医生想要观察的对象是泡或便的情况下,关注区域是对该泡部分或便部分作了拍照的区域。即,用户应关注的对象根据其观察目的而不同,然而无论怎样,在该观察时,对用户来说观察的优先位次相对地比其它区域高的区域为关注区域。并且,如上述的式 (3) (8)所说明的那样,关注区域可使用第二图像的像素的特征量(在本实施方式中是色相,然而也可以是彩度等)来检测,例如式(6) (8)的特征量的阈值根据关注区域的种类而变化。例如第一种类的关注区域的色相、彩度等特征量的阈值和第二种类的关注区域的特征量的阈值为不同的值。而且,在关注区域的种类改变的情况下,只需改变该特征量的阈值即可,关于检测关注区域之后的处理(显示形态的设定处理等),可通过与在本实施方式中所说明的处理相同的处理来实现。由此,可实现这样的图像处理装置取得特殊光图像,根据所取得的特殊光图像的像素的特征量检测关注区域,并根据检测出的关注区域的消失判定,生成并输出针对所消失的关注区域的引导信息。因此,例如,能实现可进行图14(A) 图14(C)和图15所示的输出的图像处理装置。例如在图14(A)、图14(B)中检测关注区域(这里是关注区域组), 在图14(C)中,关注区域消失。此时,从图14(A)、图14(B)判断为关注区域相对于画面朝右方向移动,如图15所示,具体地说,例如将引导信息显示为朝右方向的箭头。由此,例如在医生由于某种原因而看漏关注区域的情况下,或者在为使摄像部高速移动而仅一瞬间对关注区域作了拍照等情况下,可输出针对所消失的关注区域的引导信息,因而容易再发现关注区域,能顺利地进行诊断和治疗。并且,图11所示的引导信息生成部3422生成方向信息以及与距离对应的距离信息作为引导信息,其中,所述方向信息表示从对应于显示对象范围(显示在显示部上的区域)的活体内的场所指向对应于消失关注区域的活体内的场所的方向。
这里,活体内的场所表示观察对象的体内,具体地说,例如在对象是人的情况下, 表示人体内部的场所。在下部消化系统的内窥镜装置中,大肠等被认为是活体内的场所。本实施方式中的“显示对象范围”和“关注区域”都表示图像信息,在图像信息中,难以考虑到方向和距离的信息。因此,在这里,作为引导信息的方向信息和距离信息被定义为是表示活体内的场所的相对关系的信息。由此,能具体地使用方向信息和距离信息作为引导信息。作为方向信息,如上述的图15所示,考虑的是显示表示认为有消失关注区域的方向的箭头等。并且,关于距离信息, 能从图14㈧和图14⑶求出。例如,可以认为,在图像上的关注区域的移动距离越大,在下一定时移动得就越远。此时,既可以假定等速运动等,具体地提示数值,也可以进行阈值处理,例如以3个阶段(远、中、近)等来显示。并且,特殊光图像取得部330取得第一 第三特殊光图像,关注区域检测部341在各个特殊光图像中检测关注区域,有无消失判定部根据各个特殊光图像中的关注区域的检测结果,进行关注区域的消失判定。然后,在判定为第三特殊光图像中关注区域消失且在第一、第二特殊光图像中关注区域未消失的情况下,引导信息生成部3422根据第一图像上位置和第二图像上位置生成引导信息。这里,第一图像上位置是第一特殊光图像中的关注区域的图像上的位置,第二图像上位置是第二特殊光图像中的关注区域的图像上的位置。另外,具体地说,例如可以使用第一图像上位置和第二图像上位置的差值。并且,具体地说,例如,第一图像上位置可以是第一特殊光图像中的关注区域的重心位置,第二图像上位置可以是第二特殊光图像中的关注区域的重心位置。由此,在某特殊光图像中关注区域消失、而且在与关注区域已消失的特殊光图像不同的2个特殊光图像中关注区域未消失的情况下,可根据图像上位置生成引导信息。这容易考虑到以图14(A) 图14(C)为例。不过,这里,由于没有特别地考虑定时,因而严格地说与按时间序列排列的图14(A) 图14(C)是不同的。在图14(C)中,由于关注区域消失,因而根据图14(A)的关注区域的图像上位置和图14(B)的关注区域的图像上位置生成引导信息。这里,图像上位置在图14(A)和图14(B) 中,可以是由椭圆的虚线表示的区域内的任意点,也可以是由正方形的虚线表示的区域内的任意点(包含关注区域的重心位置)。并且,可以表示区域而不是点。并且,引导信息生成部3422根据第一图像上位置和第二图像上位置的差值,计算关注区域间的移动矢量,根据计算出的移动矢量生成引导信息。由此,作为基于图像上位置的差值的处理,能进行基于移动矢量的处理。由于移动矢量表示方向和大小(距离),因而能以更容易明白的形式取得作为方向信息和距离信息的引导信息。并且,图1所示的输出控制部360也可以根据移动矢量来控制输出引导信息的时间。具体地说,在移动矢量的大小大的情况下,缩短输出引导信息的时间,在移动矢量的大小小的情况下,延长输出引导信息的时间。这里,通过与所给阈值的比较,来判断移动矢量的大小是大还是小。由此,能考虑移动矢量的大小来变更引导信息的输出时间。具体地说,一般认为, 当移动矢量的大小大时,关注区域处于在图像上高速移动(内窥镜装置的摄像部高速移动或者旋转等)的状态,已消失的关注区域移动得相当远。在这样的状态下,不能容易地再发现消失关注区域,即使长时间显示引导信息,也使用户搞混,因而将引导信息的输出时间设定得短。反之,在移动矢量的大小小的情况下,消失关注区域就在附近,容易再发现,因而即使长时间地输出引导信息,也没有障碍。并且,图12所示的引导信息生成部3422根据移动矢量的各坐标分量,使移动矢量与第一 第N方向信息中的任一方对应,将所对应的方向信息作为引导信息来输出。由此,能具体地使用N种方向作为方向信息。当根据移动矢量的坐标分量考虑方向时,在该状态下考虑连续无限的方向,在输出(例如箭头的显示)时非常麻烦。因此,通过如上述的式(16)那样限定为N = 4,可以仅考虑上下左右的4个方向,可容易处理。另外,作为代表性的N,考虑了 4和8,然而不限定于此。并且,特殊光图像取得部330在多个定时中的各定时,取得多个特殊光图像中的各特殊光图像。然后,关注区域检测部341在各特殊光图像中检测关注区域,有无消失判定部在各特殊光图像中判定有无消失。然后,在下述情况下生成引导信息,上述情况为由有无消失判定部判定为在第m(m是3以上的整数)定时关注区域消失、而且在第m定时之前的定时、在至少2个以上的特殊光图像中检测出关注区域。并且,在第m定时之前的定时检测出关注区域的特殊光图像是小于等于1个的情况下,不生成引导信息。由此,在能生成引导信息的情况下,生成引导信息,在不能生成引导信息的情况下,能适当地跳过引导信息的生成。具体地说,再次示出图14(A) 图14(C)来进行说明。 如图14(C)所示,在某定时(这里m= 3)关注区域已消失的情况下,如果在m之前的定时 (在这里为定时1和定时2)在至少2个以上的特殊光图像中检测出关注区域,则如上面所述,可根据例如差值和移动矢量等来估计在第m定时的关注区域的位置。因此,即使生成引导信息也没有问题。与此相对,考虑例如在第一定时没有检测出关注区域的情况。此时,可在第三定时的关注区域的位置估计中使用的是在第二定时的关注区域的信息。然而,在关注区域是小于等于1的情况下,不能计算差值和移动矢量等,不能进行方向和距离的估计。在这样的情况下,通过最初跳过引导信息的生成,可避免输出不需要的引导信息,可减轻处理负担。并且,输出控制部360根据有无消失判定部的判定结果,控制引导信息的输出形态。具体地说,例如,在第N(N是大于等于3的整数)定时开始输出引导信息且在第N 第 N+K(K是大于等于1的整数)定时的期间关注区域继续消失的情况下,在第N 第N+K定时继续输出引导信息。这里的引导信息是在第N定时所生成的引导信息。由此,在所给期间内继续输出已输出了一次的引导信息(在上述情况下,为经过K 次定时的期间)。当未进行这样的处理时,所输出的引导信息仅以1定时(例如,当每秒为 30帧时,为1/30秒的非常短的时间)被输出。这样,由于不能获得再发现消失关注区域等的本实施方式的优点,因而如上面所述,继续输出引导信息。这相当于在图16的例子中所说的Sl-I Sl-K的状态间的转移。从SO向Sl-I 的转移相当于在第N定时的关注区域的消失和引导信息的输出开始,此后,只要关注区域继续消失,就继续向Sl-2、Sl-3转移,在向Sl-K转移之前的期间,继续输出引导信息。并且,在第N+1 第N+K定时检测出关注区域的情况下,输出控制部360可以停止输出引导信息。由此,当在输出引导信息的情况下(也就是说,在前面最近的定时之前关注区域消失的情况下)检测出关注区域时,能停止输出引导信息。因此,在关注区域消失后再发现同一关注区域等情况下,能停止输出不需要的引导信息,可顺利地进行用户(医生)的诊断和治疗。另外,还考虑了新检测出与所消失的关注区域不同的关注区域的情况。因此,在本实施方式中,不限定为停止输出引导信息,而可以继续输出。只要能使用匹配方法等来判定检测出的引导信息是否与所消失的引导信息相同,就可以在相同的情况下停止输出引导信息,在不同的情况下继续输出弓丨导信息。这相当于在图16的例子中所说的从Sl-I Sl-K向SO的转移。即使在继续输出引导信息的期间内,在检测出关注区域的情况下,也停止输出引导信息。并且,输出控制部360在第N+K+1定时停止输出在第N定时生成的引导信息,而与关注区域消不消失无关。由此,在继续输出引导信息的期间结束后,可停止输出在第N定时所生成的引导信息。考虑的是,在K次定时(例如K帧)期间,消失关注区域向远处移动等。或者还考虑的是,用户没有找回关注区域的意向。即使此时继续输出引导信息,由于对用户来说是不利的,因而也停止输出引导信息。这相当于在图16的例子中所说的从Sl-K向SO、或者从Sl-K向S2的转移。不输出引导信息,而与关注区域消不消失无关。并且,输出控制部360包括剩余输出时间设定部,该剩余输出时间设定部设定与继续输出引导信息的时间对应的剩余输出时间信息,剩余输出时间设定部设定K作为用于设定剩余输出时间信息的信息。由此,能任意地设定在第N定时所生成的继续输出引导信息的时间K。这里,只要假定剩余输出时间信息是例如计数器那样的剩余输出时间信息即可。在开始输出引导信息时,例如设定为K,每继续输出1帧就减去1。然后在小于等于所给的阈值的情况下,停止输出引导信息。并且,特殊光图像取得部330在多个定时中的各定时取得多个特殊光图像中的各特殊光图像。然后,关注区域检测部341在各特殊光图像中检测关注区域,有无消失判定部在各特殊光图像中判定有无消失。然后,在连续的定时中关注区域继续消失的情况下,输出控制部360在连续的定时中继续提示在过去所生成的引导信息。由此,在关注区域继续消失的情况下,可在连续的定时中继续输出引导信息。在将连续的定时设定为第N 第N+K定时的情况下,这与上述控制相同。并且,图像处理装置包括关注度计算部,该关注度计算部计算表示关注区域的关注程度的关注度信息,输出控制部360根据关注度信息控制引导信息的输出形态。具体地说,根据关注度信息,优先输出与被判定为更应关注的关注区域关联的引导信息。并且,关注度信息包含例如特殊光图像的像素的特征量和可靠度中的至少一方。由此,能针对关注区域设定关注度信息,优先输出与更应关注的关注区域对应的引导信息。在关注度信息是可靠度的情况下,关注度计算部相当于图8所示的可靠度计算部 3415。
使用图17来说明具体例。在定时3关注区域消失而开始生成引导信息。此时,提取在定时2的关注度信息(这里是可靠度)最高的关注区域(这里是关注区域组4)。然后,选择与根据可靠度和特征量的平均值的类似度提取出的关注区域对应的在定时1的关注区域(这里是关注区域组幻。然后,从关注区域组3和关注区域组4求出例如移动矢量等,生成引导信息。这样,即使同时检测出多个关注区域,所输出的引导信息也被限定为1个。因此, 可避免同时输出多个引导信息(例如同时出现右和左的箭头)的情况。并且,输出控制部360可以包括上限数量设定部,该上限数量设定部设定要输出的引导信息的上限数。而且,输出控制部360可以根据所生成的引导信息和所设定的上限数量的比较结果,控制引导信息的输出形态。具体地说,例如,在所生成的引导信息的数量超过上限数量的情况下,跳过引导信息的输出。由此,能避免同时输出多个引导信息的情况。同时生成多个引导信息的情况例如被认为是观察区域由多个关注区域(病变部位)覆盖的情况等,在这样的情况下,没有对一个一个关注区域进行关注的优点。因此,通过抑制输出过度的引导信息,可顺利进行医生的诊断和治疗。并且,如图1所示,图像处理装置可以包括普通光图像取得部320,该普通光图像取得部320取得普通光图像。然后,输出控制部360将引导信息与普通光图像对应地输出。由此,能获得图15所示的输出形态。特殊光图像由于在提高病变部位的视觉确认性的同时,带上暗淡、独特的色彩,因而成为难以整体观察的图像。因此,作为输出形态,考虑的是将引导信息与视认性高的普通光图像对应地输出。并且,如图1所示,图像处理装置包括输出部,该输出部根据由输出控制部360所控制的输出形态,输出包含引导信息的信息。这里,作为输出部的一例记载了显示部,然而不限定于图像显示。也可以使用警告音或语音、LED等的发光等方法进行输出。并且,关注区域是表示病变部位的区域。由此,能检测病变部位作为关注区域。具体地说,如后面所述,通过使用NBI、AFI、 IRI等方法,按各方法提高不同的病变的视认性,作为关注区域来检测。并且,特定波段是比白色光的波段窄的波段。具体地说,特殊光图像是活体内图像,特定波段是由血液中的血红蛋白吸收的波长的波段。更具体地说,该波段是390nm 445nm或者530nm 550nm的波段。由此,能观察位于活体的表层部和深部的血管的结构。并且,通过将获得的信号输入到特定的通道(R、G、B),能够以褐色等显示扁平上皮癌等难以通过普通光来视觉确认的病变等,可抑制看漏病变部位的情况。另外,390nm 445nm或者530nm 550nm是根据由血红蛋白吸收的特性以及各自到达活体的表层部或深部的特性获得的数字。不过,该情况下的波段不限定于此,还可考虑的是,例如由于与血红蛋白的吸收以及到达活体的表层部或深部相关的实验结果等的变动因素,波段的下限值减少约0 10%,上限值上升约0 10%。并且,本实施方式涉及使计算机作为特殊光图像取得部330、关注区域检测部 341、有无消失判定部、引导信息生成部3422以及输出控制部360来发挥功能的程序。这里,特殊光图像取得部330取得特殊光图像,关注区域检测部341根据特殊光图像检测关注区域。有无消失判定部判定关注区域有无消失,引导信息生成部3422根据有无消失判定部的判定生成引导信息。然后,输出控制部360进行包含引导信息的信息的输出控制。由此,例如如胶囊型内窥镜等那样,能首先蓄积图像数据,之后使用PC等计算机系统以软件方式对所蓄积的图像数据进行处理。2.第二实施方式参照图21来说明包括本发明的第二实施方式涉及的图像处理装置的内窥镜系统。本实施方式涉及的内窥镜系统包括光源部100、插入部200、图像处理部300、输出部400 以及外部接口部500。光源部100包括产生白色光的白色光源110 ;用于将来自光源的出射光会聚到导光光纤210的会聚透镜120 ;以及从白色光中提取预定波段的光的旋转滤光片130。如图22所示,旋转滤光片130由透射率特性不同的2种滤光片F1、F2构成。关于该滤光片Fl、F2,例如如图23所示,其中,滤光片Fl具有让400nm 650nm的波段的光透射的透射率特性,滤光片F2具有让600nm 650nm的波段的光透射的透射率特性。滤光片 Fl的光是白色光。由滤光片F2所提取的600nm 650nm的波段的光具有激励Cy5那样的荧光药剂、使其产生660nm 750nm的波段的荧光的特性。这里,假定该荧光药剂具有特别地聚积在肿瘤等的病变部位的性质。插入部200被形成为细长且能弯曲以便能插入到例如体腔内。插入部200包括 用于引导由光源部会聚的光的导光光纤210 ;使由该导光光纤210引导到前端的光扩散并照射到观察对象的照明透镜220 ;会聚从观察对象返回的反射光的物镜230 ;将会聚的反射光和荧光分到不同光路的二向色镜观0;遮断所分出的荧光内包含的激励光的屏障滤光片 270 ;检测所分出的反射光的第一摄像元件250 ;以及检测通过了屏障滤光片270的荧光的第二摄像元件沈0。如图M所示,屏障滤光片270具有这样的透射率特性仅使由二向色镜280从反射光所分出的光中相当于荧光的、波段为660nm 750nm的光通过,并遮断其它光。并且, 第一摄像元件250是具有例如图2所示的R、G、B的分光特性的拜尔型彩色摄像元件,第二摄像元件260是在例如波段660nm 750nm中具有较高的感光度特性的单色摄像元件。图像处理部300包括A/D转换部310、普通光图像取得部320、特殊光图像取得部 330、输出图像生成部340以及控制部350。控制部350与普通光图像取得部320、特殊光图像取得部330以及输出图像生成部340双向连接,对它们进行控制。而且,控制部350也与所述的旋转滤光片130双向连接,旋转滤光片130根据来自控制部350的信号驱动电动机旋转,由此依次切换滤光片Fl和F2,将照明光依次照射到作为观察对象的体腔内组织。并且,控制部350将配置在光路中的滤光片Fl、F2的信息作为触发信号,输出到普通光图像取得部320、特殊光图像取得部330以及输出图像生成部340。外部接口部500是用于由用户向该内窥镜系统进行输入等的接口。A/D转换部310将从第一摄像元件250和第二摄像元件260输出的模拟信号转换为数字信号并将其输出。普通光图像取得部320根据从A/D转换部310输出的数字信号取得普通光图像。 特殊光图像取得部330根据从A/D转换部310输出的数字信号取得特殊光图像。
由普通光图像取得部320所取得的普通光图像和由特殊光图像取得部330所取得的特殊光图像被输出到输出图像生成部340。输出图像生成部340根据该2张图像生成1 张输出图像并将其输出到图像输出部。如上述的图5所示,普通光图像取得部320包括普通光图像生成部321和普通光图像存储部322。普通光图像生成部321根据从控制部350发送来的触发信号,识别滤光片Fl位于光路中的期间,对在滤光片Fl位于光路中的期间内从由第一摄像元件发送来的模拟信号所转换的数字信号进行图像处理,生成普通光图像。具体地说,进行已有的插值处理和白平衡、颜色转换、灰度转换等处理,生成普通光图像并将其输出。普通光图像存储部 322存储从普通光图像生成部321输出的普通光图像。如上述的图6所示,特殊光图像取得部330包括特殊光图像生成部331和特殊光图像存储部332。特殊光图像生成部331根据从控制部350发送来的触发信号,识别滤光片F2位于光路中的期间,对在滤光片F2位于光路中的期间内从由第二摄像元件发送来的模拟信号所转换的数字信号进行图像处理,生成特殊光图像。在本实施方式中,特殊光图像是单色荧光图像。具体地说,对取得了从药剂荧光聚积的病变部位产生的荧光的图像信号进行例如增益调整、灰度转换等处理,生成单色特殊光图像并将其输出。特殊光图像存储部 332存储从特殊光图像生成部331输出的特殊光图像。图25是示出位于光路中的滤光片的种类以及存储在普通光图像存储部322和特殊光图像存储部332内的图像的图。首先在定时1在光路中插入滤光片F1。此时,所照射的照明光是白色光,普通光图像作为彩色图像被存储在普通光图像存储部322内,在特殊光图像存储部332内不存储图像。然后在定时2在光路中插入滤光片F2。此时,所照射的照明光是激励光,从药剂荧光聚积的病变部位产生的荧光作为单色图像被存储在特殊光图像存储部332内,在普通光图像存储部322内不存储图像。普通光图像存储部322和特殊光图像存储部332可各自存储多张图像。输出图像生成部340的结构与第一实施方式相同。另外,由于本实施方式中的特殊光图像如上
查看更多专利详情

下载专利文献

下载专利

同类推荐