本發(fā)明涉及檢測裝置和檢測方法。
背景技術:
最近,據(jù)說存在智障者增加的傾向。關于智障,可知通過早期發(fā)現(xiàn)并開始治療教育來減輕癥狀,并且能夠適應社會的效果提高。在日本,也以通過1歲半診查時的門診等來早期發(fā)現(xiàn)為目標。但是,存在精神科醫(yī)生不足、門診花費時間等問題,其效果不能說是充分的。因此,要求客觀且高效的智障的診斷輔助裝置。
為了智障的早期發(fā)現(xiàn),理想的是例如在1歲半診查時能夠診斷。另外,對于診查時的使用需要多考慮。作為智障兒童的特征,可以舉出不看對面的對方的眼睛(轉移視線)的例子。另外,作為智障兒童的特征,相比于人物影像更喜歡幾何圖案的影像。公開有如下的方法:應用通過相機對人的臉進行攝影,并通過計算角膜反射和瞳孔的位置來檢測注視點的方法等,對智障進行診斷輔助。
現(xiàn)有技術文獻
專利文獻
專利文獻1:日本特開2011-206542號公報
專利文獻2:日本特開2005-198743號公報
非專利文獻
非專利文獻1:Pierce K et al.,“Preference for Geometric Patterns Early in Life as a Risk Factor for Autism.”,Arch Gen Psychiatry.2011Jan;68(1):101-109.
技術實現(xiàn)要素:
雖然如上所述公開有檢測注視點的方法、輔助智障的被檢驗者的診斷的方法,但是要求更高精度的檢測方法。
本發(fā)明是鑒于上述情況而完成的,其目的在于,提供能夠提高檢測精度的檢測裝置和檢測方法。
為了解決上述的課題并實現(xiàn)目的,本發(fā)明具有:顯示部;拍攝部,對被檢驗者進行拍攝;視線檢測部,根據(jù)通過所述拍攝部拍攝的拍攝圖像,檢測所述被檢驗者的視線方向;輸出控制部,使包含人物圖像和幾何圖案圖像的診斷圖像顯示于所述顯示部;以及視點檢測部,根據(jù)所述視線方向,對作為所述人物圖像內的所述被檢驗者的視點的第一視點進行檢測,對作為所述幾何圖案圖像內的包含幾何圖案的中心、幾何圖案的特征部分、描繪幾何圖案的線的密度比其他部分大的部分以及幾何圖案變化的部分中的至少一個的區(qū)域中的所述被檢驗者的視點的第二視點進行檢測。
本發(fā)明的檢測裝置和檢測方法具有能夠提高檢測精度的效果。
附圖說明
圖1是示出本實施方式的顯示部、立體相機、紅外線光源以及被檢驗者的配置的一例的圖。
圖2是示出本實施方式的顯示部、立體相機、紅外線光源以及被檢驗者的配置的一例的圖。
圖3是示出診斷輔助裝置的功能的概要的圖。
圖4是示出圖3所示的各部分的詳細功能的一例的框圖。
圖5是說明通過本實施方式的診斷輔助裝置執(zhí)行的處理的概要的圖。
圖6是示出使用兩個光源的方法與使用一個光源的本實施方式之間的不同的說明圖。
圖7是用于說明計算瞳孔中心位置與角膜曲率中心位置的距離的計算處理的圖。
圖8是示出本實施方式的計算處理的一例的流程圖。
圖9是示出使用事先求出的距離計算角膜曲率中心的位置的方法的圖。
圖10是示出本實施方式的視線檢測處理的一例的流程圖。
圖11是示出診斷圖像的一例的圖。
圖12是示出在本實施方式中使用的診斷圖像的一例的圖。
圖13是示出在本實施方式中使用的診斷圖像的另一例的圖。
圖14是示出使用圖12的診斷圖像時的診斷輔助處理的一例的流程圖。
圖15是示出使用圖13的診斷圖像時的診斷輔助處理的一例的流程圖。
圖16是示出在本實施方式中使用的診斷圖像的另一例的圖。
具體實施方式
以下,根據(jù)附圖對本發(fā)明的檢測裝置和檢測方法的實施方式進行詳細說明。另外,本發(fā)明不限定于該實施方式。另外,以下對在使用視線檢測結果輔助智障等的診斷的診斷輔助裝置中使用了檢測裝置的例子進行說明。能夠適用的裝置不限定于診斷輔助裝置。
本實施方式的檢測裝置(診斷輔助裝置)使用設置在一處的照明部檢測視線。另外,本實施方式的檢測裝置(診斷輔助裝置)使用在視線檢測前使被檢驗者注視一點來檢測到的結果,高精度地計算出角膜曲率中心位置。
另外,照明部包含光源,是能夠對被檢驗者的眼球照射光的要件。光源是例如LED(Light Emitting Diode,發(fā)光二極管)等產(chǎn)生光的元件。光源也可以由一個LED構成,也可以組合多個LED而配置在一處來構成。以下,作為這種表示照明部的用語有時使用“光源”。
另外,也可以構成為使用設置在兩處以上的照明部檢測視線。此時,例如能夠適用與專利文獻2相同的視線檢測方法。
圖1和圖2是示出本實施方式的顯示部、立體相機、紅外線光源以及被檢驗者的配置的一例的圖。
如圖1所示,本實施方式的診斷輔助裝置包含顯示部101、立體相機102、LED光源103。立體相機102配置在顯示部101的下方。LED光源103配置在包含于立體相機102的兩個相機的中心位置。LED光源103是例如照射波長850nm的近紅外線的光源。在圖1中,示出通過9個LED構成LED光源103(照明部)的例子。另外,立體相機102使用能夠透射波長850nm的近紅外光的透鏡。
如圖2所示,立體相機102具備右相機202和左相機203。LED光源103朝向被檢驗者的眼球111照射近紅外光。在由立體相機102獲取的圖像中,瞳孔112以低亮度反射而變暗,在眼球111內作為虛像產(chǎn)生的角膜反射113以高亮度反射而變亮。因此,能夠通過兩臺相機(右相機202、左相機203)分別獲取瞳孔112和角膜反射113的圖像上的位置。
而且,根據(jù)通過兩臺相機得到的瞳孔112和角膜反射113的位置,計算出瞳孔112和角膜反射113的位置的三維世界坐標值。在本實施方式中,作為三維世界坐標,將顯示部101的畫面的中央位置作為原點,將上下作為Y坐標(上為+),將橫方向作為X坐標(右邊為+),將深度作為Z坐標(跟前為+)。
圖3是示出診斷輔助裝置100的功能的概要的圖。在圖3中示出圖1和圖2所示的結構的一部分和在該結構的驅動等中使用的結構。如圖3所示,診斷輔助裝置100包含右相機202、左相機203、LED光源103、揚聲器205、驅動·IF(interface,接口)部313、控制部300、存儲部150、顯示部101。在圖3中,雖然以容易理解與右相機202和左相機203的位置關系的方式示出了顯示畫面201,但是顯示畫面201是在顯示部101中顯示的畫面。另外,驅動部與IF部可以使是一體的,也可以是單獨的。
揚聲器205在校準時等作為輸出用于提醒被檢驗者注意的聲音等的聲音輸出部來發(fā)揮功能。
驅動·IF部313對包含在立體相機102中的各部分進行驅動。另外,驅動·IF部313由包含在立體相機102中的各部分與控制部300的接口構成。
控制部300例如能夠通過具有CPU(Central Processing Unit,中央處理器)等的控制裝置、ROM(Read Only Memory,只讀存儲器)或RAM(Random Access Memory,隨機存取存儲器)等的存儲裝置、連接到網(wǎng)絡而進行通信的通信I/F、連接各部分的總線的計算機等實現(xiàn)。
存儲部150存儲控制程序、檢測結果、診斷輔助結果等各種信息。存儲部150例如存儲顯示于顯示部101的圖像等。顯示部101顯示用于診斷的對象圖像等各種信息。
圖4是示出圖3所示的各部分的詳細功能的一例的框圖。如圖4所示,在控制部300上連接有顯示部101、驅動·IF部313。驅動·IF部313具有相機IF314、相機IF315、LED驅動控制部316、揚聲器驅動部322。
在驅動·IF部313上通過相機IF314、相機IF315分別連接有右相機202、左相機203。驅動·IF部313對這些相機進行驅動,從而對被檢驗者進行拍攝。
揚聲器驅動部322對揚聲器205進行驅動。另外,也可以是診斷輔助裝置100具備用于與作為印刷部的打印機連接的接口(打印機IF)。另外,也可以構成為在診斷輔助裝置100的內部具備打印機。
控制部300對診斷輔助裝置100整體進行控制??刂撇?00具備第一計算部351、第二計算部352、第三計算部353、視線檢測部354、視點檢測部355、輸出控制部356、評價部357。另外,作為視線檢測裝置,只要至少具備第一計算部351、第二計算部352、第三計算部353以及視線檢測部354即可。
包含在控制部300中的各要件(第一計算部351、第二計算部352、第三計算部353、視線檢測部354、視點檢測部355、輸出控制部356以及評價部357)可以通過軟件(程序)實現(xiàn),也可以通過硬件電路實現(xiàn),也可以并用軟件與硬件電路來實現(xiàn)。
在通過程序實現(xiàn)的情況下,該程序以能夠安裝的形式或者能夠執(zhí)行的形式的文件記錄在CD-ROM(Compact Disk Read Only Memory,壓縮盤只讀存儲器)、軟盤(FD)、CD-R(Compact Disk Recordable,可記錄壓縮盤)、DVD(Digital Versatile Disk,數(shù)字通用磁盤)等計算機能夠讀取的記錄介質而作為計算機程序產(chǎn)品來提供。也可以將程序構成為,存儲在與因特網(wǎng)等網(wǎng)絡連接的計算機上,并經(jīng)由網(wǎng)絡下載來提供。另外,也可以構成為,經(jīng)由因特網(wǎng)等網(wǎng)絡來提供或分發(fā)程序。另外,也可以構成為,預先組裝到ROM等來提供程序。
第一計算部351根據(jù)通過立體相機102拍攝的眼球的圖像,計算出表示瞳孔的中心的瞳孔中心的位置(第一位置)。第二計算部352根據(jù)所拍攝的眼球的圖像,計算出表示角膜反射的中心的角膜反射中心的位置(第二位置)。
第三計算部353根據(jù)連結LED光源103與角膜反射中心的直線計算出角膜曲率中心(第三位置)。例如,第三計算部353將在該直線上到角膜反射中心的距離成為預定值的位置計算出為角膜曲率中心。關于預定值,能夠使用根據(jù)一般的角膜曲率半徑值等事先確定的值。
由于在角膜的曲率半徑值上產(chǎn)生個體差異,因此當使用事先確定的值計算出角膜曲率中心時存在誤差變大的可能性。因此,第三計算部353也可以考慮個體差異來計算出角膜曲率中心。此時,第三計算部353首先使用使被檢驗者注視目標位置時計算出的瞳孔中心和角膜反射中心,計算出連結瞳孔中心與目標位置的直線、以及連結角膜反射中心與LED光源103的直線的交點(第四位置)。并且第三計算部353計算出瞳孔中心與所計算出的交點之間的距離(第一距離),例如存儲在存儲部150中。
關于目標位置,只要是預先確定且能夠計算出三維世界坐標值的位置即可。例如,能夠將顯示畫面201的中央位置(三維世界坐標的原點)作為目標位置。此時,例如輸出控制部356在顯示畫面201上的目標位置(中央)上,顯示使被檢驗者注視的圖像(目標圖像)等。由此,能夠使被檢驗者注視目標位置。
關于目標圖像,只要是能夠使被檢驗者注目的圖像,則也可以是任何圖像。例如,能夠將亮度或顏色等顯示方式變化的圖像以及顯示方式與其他的區(qū)域不同的圖像等使用為目標圖像。
另外,目標位置不限定于顯示畫面201的中央,可以是任意的位置。如果使顯示畫面201的中央作為目標位置,則與顯示畫面201的任意端部的距離變得最小。因此,例如能夠減小視線檢測時的測定誤差。
例如在開始實際的視線檢測之前事先執(zhí)行到計算出距離為止的處理。在實際的視線檢測時,第三計算部353將在連結LED光源103與角膜反射中心的直線上到瞳孔中心的距離成為事先計算出的距離的位置算出為角膜曲率中心。
視線檢測部354從瞳孔中心和角膜曲率中心檢測被檢驗者的視線。例如視線檢測部354將從角膜曲率中心朝向瞳孔中心的方向檢測為被檢驗者的視線方向。
視點檢測部355使用檢測到的視線方向檢測被檢驗者的視點。視點檢測部355例如對在顯示畫面201上被檢驗者注視的點、即視點(注視點)進行檢測。視點檢測部355將例如如圖2所示的通過三維世界坐標系表示的視線矢量與XY平面的交點檢測為被檢驗者的注視點。
輸出控制部356控制對顯示部101和揚聲器205等的各種信息的輸出。例如,輸出控制部356使目標圖像輸出到顯示部101上的目標位置。另外,輸出控制部356對診斷圖像和基于評價部357的評價結果等對于顯示部101的輸出進行控制。
診斷圖像只要是與基于視線(視點)檢測結果的評價處理對應的圖像即可。例如如果是診斷智障的情況,則也可以使用包含智障的被檢驗者喜歡的圖像(幾何圖案圖像等)、除此以外的圖像(人物圖像等)的診斷圖像。圖像可以是靜態(tài)圖像也可以是動態(tài)圖像。幾何圖案圖像是例如包含一個以上的幾何圖案的圖像。人物圖像例如只要是包含人物的臉的圖像即可。另外,也可以使用在通過相機對動物、植物以及自然景觀等進行了拍攝的圖像(靜態(tài)圖像、動態(tài)圖像)中存在人物的圖像。另外,也可以使用模擬了人物等的字符的圖像(靜態(tài)圖像、動態(tài)圖像)。
評價部357進行基于診斷圖像和通過視點檢測部355檢測到的注視點的評價處理。例如如果是診斷智障的情況,則評價部357對診斷圖像和注視點進行分析,對是否注視了智障的被檢驗者喜歡的圖像進行評價。
圖5是說明通過本實施方式的診斷輔助裝置100執(zhí)行的處理的概要的圖。對在圖1~圖4中說明的要件標上相同的標號并省略說明。
瞳孔中心407和角膜反射中心408分別表示在使LED光源103點燈時檢測的瞳孔的中心和角膜反射點的中心。角膜曲率半徑409表示從角膜表面到角膜曲率中心410的距離。
圖6是示出使用兩個光源(照明部)的方法(以下,作為方法A)與使用一個光源(照明部)的本實施方式的不同的說明圖。對于在圖1~圖4中說明的要件標上相同的標號并省略說明。另外,關于左右相機(右相機202、左相機203)與控制部300連接的情況,未圖示并進行省略。
關于方法A,代替LED光源103使用兩個LED光源511、LED光源512。在方法A中,計算出照射LED光源511時的連結角膜反射中心513與LED光源511的直線515、以及照射LED光源512時的連結角膜反射中心514與LED光源512的直線516的交點。該交點成為角膜曲率中心505。
相對于此,在本實施方式中,考慮照射了LED光源103時的、連結角膜反射中心522與LED光源103的直線523。直線523穿過角膜曲率中心505。另外,可知角膜的曲率半徑的基于個體差異的影響少,幾乎成為恒定的值?;谶@些,照射LED光源103時的角膜曲率中心存在于直線523上,能夠通過使用一般的曲率半徑值來計算。
但是,當使用通過一般的曲率半徑值求出的角膜曲率中心的位置計算視點時,由于眼球的個體差異而視點位置從原來的位置偏移,存在無法進行正確的視點位置檢測的情況。
圖7是用于說明在進行視點檢測(視線檢測)之前,計算角膜曲率中心位置和瞳孔中心位置與角膜曲率中心位置之間的距離的計算處理的圖。關于在圖1~圖4中說明的要件標上相同的標號并省略說明。
目標位置605是在顯示部101上的一點上顯現(xiàn)目標圖像等而用于使被檢驗者注視的位置。在本實施方式中為顯示部101的畫面的中央位置。直線613是連結LED光源103與角膜反射中心612的直線。直線614為連接被檢驗者注視的目標位置605(注視點)與瞳孔中心611的直線。角膜曲率中心615是直線613與直線614的交點。第三計算部353計算出瞳孔中心611與角膜曲率中心615之間的距離616而進行存儲。
圖8是示出本實施方式的計算處理的一例的流程圖。
首先,輸出控制部356在顯示部101的畫面上的一點上再現(xiàn)目標圖像(步驟S101),使被檢驗者注視該一點。接著,控制部300使用LED驅動控制部316使LED光源103朝向被檢驗者的眼睛點燈(步驟S102)??刂撇?00通過左右相機(右相機202、左相機203)對被檢驗者的眼睛進行拍攝(步驟S103)。
通過LED光源103的照射,瞳孔部分被檢測為暗的部分(暗瞳孔)。另外,作為LED照射的反射,產(chǎn)生角膜反射的虛像,作為明亮的部分檢測到角膜反射點(角膜反射中心)。即,第一計算部351根據(jù)所拍攝的圖像檢測瞳孔部分,計算出表示瞳孔中心的位置的坐標。另外,第二計算部352根據(jù)所拍攝的圖像檢測角膜反射部分,計算出表示角膜反射中心的位置的坐標。另外,第一計算部351和第二計算部352對通過左右相機獲取的兩個圖像分別計算出各坐標值(步驟S104)。
另外,關于左右相機,為了獲取三維世界坐標,事先進行了基于立體校正方法的相機校正并計算出轉換參數(shù)。關于立體校正方法,能夠適用使用了Tsai的相機校準理論的方法等從以往開始使用的所有的方法。
第一計算部351和第二計算部352使用該轉換參數(shù),進行從左右相機的坐標向瞳孔中心和角膜反射中心的三維世界坐標的轉換(步驟S105)。第三計算部353求出連結所求出的角膜反射中心的世界坐標與LED光源103的中心位置的世界坐標的直線(步驟S106)。接著,第三計算部353計算出連結在顯示部101的畫面上的一點上顯示的目標圖像的中心的世界坐標與瞳孔中心的世界坐標的直線(步驟S107)。第三計算部353求出在步驟S106中計算出的直線與在步驟S107中計算出的直線的交點,將該交點作為角膜曲率中心(步驟S108)。第三計算部353計算出此時的瞳孔中心與角膜曲率中心之間的距離并存儲到存儲部150等中(步驟S109)。所存儲的距離是在之后的視點(視線)檢測時算出角膜曲率中心而使用。
在計算處理中注視顯示部101上的一點時的瞳孔中心與角膜曲率中心之間的距離,在檢測顯示部101內的視點的范圍內保持恒定。關于瞳孔中心與角膜曲率中心之間的距離,可以根據(jù)目標圖像的再現(xiàn)中計算出的值整體的平均求出,也可以根據(jù)在再現(xiàn)中計算出的值中的幾個值的平均求出。
圖9是示出在進行視點檢測時,使用事先求出的瞳孔中心與角膜曲率中心之間的距離,計算被校正的角膜曲率中心的位置的方法的圖。注視點805表示從使用一般的曲率半徑值計算出的角膜曲率中心求出的注視點。注視點806表示從使用事先求出的距離計算出的角膜曲率中心求出的注視點。
瞳孔中心811和角膜反射中心812分別表示在視點檢測時計算出的瞳孔中心的位置和角膜反射中心的位置。直線813是連結LED光源103與角膜反射中心812的直線。角膜曲率中心814是從一般的曲率半徑值計算出的角膜曲率中心的位置。距離815是事先通過計算處理計算出的瞳孔中心與角膜曲率中心之間的距離。角膜曲率中心816是使用事先求出的距離計算出的角膜曲率中心的位置。從角膜曲率中心存在于直線813上以及瞳孔中心與角膜曲率中心之間的距離為距離815求出角膜曲率中心816。由此在使用一般的曲率半徑值時計算出的視線817被校正為視線818。另外,顯示部101的畫面上的注視點從注視點805校正為注視點806。另外,關于左右相機(右相機202、左相機203)與控制部300連接的情況,未圖示并進行省略。
圖10是示出本實施方式的視線檢測處理的一例的流程圖。例如,作為在使用診斷圖像的診斷處理中檢測視線的處理,能夠執(zhí)行圖10的視線檢測處理。在診斷處理中,除了圖10的各步驟以外,執(zhí)行顯示診斷圖像的處理以及使用了注視點的檢測結果的基于評價部357的評價處理等。
步驟S201~步驟S205與圖8的步驟S102~步驟S106相同,因此省略說明。
第三計算部353將在步驟S205中計算出的直線上的到瞳孔中心的距離與通過事先的計算處理求出的距離相等的位置計算出為角膜曲率中心(步驟S206)。
視線檢測部354求出連結瞳孔中心與角膜曲率中心的矢量(視線矢量)(步驟S207)。該矢量表示被檢驗者正在觀察的視線方向。視點檢測部355計算出該視線方向與顯示部101的畫面的交點的三維世界坐標值(步驟S208)。該值為用世界坐標表示被檢驗者注視的顯示部101上的一點的坐標值。視點檢測部355將所求出的三維世界坐標值轉換為通過顯示部101的二次元坐標系表示的坐標值(x,y)(步驟S209)。由此,能夠計算出被檢驗者注視的顯示部101上的視點(注視點)。
接著,對診斷輔助處理的詳細進行說明。作為診斷輔助的方法,例如,可以考慮使用使人物圖像和幾何圖案圖像左右并排的診斷圖像,對注視了左右各圖像的范圍(區(qū)域)內的時間進行合計的方法。圖11是示出通過這種方法顯示的診斷圖像的一例的圖。在顯示畫面201的中央附近的左邊顯示包含人物圖像(范圍H)的診斷圖像,在右邊顯示包含幾何圖案圖像(范圍K)的診斷圖像。并且,在范圍H整體和范圍K整體上,分別檢測注視點的停留時間。在這種方法中,例如,即使在不注視人物圖像(范圍H)內的臉部分而視線偶然地朝向范圍H的端部等時,也判斷為注視了人物圖像。
此處,在本實施方式中,在人物圖像和幾何圖案圖像上分別設置適合診斷輔助的一部分的區(qū)域(范圍)。并且,檢測注視了該部分的時間,通過比較檢測到的時間來進行診斷輔助。例如,在人物圖像中的臉的部分設置判定范圍(第一特定區(qū)域),在幾何圖案的中心部分設置判定范圍(第二特定區(qū)域)。并且,根據(jù)各自的判定范圍的注視時間進行判定。由此,通過特別仔細觀察了人物的臉部分、或者仔細觀察了幾何圖案的中心,而正常發(fā)育的被檢驗者與智障的被檢驗者的注視時間的差變得更大。其結果,能夠進一步實現(xiàn)高精度的檢測。
圖12是示出在本實施方式中使用的診斷圖像的一例的圖。與圖11同樣,在顯示畫面201的中央附近的左邊顯示包含人物圖像(范圍H)的診斷圖像,在右邊顯示包含幾何圖案圖像(范圍K)的診斷圖像。在本實施方式中,在人物圖像和幾何圖案圖像的各自中,進一步設置特定的判定范圍。例如,范圍H包含范圍1A和范圍2A作為判定范圍。另外,范圍K包含范圍3B、范圍4B以及范圍5B作為判定范圍。
范圍1A是包含第一人物(少女)的臉的范圍。范圍2A是包含第二人物(嬰兒)的臉的范圍。范圍3B是包含范圍K內的三個幾何圖案中的左上部的幾何圖案的中心的范圍。范圍4B是包含下部的幾何圖案的中心的范圍。范圍5B是包含中央右的幾何圖案的中心的范圍。
在檢測到被檢驗者對人感興趣、或者對幾何圖案感興趣時,使判定為對人感興趣的范圍,成為范圍1A和范圍2A中的至少一個。另外,使判定為對幾何圖案感興趣的范圍,成為范圍3B、范圍4B以及范圍5B中的至少一個。
圖13是示出在本實施方式中使用的診斷圖像的另一例的圖。在圖13的例子中,范圍H包含范圍12A和范圍13A作為判定范圍。另外,范圍K包含范圍11B作為判定范圍。圖13是相對于圖12人物圖像(范圍H)和幾何圖案圖像(范圍K)的配置不同的診斷圖像的例子。即,在圖13中,左邊為幾何圖案圖像(范圍K),右邊為人物圖像(范圍H)。通過使用這種不同配置的診斷圖像,確認被檢驗者的視線是否依賴于左右的位置關系,能夠進行更正確的診斷。
范圍11B是范圍K內的包含幾何圖案整體的中心的范圍。范圍12A是包含第一人物(少女)的臉的范圍。范圍13A是包含第二人物(母親)的臉的范圍。
在檢測到被檢驗者對人感興趣、或者對幾何圖案感興趣時,使判定為對人感興趣的范圍成為范圍12A和范圍13A中的至少一個。另外,使判定為對幾何圖案感興趣的范圍成為范圍11B。
另外,在圖12和圖13中,雖然使判定范圍的形狀成為橢圓(或者圓),但是判定范圍的形狀并不限定于此,可以是任意的形狀。另外,雖然例如在圖12中示出包含三個同心圓狀的幾何圖案的幾何圖案圖像的例子,但是幾何圖案的個數(shù)可以是任意的。如上所述診斷圖像也可以是動態(tài)圖像,此時,只要根據(jù)圖像的移動而判定范圍也移動即可。另外,作為診斷圖像上的符號的黑色的“○”的軌跡,表示在診斷圖像上檢測到的注視點的軌跡的例子。
圖14是示出使用圖12的診斷圖像時的診斷輔助處理的一例的流程圖。
首先,控制部300開始圖像(影像)的再現(xiàn)(步驟S301)。接著,控制部300對計測比影像的再現(xiàn)時間稍微短的時間的計時器進行重置(步驟S302)。接著,控制部300對注視人物圖像內的判定范圍時計數(shù)的計數(shù)器1、注視幾何圖案圖像內的判定范圍時計數(shù)的計數(shù)器2、在不是雙方的范圍內時計數(shù)的計數(shù)器3進行重置(步驟S303)。
以下說明的注視點檢測例如按同步而拍攝的立體相機的每一幀進行。即,按每個預定的時間間隔檢測注視點。因此,計數(shù)器1、計數(shù)器2以及計數(shù)器3的計數(shù)值對應于注視時間。計數(shù)器1相當于在人物圖像內的判定范圍中檢測到注視點(第一視點)的時間(注視時間)。另外,計數(shù)器2相當于在幾何圖案圖像內的判定范圍中檢測到注視點(第二視點)的時間(注視時間)。
接著,進行注視點檢測(步驟S304)。注視點檢測是例如根據(jù)到圖10為止說明的順序,由第一計算部351、第二計算部352、第三計算部353以及視線檢測部354執(zhí)行。接著,控制部300判斷注視點檢測是否失敗(步驟S305)。例如,在通過眨眼等而得不到瞳孔和角膜反射的圖像時,注視點檢測失敗。另外,在注視點不在顯示畫面201內時(觀察顯示畫面201以外時),注視點檢測也失敗。
在注視點檢測失敗時(步驟S305:是),由于不對計數(shù)器1、計數(shù)器2以及計數(shù)器3產(chǎn)生影響,因此跳過步驟S306~步驟S313的處理,移動到步驟S314。
在注視點檢測成功時(步驟S305:否),控制部300通過所得到的注視點的坐標,判斷注視點是否位于范圍1A內(步驟S306)。如果位于范圍1A內(步驟S306:是),則控制部300使計數(shù)器1進行計數(shù)(步驟S311)。在不位于范圍1A內時(步驟S306:否),控制部300判定注視點是否位于范圍2A內(步驟S307)。如果位于范圍2A內(步驟S307:是),則控制部300使計數(shù)器1進行計數(shù)(步驟S311)。
在注視點沒有位于范圍2A內時(步驟S307:否),控制部300通過所得到的注視點的坐標,判斷注視點是否位于范圍3B內(步驟S308)。如果位于范圍3B內(步驟S308:是),則控制部300使計數(shù)器2進行計數(shù)(步驟S312)。在沒有位于范圍3B內時(步驟S308:否),控制部300判斷注視點是否位于范圍4B內(步驟S309)。如果注視點位于范圍4B內(步驟S309:是),則控制部300使計數(shù)器2進行計數(shù)(步驟S312)。在注視點沒有位于范圍4B內時(步驟S309:否),控制部300判斷注視點是否位于范圍5B內(步驟S310)。如果位于范圍5B內(步驟S310:是),則控制部300使計數(shù)器2進行計數(shù)(步驟S312)。
在任何判定范圍內都沒有注視點時(步驟S310:否),成為沒有觀察人的臉、也沒有觀察幾何圖案的中心附近的情況,因此控制部300使計數(shù)器3進行計數(shù)(步驟S313)。
接著,為了確認影像的結束,控制部300調查計時器的完成(步驟S314)。例如,在計時器的值達到與影像的結束時間對應的預定值時,控制部300判定為計時器已完成。在沒有完成時(步驟S314:否),返回步驟S304并重復進行處理。
在計時器已完成時(步驟S314:是),控制部300使影像的再現(xiàn)停止(步驟S315)。接著,控制部300輸出計數(shù)器1的數(shù)據(jù)(步驟S316)。計數(shù)器1的數(shù)據(jù)對應于人物圖像內的判定范圍的注視時間。接著,控制部300輸出計數(shù)器2的數(shù)據(jù)(步驟S317)。計數(shù)器2的數(shù)據(jù)對應于幾何圖案內的判定范圍的注視時間。
接著,評價部357計算計數(shù)器1與計數(shù)器2的比例(步驟S318)。此時的比例,具體為,計數(shù)器1的計數(shù)值相對于計數(shù)器2的計數(shù)值的比例、計數(shù)器2的計數(shù)值相對于計數(shù)器1的計數(shù)值的比例、計數(shù)器1的計數(shù)值相對于計數(shù)器1的計數(shù)值+計數(shù)器2的計數(shù)值的比例、或者計數(shù)器2的計數(shù)值相對于計數(shù)器1的計數(shù)值+計數(shù)器2的計數(shù)值的比例等。這種評價值成為智障的可能性的指針。注視幾何圖案內的判定范圍的比例越高,智障的可能性越高。評價部357輸出所計算出的評價值(比例數(shù)據(jù))(步驟S319)。
接著,評價部357計算計數(shù)器1的計數(shù)值相對于用于評價的所有視點的計數(shù)值(計數(shù)器1的計數(shù)值+計數(shù)器2的計數(shù)值+計數(shù)器3的計數(shù)值)的比例(步驟S320)。該值越高,智障的可能性越低。
接著,評價部357計算計數(shù)器2的計數(shù)值相對于用于評價的所有視點的計數(shù)值(計數(shù)器1的計數(shù)值+計數(shù)器2的計數(shù)值+計數(shù)器3的計數(shù)值)的比例(步驟S321)。該值越高,智障的可能性越高。
另外,評價值的計算方法不限定于上述方法。只要是能夠判定注視人物圖像和花樣圖像的哪一個的值,則也可以使用任何評價值。在圖14的例子中,雖然計算出了三個評價值(步驟S318、步驟S320、步驟S321),但是計算出的評價值的個數(shù)是任意的。
如上所述,在本實施方式中,使人物圖像內和幾何學圖像內的一部分的范圍成為視點的檢測對象(診斷對象),而不是使人物圖像和幾何學圖像的整體(例如范圍H、范圍K)成為視點的檢測對象(診斷對象)。由此,例如,能夠避免在沒有要注視的意圖而視點偶然地進入到范圍內時錯誤地檢測注視點。即,能夠提高檢測(診斷)的精度。
圖15是示出使用圖13的診斷圖像時的診斷輔助處理的一例的流程圖。
步驟S401~步驟S405與圖14的步驟S301~步驟S305相同,因此省略說明。
在注視點檢測成功時,控制部300通過所得到的注視點的坐標,判斷注視點是否位于范圍11B內(步驟S406)。如果位于范圍11B內(步驟S406:是),則控制部300使計數(shù)器2進行計數(shù)(步驟S410)。
在注視點沒有位于范圍11B內時(步驟S406:否),控制部300判斷注視點是否位于范圍12A內(步驟S407)。如果位于范圍12A內(步驟S407:是),則控制部300使計數(shù)器1進行計數(shù)(步驟S409)。在不位于范圍12A內時(步驟S407:否),控制部300判斷注視點是否位于范圍13A內(步驟S408)。如果位于范圍13A內(步驟S408:是),則控制部300使計數(shù)器1進行計數(shù)(步驟S409)。
在任意一個判定范圍內都沒有注視點時(步驟S408:否),成為沒有觀察人的臉、也沒有觀察幾何圖案的中心附近的情況,因此控制部300使計數(shù)器3進行計數(shù)(步驟S411)。
步驟S412~步驟S419與圖13的步驟S314~步驟S321相同,因此省略說明。
另外,設置在人物圖像內的判定范圍不限定于包含臉部分的范圍。同樣,設置在幾何圖案圖像內的判定范圍不限定于包含幾何圖案的中心的范圍。在各圖像中,只要是正常發(fā)育被檢驗者與智障被檢驗者的注視時間的差變大的范圍,則可以是任何范圍。
例如,如果是臉部分的圖像大的情況,則也可以將人物圖像內的包含眼睛的范圍作為判定范圍。另外,也可以將在幾何圖案圖像內包含幾何圖案的特征部分的范圍、包含描繪幾何圖案的線的密度比其他部分大的部分的范圍、包含幾何圖案變化的部分的范圍等作為判定范圍。
另外,診斷圖像不限定于使人物圖像和幾何圖案圖像并列的圖像,只要包含人物圖像和幾何圖案圖像則可以是任何圖像。圖16是示出在本實施方式中使用的診斷圖像的另一例的圖。圖16是從中央到左部包含人物圖像,在右部包含幾何圖案圖像(范圍K)的診斷圖像的例子。范圍22A和范圍23A是人物圖像內的判定范圍。范圍21B是幾何圖案圖像內的判定范圍。在使用圖16的診斷圖像時,只要代替圖13的范圍12A、范圍13A以及范圍11B,使用范圍22A、范圍23A以及范圍21B,執(zhí)行例如圖15的診斷輔助處理即可。
另外,關于診斷圖像,雖然在人物圖像內和幾何圖案圖像內分別設置了判定范圍,但是也可以關于人物圖像在人物圖像內設置判定范圍、關于幾何圖案圖像將幾何圖案圖像整體作為判定范圍來檢測視點。另外,也可以關于人物圖像將人物圖像整體作為判定范圍、關于幾何圖案圖像在幾何圖案圖像內設置判定范圍來檢測視點。通過在至少一個圖像內設置判定范圍,從而能夠提高視點的檢測精度。
如上所述,根據(jù)本實施方式,能夠得到例如以下的效果。
(1)相比于對觀察人物圖像整體的注視時間與觀察幾何圖案圖像整體的注視時間進行比較的現(xiàn)有方法,由于正常發(fā)育被檢驗者與智障被檢驗者的注視時間(評價結果)的差變大,因此靈敏度和特異性提高。
(2)無需將光源(照明部)配置在兩處,能夠通過配置在一處的光源來進行視線檢測。
(3)由于光源存在于一處,因此能夠使裝置實現(xiàn)緊湊化,也能夠實現(xiàn)成本的降低。
將日本特愿2014-062183號(申請日:2014年3月25日)和日本特愿2014-062184號(申請日:2014年3月25日)的所有內容援用于此。
標號說明
100 診斷輔助裝置
101 顯示部
102 立體相機
103 LED光源
150 存儲部
201 顯示畫面
202 右相機
203 左相機
205 揚聲器
300 控制部
313 驅動·IF部
316 LED驅動控制部
322 揚聲器驅動部
351 第一計算部
352 第二計算部
353 第三計算部
354 視線檢測部
355 視點檢測部
356 輸出控制部
357 評價部