本發(fā)明涉及圖像處理,具體為一種基于風格一致性的無監(jiān)督域自適應醫(yī)學圖像分割方法及系統(tǒng)。
背景技術:
1、慢性胰腺炎(cp)是胰腺的持續(xù)性炎癥,會導致胰腺發(fā)生纖維化和導管狹窄的永久性結構破壞,并且常常伴隨著結石的形成,其最終可能導致胰腺全腺硬化,產生鈣化灶甚至是胰腺癌,嚴重影響患者的生活質量和健康狀況。計算機斷層掃描成像是目前胰腺疾病最重要的檢查方法,非對比增強(non-contrast-enhanced?ct,ncect)掃描圖像有助于識別胰腺的結構和密度,并且胰腺中的高密度病灶(鈣化和胰管結石)在nce圖像上表現為高密度影,與周圍組織形成明顯對比,有利于觀察,而對比增強(contrast-enhanced?ct,cect)掃描圖像則可以更好地觀察胰腺周圍血管和其他組織結構,因此ncect和cect雙期結合診斷胰腺及其高密度病灶可以為醫(yī)生提供重要的解剖和病理信息。傳統(tǒng)的胰腺分割算法通常需要依賴大量有標注數據來進行訓練,然而慢性胰腺炎患者的胰腺在ct影像序列中的占比非常小、形態(tài)個體特異性強且與周圍組織器官相粘連且ncect和cect圖像在風格和紋理上存在著無法對齊且不均勻的情況,因此分割網絡在ncect和cect圖像之間的泛化效果較差。由于多個期的標注任務需要耗費醫(yī)生大量時間和精力,因此一個有標注的域(源域)到另一個無標注的域(目標域)的無監(jiān)督域自適應(uda)分割已經成為一個迫切需要解決的問題。
2、許多關于模式識別、圖像處理和計算機視覺的研究都致力于將圖像從一個域轉移到另一個域。這些方法通常需要一組在內容和結構上相同但?風格不同的成對圖像,假設不同風格的成對圖像之間存在一定的潛在關系。通過學習這些關系,可以實現圖像的風格遷移。然而,獲得配對圖像是一項具有挑戰(zhàn)性的任務,有時甚至不切實際。最近,受到生成對抗網絡(gan)和循環(huán)一致對抗網絡(cyclegan)的啟發(fā),許多研究在醫(yī)學圖像分析中通過圖像外觀或潛在特征對齊來實現無監(jiān)督域自適應(uda),無需配對數據。
技術實現思路
1、鑒于上述存在的問題,提出了本發(fā)明。
2、因此,本發(fā)明解決的技術問題是:現有的胰腺分割算法存在需求數據量大,泛化效果差,以及如何識別組織粘連或特異性強的胰腺圖片的問題。
3、為解決上述技術問題,本發(fā)明提供如下技術方案:一種基于風格一致性的無監(jiān)督域自適應醫(yī)學圖像分割方法,包括構建scuda網絡,通過其中第一個子網絡進行圖像重建,在其中第二個子網絡進行圖像分割。將目標域圖像和源域圖像輸入進第一個子網絡中生成目標域合成圖像、源域重建圖像、源域合成圖像、目標域重建圖像。將目標域圖像對應的內容特征、源域圖像對應的內容特征和目標域合成圖像對應的內容特征輸入進第二個子網絡中生成分割預測圖、和。在第一個子網絡中使用相位一致性判別器,區(qū)分源域內容特征和目標域內容特征對應的相位一致性特征,增強域不變內容特征編碼器、源域的風格編碼器和目標域的風格編碼器的解耦并從域不變內容特征編碼器中移除域特定特征。在第二個子網絡中使用風格不一致性估計,對不同風格的目標域合成圖像進行分割預測并生成不一致性映射區(qū)域,度量易誤分區(qū)域來減輕目標域合成圖像與真實目標域圖像之間的域偏移。在第二個子網絡中使用風格一致性熵、分割一致性損失和分割損失。兩個子網絡同時訓練更新參數獲得分割后的圖像。
4、作為本發(fā)明所述的基于風格一致性的無監(jiān)督域自適應醫(yī)學圖像分割方法的一種優(yōu)選方案,其中:所述第一個子網絡包括域不變內容特征編碼器、目標域的風格編碼器、源域的風格編碼器,圖像重建解碼器、局部相位增強風格融合模塊lpsf、相位增強風格融合模塊psf、針對源域合成圖像的判別器、針對目標域合成圖像的判別器、針對相位一致性判別器。
5、所述第二個子網絡包括多階段風格一致性模塊mssc和圖像分割器g,
6、是resnet34的主干網絡,和采用和相同的架構,g采用的具有5個卷積層的網絡,前兩層卷積由殘差塊組成,后三層中每一層都由轉置卷積、bn歸一化層和relu激活層組成,?采用和g相同的架構。
7、判別器采用的是具有四個卷積層和一個全連接層的網絡,每個卷積層中的卷積后面都進行in歸一化層和leakyrelu激活層。
8、作為本發(fā)明所述的基于風格一致性的無監(jiān)督域自適應醫(yī)學圖像分割方法的一種優(yōu)選方案,其中:所述通過其中第一個子網絡進行圖像重建包括在第一個子網絡將源域圖像和目標域圖像分別送到域不變內容特征編碼器中獲取和,同時分別送入和中提取到源域的風格特征和目標域的風格特征,將和送入lpsf模塊生成源域的局部相位增強內容特征和目標域的局部相位增強風格融合特征。
9、lpsf由局部內容特征提取子模塊lcfe和相位增強風格融合模塊psf組成,將、和源域的標簽聯合輸入到lcfe中,利用從中提取到局部向量,表示為:
10、;
11、其中,是目標向量的數量,是一個reshape操作,是的通道數,然后將輸入到一個池化層中,接著進行三次卷積操作以獲得三個動態(tài)卷積核參數、和,三個動態(tài)卷積核參數分別對進行卷積操作,然后將特征統(tǒng)一到與相同的尺寸并在通道維度上拼接,獲得源域的局部內容特征。
12、lpsf模塊利用快速傅里葉變換fft提取源域的局部內容特征對應的相位譜,psf模塊通過將相位譜與相加增強源域圖像的特征,表示為:
13、;
14、其中,是逆快速傅里葉變換。
15、對目標域的風格特征采取fft操作,提取的幅度譜和相位譜,對目標域幅度譜進行低通濾波以去除目標域噪音,獲得純凈的目標域風格,目標域的局部相位增強風格融合特征表示為:
16、;
17、其中,是點乘操作,是低通濾波器的掩碼,表示兩個輸入之間先進行卷積、平均池化和全連接操作。
18、作為本發(fā)明所述的基于風格一致性的無監(jiān)督域自適應醫(yī)學圖像分割方法的一種優(yōu)選方案,其中:所述通過其中第一個子網絡進行圖像重建還包括生成具有與源域圖像相同結構內容但與目標域圖像相同風格的目標域合成圖像,將輸入解碼器,同時將嵌入到解碼器的每一層中,生成具有自適應實例歸一化的目標域合成圖像,表示為:
19、;
20、其中,表示方差操作,表示平均操作,是在解碼器中進行的上采樣操作得到的中間輸出特征。
21、對源域的風格特征采取fft操作,提取的幅度譜和相位譜,對源域幅度譜進行低通濾波以去除源域噪音,獲得純凈的源域風格,源域的局部相位增強風格融合特征表示為:
22、;
23、將和輸入到lpsf模塊中,生成源域重建圖像,表示為:
24、;
25、其中,是源域的局部相位增強風格融合特征。
26、將和輸入到psf模塊中,生成目標域相位增強內容特征和源域相位增強風格融合特征,表示為:
27、;
28、;
29、其中,是通過對進行fft得到的相位譜,和分別是通過對進行fft得到的幅度譜和相位譜。
30、源域合成圖像通過解碼器使用adain生成,將輸入解碼器,同時將嵌入到解碼器的每一層中,生成具有自適應實例歸一化的源域合成圖像,表示為:
31、;
32、其中,是在解碼器中進行的上采樣操作得到的中間輸出特征。
33、將和輸入到psf模塊中,生成目標域相位增強內容特征和目標域相位增強風格融合特征,表示為:
34、;
35、;
36、目標域重建圖像通過解碼器使用adain生成,將輸入解碼器,同時將嵌入到解碼器的每一層中,生成具有自適應實例歸一化的目標域重建圖像,表示為:
37、;
38、其中,是目標域相位增強風格融合特征。
39、作為本發(fā)明所述的基于風格一致性的無監(jiān)督域自適應醫(yī)學圖像分割方法的一種優(yōu)選方案,其中:構建相位一致性判別器,區(qū)分與源域內容特征和目標域內容特征相對應的相位一致性特征,訓練時判別器對應的損失函數如下:
40、;
41、其中,表示求期望,引入一個針對目標域合成圖像的判別器進行對抗性學習,訓練時判別器對應的損失函數表示為:
42、;
43、生成不丟失域不變信息的源域合成圖像和目標域重建圖像,引入一個針對源域合成圖像的判別器進行對抗性學習,訓練時判別器對應的損失函數表示為:
44、;
45、構建雙重建一致性損失,表示為:
46、。
47、作為本發(fā)明所述的基于風格一致性的無監(jiān)督域自適應醫(yī)學圖像分割方法的一種優(yōu)選方案,其中:所述在第二個子網絡從不同風格的目標域合成圖像對應的內容特征和目標域真實圖像對應的內容特征中獲取不一致性圖,衡量困難區(qū)域并進行約束,設通過將不同訓練時期的目標域合成圖像輸入到編碼器中得到的高級特征為,其中表示訓練時期的epoch數,在風格轉換網絡的訓練中,選擇第個epoch的合成目標域圖像,并表示為,其中是選擇的epoch總數,通過多階段風格一致性模塊衡量風格轉換過程中的風格一致性,mssc模塊由個分割頭組成,使用產生感興趣器官不同風格的預測概率,由多個不同風格的預測概率得到一個不一致性映射圖表示為:
48、;
49、其中,是中的第類概率,是中的第類概率。
50、通過利用風格不一致性,定義一個多階段風格一致性損失關注器官的頭部、尾部和邊緣,以及相鄰的器官組織區(qū)域,表示為:
51、;
52、其中,是中第類的第個像素的預測概率,是源域圖像的真實標簽,是中第類的第個像素的真實標簽,是中第類的第個像素的不一致性映射圖。
53、作為本發(fā)明所述的基于風格一致性的無監(jiān)督域自適應醫(yī)學圖像分割方法的一種優(yōu)選方案,其中:所述兩個子網絡同時訓練更新參數獲得分割后的圖像包括對目標域圖像利用預訓練模型中不同風格下的分割頭生成感興趣器官的預測概率,并生成相應的預測結果,若個預測結果中相同像素處的前景值相同,則視為可靠的預測結果。
54、將目標域圖像送入正在不斷更新的域不變內容特征編碼器,生成的被送入正在更新的目標域圖像分割頭,產生感興趣器官的預測概率和預測結果,通過對兩個預測結果和進行異或操作,得到目標域圖像的不一致映射,定義風格一致性熵損失,表示為:
55、;
56、其中,是不一致映射中第個類別的第個像素,是感興趣器官的預測概率圖中第個類別的第個像素,的值設置為1e-7。
57、利用得到的可靠一致性區(qū)域對源域圖像和目標域圖像進行聯合訓練,通過數據增強和dropout的組合,將目標域圖像輸入目標分割頭,生成感興趣器官的兩個預測概率圖和,在訓練過程中,將輸出針對目標域圖像的分割一致性損失表示為:
58、;
59、訓練未標記的目標域圖像通過分割損失,表示為:
60、;
61、其中,是中第類的第個像素,為中的第類的第個像素,為中的第類的第個像素,為中的第類的第個像素。
62、定義一個分割損失,表示為:
63、;
64、其中,為中的第類的第個像素,為中的第類的第個像素。
65、整體風格一致性分割損失表示為:
66、;
67、通過優(yōu)化來進行目標器官的分割。
68、本發(fā)明的另外一個目的是提供一種基于風格一致性的無監(jiān)督域自適應醫(yī)學圖像分割系統(tǒng),其能通過風格不一致性估計方法,對不同風格的目標域合成圖像進行分割預測并生成不一致性映射區(qū)域,以度量易誤分區(qū)域來減輕目標域合成圖像與真實目標域圖像之間的域偏移,并改善目標器官的完整性,解決了目前的傳統(tǒng)的胰腺分割算法含有ncect和cect圖像在風格和紋理上存在著無法對齊且不均勻的情況的問題。
69、作為本發(fā)明所述的基于風格一致性的無監(jiān)督域自適應醫(yī)學圖像分割系統(tǒng)的一種優(yōu)選方案,其中:包括數據集構建模塊,scuda分割網絡優(yōu)化模塊,參數更新模塊。所述數據集構建模塊用于采集包含多張源域和目標域的ct腹部器官掃描圖像構建原訓練集。所述scuda分割網絡優(yōu)化模塊用于構建scuda分割網絡,通過第一個子網絡進行圖像重建,在第二個子網絡通過不同分割目標域圖像的預測圖來生成不一致性映射區(qū)域。所述參數更新模塊用于兩個子網絡同時訓練更新參數獲得分割后的圖像。
70、一種計算機設備,包括存儲器和處理器,所述存儲器存儲有計算機程序,所述處理器執(zhí)行所述計算機程序是實現基于風格一致性的無監(jiān)督域自適應醫(yī)學圖像分割方法的步驟。
71、一種計算機可讀存儲介質,其上存儲有計算機程序,所述計算機程序被處理器執(zhí)行時實現基于風格一致性的無監(jiān)督域自適應醫(yī)學圖像分割方法的步驟。
72、本發(fā)明的有益效果:本發(fā)明提供的基于風格一致性的無監(jiān)督域自適應醫(yī)學圖像分割方法風格不一致性估計方法,通過第一個子網絡設計一個局部相位增強風格融合策略進行圖像轉換和圖像重建,在第二個子網絡通過不同風格的中間目標域合成圖像中找出不一致的映射,并且定量分析胰腺區(qū)域在目標域合成圖像與目標域真實圖像之間的域差異,以進一步提升胰腺區(qū)域的完整性不同分割目標域圖像的預測圖來生成不一致性映射區(qū)域。并且在目標域圖像上定義了風格一致性熵,以便更加聚焦于不一致區(qū)域,從而進一步優(yōu)化胰腺區(qū)域的完整性。兩個子網絡同時訓練更新參數獲得分割后的圖像。本發(fā)明提供的基于風格一致性的無監(jiān)督域自適應醫(yī)學圖像分割方法風格不一致性估計方法,對不同風格的目標域合成圖像進行分割預測并生成不一致性映射區(qū)域,以度量易誤分區(qū)域來減輕目標域合成圖像與真實目標域圖像之間的域偏移,并改善目標器官的完整性,本發(fā)明的胰腺分割結果在recall、precision、jac以及dsc指標上都取得更加良好的效果。