本發(fā)明涉及遙感圖像道路提取，特別涉及一種基于知識蒸餾的遙感圖像道路提取方法、設備及可讀存儲介質。

背景技術：

1、遙感圖像在城市規(guī)劃、交通管理和環(huán)境監(jiān)測等領域中扮演著重要角色，其中，提取道路信息是遙感圖像處理中的一個關鍵任務。提取出來的道路信息可以幫助城市規(guī)劃者和管理者了解城市道路網絡的結構、密度和分布情況，為城市交通規(guī)劃、道路修建和維護提供數據支持。

2、目前，傳統的道路提取方法往往受限于復雜的道路環(huán)境、光照變化和圖像噪聲的影響導致提取效果不盡人意。隨著深度學習技術的興起為遙感圖像道路提取帶來了新的希望。許多研究表明，基于深度學習的方法能夠更好地捕捉圖像中的特征，從而實現更準確的道路提取。然而，當前的深度學習方法在道路提取中也存在一些問題，例如模型復雜度高、計算資源消耗大等。以深度學習模型全卷積網絡（fcn）和u型網絡（u-net）為例，雖然在道路提取任務中取得了一定的成功，但仍存在參數量大、計算復雜度高的問題；并且這些模型在進行實時推理時通常需要較長的時間，難以滿足實時道路提取的需求。

3、因此，本發(fā)明提供一種基于知識蒸餾的遙感圖像道路提取方法，以解決上述問題。

4、需要說明的是，公開于該背景技術部分的信息僅僅旨在增加對本發(fā)明的總體背景的理解，而不應當被視為承認或以任何形式暗示該信息構成已為本領域一般技術人員所公知的現有技術。

技術實現思路

1、為了解決上述問題，本發(fā)明提出了一種基于知識蒸餾的遙感圖像道路提取方法。本發(fā)明提供一種基于知識蒸餾的遙感圖像道路提取方法，其包括下列步驟：

2、使用coanet構建教師模型，所述教師模型的神經網絡采用編碼器-解碼器架構學習道路特征，數據經過編碼器后輸出第一特征圖，經過解碼器后輸出第二特征圖；

3、使用coanet構建學生模型，所述學生模型的神經網絡采用編碼器-解碼器架構，所述學生模型神經網絡的層數少于所述教師模型神經網絡的層數，數據經過編碼器后輸出第三特征圖，經過解碼器后輸出第四特征圖；

4、采取中間層進行知識蒸餾，所述中間層進行知識蒸餾為同構蒸餾，通過最小化損失擬合公式來使第三特征圖擬合第一特征圖，第四特征圖擬合第二特征圖；

5、最小化損失擬合公式如下：

6、

7、其中，s和t分別代表學生模型的圖像數據和教師模型的圖像數據，數據s為一個抽象符號，代表學生模型的某一部分輸出的特征圖，數據t為一個抽象符號，代表教師網絡的某一部分輸出的特征圖，n為特征圖和中總元素的個數，n=batch×channel×width×height，batch為一次訓練所選取的樣本數，channel為通道數，width為寬度，height為高度，為數據s中的一個像素點，為數據t中的一個像素點，在計算和的損失的時候把帶入s的位置，把帶入t的位置進行計算，i的取值范圍為1~n，其中公式代表每次取特征圖s和t的n個像素點中的對應位置的一個點計算相減的差值，然后公式通過取第1個到第n個點計算所有像素點的差值再計算他們的均值得到損失；

8、通過最小化二元交叉熵損失公式使得學生模型分割分支的輸出層學習教師模型分割分支的輸出層知識，所述最小化二元交叉熵損失公式如下：

9、

10、其中，n與最小化損失擬合公式的n相同，為第四特征圖的分割分支，為第二特征圖的分割分支，為中的一個像素點，為中的一個像素點，i的取值范圍為1~n；

11、學生模型與教師模型的分割分支學習擬合基于diceloss和bceloss共同衡量；

12、

13、α為偏置項，用于平滑計算結果，label為地面真實圖像，起標簽作用，labeli為label其中的一個像素點；

14、學生模型與標簽的總損失如下：

15、

16、

17、，

18、其中，a和b為常數，和為第四特征圖的連通分支，為的真值標簽，為的真值標簽，為的真值標簽；

19、知識蒸餾過程的總損失如下：

20、mseloss()+mseloss()++out_loss；

21、進行第一目標訓練，第一目標訓練使用mseloss(，)進行多次迭代，待誤差小于指定閾值d1時，進行第二目標訓練；

22、第二目標訓練使用mseloss(，)進行多次迭代，待誤差小于指定閾值d2時，進行第三目標訓練；

23、第三目標訓練使用c×bceloss(ssem，tsem)+d×outloss，c和d為權重；

24、基于第三目標訓練后的模型輸出結果。

25、進一步的，所述編碼器-解碼器架構包括卷積層、空洞空間卷積池化金字塔層和條狀卷積塊，當輸入數據后，數據經過卷積層后輸出第一特征圖，再進入空洞空間卷積池化金字塔層，空洞空間卷積池化金字塔層用于對第一特征圖增加特征點的接受域并捕獲多尺度特征，處理后的第一特征圖再由條狀卷積塊提取道路的線性特征，并輸出第二特征圖作為預測結果。

26、進一步的，對卷積層、空洞空間卷積池化金字塔層和條狀卷積塊進行剪枝處理；

27、對卷積層使用depgraph方法進行自動剪枝；

28、將空洞空間卷積池化金字塔層替換為基礎的1x1卷積池；

29、對解碼器進行手動剪枝，通過prune函數計算剪枝率，根據剪枝率將解碼器的條狀卷積塊的通道數從256、512、256和128依次改為256、50、128和64。

30、本發(fā)明還提供一種基于知識蒸餾的遙感圖像道路提取方法的設備，其包括存儲器和處理器。存儲器用于儲存嵌入式軟件程序。處理器用于執(zhí)行所述存儲器中存儲的嵌入式軟件程序，所述嵌入式軟件程序被執(zhí)行時實現上述任一項所述的基于知識蒸餾的遙感圖像道路提取方法的步驟。

31、本發(fā)明還提供一種計算機可讀存儲介質，所述計算機可讀存儲介質上存儲有實現遙感圖像道路提取方法的程序，實現遙感圖像道路提取方法的程序被處理器執(zhí)行以實現上述中任一項所述的基于知識蒸餾的遙感圖像道路提取方法的步驟。

32、本發(fā)明的一實施例提供的一種基于知識蒸餾的遙感圖像道路提取方法、設備及可讀存儲介質，在教師網絡coanet的基礎上建立了一個參數量更少、網絡結構相對簡單、擬合速度更快的學生網絡，并且在輸出層知識蒸餾的基礎上增加了中間層知識蒸餾，可以帶來更高的效率、更低的成本和更少的能源消耗，增強整體道路的提取效果，解決傳統方法參數量大、計算復雜度高的問題，能夠快速精準地完成實時推理，滿足實時道路提取的需求。

33、本發(fā)明的其它特征和有益效果將在隨后的說明書中闡述，并且，部分地從說明書中變得顯而易見，或者通過實施本發(fā)明而了解。本發(fā)明的目的和其他有益效果可通過在說明書、權利要求書等內容中所特別指出的結構來實現和獲得。

技術特征：

1.一種基于知識蒸餾的遙感圖像道路提取方法，其特征在于：所述基于知識蒸餾的遙感圖像道路提取方法包括下列步驟：

2.根據權利要求1所述的基于知識蒸餾的遙感圖像道路提取方法，其特征在于：所述編碼器-解碼器架構包括卷積層、空洞空間卷積池化金字塔層和條狀卷積塊，當輸入數據后，數據經過卷積層后輸出第一特征圖，再進入空洞空間卷積池化金字塔層，空洞空間卷積池化金字塔層用于對第一特征圖增加特征點的接受域并捕獲多尺度特征，處理后的第一特征圖再由條狀卷積塊提取道路的線性特征，并輸出第二特征圖作為預測結果。

3.根據權利要求2所述的基于知識蒸餾的遙感圖像道路提取方法，其特征在于：對卷積層、空洞空間卷積池化金字塔層和條狀卷積塊進行剪枝處理；

4.一種基于知識蒸餾的遙感圖像道路提取方法的設備，其特征在于：所述設備包括：

5.一種計算機可讀存儲介質，其特征在于：所述計算機可讀存儲介質上存儲有實現遙感圖像道路提取方法的程序，實現遙感圖像道路提取方法的程序被處理器執(zhí)行以實現如權利要求1至3中任一項所述的基于知識蒸餾的遙感圖像道路提取方法的步驟。

技術總結
本發(fā)明涉及遙感圖像道路提取技術領域，本發(fā)明提供一種基于知識蒸餾的遙感圖像道路提取方法、設備及可讀存儲介質，其包括構建教師模型和學生模型，教師模型和學生模型的神經網絡采用編碼器?解碼器架構學習道路特征，學生模型神經網絡的層數少于教師模型神經網絡的層數，采取中間層進行知識蒸餾，中間層進行知識蒸餾為同構蒸餾，基于目標訓練后的模型輸出結果。解決傳統方法參數量大、計算復雜度高的問題，能夠快速精準地完成實時推理，滿足實時道路提取的需求。

技術研發(fā)人員：許寬,滿旺,杜曉鳳,聶芹,江雨杉
受保護的技術使用者：廈門理工學院
技術研發(fā)日：
技術公布日：2025/1/6