本發(fā)明屬于智能編碼，具體涉及一種基于范疇論建模的編碼智能優(yōu)化方法及系統(tǒng)。

背景技術(shù)：

1、數(shù)據(jù)編解碼旨在通過技術(shù)手段將一張原始數(shù)據(jù)編碼為一個緊致的矩陣并離散化的二進制位碼流，再使用技術(shù)手段將得到的二進制位碼流解碼為原始數(shù)據(jù)或原始數(shù)據(jù)的某種變換。數(shù)據(jù)編解碼是數(shù)據(jù)存儲、傳輸中的重要技術(shù)。由于其有能力從數(shù)據(jù)樣本或數(shù)據(jù)集中抽取緊致的本質(zhì)語義信息，因此也是人工智能模型的重要組成部分，近年來越來越受到學(xué)術(shù)界的關(guān)注。

2、編碼與智能技術(shù)的相關(guān)性提現(xiàn)在兩個方面。一方面，編碼可以實現(xiàn)數(shù)據(jù)交換，提高模型的計算效率。此外，熵在去除冗余的同時，還能起到信息瓶頸的作用，保留內(nèi)在語義，這也給機器學(xué)習(xí)模型的設(shè)計帶來了啟發(fā)。例如，大量關(guān)于深度學(xué)習(xí)理論和方法的研究都采用了顯式或隱式信息瓶頸，充分顯示了編碼理論的見解在提高模型學(xué)習(xí)能力方面的重要作用。另一方面，推動模型提供更強能力的智能技術(shù)也促進了編碼的進步。預(yù)測編碼和混合編碼的出現(xiàn)都驗證了利用細粒度模型和更多樣化的模式來提高編碼效率。

3、但是，編碼技術(shù)與智能技術(shù)的深度聯(lián)合優(yōu)化在理論和實踐上都還有所欠缺。之前的工作相對獨立思考編碼技術(shù)和智能框架。目前缺少一個宏觀的視野和統(tǒng)一的理論框架來進一步揭示二者的內(nèi)在關(guān)系并引導(dǎo)技術(shù)的發(fā)展思路。

技術(shù)實現(xiàn)思路

1、針對上述問題，本發(fā)明的目的在于提供一種基于范疇論建模的編碼智能優(yōu)化方法及系統(tǒng)?；诜懂犝撘龑?dǎo)面向不同下游任務(wù)的編碼框架，通過引入結(jié)合模型訓(xùn)練與壓縮優(yōu)化過程，提升緊致表征下的推理性能，以提高編碼性能。

2、為實現(xiàn)上述目的，本發(fā)明的技術(shù)方案包括以下內(nèi)容。

3、一種基于范疇論建模的編碼智能優(yōu)化方法，所述方法包括：

4、基于編碼任務(wù)f，確定提取數(shù)據(jù)之間的關(guān)系集合的建模范式，并根據(jù)所述建模范式，構(gòu)建編碼模型；其中，為數(shù)據(jù)域，x為數(shù)據(jù)域內(nèi)的對象；

5、生成內(nèi)容數(shù)據(jù)集，并基于編碼任務(wù)e需要的關(guān)系集合k對內(nèi)容數(shù)據(jù)集進行標注；

6、根據(jù)編碼任務(wù)f下的數(shù)據(jù)壓縮結(jié)構(gòu)，確定壓縮目標；

7、基于所述壓縮目標，在標注后的內(nèi)容數(shù)據(jù)集上訓(xùn)練所述編碼模型；

8、使用訓(xùn)練后的編碼模型完成所述編碼任務(wù)f。

9、進一步地，所述基于編碼任務(wù)，確定提取數(shù)據(jù)間關(guān)系集合的建模范式，并根據(jù)所述建模范式，構(gòu)建編碼模型，包括：

10、獲取編碼任務(wù)f下的提取數(shù)據(jù)之間的關(guān)系集合

11、在編碼任務(wù)f和提取數(shù)據(jù)之間關(guān)系的任務(wù)的基礎(chǔ)上，基于類比公理得到任務(wù)域間關(guān)系集合其中，為任務(wù)域，所述類比公理為數(shù)據(jù)之間的關(guān)系集合編碼了數(shù)據(jù)x的全部信息，因此該數(shù)據(jù)之間的關(guān)系集合可被任意下游任務(wù)使用；

12、根據(jù)任務(wù)域間關(guān)系集合確定數(shù)據(jù)之間的關(guān)系建模范式；其中，所述數(shù)據(jù)之間的關(guān)系建模范式包括：基于序列化的關(guān)系建模或基于層級化的關(guān)系建模；

13、依據(jù)數(shù)據(jù)之間的關(guān)系建模范式，確定編碼模型。

14、進一步地，所述基于編碼任務(wù)f需要的關(guān)系集合k對內(nèi)容數(shù)據(jù)集進行標注，包括：

15、基于抽象公理，在數(shù)據(jù)之間的關(guān)系集合中選擇編碼任務(wù)f需要的子集，并根據(jù)該編碼任務(wù)f需要的子集得到數(shù)據(jù)壓縮后的關(guān)系c(x)；其中，所述抽象公理為數(shù)據(jù)壓縮后的關(guān)系c(x)等價于從數(shù)據(jù)之間的關(guān)系集合中選擇下游任務(wù)需要的子集；

16、根據(jù)所述數(shù)據(jù)壓縮后的關(guān)系c(x)，確定的編碼任務(wù)f需要的關(guān)系集合k(fi(c(x)),其中，y為數(shù)據(jù)x的編碼結(jié)果，d為距離函數(shù)，∈為設(shè)定閾值，fi(c(x))表示對于第i個任務(wù)fi，基于壓縮后的關(guān)系集合c(x)進行推理識別；

17、根據(jù)編碼任務(wù)f需要的關(guān)系集合k，對內(nèi)容數(shù)據(jù)集進行標注。

18、進一步地，在所述下游任務(wù)為智能編碼的情況下，所述壓縮目標包括：碼流長度、模型長度和性能表現(xiàn)。

19、進一步地，所述編碼模型包含編碼器、熵模型和端到端解碼器；所述基于所述壓縮目標，在標注后的內(nèi)容數(shù)據(jù)集上訓(xùn)練所述編碼模型，包括：

20、從內(nèi)容數(shù)據(jù)集中隨機選取圖像將該圖像使用編碼器抽取特征并離散化為碼流

21、使用熵模型估計碼流的均值和方差，得到碼流長度，并通過最小化碼流長度得到碼流長度損失len，通過最小化模型長度得到對編碼器的長度約束其中，表示第j個編碼器的參數(shù)；

22、將碼流輸入端到端解碼器，輸出重建圖像并基于重建圖像和關(guān)系集合k獲得性能表現(xiàn)損失lperf以及對解碼器的約束其中，表示第j個解碼器dj的參數(shù)；

23、基于性能表現(xiàn)損失lperf、碼流長度損失len、對編碼器的長度約束對解碼器的長度約束得到總損失u；

24、根據(jù)總損失u與梯度下降算法，調(diào)整編碼器、熵模型和解碼器的參數(shù)。

25、進一步地，所述總損失j為下游任務(wù)數(shù)量，nj為下游任務(wù)fj包含的數(shù)據(jù)量。

26、進一步地，在所述下游任務(wù)為面向機器視覺的視頻編碼的情況下，所述壓縮目標包括：碼流長度和性能表現(xiàn)。

27、進一步地，所述編碼模型包含編碼器、熵模型和端到端解碼器；所述基于所述壓縮目標，在標注后的內(nèi)容數(shù)據(jù)集上訓(xùn)練所述編碼模型，包括：

28、從內(nèi)容數(shù)據(jù)集中隨機選取圖像將該圖像使用編碼器抽取特征并離散化為碼流

29、使用熵模型估計碼流的均值和方差，得到碼流長度，并通過最小化碼流長度得到碼流長度損失len，通過最小化模型長度得到對編碼器的長度約束其中，表示第j個編碼器的參數(shù)；

30、將碼流輸入端到端解碼器，輸出重建圖像并基于重建圖像和關(guān)系集合k獲得性能表現(xiàn)損失lperf；

31、基于性能表現(xiàn)損失lperf和碼流長度損失len得到總損失u；

32、根據(jù)總損失u與梯度下降算法，調(diào)整編碼器、熵模型和解碼器的參數(shù)。

33、進一步地，所述總損失j為下游任務(wù)數(shù)量，nj為下游任務(wù)fj包含的數(shù)據(jù)量，j為下游任務(wù)數(shù)量，nj為下游任務(wù)fj包含的數(shù)據(jù)量。

34、一種基于范疇論建模的編碼智能優(yōu)化系統(tǒng)，所述系統(tǒng)包括：

35、編碼模型生成模塊，用于基于編碼任務(wù)f，確定提取數(shù)據(jù)之間的關(guān)系集合的建模范式，并根據(jù)所述建模范式，構(gòu)建編碼模型；其中，為數(shù)據(jù)域，x為數(shù)據(jù)域內(nèi)的對象；

36、內(nèi)容數(shù)據(jù)標注模塊，用于生成內(nèi)容數(shù)據(jù)集，并基于編碼任務(wù)f需要的關(guān)系集合k對內(nèi)容數(shù)據(jù)集進行標注；

37、壓縮目標確定模塊，用于根據(jù)編碼任務(wù)f下的數(shù)據(jù)放縮結(jié)構(gòu)，確定壓縮目標；

38、編碼模型訓(xùn)練模塊，用于基于所述壓縮目標，在標注后的內(nèi)容數(shù)據(jù)集上訓(xùn)練所述編碼模型；

39、編碼模型推理模塊，用于使用訓(xùn)練后的編碼模型完成所述編碼任務(wù)f。

40、與現(xiàn)有技術(shù)相比，本發(fā)明的積極效果為：通過基于范疇論的公理系統(tǒng)，對不同的下游任務(wù)生成自適應(yīng)的壓縮框架，然后基于此壓縮框架聯(lián)合模型訓(xùn)練和壓縮方法優(yōu)化。實驗證明，與已有技術(shù)相比，本發(fā)明提供了一種更通用的智能壓縮框架。

技術(shù)特征：

1.一種基于范疇論建模的編碼智能優(yōu)化方法，其特征在于，所述方法包括：

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述基于編碼任務(wù)，確定提取數(shù)據(jù)間關(guān)系集合的建模范式，并根據(jù)所述建模范式，構(gòu)建編碼模型，包括：

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述基于編碼任務(wù)f需要的關(guān)系集合k對內(nèi)容數(shù)據(jù)集進行標注，包括：

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，在所述下游任務(wù)為智能編碼的情況下，所述壓縮目標包括：碼流長度、模型長度和性能表現(xiàn)。

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述編碼模型包含編碼器、熵模型和端到端解碼器；所述基于所述壓縮目標，在標注后的內(nèi)容數(shù)據(jù)集上訓(xùn)練所述編碼模型，包括：

6.根據(jù)權(quán)利要求5所述的方法，其特征在于，所述總損失j為下游任務(wù)數(shù)量，nj為下游任務(wù)fj包含的數(shù)據(jù)量。

7.根據(jù)權(quán)利要求1所述的方法，其特征在于，在所述下游任務(wù)為面向機器視覺的視頻編碼的情況下，所述壓縮目標包括：碼流長度和性能表現(xiàn)。

8.根據(jù)權(quán)利要求7所述的方法，其特征在于，所述編碼模型包含編碼器、熵模型和端到端解碼器；所述基于所述壓縮目標，在標注后的內(nèi)容數(shù)據(jù)集上訓(xùn)練所述編碼模型，包括：

9.根據(jù)權(quán)利要求8所述的方法，其特征在于，所述總損失j為下游任務(wù)數(shù)量，nj為下游任務(wù)fj包含的數(shù)據(jù)量，j為下游任務(wù)數(shù)量，nj為下游任務(wù)fj包含的數(shù)據(jù)量。

10.一種基于范疇論建模的編碼智能優(yōu)化系統(tǒng)，其特征在于，所述系統(tǒng)包括：

技術(shù)總結(jié)
本發(fā)明公開一種基于范疇論建模的編碼智能優(yōu)化方法及系統(tǒng)，屬于智能編碼技術(shù)領(lǐng)域。該方法包括：基于編碼任務(wù)，確定提取數(shù)據(jù)之間的關(guān)系集合的建模范式，并根據(jù)所述建模范式，構(gòu)建編碼模型；生成內(nèi)容數(shù)據(jù)集，并基于編碼任務(wù)需要的關(guān)系集合對內(nèi)容數(shù)據(jù)集進行標注；根據(jù)編碼任務(wù)下的數(shù)據(jù)放縮結(jié)構(gòu)，確定壓縮目標；基于所述壓縮目標，在標注后的內(nèi)容數(shù)據(jù)集上訓(xùn)練所述編碼模型；使用訓(xùn)練后的編碼模型完成所述編碼任務(wù)。本發(fā)明通過引入結(jié)合模型訓(xùn)練與壓縮優(yōu)化過程，提升緊致表征下的推理性能，以提高編碼性能。

技術(shù)研發(fā)人員：段凌宇,劉家瑛,楊文瀚,胡子軒,林里浪
受保護的技術(shù)使用者：北京大學(xué)
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/6