本發(fā)明涉及互聯(lián)網(wǎng)技術(shù)，尤其涉及一種基于人工智能的神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)處理方法及裝置。

背景技術(shù)：

人工智能(Artificial Intelligence)，英文縮寫為AI。它是研究、開發(fā)用于模擬、延伸和擴展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學。人工智能是計算機科學的一個分支，它企圖了解智能的實質(zhì)，并生產(chǎn)出一種新的能以人類智能相似的方式做出反應(yīng)的智能機器，該領(lǐng)域的研究包括機器人、語言識別、圖像識別、自然語言處理和專家系統(tǒng)等。

隨著神經(jīng)網(wǎng)絡(luò)尤其是深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)的增加，為了更好地學習數(shù)據(jù)特征提升效果，使得用于表示神經(jīng)網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)參數(shù)迅速增長，這樣，會導(dǎo)致內(nèi)存資源的消耗也迅速增長，這就制約了神經(jīng)網(wǎng)絡(luò)的應(yīng)用場景例如，手機等內(nèi)存資源有限的終端。

因此，亟需提供一種方法，能夠減少神經(jīng)網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)參數(shù)，以降低神經(jīng)網(wǎng)絡(luò)的內(nèi)存資源消耗。

技術(shù)實現(xiàn)要素：

本發(fā)明的多個方面提供一種基于人工智能的神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)處理方法及裝置，用以降低神經(jīng)網(wǎng)絡(luò)的內(nèi)存資源消耗。

本發(fā)明的一方面，提供一種基于人工智能的神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)處理方法，包括：

獲得神經(jīng)網(wǎng)絡(luò)參數(shù)的M個元素標識中每個元素標識所采用的N個隨機種子；M為大于或等于1的整數(shù)；N為大于或等于2的整數(shù)；

根據(jù)所述每個元素標識和該元素標識所采用的N個隨機種子，獲得所述每個元素標識的N個壓縮參數(shù)；

根據(jù)所述每個元素標識的N個壓縮參數(shù)，利用重構(gòu)神經(jīng)網(wǎng)絡(luò)，獲得所述每個元素標識所對應(yīng)的重構(gòu)元素；

根據(jù)所述每個元素標識所對應(yīng)的重構(gòu)元素，獲得所述神經(jīng)網(wǎng)絡(luò)參數(shù)。

如上所述的方面和任一可能的實現(xiàn)方式，進一步提供一種實現(xiàn)方式，所述根據(jù)所述每個元素標識和該元素標識所采用的N個隨機種子，獲得所述每個元素標識的N個壓縮參數(shù)，包括：

根據(jù)所述每個元素標識和該元素標識所采用的N個隨機種子，獲得所述每個元素標識的N個隨機標識；

根據(jù)所述N個隨機標識和預(yù)先設(shè)置的壓縮空間信息，獲得所述每個元素標識的N個壓縮參數(shù)。

如上所述的方面和任一可能的實現(xiàn)方式，進一步提供一種實現(xiàn)方式，所述根據(jù)所述每個元素標識的N個壓縮參數(shù)，利用重構(gòu)神經(jīng)網(wǎng)絡(luò)，獲得所述每個元素標識所對應(yīng)的重構(gòu)元素，包括：

獲得預(yù)先設(shè)置的所述重構(gòu)神經(jīng)網(wǎng)絡(luò)的一組重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)；或者根據(jù)所述每個元素標識，在預(yù)先設(shè)置的所述重構(gòu)神經(jīng)網(wǎng)絡(luò)的至少兩組重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)中進行選擇，以獲得一組重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)；

根據(jù)所獲得的所述重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)，獲得所述每個元素標識所對應(yīng)的重構(gòu)元素。

如上所述的方面和任一可能的實現(xiàn)方式，進一步提供一種實現(xiàn)方式，還包括：

獲得所述神經(jīng)網(wǎng)絡(luò)參數(shù)所屬原始神經(jīng)網(wǎng)絡(luò)的損失函數(shù)；

根據(jù)所述損失函數(shù)，獲得所述損失函數(shù)對所述神經(jīng)網(wǎng)絡(luò)參數(shù)的全部壓縮參數(shù)中每個壓縮參數(shù)的梯度；

根據(jù)所述每個壓縮參數(shù)的梯度，利用梯度下降法，更新所述每個壓縮參數(shù)。

如上所述的方面和任一可能的實現(xiàn)方式，進一步提供一種實現(xiàn)方式，還包括：

獲得所述神經(jīng)網(wǎng)絡(luò)參數(shù)所屬原始神經(jīng)網(wǎng)絡(luò)的損失函數(shù)；

根據(jù)所述損失函數(shù)，獲得所述損失函數(shù)對所述重構(gòu)神經(jīng)網(wǎng)絡(luò)的全部重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)中每個重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)的梯度；

根據(jù)所述每個重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)的梯度，利用梯度下降法，更新所述每個重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)。

本發(fā)明的另一方面，提供一種基于人工智能的神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)處理裝置，包括：

隨機種子單元，用于獲得神經(jīng)網(wǎng)絡(luò)參數(shù)的M個元素標識中每個元素標識所采用的N個隨機種子；M為大于或等于1的整數(shù)；N為大于或等于2的整數(shù)；

壓縮參數(shù)單元，用于根據(jù)所述每個元素標識和該元素標識所采用的N個隨機種子，獲得所述每個元素標識的N個壓縮參數(shù)；

重構(gòu)元素單元，用于根據(jù)所述每個元素標識的N個壓縮參數(shù)，利用重構(gòu)神經(jīng)網(wǎng)絡(luò)，獲得所述每個元素標識所對應(yīng)的重構(gòu)元素；

網(wǎng)絡(luò)參數(shù)單元，用于根據(jù)所述每個元素標識所對應(yīng)的重構(gòu)元素，獲得所述神經(jīng)網(wǎng)絡(luò)參數(shù)。

如上所述的方面和任一可能的實現(xiàn)方式，進一步提供一種實現(xiàn)方式，所述壓縮參數(shù)單元，具體用于

根據(jù)所述每個元素標識和該元素標識所采用的N個隨機種子，獲得所述每個元素標識的N個隨機標識；以及

根據(jù)所述N個隨機標識和預(yù)先設(shè)置的壓縮空間信息，獲得所述每個元素標識的N個壓縮參數(shù)。

如上所述的方面和任一可能的實現(xiàn)方式，進一步提供一種實現(xiàn)方式，所述重構(gòu)元素單元，用于

獲得預(yù)先設(shè)置的所述重構(gòu)神經(jīng)網(wǎng)絡(luò)的一組重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)；或者根據(jù)所述每個元素標識，在預(yù)先設(shè)置的所述重構(gòu)神經(jīng)網(wǎng)絡(luò)的至少兩組重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)中進行選擇，以獲得一組重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)；以及

根據(jù)所獲得的所述重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)，獲得所述每個元素標識所對應(yīng)的重構(gòu)元素。

如上所述的方面和任一可能的實現(xiàn)方式，進一步提供一種實現(xiàn)方式，還包括壓縮參數(shù)調(diào)整單元，用于

獲得所述神經(jīng)網(wǎng)絡(luò)參數(shù)所屬原始神經(jīng)網(wǎng)絡(luò)的損失函數(shù)；

根據(jù)所述損失函數(shù)，獲得所述損失函數(shù)對所述神經(jīng)網(wǎng)絡(luò)參數(shù)的全部壓縮參數(shù)中每個壓縮參數(shù)的梯度；以及

根據(jù)所述每個壓縮參數(shù)的梯度，利用梯度下降法，更新所述每個壓縮參數(shù)。

如上所述的方面和任一可能的實現(xiàn)方式，進一步提供一種實現(xiàn)方式，還包括重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)調(diào)整單元，用于

獲得所述神經(jīng)網(wǎng)絡(luò)參數(shù)所屬原始神經(jīng)網(wǎng)絡(luò)的損失函數(shù)；

根據(jù)所述損失函數(shù)，獲得所述損失函數(shù)對所述重構(gòu)神經(jīng)網(wǎng)絡(luò)的全部重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)中每個重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)的梯度；以及

根據(jù)所述每個重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)的梯度，利用梯度下降法，更新所述每個重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)。

由上述技術(shù)方案可知，本發(fā)明實施例通過獲得神經(jīng)網(wǎng)絡(luò)參數(shù)的M個元素標識中每個元素標識所采用的N個隨機種子，進而根據(jù)所述每個元素標識和該元素標識所采用的N個隨機種子，獲得所述每個元素標識的N個壓縮參數(shù)，并根據(jù)所述每個元素標識的N個壓縮參數(shù)，利用重構(gòu)神經(jīng)網(wǎng)絡(luò)，獲得所述每個元素標識所對應(yīng)的重構(gòu)元素，使得能夠根據(jù)所述每個元素標識所對應(yīng)的重構(gòu)元素，獲得所述神經(jīng)網(wǎng)絡(luò)參數(shù)，在計算神經(jīng)網(wǎng)絡(luò)參數(shù)時，通過使用多個不同的隨機種子，進行多次隨機運算，獲得多個壓縮參數(shù)，進而再利用重構(gòu)神經(jīng)網(wǎng)絡(luò)，根據(jù)這些壓縮參數(shù)來計算神經(jīng)網(wǎng)絡(luò)參數(shù)的重構(gòu)元素，只需設(shè)置包含一定數(shù)量壓縮參數(shù)例如8個壓縮參數(shù)的壓縮空間信息，而無需分別設(shè)置的神經(jīng)網(wǎng)絡(luò)參數(shù)的具體元素，能夠有效減少神經(jīng)網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)參數(shù)，從而降低了神經(jīng)網(wǎng)絡(luò)的內(nèi)存資源消耗。

另外，采用本發(fā)明所提供的技術(shù)方案，由于構(gòu)成神經(jīng)網(wǎng)絡(luò)參數(shù)的重構(gòu)元素是基于壓縮空間信息中所包含的多個壓縮參數(shù)所獲得的，因此，能夠有效減少重構(gòu)元素對單個壓縮參數(shù)的依賴。

另外，采用本發(fā)明所提供的技術(shù)方案，由于構(gòu)成神經(jīng)網(wǎng)絡(luò)參數(shù)的重構(gòu)元素是基于壓縮空間信息中所包含的多個壓縮參數(shù)所獲得的，因此，能夠有效提高壓縮空間信息的利用率。

【附圖說明】

為了更清楚地說明本發(fā)明實施例中的技術(shù)方案，下面將對實施例或現(xiàn)有技術(shù)描述中所需要使用的附圖作一簡單地介紹，顯而易見地，下面描述中的附圖是本發(fā)明的一些實施例，對于本領(lǐng)域普通技術(shù)人員來講，在不付出創(chuàng)造性勞動性的前提下，還可以根據(jù)這些附圖獲得其他的附圖。

圖1為本發(fā)明一實施例提供的基于人工智能的神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)處理方法的流程示意圖；

圖2為本發(fā)明另一實施例提供的基于人工智能的神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)處理裝置的結(jié)構(gòu)示意圖；

圖3為本發(fā)明另一實施例提供的基于人工智能的神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)處理裝置的結(jié)構(gòu)示意圖；

圖4為本發(fā)明另一實施例提供的基于人工智能的神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)處理裝置的結(jié)構(gòu)示意圖。

【具體實施方式】

為使本發(fā)明實施例的目的、技術(shù)方案和優(yōu)點更加清楚，下面將結(jié)合本發(fā)明實施例中的附圖，對本發(fā)明實施例中的技術(shù)方案進行清楚、完整地描述，顯然，所描述的實施例是本發(fā)明一部分實施例，而不是全部的實施例?；诒景l(fā)明中的實施例，本領(lǐng)域普通技術(shù)人員在沒有作出創(chuàng)造性勞動前提下所獲得的全部其他實施例，都屬于本發(fā)明保護的范圍。

需要說明的是，本發(fā)明實施例中所涉及的終端可以包括但不限于手機、個人數(shù)字助理(Personal Digital Assistant，PDA)、無線手持設(shè)備、平板電腦(Tablet Computer)、個人電腦(Personal Computer，PC)、MP3播放器、MP4播放器、可穿戴設(shè)備(例如，智能眼鏡、智能手表、智能手環(huán)等)等。

另外，本文中術(shù)語“和/或”，僅僅是一種描述關(guān)聯(lián)對象的關(guān)聯(lián)關(guān)系，表示可以存在三種關(guān)系，例如，A和/或B，可以表示：單獨存在A，同時存在A和B，單獨存在B這三種情況。另外，本文中字符“/”，一般表示前后關(guān)聯(lián)對象是一種“或”的關(guān)系。

圖1為本發(fā)明一實施例提供的基于人工智能的神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)處理方法的流程示意圖，如圖1所示。

101、獲得神經(jīng)網(wǎng)絡(luò)參數(shù)的M個元素標識中每個元素標識所采用的N個隨機種子；M為大于或等于1的整數(shù)；N為大于或等于2的整數(shù)。

其中，所謂的神經(jīng)網(wǎng)絡(luò)參數(shù)，是指神經(jīng)網(wǎng)絡(luò)中，每個層結(jié)構(gòu)中所具有的神經(jīng)網(wǎng)絡(luò)參數(shù)中的任意一個神經(jīng)網(wǎng)絡(luò)參數(shù)。本發(fā)明所提供的技術(shù)方案，可以針對每個層結(jié)構(gòu)中，獲得任意一個神經(jīng)網(wǎng)絡(luò)參數(shù)。

102、根據(jù)所述每個元素標識和該元素標識所采用的N個隨機種子，獲得所述每個元素標識的N個壓縮參數(shù)。

103、根據(jù)所述每個元素標識的N個壓縮參數(shù)，利用重構(gòu)神經(jīng)網(wǎng)絡(luò)，獲得所述每個元素標識所對應(yīng)的重構(gòu)元素。

104、根據(jù)所述每個元素標識所對應(yīng)的重構(gòu)元素，獲得所述神經(jīng)網(wǎng)絡(luò)參數(shù)。

需要說明的是，101～104的執(zhí)行主體的部分或全部可以為位于本地終端的應(yīng)用，或者還可以為設(shè)置在位于本地終端的應(yīng)用中的插件或軟件開發(fā)工具包(SoftwareDevelopmentKit，SDK)等功能單元，或者還可以為位于網(wǎng)絡(luò)側(cè)服務(wù)器中的搜索引擎，或者還可以為位于網(wǎng)絡(luò)側(cè)的分布式系統(tǒng)，本實施例對此不進行特別限定。

可以理解的是，所述應(yīng)用可以是安裝在終端上的本地程序(nativeApp)，或者還可以是終端上的瀏覽器的一個網(wǎng)頁程序(webApp)，本實施例對此不進行特別限定。

這樣，通過使用多個不同的隨機種子，進行多次隨機運算，獲得多個壓縮參數(shù)，進而再利用重構(gòu)神經(jīng)網(wǎng)絡(luò)，根據(jù)這些壓縮參數(shù)，就可以來計算神經(jīng)網(wǎng)絡(luò)參數(shù)的重構(gòu)元素，只需設(shè)置包含一定數(shù)量壓縮參數(shù)例如8個壓縮參數(shù)的壓縮空間信息，而無需分別設(shè)置的神經(jīng)網(wǎng)絡(luò)參數(shù)的具體元素，能夠有效減少神經(jīng)網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)參數(shù)，從而降低了神經(jīng)網(wǎng)絡(luò)的內(nèi)存資源消耗。

可選地，在本實施例的一個可能的實現(xiàn)方式中，在102中，具體可以根據(jù)所述每個元素標識和該元素標識所采用的N個隨機種子，獲得所述每個元素標識的N個隨機標識。例如，對每個元素標識和該元素標識所采用的N個隨機種子，分別進行哈希運算，以獲得所述每個元素標識的N個隨機標識。其中，哈希運算可以采用哈希函數(shù)h₁(x,s)，x是輸入，s是隨機種子(randomseed)。在獲得每個元素標識的N個隨機標識之后，則可以根據(jù)所述N個隨機標識和預(yù)先設(shè)置的壓縮空間信息，獲得所述每個元素標識的N個壓縮參數(shù)。

下面將以一個x為輸入，y為輸出的神經(jīng)網(wǎng)絡(luò)的層結(jié)構(gòu)，作為舉例，對該層結(jié)構(gòu)所采用的神經(jīng)網(wǎng)絡(luò)參數(shù)的處理過程進行詳細說明。首先，進行如下符號的定義：

x是一個d₁維向量，{x_i,i＝1…d₁}是其每一維的元素；

y是一個d₂維向量，{y_i,i＝1…d₂}是其每一維的元素；

預(yù)先設(shè)置的壓縮空間信息c，是一個長度為d₃的數(shù)組，{c_i,i＝1…d₃}是其的元素；

神經(jīng)網(wǎng)絡(luò)參數(shù)V，是一個d₂×d₁的矩陣，{V_ij,i＝1…d₂，j＝1…d₁}是其的元素；

隨機種子(randomseed)集合s，是一個d₄維向量，{s_i,i＝1…d₄}是其每一維的元素；

重構(gòu)神經(jīng)網(wǎng)絡(luò)的重構(gòu)函數(shù)g(x|α)，x是一個d₄維向量，α是小型輕量級神經(jīng)網(wǎng)絡(luò)的參數(shù)矩陣即重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)；

哈希(Hash)函數(shù)h₁(x,s)，x是輸入，s是隨機種子；

哈希(Hash)函數(shù)h₂(x,s)，x是輸入，s是隨機種子。

對于神經(jīng)網(wǎng)絡(luò)參數(shù)V的每個元素V_ij,i＝1…d₂,j＝1…d₁，可以利用哈希(Hash)函數(shù)h₁(x,s)和隨機種子(randomseed)集合s，計算用于獲得重構(gòu)元素的壓縮空間信息c的下標h_i＝h₁(x,s_i)，i＝1…d₄，x＝i×d₂+j。在獲得壓縮空間信息c的下標h_i之后，則可以將用于獲得重構(gòu)元素的壓縮參數(shù)選擇為即那么，對于神經(jīng)網(wǎng)絡(luò)參數(shù)V的每個元素V_ij，則可以利用重構(gòu)函數(shù)g(x|α)獲得，即

為了進一步避免不同元素標識的N個壓縮參數(shù)的取值相同，可以引入一個隨機符號其取值可以為1或者-1，即其中，{s_k,k＝1…d₄}也可以表示隨機種子(randomseed)集合s每一維的元素。利用該隨機符號可以對所選擇的壓縮參數(shù)進行一個符號處理即那么，對于神經(jīng)網(wǎng)絡(luò)參數(shù)V的每個元素V_ij，則可以利用重構(gòu)函數(shù)g(x|α)獲得，即

可選地，在本實施例的一個可能的實現(xiàn)方式中，在103中，具體可以獲得預(yù)先設(shè)置的所述重構(gòu)神經(jīng)網(wǎng)絡(luò)的一組重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)，或者還可以根據(jù)所述每個元素標識，在預(yù)先設(shè)置的所述重構(gòu)神經(jīng)網(wǎng)絡(luò)的至少兩組重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)中進行選擇，以獲得一組重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)例如，對每個元素標識，分別進行哈希運算，以獲得所述每個元素標識的一組重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)。。然后，在獲得了每個元素標識的一組重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)之后，則可以根據(jù)所獲得的所述重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)，獲得所述每個元素標識所對應(yīng)的重構(gòu)元素。

可選地，在本實施例的一個可能的實現(xiàn)方式中，在104之后，還可以進一步獲得所述神經(jīng)網(wǎng)絡(luò)參數(shù)所屬原始神經(jīng)網(wǎng)絡(luò)的損失函數(shù)，進而，則可以根據(jù)所述損失函數(shù)，獲得所述損失函數(shù)對所述神經(jīng)網(wǎng)絡(luò)參數(shù)的全部壓縮參數(shù)中每個壓縮參數(shù)的梯度。然后，可以根據(jù)所述每個壓縮參數(shù)的梯度，利用梯度下降法，更新所述每個壓縮參數(shù)。

可選地，在本實施例的一個可能的實現(xiàn)方式中，在104之后，還可以進一步獲得所述神經(jīng)網(wǎng)絡(luò)參數(shù)所屬原始神經(jīng)網(wǎng)絡(luò)的損失函數(shù)，進而，則可以根據(jù)所述損失函數(shù)，獲得所述損失函數(shù)對所述重構(gòu)神經(jīng)網(wǎng)絡(luò)的全部重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)中每個重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)的梯度。然后，可以根據(jù)所述每個重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)的梯度，利用梯度下降法，更新所述每個重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)。

本實施例中，通過獲得神經(jīng)網(wǎng)絡(luò)參數(shù)的M個元素標識中每個元素標識所采用的N個隨機種子，進而根據(jù)所述每個元素標識和該元素標識所采用的N個隨機種子，獲得所述每個元素標識的N個壓縮參數(shù)，并根據(jù)所述每個元素標識的N個壓縮參數(shù)，利用重構(gòu)神經(jīng)網(wǎng)絡(luò)，獲得所述每個元素標識所對應(yīng)的重構(gòu)元素，使得能夠根據(jù)所述每個元素標識所對應(yīng)的重構(gòu)元素，獲得所述神經(jīng)網(wǎng)絡(luò)參數(shù)，在計算神經(jīng)網(wǎng)絡(luò)參數(shù)時，通過使用多個不同的隨機種子，進行多次隨機運算，獲得多個壓縮參數(shù)，進而再利用重構(gòu)神經(jīng)網(wǎng)絡(luò)，根據(jù)這些壓縮參數(shù)來計算神經(jīng)網(wǎng)絡(luò)參數(shù)的重構(gòu)元素，只需設(shè)置包含一定數(shù)量壓縮參數(shù)例如8個壓縮參數(shù)的壓縮空間信息，而無需分別設(shè)置的神經(jīng)網(wǎng)絡(luò)參數(shù)的具體元素，能夠有效減少神經(jīng)網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)參數(shù)，從而降低了神經(jīng)網(wǎng)絡(luò)的內(nèi)存資源消耗。

另外，采用本發(fā)明所提供的技術(shù)方案，由于構(gòu)成神經(jīng)網(wǎng)絡(luò)參數(shù)的重構(gòu)元素是基于壓縮空間信息中所包含的多個壓縮參數(shù)所獲得的，因此，能夠有效減少重構(gòu)元素對單個壓縮參數(shù)的依賴。

另外，采用本發(fā)明所提供的技術(shù)方案，由于構(gòu)成神經(jīng)網(wǎng)絡(luò)參數(shù)的重構(gòu)元素是基于壓縮空間信息中所包含的多個壓縮參數(shù)所獲得的，因此，能夠有效提高壓縮空間信息的利用率。

需要說明的是，對于前述的各方法實施例，為了簡單描述，故將其都表述為一系列的動作組合，但是本領(lǐng)域技術(shù)人員應(yīng)該知悉，本發(fā)明并不受所描述的動作順序的限制，因為依據(jù)本發(fā)明，某些步驟可以采用其他順序或者同時進行。其次，本領(lǐng)域技術(shù)人員也應(yīng)該知悉，說明書中所描述的實施例均屬于優(yōu)選實施例，所涉及的動作和模塊并不一定是本發(fā)明所必須的。

在上述實施例中，對各個實施例的描述都各有側(cè)重，某個實施例中沒有詳述的部分，可以參見其他實施例的相關(guān)描述。

圖2為本發(fā)明另一實施例提供的基于人工智能的神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)處理裝置的結(jié)構(gòu)示意圖，如圖2所示。本實施例的基于人工智能的神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)處理裝置可以包括隨機種子單元21、壓縮參數(shù)單元22、重構(gòu)元素單元23和網(wǎng)絡(luò)參數(shù)單元24。其中，隨機種子單元21，用于獲得神經(jīng)網(wǎng)絡(luò)參數(shù)的M個元素標識中每個元素標識所采用的N個隨機種子；M為大于或等于1的整數(shù)；N為大于或等于2的整數(shù)；壓縮參數(shù)單元22，用于根據(jù)所述每個元素標識和該元素標識所采用的N個隨機種子，獲得所述每個元素標識的N個壓縮參數(shù)；重構(gòu)元素單元23，用于根據(jù)所述每個元素標識的N個壓縮參數(shù)，利用重構(gòu)神經(jīng)網(wǎng)絡(luò)，獲得所述每個元素標識所對應(yīng)的重構(gòu)元素；網(wǎng)絡(luò)參數(shù)單元24，用于根據(jù)所述每個元素標識所對應(yīng)的重構(gòu)元素，獲得所述神經(jīng)網(wǎng)絡(luò)參數(shù)。

需要說明的是，本實施例所提供的基于人工智能的神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)處理裝置的部分或全部可以為位于本地終端的應(yīng)用，或者還可以為設(shè)置在位于本地終端的應(yīng)用中的插件或軟件開發(fā)工具包(SoftwareDevelopmentKit，SDK)等功能單元，或者還可以為位于網(wǎng)絡(luò)側(cè)服務(wù)器中的搜索引擎，或者還可以為位于網(wǎng)絡(luò)側(cè)的分布式系統(tǒng)，本實施例對此不進行特別限定。

可以理解的是，所述應(yīng)用可以是安裝在終端上的本地程序(nativeApp)，或者還可以是終端上的瀏覽器的一個網(wǎng)頁程序(webApp)，本實施例對此不進行特別限定。

可選地，在本實施例的一個可能的實現(xiàn)方式中，所述壓縮參數(shù)單元22，具體可以用于根據(jù)所述每個元素標識和該元素標識所采用的N個隨機種子，獲得所述每個元素標識的N個隨機標識；以及根據(jù)所述N個隨機標識和預(yù)先設(shè)置的壓縮空間信息，獲得所述每個元素標識的N個壓縮參數(shù)。

可選地，在本實施例的一個可能的實現(xiàn)方式中，所述重構(gòu)元素單元23，具體可以用于獲得預(yù)先設(shè)置的所述重構(gòu)神經(jīng)網(wǎng)絡(luò)的一組重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)；或者根據(jù)所述每個元素標識，在預(yù)先設(shè)置的所述重構(gòu)神經(jīng)網(wǎng)絡(luò)的至少兩組重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)中進行選擇，以獲得一組重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)；以及根據(jù)所獲得的所述重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)，獲得所述每個元素標識所對應(yīng)的重構(gòu)元素。

可選地，在本實施例的一個可能的實現(xiàn)方式中，如圖3所示，本實施例所提供的基于人工智能的神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)處理裝置還可以進一步包括壓縮參數(shù)調(diào)整單元31，可以用于獲得所述神經(jīng)網(wǎng)絡(luò)參數(shù)所屬原始神經(jīng)網(wǎng)絡(luò)的損失函數(shù)；根據(jù)所述損失函數(shù)，獲得所述損失函數(shù)對所述神經(jīng)網(wǎng)絡(luò)參數(shù)的全部壓縮參數(shù)中每個壓縮參數(shù)的梯度；以及根據(jù)所述每個壓縮參數(shù)的梯度，利用梯度下降法，更新所述每個壓縮參數(shù)。

可選地，在本實施例的一個可能的實現(xiàn)方式中，如圖4所示，本實施例所提供的基于人工智能的神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)處理裝置還可以進一步包括重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)調(diào)整單元41，可以用于獲得所述神經(jīng)網(wǎng)絡(luò)參數(shù)所屬原始神經(jīng)網(wǎng)絡(luò)的損失函數(shù)；根據(jù)所述損失函數(shù)，獲得所述損失函數(shù)對所述重構(gòu)神經(jīng)網(wǎng)絡(luò)的全部重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)中每個重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)的梯度；以及根據(jù)所述每個重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)的梯度，利用梯度下降法，更新所述每個重構(gòu)神經(jīng)網(wǎng)絡(luò)參數(shù)。

需要說明的是，圖1對應(yīng)的實施例中方法，可以由本實施例提供的基于人工智能的神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)處理裝置實現(xiàn)。詳細描述可以參見圖1對應(yīng)的實施例中的相關(guān)內(nèi)容，此處不再贅述。

本實施例中，通過隨機種子單元獲得神經(jīng)網(wǎng)絡(luò)參數(shù)的M個元素標識中每個元素標識所采用的N個隨機種子，進而由壓縮參數(shù)單元根據(jù)所述每個元素標識和該元素標識所采用的N個隨機種子，獲得所述每個元素標識的N個壓縮參數(shù)，并由重構(gòu)元素單元根據(jù)所述每個元素標識的N個壓縮參數(shù)，利用重構(gòu)神經(jīng)網(wǎng)絡(luò)，獲得所述每個元素標識所對應(yīng)的重構(gòu)元素，使得網(wǎng)絡(luò)參數(shù)單元能夠根據(jù)所述每個元素標識所對應(yīng)的重構(gòu)元素，獲得所述神經(jīng)網(wǎng)絡(luò)參數(shù)，在計算神經(jīng)網(wǎng)絡(luò)參數(shù)時，通過使用多個不同的隨機種子，進行多次隨機運算，獲得多個壓縮參數(shù)，進而再利用重構(gòu)神經(jīng)網(wǎng)絡(luò)，根據(jù)這些壓縮參數(shù)來計算神經(jīng)網(wǎng)絡(luò)參數(shù)的重構(gòu)元素，只需設(shè)置包含一定數(shù)量壓縮參數(shù)例如8個壓縮參數(shù)的壓縮空間信息，而無需分別設(shè)置的神經(jīng)網(wǎng)絡(luò)參數(shù)的具體元素，能夠有效減少神經(jīng)網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)參數(shù)，從而降低了神經(jīng)網(wǎng)絡(luò)的內(nèi)存資源消耗。

另外，采用本發(fā)明所提供的技術(shù)方案，由于構(gòu)成神經(jīng)網(wǎng)絡(luò)參數(shù)的重構(gòu)元素是基于壓縮空間信息中所包含的多個壓縮參數(shù)所獲得的，因此，能夠有效減少重構(gòu)元素對單個壓縮參數(shù)的依賴。

另外，采用本發(fā)明所提供的技術(shù)方案，由于構(gòu)成神經(jīng)網(wǎng)絡(luò)參數(shù)的重構(gòu)元素是基于壓縮空間信息中所包含的多個壓縮參數(shù)所獲得的，因此，能夠有效提高壓縮空間信息的利用率。

所屬領(lǐng)域的技術(shù)人員可以清楚地了解到，為描述的方便和簡潔，上述描述的系統(tǒng)，裝置和單元的具體工作過程，可以參考前述方法實施例中的對應(yīng)過程，在此不再贅述。

在本發(fā)明所提供的幾個實施例中，應(yīng)該理解到，所揭露的系統(tǒng)，裝置和方法，可以通過其它的方式實現(xiàn)。例如，以上所描述的裝置實施例僅僅是示意性的，例如，所述單元的劃分，僅僅為一種邏輯功能劃分，實際實現(xiàn)時可以有另外的劃分方式，例如，多個單元或組件可以結(jié)合或者可以集成到另一個系統(tǒng)，或一些特征可以忽略，或不執(zhí)行。另一點，所顯示或討論的相互之間的耦合或直接耦合或通信連接可以是通過一些接口，裝置或單元的間接耦合或通信連接，可以是電性，機械或其它的形式。

所述作為分離部件說明的單元可以是或者也可以不是物理上分開的，作為單元顯示的部件可以是或者也可以不是物理單元，即可以位于一個地方，或者也可以分布到多個網(wǎng)絡(luò)單元上?？梢愿鶕?jù)實際的需要選擇其中的部分或者全部單元來實現(xiàn)本實施例方案的目的。

另外，在本發(fā)明各個實施例中的各功能單元可以集成在一個處理單元中，也可以是各個單元單獨物理存在，也可以兩個或兩個以上單元集成在一個單元中。上述集成的單元既可以采用硬件的形式實現(xiàn)，也可以采用硬件加軟件功能單元的形式實現(xiàn)。

上述以軟件功能單元的形式實現(xiàn)的集成的單元，可以存儲在一個計算機可讀取存儲介質(zhì)中。上述軟件功能單元存儲在一個存儲介質(zhì)中，包括若干指令用以使得一臺計算機裝置(可以是個人計算機，服務(wù)器，或者網(wǎng)絡(luò)裝置等)或處理器(processor)執(zhí)行本發(fā)明各個實施例所述方法的部分步驟。而前述的存儲介質(zhì)包括：U盤、移動硬盤、只讀存儲器(Read-Only Memory，ROM)、隨機存取存儲器(Random Access Memory，RAM)、磁碟或者光盤等各種可以存儲程序代碼的介質(zhì)。

最后應(yīng)說明的是：以上實施例僅用以說明本發(fā)明的技術(shù)方案，而非對其限制；盡管參照前述實施例對本發(fā)明進行了詳細的說明，本領(lǐng)域的普通技術(shù)人員應(yīng)當理解：其依然可以對前述各實施例所記載的技術(shù)方案進行修改，或者對其中部分技術(shù)特征進行等同替換；而這些修改或者替換，并不使相應(yīng)技術(shù)方案的本質(zhì)脫離本發(fā)明各實施例技術(shù)方案的精神和范圍。