本發(fā)明屬于數(shù)據(jù)處理，具體公開(kāi)一種脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器、裝置、終端及存儲(chǔ)介質(zhì)。

背景技術(shù)：

1、脈沖神經(jīng)網(wǎng)絡(luò)是一種模擬生物神經(jīng)系統(tǒng)運(yùn)作方式的人工神經(jīng)網(wǎng)絡(luò)模型。與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型不同，脈沖神經(jīng)網(wǎng)絡(luò)的核心是模仿大腦神經(jīng)元的工作方式，通過(guò)脈沖或尖峰來(lái)進(jìn)行信息傳遞和處理，盡管脈沖神經(jīng)網(wǎng)絡(luò)在模擬生物神經(jīng)系統(tǒng)方面表現(xiàn)出優(yōu)勢(shì)，但傳統(tǒng)的計(jì)算方式可能會(huì)導(dǎo)致計(jì)算復(fù)雜度高、處理速度慢的問(wèn)題。通過(guò)硬件加速器，可以顯著提升脈沖神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)處理效率。

2、由于脈沖神經(jīng)網(wǎng)絡(luò)依賴(lài)于神經(jīng)元之間的精確時(shí)間間隔和時(shí)序關(guān)系來(lái)進(jìn)行信息處理。這就要求加速器能夠按照時(shí)序處理數(shù)據(jù)，但傳入到脈沖神經(jīng)網(wǎng)絡(luò)的時(shí)序數(shù)據(jù)大多是變化的，這就需要調(diào)整加速器的運(yùn)行狀態(tài)，這些調(diào)整可以包括調(diào)整運(yùn)行頻率，以便及時(shí)、有效地處理動(dòng)態(tài)的時(shí)序輸入數(shù)據(jù)，但現(xiàn)有技術(shù)中對(duì)加速器的運(yùn)行狀態(tài)調(diào)整當(dāng)發(fā)現(xiàn)當(dāng)前數(shù)據(jù)處理能力不能滿(mǎn)足時(shí)序數(shù)據(jù)的處理需求時(shí)立即進(jìn)行運(yùn)行狀態(tài)調(diào)整，忽略了加速器的資源利用情況和網(wǎng)絡(luò)波動(dòng)情況對(duì)其的影響，具體體現(xiàn)在當(dāng)加速器的資源利用較為飽和時(shí)，系統(tǒng)本身可能已經(jīng)處于較高的負(fù)荷狀態(tài)，任何額外的負(fù)荷增加都可能導(dǎo)致系統(tǒng)穩(wěn)定性問(wèn)題，此時(shí)進(jìn)行運(yùn)行狀態(tài)調(diào)整可能會(huì)加劇這種問(wèn)題，導(dǎo)致系統(tǒng)崩潰或出現(xiàn)不可預(yù)測(cè)的行為，在網(wǎng)絡(luò)波動(dòng)的情況下進(jìn)行運(yùn)行狀態(tài)調(diào)整可能導(dǎo)致監(jiān)控和傳輸調(diào)整命令的延遲增加，容易造成無(wú)效調(diào)整，由此可見(jiàn)單純以數(shù)據(jù)處理能力是否滿(mǎn)足時(shí)序數(shù)據(jù)處理需求來(lái)確定加速器的運(yùn)行狀態(tài)調(diào)整時(shí)機(jī)很顯然過(guò)于片面，不僅存在無(wú)效調(diào)整的風(fēng)險(xiǎn)，還會(huì)影響系統(tǒng)的整體穩(wěn)定性，難以維持當(dāng)前的運(yùn)行狀態(tài)。

3、另外在運(yùn)行狀態(tài)調(diào)整后的效果驗(yàn)證中常常只關(guān)注調(diào)整后的處理速度是否達(dá)標(biāo)，缺乏對(duì)處理能耗的關(guān)注，存在系統(tǒng)在達(dá)到預(yù)期速度同時(shí)消耗大量額外能源的情況，高能耗不僅增加了電力成本，還可能導(dǎo)致硬件設(shè)備的壽命縮短，不利于系統(tǒng)的長(zhǎng)久運(yùn)營(yíng)。

技術(shù)實(shí)現(xiàn)思路

1、鑒于此，本發(fā)明旨在提出一種脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器、裝置、終端及存儲(chǔ)介質(zhì)，有效解決上述背景技術(shù)中所提出的問(wèn)題。

2、本發(fā)明的目的可以通過(guò)以下技術(shù)方案實(shí)現(xiàn)：在本發(fā)明的一個(gè)方面，提出一種脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器,包括以下模塊：數(shù)據(jù)處理需求分析模塊，用于實(shí)時(shí)調(diào)取傳入脈沖神經(jīng)網(wǎng)絡(luò)的待處理脈沖事件序列，由此分析當(dāng)前數(shù)據(jù)處理需求。

3、數(shù)據(jù)處理能力分析模塊，用于實(shí)時(shí)提取脈沖神經(jīng)網(wǎng)絡(luò)已處理脈沖事件序列的處理信息，具體包括處理速度和處理延遲時(shí)長(zhǎng)，由此分析當(dāng)前數(shù)據(jù)處理能力系數(shù)。

4、運(yùn)行適配識(shí)別模塊，用于基于當(dāng)前數(shù)據(jù)處理需求和當(dāng)前數(shù)據(jù)處理能力系數(shù)識(shí)別加速器的運(yùn)行狀態(tài)是否適配。

5、資源利用飽和分析模塊，用于實(shí)時(shí)監(jiān)控加速器的資源利用參數(shù)，具體包括gpu利用率、存儲(chǔ)器帶寬利用率和運(yùn)行溫度，并利用資源利用參數(shù)分析當(dāng)前加速器的資源利用飽和情況。

6、網(wǎng)絡(luò)波動(dòng)評(píng)估模塊，用于實(shí)時(shí)監(jiān)測(cè)數(shù)據(jù)傳入脈沖神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)傳輸指標(biāo)，由此分析當(dāng)前網(wǎng)絡(luò)傳輸波動(dòng)情況。

7、運(yùn)行狀態(tài)調(diào)整模塊，用于在識(shí)別加速器的運(yùn)行狀態(tài)不適配時(shí)基于當(dāng)前加速器的資源利用飽和情況和當(dāng)前網(wǎng)絡(luò)傳輸波動(dòng)情況調(diào)整加速器的運(yùn)行狀態(tài)。

8、運(yùn)行調(diào)整驗(yàn)證模塊，用于對(duì)加速器的運(yùn)行狀態(tài)調(diào)整后進(jìn)行調(diào)整驗(yàn)證，具體包括處理效果測(cè)試和處理能耗測(cè)試。

9、運(yùn)行調(diào)整優(yōu)化模塊，用于依據(jù)處理效果測(cè)試和處理能耗測(cè)試的測(cè)試結(jié)果進(jìn)行加速器運(yùn)行狀態(tài)優(yōu)化。

10、在本發(fā)明的又一方面，提出一種裝置，所述該裝置包含本發(fā)明所述的脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器。

11、在本發(fā)明的再一方面，提出一種終端，包括處理器和用于存儲(chǔ)處理器的執(zhí)行指令的存儲(chǔ)器，其中，所述處理器被配置為執(zhí)行本發(fā)明所述的脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器。

12、在本發(fā)明的更一方面，提出一種存儲(chǔ)介質(zhì)，所述存儲(chǔ)介質(zhì)存儲(chǔ)有一個(gè)或者多個(gè)程序，所述一個(gè)或者多個(gè)程序可被一個(gè)或者多個(gè)處理器執(zhí)行，以實(shí)現(xiàn)本發(fā)明所述的脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器。

13、相較于現(xiàn)有技術(shù)，本發(fā)明的有益效果如下：1、本發(fā)明通過(guò)基于傳入脈沖神經(jīng)網(wǎng)絡(luò)的待處理脈沖事件序列進(jìn)行當(dāng)前數(shù)據(jù)處理需求分析和脈沖神經(jīng)網(wǎng)絡(luò)已處理脈沖事件序列的處理信息進(jìn)行當(dāng)前數(shù)據(jù)處理能力分析，與此同時(shí)進(jìn)行加速器資源利用飽和情況和網(wǎng)絡(luò)傳輸波動(dòng)情況分析，進(jìn)而結(jié)合上述進(jìn)行加速器運(yùn)行狀態(tài)調(diào)整評(píng)判和調(diào)整實(shí)施，實(shí)現(xiàn)了加速器運(yùn)行狀態(tài)的綜合權(quán)衡調(diào)整，能夠確保在調(diào)整加速器運(yùn)行狀態(tài)時(shí)既不會(huì)犧牲系統(tǒng)的穩(wěn)定性，又能最大化地滿(mǎn)足當(dāng)前的數(shù)據(jù)處理需求。

14、2、本發(fā)明在進(jìn)行加速器運(yùn)行狀態(tài)調(diào)整后從處理效果和處理能耗兩個(gè)維度進(jìn)行調(diào)整驗(yàn)證，實(shí)現(xiàn)了處理效果和處理能耗的兼顧，能夠及時(shí)發(fā)現(xiàn)能耗過(guò)大和處理效果不達(dá)標(biāo)的情況，這種實(shí)時(shí)的識(shí)別能力可以保證系統(tǒng)在調(diào)整過(guò)程中不會(huì)出現(xiàn)長(zhǎng)時(shí)間的性能下降或者資源浪費(fèi)，最后通過(guò)驗(yàn)證調(diào)整效果，系統(tǒng)可以建立起持續(xù)優(yōu)化和改進(jìn)的機(jī)制，為加速器運(yùn)行狀態(tài)調(diào)整不佳提供了可靠補(bǔ)救措施，這種經(jīng)驗(yàn)積累和反饋循環(huán)有助于未來(lái)類(lèi)似調(diào)整時(shí)更加準(zhǔn)確地預(yù)測(cè)和處理問(wèn)題，提升整體系統(tǒng)管理的效率和成果。

技術(shù)特征：

1.一種脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器，其特征在于,包括以下模塊：

2.如權(quán)利要求1所述的一種脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器，其特征在于：所述分析當(dāng)前數(shù)據(jù)處理需求參見(jiàn)下述過(guò)程：

3.如權(quán)利要求1所述的一種脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器，其特征在于：所述當(dāng)前數(shù)據(jù)處理能力系數(shù)的分析過(guò)程如下：

4.如權(quán)利要求1所述的一種脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器，其特征在于：所述識(shí)別加速器的運(yùn)行狀態(tài)是否適配如下操作：

5.如權(quán)利要求1所述的一種脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器，其特征在于：所述利用資源利用參數(shù)分析當(dāng)前加速器的資源利用飽和情況實(shí)現(xiàn)如下：

6.如權(quán)利要求5所述的一種脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器，其特征在于：所述基于當(dāng)前加速器的資源利用飽和情況和當(dāng)前網(wǎng)絡(luò)傳輸波動(dòng)情況調(diào)整加速器的運(yùn)行狀態(tài)如下過(guò)程：

7.如權(quán)利要求3述的一種脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器，其特征在于：所述處理效果測(cè)試和處理能耗測(cè)試操作如下：

8.一種裝置，其特征在于：所述該裝置包含權(quán)利要求1-7任一項(xiàng)所述的脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器。

9.一種終端，其特征在于：包括處理器和用于存儲(chǔ)處理器的執(zhí)行指令的存儲(chǔ)器，其中，所述處理器被配置為執(zhí)行權(quán)利要求1-7任一項(xiàng)所述的脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器。

10.一種存儲(chǔ)介質(zhì)，其特征在于：所述存儲(chǔ)介質(zhì)存儲(chǔ)有一個(gè)或者多個(gè)程序，所述一個(gè)或者多個(gè)程序可被一個(gè)或者多個(gè)處理器執(zhí)行，以實(shí)現(xiàn)如權(quán)利要求1-7任意一項(xiàng)所述的脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器。

技術(shù)總結(jié)
本發(fā)明屬于數(shù)據(jù)處理技術(shù)領(lǐng)域，具體公開(kāi)一種脈沖神經(jīng)網(wǎng)絡(luò)優(yōu)化加速器、裝置、終端及存儲(chǔ)介質(zhì)，本發(fā)明通過(guò)基于傳入脈沖神經(jīng)網(wǎng)絡(luò)的待處理脈沖事件序列進(jìn)行當(dāng)前數(shù)據(jù)需求處理密度分析和加速器已處理脈沖事件序列的處理信息進(jìn)行當(dāng)前數(shù)據(jù)處理能力分析，與此同時(shí)進(jìn)行加速器資源利用飽和情況和網(wǎng)絡(luò)傳輸波動(dòng)情況分析，進(jìn)而結(jié)合上述進(jìn)行加速器運(yùn)行狀態(tài)調(diào)整評(píng)判和調(diào)整實(shí)施，實(shí)現(xiàn)了加速器運(yùn)行狀態(tài)的綜合權(quán)衡調(diào)整，接著在進(jìn)行加速器運(yùn)行狀態(tài)調(diào)整后從處理效果和處理能耗兩個(gè)維度進(jìn)行調(diào)整驗(yàn)證，實(shí)現(xiàn)了處理效果和處理能耗的兼顧，能夠及時(shí)發(fā)現(xiàn)能耗過(guò)大和處理效果不達(dá)標(biāo)的情況，進(jìn)而通過(guò)優(yōu)化為加速器運(yùn)行狀態(tài)調(diào)整不佳提供了可靠補(bǔ)救措施。

技術(shù)研發(fā)人員：張煜昊,劉晶晶,曾曉洋
受保護(hù)的技術(shù)使用者：復(fù)旦大學(xué)
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/9