本發(fā)明屬于邊緣計算任務(wù),具體涉及一種mec系統(tǒng)中可靠的多無人機輔助dnn任務(wù)劃分與卸載方法。
背景技術(shù):
1、隨著物聯(lián)網(wǎng)(iot)和人工智能(ai)的迅速發(fā)展,大量新穎的移動ai應(yīng)用,如圖像分類、虛擬/增強現(xiàn)實等,都需要在智能移動設(shè)備(md)(例如,智能手機、筆記本電腦和平板電腦)上進行處理。然而,深度神經(jīng)網(wǎng)絡(luò)(dnn)的快速發(fā)展和參數(shù)體量的不斷增加,導(dǎo)致了顯著的計算需求。由于尺寸和計算能力的限制,md很難滿足實時處理的要求,這將嚴(yán)重影響服務(wù)質(zhì)量(qos)的要求。因此,邊緣智能已經(jīng)成為實現(xiàn)低延遲和可靠的dnn推理的一種有前途的范式。
2、無人機由于價格低廉、易于部署和靈活移動的優(yōu)勢,已經(jīng)在包括但不限于智能傳感器數(shù)據(jù)采集、目標(biāo)跟蹤、災(zāi)區(qū)監(jiān)測和輔助計算等領(lǐng)域得到應(yīng)用和發(fā)展,考慮通過無人機實現(xiàn)可靠、高效的計算卸載策略。
3、近年來,深度神經(jīng)網(wǎng)絡(luò)(dnn)的計算復(fù)雜性不斷提升,導(dǎo)致其在資源受限的邊緣設(shè)備上運行變得更加困難。dnn劃分技術(shù)因此得到了廣泛關(guān)注。dnn劃分的核心思想是將大型神經(jīng)網(wǎng)絡(luò)模型的計算任務(wù)分解為多個子任務(wù),并將這些子任務(wù)在不同的設(shè)備或計算節(jié)點之間進行分布式執(zhí)行。這種劃分策略不僅能夠提升整體計算效率,還能夠有效降低單個設(shè)備的計算壓力,減少能耗和時延。
4、本發(fā)明考慮在保證通信可靠性的同時滿足基于dnn的任務(wù)的時延敏感需求,提出了一種mec系統(tǒng)中可靠的多無人機輔助dnn任務(wù)劃分與卸載方法。
技術(shù)實現(xiàn)思路
1、發(fā)明目的:本發(fā)明提供一種mec系統(tǒng)中可靠的多無人機輔助dnn任務(wù)劃分與卸載方法,實現(xiàn)移動設(shè)備與無人機在動態(tài)網(wǎng)絡(luò)中的dnn任務(wù)的可靠卸載。
2、技術(shù)方案:一種mec系統(tǒng)中可靠的多無人機輔助dnn任務(wù)劃分與卸載方法,包括如下步驟:
3、(1)構(gòu)建多無人機輔助mec系統(tǒng),將一組具有卸載任務(wù)需求的移動設(shè)備mds、一組裝有mec服務(wù)器的無人機uavs以及一個擁有較強計算能力的基站bs進行動態(tài)組網(wǎng);
4、(2)基于md和uav之間存在未知的障礙物,考慮在變化的信道衰落環(huán)境中傳輸可靠性的魯棒性,建立可靠性保證通信模型,確定傳輸功率優(yōu)化問題和約束條件,具體數(shù)學(xué)表達式如下:
5、
6、其中,pmu(t)表示md?m將任務(wù)卸載到卸載到uav?u所分配的傳輸功率;(0a)表示信道衰落服從均值為μ,方差為∑的分布函數(shù)集;(0b)表示保證傳輸可靠性的約束條件,其中γmu(t)表示信噪比,γ0表示目標(biāo)信噪比,1-ε表示可靠性閾值,ε為最大可容忍傳輸錯誤率;(0c)表示移動設(shè)備分配的傳輸功率不能超過功率閾值;
7、(3)建立dnn劃分與卸載模型,以最小化所有md對整個調(diào)度時間t的總推理延遲為目標(biāo),設(shè)計了一個協(xié)同dnn劃分與卸載問題,即cdpo問題,具體數(shù)學(xué)表達式如下:
8、
9、其中若表示md?m在時隙t將子任務(wù)卸載到uav?u,表示mdm在時隙t的第i個子任務(wù)為到的輸出行;c1為二進制卸載變量的約束;c2保證任一md的子任務(wù)最多可以卸載到一架uav上;c3表示一架uav每次最多只能處理z個子任務(wù);c4保證有效劃分;c5表示劃分的行之間互不相交;c6指出所有子任務(wù)的行數(shù)之和必須等于總行數(shù)c7約束md與uav之間的水平距離不能超過uav的覆蓋范圍r;
10、(4)提出了一種風(fēng)險理論方法來確定每個移動設(shè)備與無人機卸載對的最小傳輸功率,然后將其應(yīng)用于任務(wù)卸載。而后提出了cpoo算法來最小化總的推理延遲;
11、(5)為探究不同傳輸功率對可靠性概率和總推理時延的影響,構(gòu)建了一個同時滿足可靠性和延遲敏感需求的非凸問題,并通過lacpoo算法對傳輸功率和任務(wù)劃分卸載決策進行迭代調(diào)整優(yōu)化。
12、進一步的,步驟(1)中所述的uav集群在mec系統(tǒng)所覆蓋的地區(qū)上空飛行,且每一個uav都連接到一個邊緣服務(wù)器,bs作為云服務(wù)器,擁有強大的計算能力。將md集合、uav集群分別表示為將整個任務(wù)調(diào)度時間劃分為t個等長時隙,每個時隙以t為索引;每個md?m在時隙t生成一個基于dnn的任務(wù)jm(t),jm(t)可以劃分為nm個子任務(wù);記md?m的第i個子任務(wù)為子任務(wù)可以卸載到uav上進行協(xié)同計算;注意到在動態(tài)網(wǎng)絡(luò)中卸載可能會失敗,可以將任務(wù)發(fā)送給bs再處理;為了便于說明,構(gòu)建了一個笛卡爾坐標(biāo)系,并假設(shè)所有的md和bs都在零高度,而uav則在固定高度h上飛行以節(jié)省能量;然后,在時隙t處,md和uav的水平坐標(biāo)分別表示為qm(t)=(xm(t),ym(t))和qu(t)=(xu(t),yu(t))。bs的位置記為qb=(xb,yb)。
13、進一步的,步驟(2)還包括如下計算過程:
14、(21)定義“傳輸可靠性”為成功傳輸概率超過給定的可靠性閾值的可能性,其數(shù)學(xué)表達式為:
15、pr(γmu(t)≥γ0)≥1-ε
16、(22)獲取在時隙t?md?m卸載任務(wù)至uav?u的信噪比γmu(t),其計算公式為:
17、
18、其中g(shù)0表示參考距離為1米處的路徑損耗,表示衰落包絡(luò),n0表示噪聲功率;
19、(23)獲取md?m和uav?u之間的傳輸速率為:
20、rmu(t)=b0·log2(1+γmu(t))
21、其中b0表示傳輸數(shù)據(jù)在正交信道中的帶寬。
22、進一步的,步驟(3)還包括如下過程:
23、(31)定義dnn任務(wù)的劃分方式如下:
24、首先,令k為dnn類型的集合,將type-k?dnn的特征提取階段(即,卷積層和池化層)的層數(shù)記為lk。對于卷積/池化層lk(1≤lk≤lk),其特征是一個元組其中是層lk的輸入數(shù)據(jù)大小,是層lk的浮點運算次數(shù),其中type∈{conv,pool},可以通過計算得到:
25、
26、其中分別對應(yīng)層lk的輸入高度、寬度和通道的值;相應(yīng)地,第lk層的輸出矩陣與相關(guān)聯(lián);其中σ是單位數(shù)據(jù)的內(nèi)存占用,是內(nèi)核大小。注意,mds會對分類/檢測階段(即,全連接層)做進一步的本地處理;因此,不考慮相應(yīng)的模型;
27、假設(shè)md將輸入數(shù)據(jù)沿高度進行分區(qū)。如果確定uav應(yīng)該將最后一層lk的輸出行中的哪些部分發(fā)回md,則使用任意輸入范圍air算法回溯所有前一層對應(yīng)的輸入行,從而將前一層區(qū)域工作負(fù)載的每個分割段作為單獨的任務(wù)處理,
28、在此基礎(chǔ)上,將劃分決策記為即mdm在時隙t的第i個子任務(wù)為到的輸出行(即);
29、(32)建立uav和md之間的卸載模型,具體如下:
30、當(dāng)md?m將任務(wù)卸載到uav?u時,md?m和uav?u之間的卸載延遲和uav的計算延遲可以分別計算為:
31、
32、其中|,·|表示對應(yīng)的行數(shù),即和分別表示第一層的輸入高度和數(shù)據(jù)大??;表示所需的計算資源;
33、在此基礎(chǔ)上,一旦uav?u完成分配的任務(wù),它試圖將結(jié)果發(fā)送給md?m。由于uav的發(fā)射功率遠大于md的發(fā)射功率,且結(jié)果一般很小,因此忽略相應(yīng)的時延,uav?u處子任務(wù)的總推理時延可表示為:
34、
35、(33)建立bs和md之間的卸載模型,具體如下:
36、由于uav與md之間的信道條件不可靠,可能會出現(xiàn)md?m無法接收到所有uavs返回數(shù)據(jù)的情況,此時md會將整個任務(wù)發(fā)送給bs進行再處理。由于md到uav的傳輸已經(jīng)考慮了最壞情況下的信道衰落,可靠性在很大程度上得到了保證。因此,重傳是一個低概率事件,不考慮卸載到bs的傳輸?shù)陌l(fā)射功率優(yōu)化問題,md以最大功率傳輸?shù)絙s。然后,可以計算出傳輸速率為:
37、
38、其中bb和分別表示md?m和bs之間的帶寬和信道增益。此外,由于bs具有足夠的計算資源和強大的發(fā)射功率,計算和返回的延遲可以忽略不計。基于此,uav?u和bs之間的時延計算公式為:
39、
40、(34)基于和dmb(t),完成md?m在時隙t的任務(wù)的總時延為:
41、
42、其中am(t)為md?m的卸載uav集合,成功將結(jié)果返回給md?m的uav集合記為
43、進一步的,步驟(4)中對于風(fēng)險理論方法來確定每個移動設(shè)備與無人機卸載對的最小傳輸功率的具體計算過程如下:
44、(s41)對于給定的損失函數(shù)上的概率分布和容忍度ε∈(0,1),對于一個隨機變量在水平ε上關(guān)于的cvar定義為:
45、
46、其中表示所有實數(shù)的集合,對于實數(shù)a,(a)+=max(a,0);
47、(s42)對于為凹函數(shù)或二次函數(shù)的連續(xù)損失函數(shù),有如下等價性成立:
48、
49、(s43)設(shè)損失函數(shù)如下:
50、
51、在水平ε上關(guān)于的cvar的可行集可寫為:
52、
53、其中tr(·)表示矩陣跡,且
54、
55、(s44)滿足可靠性的通信要求,推導(dǎo)出在最壞情況下的信道條件下,md?m成功傳輸任務(wù)到uav?u所需要的最小傳輸功率,其計算公式為:
56、
57、其中β={βmu(t)}。
58、另外,步驟(4)中對于最小化總推理延遲問題的求解包括如下六個階段:
59、(s41)初始化位置:用p,vp分別表示蝙蝠種群的大小和第p個蝙蝠的速度;對于蝙蝠p,(parp,xp)=(h,x)表示位置,和分別表示初始音量和初始脈沖出現(xiàn)率??偟螖?shù)用w表示;在這個階段中,每個蝙蝠的初始位置是通過貪婪的方法生成的;首先,對于每個任務(wù),隨機初始化最后一個卷積層的分區(qū),并通過使用air算法的分區(qū)決策來獲得每個子任務(wù)的傳輸數(shù)據(jù)大小和每層的計算工作量;然后,將每個子任務(wù)按照每個md的計算工作量降序排列;對于每個md的每個子任務(wù),首先計算所有可達uavs的卸載延遲,然后先卸載只有一個可達uav的子任務(wù);接下來,將uav以最小延遲的降序排列分配給其余md的子任務(wù),分配順序隨機;同時,如果uav達到其服務(wù)極限,則將任務(wù)卸載到具有第二最低服務(wù)延遲的uav,直到mds的所有第一個子任務(wù)卸載;然后,開始卸載所有md的第二個子任務(wù),直到卸載md的所有子任務(wù);最后,得到劃分和卸載決策;
60、(s42)更新速度和位置:將蝙蝠p的速度vp設(shè)為當(dāng)前全局最佳蝙蝠不同分區(qū)決策的數(shù)量;通過交換分區(qū)決策的兩個范圍來更新蝙蝠p的位置,交換次數(shù)等于速度;然后,通過上述貪心策略獲得卸載決策;
61、(s43)更新局部最優(yōu)蝙蝠:比較脈沖發(fā)射率r和隨機值rand。如果rand大于r,則嘗試用上述同樣的方法生成新的解;若rand小于a,且其值小于最優(yōu)解,則將其更新為最新的最優(yōu)解;
62、(s44)更新音量a和脈沖發(fā)射率r:更新其中γ和α分別表示脈沖發(fā)射率增量系數(shù)和體積衰減系數(shù);其中w為當(dāng)前迭代次數(shù);
63、(s45)更新全局最優(yōu)蝙蝠階段:對所有蝙蝠進行排序,更新全局最優(yōu)蝙蝠p及其位置(parp,xp);
64、(s46)迭代搜索階段:重復(fù)上述(s42)~(s46)步,直到迭代次數(shù)達到w。
65、進一步的,步驟(5)中構(gòu)建了一個同時滿足可靠性和延遲敏感需求的非凸問題的具體過程如下:
66、發(fā)射功率分配子問題計算最小發(fā)射功率以保證通信的可靠性,cdpo問題通過將任務(wù)的輸入數(shù)據(jù)進行劃分按最小發(fā)射功率卸載到無人機來最小化總延遲;如果使用更高的發(fā)射功率對子任務(wù)進行卸載,則分區(qū)和卸載決策以及總延遲都會發(fā)生相應(yīng)的變化;為了探究不同傳輸功率對可靠性概率和總推理延遲之間的關(guān)系,為每個目標(biāo)分配了一個權(quán)重系數(shù);然后,將兩個子問題的約束條件和目標(biāo)函數(shù)組合成如下的主問題:
67、
68、其中ψ1和ψ2分別是總延遲和傳輸功率的權(quán)重參數(shù),且ψ1+ψ2=1。
69、另外,步驟(5)中通過lacpoo算法對傳輸功率和任務(wù)劃分卸載決策進行迭代調(diào)整優(yōu)化的具體過程如下:
70、(s51)獲取主問題的拉格朗日松弛,其表示為:
71、
72、其中λ={λ1,λ2,λ3,λ4,λ5,λ6},且對于1≤t≤t,有
73、
74、(s52)定義拉格朗日對偶函數(shù)為:
75、
76、(s53)通過在對偶變量的定義域約束下最大化g(λ)來解決拉格朗日對偶問題:
77、
78、(s54)提出了lacpoo算法來求解對偶問題;該算法通過迭代地將次梯度投影與cpoo方法相結(jié)合來尋找可行解;在每次迭代過程中,拉格朗日乘子采用固定步長進行更新,而傳輸功率則根據(jù)kkt條件進行調(diào)整;在更新傳輸功率后,cpoo算法解決cdpo問題,得到的解用于更新下一次迭代中的乘子;具體包括如下兩個過程:
79、內(nèi)部最小化解:通過對關(guān)于β,χ求導(dǎo)并令其等于零,得到:
80、
81、由上等式可計算得到傳輸功率一旦傳輸功率更新,cdpo問題可以使用提出的cpoo算法求解,這使得lacpoo算法可以獲得主問題的可行解;
82、外部最大化解:給定g(λ)的次梯度為:
83、
84、其中pmu(t),mmu(t),βmu(t)是當(dāng)前迭代中內(nèi)極小化問題的解;對于實變量π,[π]+=max(π,0);對于實矩陣π,[π]+=max(π,0)。
85、該算法首先初始化功率分配輔助變量β和拉格朗日乘子;然后使用cpoo算法計算卸載決策x和劃分變量在每次迭代中,通過次梯度法更新拉格朗日乘子,然后用cpoo算法重新計算β,并調(diào)整x和這個過程重復(fù)進行,直到收斂到一個預(yù)定義的閾值。