技術(shù)總結(jié)
本發(fā)明提出一種Hadoop平臺(tái)下基于預(yù)釋放資源列表的任務(wù)調(diào)度算法,充分利用了Hadoop記錄的歷史信息和集群當(dāng)前狀況監(jiān)控信息來(lái)更好地幫助資源調(diào)度。本算法無(wú)需手動(dòng)設(shè)置延遲等待時(shí)間。并通過(guò)對(duì)預(yù)釋放資源列表中的資源進(jìn)行預(yù)調(diào)度,解決了公平性和本地性之間的矛盾。另外,本發(fā)明提出的任務(wù)調(diào)度算法可以像延遲調(diào)度算法一樣,同時(shí)應(yīng)用于公平調(diào)度器和計(jì)算能力調(diào)度器。本發(fā)明的調(diào)度算法使用了預(yù)釋放資源列表,通過(guò)資源列表與任務(wù)列表的匹配調(diào)度,無(wú)論在Hadoop完成時(shí)間、任務(wù)本地性,還是平均作業(yè)響應(yīng)時(shí)間方面,都取得了更好的效果。
技術(shù)研發(fā)人員:李智勇;陳京;陳少淼;楊波;王盡如
受保護(hù)的技術(shù)使用者:湖南大學(xué)
文檔號(hào)碼:201610503282
技術(shù)研發(fā)日:2016.06.30
技術(shù)公布日:2016.12.07