技術(shù)總結(jié)
本發(fā)明提出了一種基于GPU排序的MapReduce優(yōu)化方法,其中MapReduce包含Map階段、Shuffle階段、以及Reduce階段,Map階段包含Spill過(guò)程和Merge過(guò)程,Reduce階段包含Merge過(guò)程,其中,在Map階段的Spill過(guò)程中采用基于GPU的快速排序流程,在Map階段的Merge過(guò)程中和Reduce階段的Merge過(guò)程中采用基于GPU的歸并排序流程。通過(guò)以基于GPU的快速排序和歸并排序算法替代傳統(tǒng)的基于CPU的快速排序、歸并排序和堆排序算法,提高中間數(shù)據(jù)處理速度,進(jìn)而提升MapReduce的性能。
技術(shù)研發(fā)人員:李鵬飛;丁有偉;孫杰
受保護(hù)的技術(shù)使用者:天澤信息產(chǎn)業(yè)股份有限公司
文檔號(hào)碼:201710026869
技術(shù)研發(fā)日:2017.01.15
技術(shù)公布日:2017.06.06