国产欧美精品一区二区,中文字幕专区在线亚洲,国产精品美女网站在线观看,艾秋果冻传媒2021精品,在线免费一区二区,久久久久久青草大香综合精品,日韩美aaa特级毛片,欧美成人精品午夜免费影视

異構環(huán)境下基于雙重預取的Hadoop調度算法
DOI:
CSTR:
作者:
作者單位:

(常州大學(xué) 信息科學(xué)與工程學(xué)院,江蘇 常州 213000)

作者簡(jiǎn)介:

孫玉強(1956-),男,博士,教授,主要從事并行計算、軟件工程方向的研究。 通訊作者:顧玉宛,女,博士生,通訊聯(lián)系人,主要從事并行計算和圖像處理方向的研究。 [FQ)]

通訊作者:

中圖分類(lèi)號:

基金項目:

國家自然科學(xué)基金項目(11271057);江蘇省普通高校研究生科研創(chuàng )新計劃項目(SCZ1412800004)。


Scheduling Algorithm Based on Double Prefetching in Heterogeneous Hadoop Clusters
Author:
Affiliation:

(School of Information Science & Engineering, Changzhou University, Changzhou 213000,China)

Fund Project:

  • 摘要
  • |
  • 圖/表
  • |
  • 訪(fǎng)問(wèn)統計
  • |
  • 參考文獻
  • |
  • 相似文獻
  • |
  • 引證文獻
  • |
  • 資源附件
  • |
  • 文章評論
    摘要:

    Hadoop處理海量數據時(shí),無(wú)論是Map任務(wù)還是Reduce任務(wù)都需要耗費大量的時(shí)間傳輸數據,故提出一種基于雙重預取的調度算法;該算法通過(guò)估算節點(diǎn)上任務(wù)執行的進(jìn)度來(lái)預測Map任務(wù)的執行節點(diǎn),然后通知節點(diǎn)提前預取所需的數據,并且在Map任務(wù)完成的數量達到預定值時(shí),開(kāi)始為Reduce任務(wù)預取部分數據;由于在異構的環(huán)境下集群中節點(diǎn)的性能各不相同,為此采取了改進(jìn)的預測模型,以提高任務(wù)進(jìn)度判斷的準確性;實(shí)驗證明,本算法在作業(yè)響應時(shí)間等方面優(yōu)于現有的調度算法。

    Abstract:

    When Hadoop processing huge amounts of data, both in the Map tasks and Reduce tasks requires a lot of time to transfer data. This paper presents a scheduling algorithm based on double prefetching, the algorithm predicts the node which will execute the Map task by estimating the progress of running tasks, so that the node can prefetch required data for Map tasks. Moreover, the system can also prefetch the data for Reduce tasks while Map tasks are running. Due to the performance of the cluster nodes in heterogeneous environment are not identical, the algorithm adopts an improved prediction model to improve the accuracy of the judgment of task progress. Experiments show that the algorithm is superior to the existing scheduling algorithm with less response time.

    參考文獻
    相似文獻
    引證文獻
引用本文

孫玉強,陸勇,王文聞,李媛媛,顧玉宛.異構環(huán)境下基于雙重預取的Hadoop調度算法計算機測量與控制[J].,2016,24(9):172-175.

復制
分享
文章指標
  • 點(diǎn)擊次數:
  • 下載次數:
  • HTML閱讀次數:
  • 引用次數:
歷史
  • 收稿日期:2016-02-29
  • 最后修改日期:2016-04-25
  • 錄用日期:
  • 在線(xiàn)發(fā)布日期: 2016-09-28
  • 出版日期:
文章二維碼
安化县| 青铜峡市| 时尚| 临夏市| 安岳县| 崇州市| 阿城市| 独山县| 开鲁县| 鄂州市| 乐至县| 鹤壁市| 繁峙县| 天柱县| 依安县| 南京市| 达州市| 于田县| 岳阳市| 南投县| 肃北| 麟游县| 崇明县| 绍兴县| 达拉特旗| 宁晋县| 翁牛特旗| 弥渡县| 襄汾县| 民权县| 隆德县| 鹿泉市| 玛沁县| 岳普湖县| 澎湖县| 乌什县| 延吉市| 洛阳市| 扶余县| 麻城市| 什邡市|