国产无玛黄色大片|99最新极品蜜臀精品久久|久久精品成人av|精品久久久久久中文幕人妻日本|99热资源站人妻多P无码|韩日黄色的男女免费大全|av在线尤物精品国产|无码av免费精品一区二区三区影院|东京热一区二区三区|久久久久久国产成人a亚洲精品无码

首頁(yè) > 期刊 > 數(shù)據(jù)通信 > 電力大數(shù)據(jù)平臺(tái)中HBase的實(shí)時(shí)性?xún)?yōu)化方案 【正文】

電力大數(shù)據(jù)平臺(tái)中HBase的實(shí)時(shí)性?xún)?yōu)化方案

作者:方威; 胡曉勤 四川大學(xué)計(jì)算機(jī)學(xué)院; 610065

摘要:近年來(lái),隨著大數(shù)據(jù)場(chǎng)景的興起,RDBMS由于其自身的擴(kuò)展性和可用性限制無(wú)法滿足企業(yè)需求。No SQL數(shù)據(jù)庫(kù)的出現(xiàn)彌補(bǔ)了傳統(tǒng)關(guān)系型數(shù)據(jù)庫(kù)在大數(shù)據(jù)領(lǐng)域的不足。No SQL數(shù)據(jù)庫(kù)本身具有良好的擴(kuò)展性、容錯(cuò)性以及實(shí)時(shí)訪問(wèn)、存儲(chǔ)TB級(jí)別數(shù)據(jù)的特點(diǎn)。HBase就是以HDFS和MapReduce為基礎(chǔ)的開(kāi)源No SQL型分布式數(shù)據(jù)庫(kù),它不支持二級(jí)索引、事務(wù)和批量數(shù)據(jù)處理時(shí)延長(zhǎng)等[1]。本文以HBase和Spark為基礎(chǔ),增加插件使HBase支持SQL語(yǔ)句和二級(jí)索引,通過(guò)修改Spark源碼,提升對(duì)HBase數(shù)據(jù)的本地化計(jì)算級(jí)別。插件對(duì)HBase無(wú)侵入、低耦合,支持用戶輸入SQL語(yǔ)句,把輸入字段轉(zhuǎn)化為HBase的列族和列限定符,根據(jù)不同的場(chǎng)景選取不同的執(zhí)行方案。MapReduce計(jì)算框架具有計(jì)算效率低,無(wú)法利用HBase的讀寫(xiě)緩存的缺陷[1],原始Spark框架不能感知HBase數(shù)據(jù)分片。本文改進(jìn)Spark能感知HBase數(shù)據(jù)分片,對(duì)HBase中數(shù)據(jù)進(jìn)行高級(jí)別本地化計(jì)算。最終,將本文設(shè)計(jì)的系統(tǒng)與業(yè)內(nèi)常用的Hive+HBase方案對(duì)比常用SQL消耗的時(shí)延[3]。通過(guò)實(shí)驗(yàn)得出,本文構(gòu)建的優(yōu)化方案在沒(méi)有缺失HBase的優(yōu)良特性的基礎(chǔ)上加強(qiáng)了部分應(yīng)用場(chǎng)景的實(shí)時(shí)性。

注:因版權(quán)方要求,不能公開(kāi)全文,如需全文,請(qǐng)咨詢(xún)雜志社。

數(shù)據(jù)通信雜志

數(shù)據(jù)通信雜志, 雙月刊,本刊重視學(xué)術(shù)導(dǎo)向,堅(jiān)持科學(xué)性、學(xué)術(shù)性、先進(jìn)性、創(chuàng)新性,刊載內(nèi)容涉及的欄目:新技術(shù)、專(zhuān)題、技術(shù)交流、技術(shù)講座、百頁(yè)窗等。于1980年經(jīng)新聞總署批準(zhǔn)的正規(guī)刊物。

  • 部級(jí)期刊
  • 1個(gè)月內(nèi)審核

服務(wù)介紹LITERATURE

正規(guī)發(fā)表流程 全程指導(dǎo)

多年專(zhuān)注期刊服務(wù),熟悉發(fā)表政策,投稿全程指導(dǎo)。因?yàn)閷?zhuān)注所以專(zhuān)業(yè)。

保障正刊 雙刊號(hào)

推薦期刊保障正刊,評(píng)職認(rèn)可,企業(yè)資質(zhì)合規(guī)可查。

用戶信息嚴(yán)格保密

誠(chéng)信服務(wù),簽訂協(xié)議,嚴(yán)格保密用戶信息,提供正規(guī)票據(jù)。

不成功可退款

如果發(fā)表不成功可退款或轉(zhuǎn)刊。資金受第三方支付寶監(jiān)管,安全放心。