深入淺析hbase的優(yōu)點
hbase是運行在Hadoop上的NoSQL數(shù)據(jù)庫,它是一個分布式的和可擴展的大數(shù)據(jù)倉庫,也就是說HBase能夠利用HDFS的分布式處理模式,并從Hadoop的MapReduce程序模型中獲益。這意味著在一組商業(yè)硬件上存儲許多具有數(shù)十億行和上百萬列的大表。除去Hadoop的優(yōu)勢,HBase本身就是十分強大的數(shù)據(jù)庫,它能夠融合key/value存儲模式帶來實時查詢的能力,以及通過MapReduce進行離線處理或者批處理的能力??偟膩碚f,Hbase能夠讓你在大量的數(shù)據(jù)中查詢記錄,也可以從中獲得綜合分析報告。
谷歌曾經(jīng)面對過一個挑戰(zhàn)的問題:如何能在整個互聯(lián)網(wǎng)上提供實時的搜索結(jié)果?答案是它本質(zhì)上需要將互聯(lián)網(wǎng)緩存,并重新定義在這樣龐大的緩存上快速查找的新方法。為了達到這個目的,定義如下技術(shù):
·谷歌文件系統(tǒng)GFS:可擴展分布式文件系統(tǒng),用于大型的、分布式的、數(shù)據(jù)密集型的應用程序。
·BigTable:分布式存儲系統(tǒng),用于管理被設計成規(guī)模很大的結(jié)構(gòu)化數(shù)據(jù):來自數(shù)以千計商用服務器的PB級別的數(shù)據(jù)。
·MapReduce:一個程序模型,用于處理和生成大數(shù)據(jù)集的相關(guān)實現(xiàn)。
在谷歌發(fā)布這些技術(shù)的文檔之后,不久以后我們就看到了它們的開源實現(xiàn)版本,就在2007年,MikeCafarella發(fā)布了BigTable開源實現(xiàn)的代碼,他稱其為HBase,自此,HBase成為Apache的頂級項目,并運行在Facebook,Twitter,Adobe……僅舉幾個例子。
HBase不是一個關(guān)系型數(shù)據(jù)庫,它需要不同的方法定義你的數(shù)據(jù)模型,HBase實際上定義了一個四維數(shù)據(jù)模型,下面就是每一維度的定義:
·行鍵:每行都有唯一的行鍵,行鍵沒有數(shù)據(jù)類型,它內(nèi)部被認為是一個字節(jié)數(shù)組。
·列簇:數(shù)據(jù)在行中被組織成列簇,每行有相同的列簇,但是在行之間,相同的列簇不需要有相同的列修飾符。在引擎中,HBase將列簇存儲在它自己的數(shù)據(jù)文件中,所以,它們需要事先被定義,此外,改變列簇并不容易。
·列修飾符:列簇定義真實的列,被稱之為列修飾符,你可以認為列修飾符就是列本身。
·版本:每列都可以有一個可配置的版本數(shù)量,你可以通過列修飾符的制定版本獲取數(shù)據(jù)。

Figure1.HBaseFour-Dimensional Data Model
如圖1中所示,通過行鍵獲取一個指定的行,它由一個或多個列簇構(gòu)成,每個列簇有一個或多個列修飾符(圖1中稱為列),每列又可以有一個或多個版本。為了獲取指定數(shù)據(jù),你需要知道它的行鍵、列簇、列修飾符以及版本。當設計HBase數(shù)據(jù)模型時,對考慮數(shù)據(jù)是如何被獲取是十分有幫助的。你可以通過以下兩種方式獲得HBase數(shù)據(jù):
·通過他們的行鍵,或者一系列行鍵的表掃描。
·使用map-reduce進行批操作
這種雙重獲取數(shù)據(jù)的方法使得HBase變得十分強大,典型地,在Hadoop中存儲數(shù)據(jù)意味著它對離線或批處理方式分析是有益的(尤其是批處理分析),但是,對實時獲取是不必要的。HBase通過key/value存儲來支持實時分析,以及通過map-reduce支持批處理分析。讓我們首先來看實時數(shù)據(jù)獲取,作為key/value存儲,key是行鍵,value是列簇的集合,如圖2所示。

Figure2.HBaseas a Key/Value Store
如你在圖2中看到的,key是我們所提到過的行鍵,value是列簇的集合。你可以通過key檢索到value,或者換句話說,你可以通過行鍵“得到”行,或者你能通過給定起始和終止行鍵檢索一系列行,這就是前面提到的表掃描。你不能實時的查詢一個列的值,這就引出了一個重要的話題:行鍵的設計。
有兩個原因令行鍵的設計十分重要:
·表掃描是對行鍵的操作,所以,行鍵的設計控制著你能夠通過HBase執(zhí)行的實時/直接獲取量。
·當在生產(chǎn)環(huán)境中運行HBase時,它在HDFS上部運行,數(shù)據(jù)基于行鍵通過HDFS,如果你所有的行鍵都是以user-開頭,那么很有可能你大部分數(shù)據(jù)都被分配一個節(jié)點上(違背了分布式數(shù)據(jù)的初衷),因此,你的行鍵應該是有足夠的差異性以便分布式地通過整個部署。
你定義行鍵的方式取決于你想怎樣存取那些行。如果你想以用戶為基礎存儲數(shù)據(jù),那么一個策略是利用字節(jié)隊列在HBase中存儲行鍵,所以我們可以創(chuàng)建一個用戶ID的哈希(例如MD5或SHA-1),然后在哈希后面附上時間(long類型)。使用哈希有兩個重點:(1)是它能夠?qū)alue分散開,數(shù)據(jù)能夠分布式地通過簇,(2)是它確保key的長度是一致的,以更加容易在表掃描中使用。
講了足夠多的理論,下面部分向你展示如何搭建HBase環(huán)境,并如何通過命令行使用。
你可以從Apache網(wǎng)站下載HBase,在寫本文時,最新的版本是0.98.5,HBase團隊推薦你在UNIX/Linux環(huán)境下安裝HBase,如果你想在Windows下運行,你需要先安裝Cygwin,并在這上運行HBase。當你下載完這些文件,解壓到硬盤上。此外,你還需要安裝Java環(huán)境,如果你還沒有,從Oracle網(wǎng)站下載Java環(huán)境。在環(huán)境配置中添加名為HBASE_HOME的變量,值為你解壓HBase文件的根目錄,隨后,執(zhí)行bin文件夾下的start-hbase.sh腳本,它會在下面目錄輸出日志文件:
$HBASE_HOME/logs/
你可以在瀏覽器中輸入下面URL測試是否安裝正確:
http://localhost:60010
如果安裝正確,你應該看到下面界面。

Figure3.HBaseManagement Screen
讓我們開始用命令行操作HBase,在HBasebin目錄下執(zhí)行下面命令:
./hbase shell
你應該看到如下類似的輸出:
HBase Shell; enter'help' for list of supported commands. Type "exit" toleave the HBase Shell Version0.98.5-hadoop2, rUnknown, MonAug4 23:58:06 PDT2014 hbase(main):001:0>
創(chuàng)建一個名為PageViews的表,并具有名為info的列簇:
hbase(main):002:0> create'PageViews', 'info' 0 row(s) in 5.3160seconds => Hbase::Table- PageViews
每張表至少要有一個列簇,因此我們創(chuàng)建了info,現(xiàn)在,看看我們的表,執(zhí)行下面list命令:
hbase(main):002:0>list TABLE PageViews 1 row(s) in 0.0350seconds =>["PageViews"]
如你所見,list命令返回一個名為PageViews的表,我們可以通過describe命令得到表的更多信息:
hbase(main):003:0> describe'PageViews'
DESCRIPTIONENABLED
'PageViews',{NAME => 'info', DATA_BLOCK_ENCODING => 'NONE', BLOOMFILTER=> 'ROW',
REPLICATION_SCOPE=> '0', VERSIONS => '1', COMPRESSION => 'NONEtrue
',MIN_VERSIONS => '0', TTL => 'FOREVER', KEEP_DELETED_CELLS=> 'false',
BLOCKSIZE=> '65536', IN_MEMORY => 'false', BLOCKCACHE =>'true'}
1 row(s) in 0.0480seconds
Describe命令返回表的詳細信息,包括列簇的列表,這里我們創(chuàng)建的僅有一個:info,現(xiàn)在為表添加以下數(shù)據(jù),下面命令是在info中添加新的行:
hbase(main):004:0> put'PageViews', 'rowkey1', 'info:page', '/mypage' 0 row(s) in 0.0850seconds
Put命令插入一條行鍵為rowkey1的新紀錄,指定在info下的page列,插入值為/mypage的記錄,我們隨后可以通過get命令通過行鍵rowkey1查詢到這條記錄:
hbase(main):005:0> get'PageViews', 'rowkey1' COLUMNCELL info:pagetimestamp=1410374788088, value=/mypage 1 row(s) in 0.0250seconds
你可以看到列info:page,或者更多具體的列,其值為/mypage,并帶有時間戳表明該條記錄是什么時候插入的。讓我們在做表掃描之前再添加一行:
hbase(main):006:0> put'PageViews', 'rowkey2', 'info:page', '/myotherpage' 0 row(s) in 0.0050seconds
現(xiàn)在我們有兩行記錄了,讓我們查詢出PageViews表的所有記錄:
hbase(main):007:0> scan'PageViews' ROWCOLUMN+CELL rowkey1column=info:page, timestamp=1410374788088, value=/mypage rowkey2column=info:page, timestamp=1410374823590,value=/myotherpage 2 row(s) in 0.0350seconds
如前面所提到的,我們不能查詢本身,但是我們可以對表進行scan操作,如果你執(zhí)行scantable命令,它會返回表中所有行,這很有可能不是你想要做的。你可以給出行的范圍來限制返回的結(jié)果,讓我們插入一帶有s開頭行鍵的新記錄:
hbase(main):012:0> put'PageViews', 'srowkey2', 'info:page', '/myotherpage'
現(xiàn)在,如果我增加點限制,想查詢行鍵在r和s之間的記錄,可以使用如下結(jié)構(gòu):
hbase(main):014:0> scan'PageViews', { STARTROW => 'r', ENDROW => 's' }
ROWCOLUMN+CELL
rowkey1column=info:page, timestamp=1410374788088, value=/mypage
rowkey2column=info:page, timestamp=1410374823590,value=/myotherpage
2 row(s) in 0.0080seconds
這個scan返回了僅有s開頭的記錄,這個類比是基于全行鍵上的,所以rowkey1比r大,所有它被返回了。另外,scan的結(jié)果包含了所指范圍的STARTROW,但不包含ENDROW,注意,ENDROW不是必須指定的,如果我們執(zhí)行相同查詢只給出了STARTROW,那么我們會得到行鍵比r大的所有記錄。
hbase(main):013:0> scan'PageViews', { STARTROW => 'r' }
ROWCOLUMN+CELL
rowkey1column=info:page, timestamp=1410374788088, value=/mypage
rowkey2column=info:page, timestamp=1410374823590,value=/myotherpage
srowkey2column=info:page,timestamp=1410375975965, value=/myotherpage
3 row(s) in 0.0120seconds
HBase是一種NoSQL,通常被稱為Hadoop Database,它是開源并基于Google BigTable白皮書,HBase運行在HDFS之上,因此使它具有高度可擴展性,并支持Hadoopmap-reduce程序設計模型。HBase有兩種訪問方式:通過行鍵進行隨機訪問;通過map-reduce脫機或批訪問。
本文講述了HBase的特征和它的優(yōu)點,并簡要回顧了行鍵設計的重點之處,它還向你展示了如何在本地配置HBase環(huán)境,使用命令創(chuàng)建表、插入數(shù)據(jù)、檢索指定行以及最后如何進行scan操作
總結(jié)
以上所述是小編給大家介紹的hbase的優(yōu)點,希望對大家有所幫助,如果大家有任何疑問請給我留言,小編會及時回復大家的。在此也非常感謝大家對腳本之家網(wǎng)站的支持!
相關(guān)文章
SpringBoot?SpringSecurity?詳細介紹(基于內(nèi)存的驗證)
這篇文章主要介紹了SpringBoot?SpringSecurity?介紹(基于內(nèi)存的驗證),本文通過實例代碼給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2023-04-04
Java中的List接口實現(xiàn)類LinkList和ArrayList詳解
這篇文章主要介紹了Java中的List接口實現(xiàn)類LinkList和ArrayList詳解,List接口繼承自Collection接口,是單列集合的一個重要分支,實現(xiàn)了List接口的對象稱為List集合,在List集合中允許出現(xiàn)重復的元素,所有的元素是以一種線性方式進行存儲的,需要的朋友可以參考下2024-01-01
java基本教程之常用的實現(xiàn)多線程的兩種方式 java多線程教程
下面開始學習“常用的實現(xiàn)多線程的2種方式”:Thread 和 Runnable。之所以說是常用的,是因為通過還可以通過java.util.concurrent包中的線程池來實現(xiàn)多線程2014-01-01
springboot實現(xiàn)定時任務的四種方式小結(jié)
本文主要介紹了springboot實現(xiàn)定時任務的四種方式小結(jié),文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2023-01-01
springboot實現(xiàn)配置多環(huán)境yml方式
在SpringBoot項目中,通過創(chuàng)建不同的YAML配置文件來實現(xiàn)多環(huán)境配置是一種常見且有效的方法,這些配置文件包括application.yml、application-dev.yml、application-prod.yml等,分別對應不同的開發(fā)環(huán)境,如開發(fā)環(huán)境、生產(chǎn)環(huán)境2024-11-11
詳解Spring Boot工程集成全局唯一ID生成器 UidGenerator的操作步驟
本文就在項目中來集成 UidGenerator這一工程來作為項目的全局唯一 ID生成器。接下來通過實例代碼給大家詳解詳解Spring Boot工程集成全局唯一ID生成器 UidGenerator的操作步驟,感興趣的朋友一起看看吧2018-10-10
如何正確控制springboot中bean的加載順序小結(jié)篇
這篇文章主要介紹了如何正確控制springboot中bean的加載順序總結(jié),本文給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-07-07

