当前位置:首页 > 企业查询 > 北京 > 北京千锋互联科技有限公司 > 公司资讯 >

北京千锋互联科技有限公司LOGO;
IT培训(大数据+人工智能培训、JavaEE分布式开发培训、全栈HTML5培训) 电话咨询 134****5861 手机浏览 纠错/管理

好程序员大数据培训:Hbase的体系结构

发布时间:2018-04-19 14:04:26 收藏

  Hbase的服务器体系结构遵从简单的主从服务器架构,HRegion Server群和Hbase Master服务器构成。Hbase Master服务器负责管理所有的HRegion Server,而Hbase 中所有的服务器都是通过ZooKeeper来进行协调,并处理Hbase 服务器运行期间可能遇到的错误。Hbase Master本身并不存储Hbase 中的任何数据,Hbase 逻辑上的表可能会被划分成多个Region,然后存储到HRegion Server群中。Hbase Master Server中存储的是从数据到HRegion Server的映射。因此,Hbase体系结构如图所示:

  (Hbase 的体系结构)

  (1).Client

  Client包括Hbase shell 和java API.管理类操作,Client与HMaster进行RPC;对于数据读写类操作,Client与HRegionServer进行RPC。

  (2).Zookeeper

  Zookeeper避免了HMaster的单点问题,Zookeeper Quorum中除了存储了-ROOT-表的地址和HMaster的地址,HRegionServer也会把自己以Ephemeral方式注册到Zookeeper中,使得HMaster可以随时感知到各个HRegionServer的健康状态。

  (3).Hmaster

  集群的老大,负责管理HRegionServer,告诉HRegionServer去维护哪些region,主要作用有以下四点:

  管理用户对Table的增、删、改、查操作;

  管理HRegion Server的负载均衡,调整Region分布;

  在Region Split后,负责新Region的分配;

  在HRegion Server停机后,负责失效HRegion Server上的Regions迁移。

  (4).Region

   当表的大小超过设置值的时候(默认值是10G),Hbase 会自动地将表划分为不同的区域,每个区域包含所有行的一个子集region。一个Region会保存一个表里面某段连续的数据,从开始主键到结束主键,一张完整的表格是保存在多个Region上面的。


  对用户来说,每个表是一堆数据的集合,靠主键来区分。从物理上来说,一张表被拆分成了多块,每一块就是一个Region。我们用表名+开始/结束主键,来区分每一个Region。

  (5).HRegion Server


  HRegion Server主要负责响应用户的读写请求,内部管理了一系列HRegion对象,每个HRegion对应了Table中的一个Region,Region中由多个Store组成。每个Store对应了Table中的一个列族的存储,Store存储是Hbase 存储的核心了,其中由两部分组成,一部分是MemStore,一部分是StoreFiles。MemStore是Sorted Memory Buffer,用户写入的数据首先会放入MemStore,当MemStore满了以后会Flush成一个StoreFile(底层实现是HFile)。

  (6).ROOT表和META表

  所有Region的元数据信息被存在meta表中,随着region不断分裂增多,meta表变大,也会分裂出属于meta表的region,meta表的region元数据信息保存在root表中,并且root表不再split,*终由zookeeper记录root表的位置。


  (7).Hlog

  每个HRegion Server中都有一个HLog对象,HLog是一个实现Write Ahead Log的类,在每次用户操作写入MemStore的同时,也会写一份数据到HLog文件中(HLog文件格式见后续),HLog文件定期会滚动出新的,并删除旧的文件(已持久化到StoreFile中的数据)。当HRegion Server意外终止后,HMaster会通过Zookeeper感知到,HMaster首先会处理遗留的 HLog文件,将其中不同Region的Log数据进行拆分,分别放到相应region的目录下,然后再将失效的region重新分配,领取到这些region的HRegion Server在Load Region的过程中,会发现有历史HLog需要处理,因此会Replay HLog中的数据到MemStore中,然后flush到StoreFiles,完成数据恢复。


  • 深圳市朗强科技有限公司;

    深圳市朗强科技有限公司

    所在地:广东省深圳市经营范围:hdmi网线延长器,hdmi光纤传输器,分布式矩阵,KVM延
  • 长沙硕博电子科技有限公司;

    长沙硕博电子科技有限公司

    所在地:湖南省长沙市经营范围:环卫车运动控制器、智能分布式IO、程控音乐报警器、工业显示器
  • 陕西炬焰光伏有限公司;

    陕西炬焰光伏有限公司

    所在地:陕西省西安市经营范围:分布式电站,太阳能板,太阳能监控系统,离网储能系统,太阳能路
  • 锦州利诚自动化设备有限公司;

    锦州利诚自动化设备有限公司

    所在地:辽宁省锦州市经营范围:一体化气象站,并网式光伏气象站,分布式光伏气象站,便携式气象
  • 邹平中博环保科技有限公司;

    邹平中博环保科技有限公司

    所在地:山东省滨州市经营范围:车烤漆房、家具烤漆房、无泵水幕喷漆柜、干式喷漆柜、布袋除尘器
  • 厦门摩家科技有限公司;

    厦门摩家科技有限公司

    所在地:福建省厦门市经营范围:能耗管理、智能充电桩系统、分布式智能消防系统、共享单车、智能
  • 鯉城區翔飛機械裝配廠;

    鯉城區翔飛機械裝配廠

    所在地:福建省泉州市经营范围:塑料包装薄膜打孔机,塑料薄膜穿孔机,塑料薄膜打孔针辊,薄膜打
  • 江西省萍乡市迪尔化工填料有限公司;

    江西省萍乡市迪尔化工填料有限公司

    所在地:江西省经营范围:专业生产销售各种规格鲍尔环,阶梯环,矩鞍环,英特洛克斯,共轭
  • 诸暨市途安针织有限公司;

    诸暨市途安针织有限公司

    所在地:四川省成都市经营范围:制造销售:棉、化纤针织品及编织品,其他纺织制成品,服装,鞋帽
  • 河南省坤德实业发展有限公司;

    河南省坤德实业发展有限公司

    所在地:河南省郑州市经营范围:河南省光伏发电,太阳能路灯,分布式光伏发电
  • 福州英诺电子科技有限公司;

    福州英诺电子科技有限公司

    所在地:福建省福州市经营范围:IB系列干变温控器、BWDK系列干变温控器、荧光光纤测温装置
  • 广东科视数字科技有限公司;

    广东科视数字科技有限公司

    所在地:广东省深圳市经营范围:分布式处理器、分布式矩阵、高清混合矩阵、智能中控系统、融媒体
  • 河北微探科技有限公司;

    河北微探科技有限公司

    所在地:北京市经营范围:感温电缆,感温光纤,光纤测温,分布式光纤,光纤光栅
  • 河北正威环保科技有限公司;

    河北正威环保科技有限公司

    所在地:河北省沧州市经营范围:除尘布袋、除尘骨架、阳极板、芒刺线、电磁脉冲阀、螺旋输送机、
  • 深圳市贝思特电力科技有限公司;

    深圳市贝思特电力科技有限公司

    所在地:广东省深圳市经营范围:直流屏 分布式电源 EPS UPS
  • 深圳市敏捷安防科技有限公司;

    深圳市敏捷安防科技有限公司

    所在地:广东省深圳市经营范围:拼接屏;解码器;视频综合管理平台,分布式处理器,融媒体处理器
  • 北京裕荣众联科技有限公司;

    北京裕荣众联科技有限公司

    所在地:经营范围:50公里分布式光纤振动入侵报警系统
  • 江西合博科技有限公司;

    江西合博科技有限公司

    所在地:江西省宜春市经营范围:煤矿应急广播系统,人员定位系统,避难碉室,分布式光纤测温系统
  • 合肥大伞新能源有限公司;

    合肥大伞新能源有限公司

    所在地:安徽省合肥市经营范围:家庭电站3kw一10kw,工商业分布式电站10kw一1000
  • 我是采购商/买家

       发布采购需求,免费帮您挑选优质企业

    最新供应

    友情链接:
    Copyright © 商名网 All Rights Reserved.