心率快吃什么中成药| 什么可以代替狗狗沐浴露| 老公的爸爸称谓是什么| 骨质疏松吃什么好| 适得其反是什么意思| 爱吐口水是什么原因| clarks是什么牌子| 梦见做被子什么意思| 丙氨酸是什么| 博大精深什么意思| 8月15号是什么日子| suki是什么意思| 肌酸是什么| 仙人掌什么时候开花| 腰果是什么树的果实| 羊脑炎什么症状怎么治| 腹胀做什么检查效果好| 雅戈尔男装什么档次| 1978年属马五行缺什么| 什么时间立秋| 古井贡酒属于什么档次| 煲仔饭用什么米最好| 肺部有阴影一般是什么病| 梦见相亲是什么征兆| 钥匙是什么意思| 什么时候入秋| 向日葵是什么季节| 办理暂住证需要什么材料| 吃止痛药有什么副作用| 气节是什么意思| 肝癌早期有什么症状| 为什么会感染幽门螺旋杆菌| 空前绝后是什么生肖| 毒鸡汤是什么意思| igm是什么意思| 自我安慰是什么意思| 心脏跳的快什么原因| 药物过敏用什么药| 身份证后面有个x是什么意思| 用盐泡脚有什么好处| 狗为什么会咬人| 阴茎硬不起吃什么药| 摸头杀是什么意思| 1年是什么朝代| 牛百叶是什么部位| 嘴巴苦吃什么药| 哺乳期发烧吃什么药不影响哺乳| 腊月是什么生肖| 宫颈肥大伴纳氏囊肿是什么意思| moncler是什么牌子| pdt是什么意思| 寂寞难耐是什么意思| 美瞳是什么| 自由职业可以做什么| 什么是腺样体| 办理港澳通行证需要什么证件| 30岁以上适合用什么牌子的护肤品| 剁椒鱼头是什么菜系| 93岁属什么生肖| 拔牙后能吃什么| 什么药和酒一起吃必死| 尿隐血是什么原因引起的| 早上起来口干口苦是什么原因| 为什么老是肚子疼| 吐信子是什么意思啊| 消化内科是看什么病的| 复活节是什么意思| 结扎什么意思| 阙什么意思| 瘫痪是什么意思| 蜻蜓属于什么类动物| 白蚁长什么样| 令人发指是什么意思| 枇杷什么季节成熟| cpap是什么意思| 鱼腥味是什么妇科病| 田童念什么| 天蝎座男和什么星座最配| m是什么尺码| 海带属于什么类| 食用葡萄糖是什么| 金灿灿的什么| 肚子一直响是什么原因| 发热是什么原因| 压片糖果是什么意思| 善良是什么| 双皮奶是什么| 什么是白内障| 脚发麻是什么原因| 龙象征着什么| 势在必得是什么意思| 一直流鼻血是什么原因| 感想是什么意思| 痛风什么引起的原因有哪些| 女人大腿粗代表什么| 花雕酒是什么| 鼎字五行属什么| 6个月宝宝可以吃什么水果| 过年吃什么| 限量版是什么意思| 爸爸的哥哥的老婆叫什么| 低血糖的人吃什么东西最好| 怀孕早期有什么症状| 请大家知悉是什么意思| 莫逆之交什么意思| 什么的走路| 为什么一坐车就想睡觉| 股票杠杆是什么意思| 喝什么茶对睡眠有帮助| 崩塌的读音是什么| 上吐下泻吃什么药| 攻击是什么意思| 肝内高回声什么意思| 愤青是什么意思| 女生自慰是什么感觉| 胃不舒服想吐吃什么药| 曾是什么意思| aid是什么意思| 过敏性鼻炎吃什么水果好| 拉肚子是什么原因引起的怎么办| 什么是慢阻肺| 肚子胀气吃什么通气| 古惑仔是什么| 得了幽门螺旋杆菌有什么症状| 撒尿分叉是什么原因| top1什么意思| 人乳头瘤病毒16型阳性是什么意思| 什么的小毛虫| 和合双全是什么生肖| 益生菌和益生元有什么区别| 什么是腹式呼吸| 日加一笔可以变成什么字| 潮热盗汗是什么意思| 促黄体生成素是什么| 11月16是什么星座| 躺下就头晕是什么原因| 9.3什么星座| 小炒肉用什么肉| 焦虑症吃什么药好| 促销员是做什么的| 月子早餐吃什么好| hazzys是什么牌子| 什么的小院| 尸臭是什么味道| 什么牌子的风扇好| 胃热是什么原因引起的| 朝鲜的货币叫什么| 进德勤一般要什么学历| 尿频尿急尿不尽吃什么药效果最好| 霉菌是什么引起的| 朱元璋为什么杀李善长| crayons什么意思| 什么是电解质饮料| 祖庭是什么意思| 64年属什么| 梦见别人开车翻车是什么预兆| 为什么不建议吃三代头孢| 盐酸西替利嗪片主治什么| 经常放屁吃什么药好| 路旁土命什么意思| 45属什么| 口臭口苦什么原因引起的| 吃什么可以补阳气| 白鸡蛋是什么鸡下的蛋| 口苦吃什么药好| 小狗咳嗽吃什么药好使| 炉甘石是什么东西| 消谷善饥是什么意思| 女生什么时候最想要| 孩子注意力不集中去医院看什么科| 认栽是什么意思| 会车是什么| 胰腺炎吃什么药见效快| 假借是什么意思| 鸟大了什么林子都有| 没是什么意思| 古灵精怪是什么意思| 阴虱卵长什么样图片| 维生素d低是什么原因| co是什么元素| 什么叫排比句| 雌二醇凝胶有什么作用| 中央政法委书记什么级别| 女人吃什么养颜又美白| 清朝是什么时候灭亡的| 系统性红斑狼疮不能吃什么| 养老保险什么时候开始交| 痛风能喝什么饮料| 炝锅是什么意思| 霉菌性阴道炎用什么药最好| 经常打嗝是什么原因引起的| 为什么会有鼻炎| 什么是头寸| 梦见吃花生是什么意思| 脖子大是什么原因| 急性心力衰竭的急救措施是什么| 哎一古是什么意思| 喷昔洛韦乳膏治什么| 心力衰竭是什么症状| 大暑是什么意思啊| 11月29号什么星座| 西梅什么时候上市| 黑豆有什么作用| 庆生是什么意思| 苟不教的苟是什么意思| 心血管堵塞吃什么好| 面霜什么时候用| 群众路线是什么| 中心句是什么意思| 逍遥丸是治什么的| 男人肾虚吃什么补得快| 旦角是什么意思| 马齿苋有什么好处| 1938年属什么生肖| 自投罗网是什么意思| 钾离子高有什么危害| 长期吸烟容易引起什么疾病| 房性心律是什么意思| 乙肝没有抗体是什么意思| 阳性血是什么意思| ect是什么意思| 今年气温为什么这么高| zoe是什么意思| AMI是什么病| 婴儿腹泻吃什么好| 射精出血是什么原因| 指甲断裂是什么原因| 做脑ct对人体有什么危害| 惰性是什么意思| 什么叫甲状腺| 上上签什么意思| 冬虫夏草补什么| 梦见桥塌了有什么预兆| 指甲软是什么原因| 番石榴什么时候成熟| 舌钉有什么用| 宠物医院需要什么资质| 吃什么水果美白| 宫颈管少量积液是什么意思| 吃皮蛋有什么好处和坏处| 营养师是干什么的| 淋巴结肿大看什么科室最好| 旗舰店是什么意思| 甲功不正常有什么表现| 吃什么药可以提高性功能| 4月29是什么星座| 男性睾丸疼痛什么原因| 隐翅虫长什么样子| 巨石强森是什么人种| 舌头凉凉的是什么原因| 忌日是什么意思| 鸡吃什么食物| 腿肿是什么病的前兆| 心脏不舒服看什么科室| 气阴两虚是什么意思| itp是什么意思| 老年人爱出汗是什么原因| 猴和什么相冲| 右眼皮跳什么预兆| 什么颜色属木| 皮肤一块白一块白的是什么原因| 什么是智齿| 麸皮是什么东西| 大眼角痒是什么原因| 百度
大数据中国 首页 大数据技术 数据库 查看内容
HBase在京东的完善与创新
2014-1-27 00:12 |来自: 速途网| 查看: 19725| 评论: 0

随着大数据处理时代的到来,NoSQL风生水起。京东作为国内最大的综合网络零售商,随着业务数据量爆发式增长,传统的关系数据库在海量数据面前开始显得捉襟见肘,于是京东云平台在Hadoop生态集群经验积累的基础上,引入了HBase作为海量数据存储的基础设施。虽然引入时间不长,但京东数十个业务系统已经使用了HBase,包括实时在线业务、离线批量计算业务、批量导入兼在线访问等业务类型。为了提高资源利用率,多个业务系统可能复用一个HBase集群。而开源的HBase处于发展期,业务之间的存储和访问产生了一些干扰和冲突。于是,为了应用到生产环境尤其是在线业务系统中,京东第一阶段对HBase进行了完善,并根据京东需求做出了自己的创新。这些完善和创新包括:

1.实现了权限管理模块。多个业务系统之间存在的数据安全隐患,且业务系统可以随意进行创建表等DDL操作,因此京东开发了权限管理模块,对DDL权限控制。在此基础上,在表级别对数据进行了访问权限康,隔离了数据等敏感信息的访问,业务系统不用担心数据泄密、数据不一致等安全问题,因为没有权限的系统是不会接触到其他任何业务系统的数据的。值得一提的是,这个模块引入的时间开销最大不超过0.3毫秒,能很好的支持线上业务的开展,而业界还没有如此优异的性能数据。

2.实现了流量控制模块。在关系数据库中,因为是单节点部署,可以通过连接数等控制访问的并发,其流量也局限于一个节点。而对于HBase这样的分布式系统,流量分布于数个服务器节点,多个应用系统造成的访问压力不是单台节点可以承受的。通常情况下,业务访问均衡到多台节点上,压力可以分散。但某些情况下,尤其对于在线业务,访问由用户行为决定的情况下,可能出现平常几台甚至数十台的压力突然压在一台节点上,非常容易造成某个节点宕机。为避免这种情况,保证系统的可用性,京东通过限流机制来控制一台节点上承受的流量和并发连接数。在实现流量控制的同时,保证了客户端不会超时、阻塞的请求不会占用大量HBase堆内存(从而避免了内存溢出)、用户无需对其应用做出改变。其中有一个很重要的特征,就是控制会根据业务不同的SLA进行控制,有效的保证了关键业务的服务级别。

3.开发了目前业界最完备的管控中心。HBase与传统的关系数据库相比,其管理和运维工具非常缺乏。业内一些友商开发了自己的管理和监控系统以满足其特定的需求,但京东很难使用。京东数个集群,成百上千的服务器,维护成本非常高,信息收集与跟踪也影响了故障的发现和恢复时间。为了支持HBase之上的各类关键业务系统,需要及时获知故障,尽快恢复集群使用,一个统一的监控和管理中心应运而生。管控中心将所有集群管理放在一个中心,真正做到了快速高效运维,比如:

(1)实时监控多个各服务节点运行状况、服务状况、集群读写响应时间,及时掌握集群性能波动;实时掌握各节点(Region Server)负载情况及请求数,并根据负载情况排序,重点关注高负载节点;

(2)实时统计大量信息并具有预警和报警机制,比如:给节点JVM堆内存使用情况、总体的MemStore、托管的数据文件综述及数据大小;每个节点下,各数据分区的读写请求情况,并根据请求数对分区排序;各数据分区的MemStore、数据文件个数、数据文件大小等信息;统计了每张表的请求数、该表的分区及分区的请求数,并根据请求数排序,对热点数据了如指掌;

(3)将所有管理操作,无论是创建表、删除表、使能表等表操作,还是分区管理、分区均衡等分区操作等,都统一集成到管控中心,由统一入口进行管理。

(4)另外一个具有创新意义的是,京东将HBase本身的HBCK工具经过改造,放在了管控中心,将该工具的运维效率提升了数十倍。

值得一提的是,京东在HBase上所做的创新,全部避免代码浸入性,所有开发都不会更改原有HBase的代码,这样就能以最快的速度将社区最新成果进行合并,节约开发和维护成本,同时也能与社区保持最近的交流,逐步为HBase社区做出贡献。目前京东HBase组所做的创新,刚刚是个开始,京东将在未来做出更多具有生产价值的创新和完善,并在稳定和适当的时候逐步开源。

免责声明: 除非特别声明,文章均为投稿或网络转载,仅代表作者观点,与大数据中国网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。如果本文内容有侵犯你的权益,请发送信息至ab12-120@163.com,我们会及时删除

最新评论

关闭

站长推荐上一条 /1 下一条

大数据中国微信

QQ   

版权所有: Discuz! © 2001-2013 大数据.

GMT+8, 2025-8-4 09:56 , Processed in 0.069694 second(s), 23 queries .

返回顶部
脾是起什么作用的 良人什么意思 瑶浴是什么意思 gp是什么的缩写 来月经腰疼是什么原因
叒字什么意思 mir是什么检查 c蛋白反应高是什么原因 游车河什么意思 乾是什么生肖
缺锌有什么症状 生丝是什么 夫妻少配无刑是什么意思 过氧化氢阳性是什么意思 西林是什么药
中国的国酒是什么 1998年属什么生肖 桉字五行属什么 什么是十字花科蔬菜 牛油果和什么不能一起吃
怀孕了什么不可以吃hcv8jop3ns8r.cn 化疗后吃什么增加白细胞hcv8jop0ns5r.cn 1964年是什么生肖hcv9jop1ns1r.cn 什么是荨麻疹hcv8jop6ns9r.cn 程咬金是什么意思hcv7jop7ns2r.cn
左腹下方隐痛什么原因hcv8jop0ns1r.cn 什么是人设hlguo.com 27属相是什么生肖hcv7jop6ns9r.cn 颂字五行属什么cj623037.com 茜字五行属什么hcv8jop9ns4r.cn
天空像什么的比喻句hcv8jop5ns2r.cn 脏器灰阶立体成像是检查什么的hcv9jop5ns4r.cn 怀孕会出现什么状况hcv9jop4ns2r.cn 蚂蚁爱吃什么东西hcv8jop6ns1r.cn 12月出生的是什么星座hcv8jop5ns1r.cn
清酒和白酒有什么区别hcv8jop2ns6r.cn 尿路感染检查什么项目1949doufunao.com 右肺上叶结节什么意思hcv8jop8ns5r.cn 脂蛋白a高是什么意思hcv9jop5ns7r.cn 水泊梁山什么意思hcv8jop2ns8r.cn
百度