全国旗舰校区

不同学习城市 同样授课品质

北京

深圳

上海

广州

郑州

大连

武汉

成都

西安

杭州

青岛

重庆

长沙

哈尔滨

南京

太原

沈阳

合肥

贵阳

济南

下一个校区
就在你家门口
+
当前位置:首页  >  技术干货

HBase系列常见面试题汇总---HBase数据读取流程分析以及Region分裂如何定位切分点

发布时间:2022-08-12 11:19:17
发布人:syq

  1.HBase 数据读取流程分析

  从 zookeeper 获得 meta 表所在 region 位置,再根据 table、namespace、rowkey 去 meta 表中获取读对象所在的 RegionServer。

HBase数据读取流程分析

  找到 RegionServer 之后,首先用 MemStoreScanner 搜索 MemStore 里是否有所查的 rowKey(这一步在内存中,很快)

  如果没有则需要定位 HFile 了,具体流程是:

  * 用 Bloom Block 通过算法过滤掉大部分一定不包含所查 RowKey 的 HFile , 另外内存中还会记录每个 HFile 的偏移量,可以快速排除掉剩下的部分HFile * 经过上面两步,剩下的就是很少一部分的 HFile 了,就需要根据 Index Block 索引数据快速查找 Rowkey 所在的 Block 的位置 * 找到 Block 的位置后,检查这个 Block 是否在 BlockCache 中,在则直接去取,如果不在的话把这个 Block 加载到 BlockCache 进行缓存,当下一次再定位到这个 Block 的时候就不需要再进行一次 IO 将整个 Block 读取到内存中。 * 最后扫描这些读到内存中的 Block(可能有多个,因为有多版本),返回需要的版本。

  2.HBase Region分裂如何定位切分点

  整个Region中最大Store中的最大文件中最中心的一个Block的首个RowKey,什么情况下会出现没有切分点的场景呢?最常见的就是一个文件只有一个block,执行split的时候就会发现无法切分。

  更多关于大数据培训的问题,欢迎咨询千锋教育在线名师,如果想要了解我们的师资、课程、项目实操的话可以点击咨询课程顾问,获取试听资格来试听我们的课程,在线零距离接触千锋教育大咖名师,让你轻松从入门到精通。

相关文章

明道、teambition、Tower.im、Worktile、trello的功能都有哪些?

明道、teambition、Tower.im、Worktile、trello的功能都有哪些?

2023-10-14
反欺诈中所用到的机器学习模型有哪些?

反欺诈中所用到的机器学习模型有哪些?

2023-10-14
强化学习中on-policy与off-policy有什么区别?

强化学习中on-policy与off-policy有什么区别?

2023-10-14
为什么交叉熵可以用于计算代价?

为什么交叉熵可以用于计算代价?

2023-10-14

最新文章

常见网络安全面试题:Windows常用的命令有哪些?

常见网络安全面试题:Windows常用的命令有哪些?

2023-10-09
常见网络安全面试题:根据设备告警如何展开排查?

常见网络安全面试题:根据设备告警如何展开排查?

2023-10-09
常见网络安全面试题:mysql加固呢?(数据库加固)

常见网络安全面试题:mysql加固呢?(数据库加固)

2023-10-09
常见网络安全面试题:windows和linux加固?(操作系统加固)

常见网络安全面试题:windows和linux加固?(操作系统加固)

2023-10-09
在线咨询 免费试学 教程领取