全国旗舰校区

不同学习城市 同样授课品质

北京

深圳

上海

广州

郑州

大连

武汉

成都

西安

杭州

青岛

重庆

长沙

哈尔滨

南京

太原

沈阳

合肥

贵阳

济南

下一个校区
就在你家门口
+
当前位置:首页  >  应聘面试  >  大数据面试题

环形缓冲区(源码级)

发布时间:2022-09-02 15:41:12
发布人:wjy

1. 环形缓冲区其实是一个字节数组,在MapTask.MapOutputBuffer中定义的。数组中存放着key、value的序列化数据和key、value的元数据信息

2. key/value的元数据存储的格式是int类型,每个key/value对应一个元数据,元数据由4个int组成,第一个int存放value的起始位置,第二个存放key的起始位置,第三个存放partition,最后一个存放value的长度。

3. key/value序列化的数据和元数据在环形缓冲区中的存储是由equator分隔的,key/value按照索引递增的方向存储,meta则按照索引递减的方向存储,将其数组抽象为一个环形结构之后,以equator为界,key/value顺时针存储,meta逆时针存储。

4. 环形缓冲区:参考下图

5. 我们可以将之抽象成环形状态:如下图

6. 当数据量达到阈值(数组的80%)开始进行溢写,溢写后,释放空间,重置equator点。

重置时,如果已经存在数据(20%的空间会继续写进来数据),一般不会移动kv对,而是移动元数据。

环形缓冲区

相关文章

大数据kafka常见面试题——如何搭建kafka?

2023-08-07

大数据kafka常见面试题——kafka中如何避免重复消费

2023-08-04

大数据面试题之多种方法创建dataframe

2023-08-02

大数据Hadoop面试题——Hadoop干什么用的?

2023-08-01

大数据行业2年工作经验的面试题有哪些?

2023-07-28

大数据kafka面试题——kafka和flume的区别是什么?

2023-07-27
在线咨询 免费试学 教程领取