全国旗舰校区

不同学习城市 同样授课品质

北京

深圳

上海

广州

郑州

大连

武汉

成都

西安

杭州

青岛

重庆

长沙

哈尔滨

南京

太原

沈阳

合肥

贵阳

济南

下一个校区
就在你家门口
+
当前位置:首页  >  应聘面试  >  大数据面试题

让你设计一个实时的流式计算Wordcount

发布时间:2022-09-02 15:32:14
发布人:wjy

例如从kafka消费数据,使用sparkstream计算Wordcount,要求保证准确性,实时性,可用性,你要怎么实现?

如果计算时突然宕机,怎么保证消费kafka数据不丢失,不重复? 

使用Kafka对接SparkStreaming计算,那么要保证数据不丢失,和不重复的话,要使用直连方式,并且保证一次性语义,手动管理Offset即可,那么在实现过程中,Offset一定不能丢,所以要手动管理,然后把它保存到其他存储位置即可,每次能拿到保存好的Offset就OK,同时如果Kafka突然宕机或者SparkStreaming宕机都不用担心,只要设置好一次性语义保存幂等数据不会丢,而且Offset在这次任务失败时候不会被提交,所以也不会更新,下次再次消费即可。

让你设计一个实时的流式计算Wordcount

相关文章

大数据kafka常见面试题——如何搭建kafka?

2023-08-07

大数据kafka常见面试题——kafka中如何避免重复消费

2023-08-04

大数据面试题之多种方法创建dataframe

2023-08-02

大数据Hadoop面试题——Hadoop干什么用的?

2023-08-01

大数据行业2年工作经验的面试题有哪些?

2023-07-28

大数据kafka面试题——kafka和flume的区别是什么?

2023-07-27
在线咨询 免费试学 教程领取