大数据面试题:原理、消费者、文件分布分别是什么?
发布时间:2022-08-09 14:35:00
发布人:syq
1.原理
2.消费者
可以订阅多主题,可以订阅指定分区,可以暂停和重新启用某个分区消费,指定offset消费
在旧消费者客户端中,消费位移是存储在 ZooKeeper 中的。⽽在新消费者客户端中,消费位移存储在 Kafka 内部的主题_consumeroffsets 中。
消费者拦截器,以提交offset为分界点,有两个方法可以执行
3.文件分布
分段好处(segment):数据查找快,好删除,磁盘不是无限大.timeindex;数据删除使用
数据删除方式:根据时间;消息大小;消息偏移量
更多关于“大数据培训”的问题,欢迎咨询千锋教育在线名师。千锋教育多年办学,课程大纲紧跟企业需求,更科学更严谨,每年培养泛IT人才近2万人。不论你是零基础还是想提升,都可以找到适合的班型,千锋教育随时欢迎你来试听。