全国旗舰校区

不同学习城市 同样授课品质

北京

深圳

上海

广州

郑州

大连

武汉

成都

西安

杭州

青岛

重庆

长沙

哈尔滨

南京

太原

沈阳

合肥

贵阳

济南

下一个校区
就在你家门口
+
当前位置:首页  >  应聘面试  >  大数据面试题

存储格式和压缩格式

发布时间:2022-09-02 17:21:35
发布人:wjy

一般选择ORC+bzip/gzip作为数据源的存储,选择则ORC+Snappy作为中间数据的存储,分区表单文件不大可以采用gzip压缩,桶表需要用bzip或lzo支持分片的方式压缩

设置压缩建表时指定"stored as orc tblproperties ("orc.compress"="gzip")" 

设置set hive.exec.compress.intermediate=true开启中间数据压缩

然后设置mapred.map.output.compression.codec指定中间数据的压缩方式 

设置 set hive.exec.compress.output=true 开启输出文件压缩

然后设置 mapred.output.compression.codec 指定输出文件的压缩方式。

存储格式和压缩格式

相关文章

大数据kafka常见面试题——如何搭建kafka?

2023-08-07

大数据kafka常见面试题——kafka中如何避免重复消费

2023-08-04

大数据面试题之多种方法创建dataframe

2023-08-02

大数据Hadoop面试题——Hadoop干什么用的?

2023-08-01

大数据行业2年工作经验的面试题有哪些?

2023-07-28

大数据kafka面试题——kafka和flume的区别是什么?

2023-07-27
在线咨询 免费试学 教程领取