关于spark-shell 程序执行中 net.jpountz.lz4.LZ4BlockInputStream.(Ljava/io/InputStream;Z)V 问题

南楼画角 提交于 2020-03-12 10:32:24

今天在用spark-shell测试的时候,发现报了这个错误,怎么也没想明白是什么原因。

可能是spark默认使用的压缩方式是lz4的,但是jar包又不缺,所以没有弄懂,后续弄懂了再来修改博客

 

目前的解决方案:

将压缩方式改成snappy,这样就不报错了,暂时能用

./spark-shell --master local[2] --conf spark.io.compression.codec=snappy

 

标签
易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!