向spark集群提交消費kafka應用時kafka鑒權配置問題
阿新 • • 發佈:2018-06-28
clu params pac tid version 屬性。 包含 conf red 提交消費kafka應用裏面包含sasl.jaas.config,通常需要配置文件。但是打成jar包後的應用,通過classload讀不到jar包中配置文件。 <groupId>org.apache.spark</groupId>
<artifactId>spark-streaming-kafka-0-10_2.11</artifactId>
<version>2.3.1</version>
<exclusions>
<exclusion>
<groupId>org.apache.kafka</groupId>
<artifactId>kafka-clients</artifactId>
</exclusion>
</exclusions>
</dependency>
需要初始化kafka時增加properties屬性。
kafkaParams.put("sasl.jaas.config", "xxxx required\n"+ " accessKey=\"xxxx\"\n"+ " securityKey=\"xxxxx\";");
換行,冒號,引號都不能少
註意kafka的依賴為:
<dependency>
<groupId>org.apache.kafka</groupId>
<artifactId>kafka-clients</artifactId>
<version>1.0.0</version>
</dependency>
同時要去掉spark-streaming-kafka中的kafka依賴
<!-- 去掉kafka 0.10.0.1 的依賴-->
<dependency>
<artifactId>spark-streaming-kafka-0-10_2.11</artifactId>
<version>2.3.1</version>
<exclusions>
<exclusion>
<groupId>org.apache.kafka</groupId>
<artifactId>kafka-clients</artifactId>
</exclusions>
</dependency>
向spark集群提交消費kafka應用時kafka鑒權配置問題