标签：String val offset tp streaming offsetRanges spark
spark streaming窗口及聚合操作后如何管理offset
浪院长 浪尖聊大数据
很多知识星球球友问过浪尖一个问题：
就是spark streaming经过窗口的集合操作之后，再去管理offset呢？对于spark streaming来说窗口操作之后，是无法管理offset的，因为offset的存储于HasOffsetRanges，只有kafkaRDD继承了该特质，经过转化的其他RDD都不支持了。所以无法通过其他RDD转化为HasOffsetRanges来获取offset，以便自己管理。
kafkaRDD的继承关系如下：
private[spark] class KafkaRDD[K, V](
sc: SparkContext,
val kafkaParams: ju.Map[String, Object],
val offsetRanges: Array[OffsetRange],
val preferredHosts: ju.Map[TopicPartition, String],
useConsumerCache: Boolean
) extends RDD[ConsumerRecord[K, V]](sc, Nil)
with Logging with HasOffsetRanges {HasOffsetRanges只有kafkaRDD继承了他，所以假如我们对KafkaRDD进行了转化之后就无法再获取offset了。
HasOffsetRanges就是一个OffsetRange的数组：
trait HasOffsetRanges {
def offsetRanges: Array[OffsetRange]
}再看一下，OffsetRange的实现：
窗口操作会包含若干批次的RDD数据，窗口操作也往往带有聚合操作，所以KafkaRDD肯定会被转化为其他类型的RDD的，那么之后就无法转化为hasoffsetranges了，也是管理offset变得很麻烦的。
实际上，无论是窗口是否有重叠和包含聚合，其实我们只关心本次处理窗口的kafkardds 的offset范围[fromOffset, toOffset)，由于fromOffset是上次提交成功的，那么本次处理完只需要提交的toOffset即可，即使处理失败也可以从fromOffset开始重新处理。也就实现了数据的最少一次处理，假如能与结果一起管理，也可以实现仅一次处理。那么提交offset我们只需要提交最近的那个批次的kafkaRDD的toOffset即可。
那么如何获取最新的kafkaRDD的toOffset呢？
其实，我们只需要在driver端记录kafkardd转化的hasoffsetrange存储的offset即可。
回顾一下，对于spark 来说代码执行位置分为driver和executor，我们希望再driver端获取到offset，等处理完结果后，再提交offset到kafka或者直接与结果一起管理offset。
那么窗口操作之前获取offset方法是什么呢？
就是利用transform操作，完成下面的步骤：
var A:mutable.HashMap[String,Array[OffsetRange]] = new mutable.HashMap()
val offsetRanges = r.asInstanceOf[HasOffsetRanges].offsetRanges
A += ("rdd1"->offsetRanges)上述步骤就完成了，只记录最新kafkardd的hasoffsetranges里存储的offset功能。
总结一下：driver端通过使用transform获取到offset信息，然后在输出操作foreachrdd里面完成offset的提交操作。
package bigdata.spark.SparkStreaming.kafka010
import java.util.Properties
import org.apache.kafka.clients.consumer.{Consumer, ConsumerRecord, KafkaConsumer}
import org.apache.kafka.common.TopicPartition
import org.apache.kafka.common.serialization.StringDeserializer
import org.apache.spark.rdd.RDD
import org.apache.spark.streaming.kafka010._
import org.apache.spark.streaming.{Seconds, StreamingContext}
import org.apache.spark.{SparkConf, TaskContext}
import scala.collection.JavaConverters._
import scala.collection.mutable
object kafka010NamedRDD {
def main(args: Array[String]) {
// 创建一个批处理时间是2s的context 要增加环境变量
val sparkConf = new SparkConf().setAppName("DirectKafkaWordCount").setMaster("local[*]")
val ssc = new StreamingContext(sparkConf, Seconds(5))
ssc.checkpoint("/opt/checkpoint")
// 使用broker和topic创建DirectStream
val topicsSet = "test".split(",").toSet
val kafkaParams = Map[String, Object]("bootstrap.servers" -> "mt-mdh.local:9093",
"key.deserializer"->classOf[StringDeserializer],
"value.deserializer"-> classOf[StringDeserializer],
"group.id"->"test4",
"auto.offset.reset" -> "latest",
"enable.auto.commit"->(false: java.lang.Boolean))
// 没有接口提供 offset
val messages = KafkaUtils.createDirectStream[String, String](
ssc,
LocationStrategies.PreferConsistent,
ConsumerStrategies.Subscribe[String, String](topicsSet, kafkaParams,getLastOffsets(kafkaParams ,topicsSet)))//
var A:mutable.HashMap[String,Array[OffsetRange]] = new mutable.HashMap()
val trans = messages.transform(r =>{
val offsetRanges = r.asInstanceOf[HasOffsetRanges].offsetRanges
A += ("rdd1"->offsetRanges)
r
}).countByWindow(Seconds(10), Seconds(5))
trans.foreachRDD(rdd=>{
if(!rdd.isEmpty()){
val offsetRanges = A.get("rdd1").get//.asInstanceOf[HasOffsetRanges].offsetRanges
rdd.foreachPartition { iter =>
val o: OffsetRange = offsetRanges(TaskContext.get.partitionId)
println(s"${o.topic} ${o.partition} ${o.fromOffset} ${o.untilOffset}")
}
println(rdd.count())
println(offsetRanges)
// 手动提交offset ，前提是禁止自动提交
messages.asInstanceOf[CanCommitOffsets].commitAsync(offsetRanges)
}
// A.-("rdd1")
})
// 启动流
ssc.start()
ssc.awaitTermination()
}
def getLastOffsets(kafkaParams : Map[String, Object],topics:Set[String]): Map[TopicPartition, Long] ={
val props = new Properties()
props.putAll(kafkaParams.asJava)
val consumer = new KafkaConsumer[String, String](props)
consumer.subscribe(topics.asJavaCollection)
paranoidPoll(consumer)
val map = consumer.assignment().asScala.map { tp =>
println(tp+"---" +consumer.position(tp))
tp -> (consumer.position(tp))
}.toMap
println(map)
consumer.close()
map
}
def paranoidPoll(c: Consumer[String, String]): Unit = {
val msgs = c.poll(0)
if (!msgs.isEmpty) {
// position should be minimum offset per topicpartition
msgs.asScala.foldLeft(Map[TopicPartition, Long]()) { (acc, m) =>
val tp = new TopicPartition(m.topic, m.partition)
val off = acc.get(tp).map(o => Math.min(o, m.offset)).getOrElse(m.offset)
acc + (tp -> off)
}.foreach { case (tp, off) =>
c.seek(tp, off)
}
}
}
}标签：String,val,offset,tp,streaming,offsetRanges,spark 来源： https://blog.51cto.com/15127544/2659825
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。