标签:val streaming import apache org spark DS
package com.shujia.spark.streaming import org.apache.spark.SparkContext import org.apache.spark.rdd.RDD import org.apache.spark.sql.SparkSession import org.apache.spark.streaming.{Durations, StreamingContext} import org.apache.spark.streaming.dstream.{DStream, ReceiverInputDStream} object Demo3RDDToDS { def main(args: Array[String]): Unit = { val spark: SparkSession = SparkSession.builder() .appName("streaming") .master("local[2]") .config("spark.sql.shuffle.partitions", 1) .getOrCreate() import spark.implicits._ import org.apache.spark.sql.functions._ val sc: SparkContext = spark.sparkContext /** * 创建streaming 上下文对象,指定batch的间隔时间,多久计算一次 * */ val ssc = new StreamingContext(sc, Durations.seconds(5)) val linesDS: ReceiverInputDStream[String] = ssc.socketTextStream("master", 8888) /** * transform: 将ds 转换成rdd ,将将rdd转换成ds * */ val ds1: DStream[(String, Int)] =linesDS.transform(rdd => { val resultRDD: RDD[(String, Int)] = rdd.flatMap(_.split(",")) .map((_, 1)) .reduceByKey(_ + _) //返回一个新的RDD resultRDD }) ds1.print() //启动spark streaming ssc.start() ssc.awaitTermination() ssc.stop() } }
标签:val,streaming,import,apache,org,spark,DS 来源: https://www.cnblogs.com/lipinbigdata/p/15058229.html
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。