小編給大家分享一下怎么用Eclipse開(kāi)發(fā)Spark2.0，相信大部分人都還不怎么了解，因此分享這篇文章給大家參考一下，希望大家閱讀完這篇文章后大有收獲，下面讓我們一起去了解一下吧！

成都創(chuàng)新互聯(lián)主要從事成都做網(wǎng)站、網(wǎng)站建設(shè)、網(wǎng)頁(yè)設(shè)計(jì)、企業(yè)做網(wǎng)站、公司建網(wǎng)站等業(yè)務(wù)。立足成都服務(wù)宿州,10多年網(wǎng)站建設(shè)經(jīng)驗(yàn),價(jià)格優(yōu)惠、服務(wù)專(zhuān)業(yè),歡迎來(lái)電咨詢(xún)建站服務(wù):13518219792

1.首先我用的是scala版本的ide.  這個(gè)可以去官網(wǎng)下載。先介紹下我的版本：hadoop2.7.2+spark2.0+scala2.11+java1.7

首先打開(kāi)eclipse，設(shè)置好workspace后，就能開(kāi)始開(kāi)發(fā)了

2.新建scala Project   .起個(gè)項(xiàng)目的名字

3.新建個(gè)scala object   .開(kāi)始寫(xiě)代碼

注意需要導(dǎo)入相關(guān)的包。主要有scala的包還有spark的包，spark需要的包主要在spark安裝目錄下的jar文件下的所有包

4.廢話(huà)少說(shuō)，直接上代碼

object TestSparkStreaming {
  def main(args: Array[String]): Unit = {
    import org.apache.spark._
    import org.apache.spark.streaming._
    import org.apache.spark.streaming.StreamingContext._ // not necessary since Spark 1.3

    // Create a local StreamingContext with two working thread and batch interval of 1 second.
    // The master requires 2 cores to prevent from a starvation scenario.

    val conf = new SparkConf().setMaster("local[2]").setAppName("NetworkWordCount")
    val ssc = new StreamingContext(conf, Seconds(5))

   val lines = ssc.socketTextStream("master", 9999)
   // val lines = ssc.textFileStream("/home/usr/temp/")
    val words = lines.flatMap(_.split(" "))

    import org.apache.spark.streaming.StreamingContext._ // not necessary since Spark 1.3
    // Count each word in each batch
    val pairs = words.map(word => (word, 1))
    val wordCounts = pairs.reduceByKey(_ + _)

    // Print the first ten elements of each RDD generated in this DStream to the console
    wordCounts.print()

    ssc.start() // Start the computation
    ssc.awaitTermination()

  }
}

5.在linux  終端連上9999端口   nc-lk  9999

輸入一些單詞

6.可以看到eclipse的控制臺(tái)會(huì)輸出結(jié)果

以上是“怎么用Eclipse開(kāi)發(fā)Spark2.0”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對(duì)大家有所幫助，如果還想學(xué)習(xí)更多知識(shí)，歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道！

本文題目：怎么用Eclipse開(kāi)發(fā)Spark2.0
文章來(lái)源：http://chinadenli.net/article36/gppjpg.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站制作、外貿(mào)建站、網(wǎng)站導(dǎo)航、定制網(wǎng)站、動(dòng)態(tài)網(wǎng)站、App設(shè)計(jì)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話(huà)：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)