這篇文章給大家介紹spark中怎么實現(xiàn)二次排序，內容非常詳細，感興趣的小伙伴們可以參考借鑒，希望對大家能有所幫助。

專注于為中小企業(yè)提供成都網站設計、成都網站制作服務,電腦端+手機端+微信端的三站合一,更高效的管理,為中小企業(yè)昭蘇免費做網站提供優(yōu)質的服務。我們立足成都，凝聚了一批互聯(lián)網行業(yè)人才，有力地推動了超過千家企業(yè)的穩(wěn)健成長，幫助中小企業(yè)通過網站建設實現(xiàn)規(guī)模擴充和轉變。

import org.apache.spark._ 
import SparkContext._ 
object SecondarySort {
  def main(args: Array[String]) {
    val sparkConf = new SparkConf().setAppName(" Secondary Sort ")
    sparkConf.set("mapreduce.framework.name", "yarn");
        sparkConf.set("spark.rdd.compress", "true");
        sparkConf.set("spark.serializer","org.apache.spark.serializer.KryoSerializer");
        sparkConf.set("spark.storage.memoryFraction", "0.5");
        sparkConf.set("spark.akka.frameSize", "100");
        sparkConf.set("spark.default.parallelism", "1"); 
    val sc = new SparkContext(sparkConf)
    val file = sc.textFile("hdfs://namenode:9000/test/secsortdata")
    val rdd = file.map(line => line.split("\t")).
      map(x => (x(0),x(1))).groupByKey().
      sortByKey(true).map(x => (x._1,x._2.toList.sortWith(_>_)))
    val rdd2 = rdd.flatMap{
      x =>
      val len = x._2.length
      val array = new Array[(String,String)](len)
      for(i <- 0 until len) {
        array(i) = (x._1,x._2(i))
      }
      array  
    }
    sc.stop()
  }
}

關于spark中怎么實現(xiàn)二次排序就分享到這里了，希望以上內容可以對大家有一定的幫助，可以學到更多知識。如果覺得文章不錯，可以把它分享出去讓更多的人看到。

文章題目：spark中怎么實現(xiàn)二次排序
網頁地址：http://chinadenli.net/article6/gjdhig.html

成都網站建設公司_創(chuàng)新互聯(lián)，為您提供云服務器、ChatGPT、網站設計、企業(yè)建站、做網站、外貿建站

廣告

聲明：本網站發(fā)布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創(chuàng)新互聯(lián)