案例二中已經詳細的通過圖和介紹詳細的說明了在Spark叢集中根據ip地址計算歸屬地並將結果儲存到mysql資料庫中的執行流程，下面就來做具體的實現

現在的環境就如案例二中說的一樣，ip地址規則是儲存在Driver端的機器磁碟中，而日誌檔案是儲存在hdfs中，所以現在需要首先在Driver端拿到ip地址規則，然後通過廣播變數使Executor端能夠拿到ip地址規則，然後取出hdfs中的日誌檔案，將日誌檔案進行切分整理，與ip地址規則進行匹配，最後將結果儲存到mysql資料庫中

1.具體程式碼實現

package cn.ysjh0014

import java.sql.{Connection, DriverManager, PreparedStatement}

import org.apache.spark.broadcast.Broadcast
import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}

object IpLocation1 {

  def main(args: Array[String]): Unit = {
    val conf = new SparkConf().setAppName("IpLoaction1").setMaster("local[4]")

    val sc = new SparkContext(conf)

    //在Driver端獲取到全部的IP規則資料（全部的IP規則資料跟Driver在同一臺機器上）
    val rules: Array[(Long, Long, String)] = TestIp.readRules(args(0))

    //將Drive端的資料廣播到Executor中,呼叫sc上的廣播方法,廣播變數的引用（還在Driver端）
    val broadcastRef: Broadcast[Array[(Long, Long, String)]] = sc.broadcast(rules)

    //建立RDD，讀取訪問日誌
    val accessLines: RDD[String] = sc.textFile(args(1))

    //這個函式是在哪一端定義的？（Driver）
    val func = (line: String) => {
      val fields = line.split("[|]") //根據|進行切分
      val ip = fields(1) //取出切分後文件中的ip
      //將ip轉換成十進位制
      val ipNum = TestIp.ip2Long(ip)
      //進行二分法查詢，通過Driver端的引用或取到Executor中的廣播變數
      //（該函式中的程式碼是在Executor中別調用執行的，通過廣播變數的引用，就可以拿到當前Executor中的廣播的規則了）
      val rulesInExecutor: Array[(Long, Long, String)] = broadcastRef.value
      //查詢
      var province = "未知"
      val index = TestIp.binarySearch(rulesInExecutor, ipNum)
      if (index != -1) {
        province = rulesInExecutor(index)._3
      }
      (province, 1)
    }

    //整理資料
    val proviceAndOne: RDD[(String, Int)] = accessLines.map(func)

    //聚合
    val reduced: RDD[(String, Int)] = proviceAndOne.reduceByKey(_ + _)


    def data2MySQL(it: Iterator[(String, Int)]): Unit = {
      //一個迭代器代表一個分割槽，分割槽中有多條資料
      //先獲得一個JDBC連線
      val conn: Connection = DriverManager.getConnection("jdbc:mysql://localhost:3306/bigdata?characterEncoding=UTF-8", "root", "root")
      //將資料通過Connection寫入到資料庫
      val pstm: PreparedStatement = conn.prepareStatement("INSERT INTO access_log VALUES (?, ?)")
      //將分割槽中的資料一條一條寫入到MySQL中
      it.foreach(tp => {
        pstm.setString(1, tp._1)
        pstm.setInt(2, tp._2)
        pstm.executeUpdate()
      })
      //將分割槽中的資料全部寫完之後，在關閉連線
      if (pstm != null) {
        pstm.close()
      }
      if (conn != null) {
        conn.close()
      }
    }

    reduced.foreachPartition(it => data2MySQL(it))


    //將結果列印
    //    val r = reduced.collect()

    //    reduced.saveAsTextFile(args(2))
    //    println(r.toBuffer)

    sc.stop()


  }
}
 

2.在mysql資料庫中建立bigdata資料庫，然後建立access_log表，在表中新增兩個欄位

3.執行結果：

注意：        程式碼在執行的時候如果報連線資料庫錯誤的話，要不就是資料庫配置寫錯了(使用者名稱，密碼等)，要不就是沒有匯入mysql驅動包，可以在pom檔案中加入以下依賴：

<dependency>
      <groupId>mysql</groupId>
      <artifactId>mysql-connector-java</artifactId>
      <version>5.1.46</version>
</dependency>
 

這裡的mysql驅動包的版本不能低，我的windows下的mysql是8.0.12的，之前我新增的依賴版本是5.1.38的就一直報錯連線不上資料庫，很坑。。。。。。。