1. 程式人生 > >畢設開發日誌2017-10-29

畢設開發日誌2017-10-29

res 實驗 java gpa 軟考 進度 mount 基本 onf

【工作內容】

  27日進度檢查之後依然按照原計劃,一邊上傳數據,一邊開發前端頁面。但是28日上午十一點左右出現了問題。於是開始著手解決問題,直到現在(2017-10-29 12:36)。

【解決過程】

  1.問題描述:在數據上傳到2016-04.csv中第438605條數據(即2016-04-13 00:00:00,青島,四方區子站)時報錯,截圖如下

技術分享

然後在服務器中查看jps,提示Java HotSpot(TM) 64-Bit Server VM warning: Insufficient space for shared memory file

然後輸入 df -h 查看磁盤,發現有個主分區滿了,確定是磁盤滿的問題。

技術分享

  2.解決過程

  1)首先想到的是磁盤擴容,在VMware的設置界面為虛擬機擴展40G的存儲空間,然後發現這些空間並沒有被服務器使用到,於是準備參照這篇博客進行gparted工具安裝來進行擴容,然後發現yum無法安裝gparted。然後嘗試更新了yum,或是直接下載安裝鏡像均無法安裝。

  2)然後參考第二篇博客,嘗試lvm方式擴充主分區。但是在新建分區之後發現lvm的pv變量中找不到原有分區,原因是原有分區已經使用了,除非格式化之後再新建pv,但這樣數據就都沒了,所以這條路也斷了。

  3)最後參照第三篇以及第四篇博客,把新建分區掛載在目錄下面。成功之後磁盤信息如下

技術分享

然後啟動hadoop成功,啟動hbase成功。但是進入hbase的shell時失敗,提示server is not running yet。查看日誌發現提示

Space available on volume ‘/dev/sda3‘ is 60616704, which is below the configured reserved amount 104857600

hbase沒有識別新加進來的sda4分區。

【疑惑之處】

  昨天到最後已經淩晨兩點了,自信心和意誌力都嚴重不足,今天中午決定先寫日誌,仍有憤憤不平之意。我覺得做大數據,一定會遇到磁盤空間不足的情況,加一塊硬盤,加一個從節點服務器都是很正常的情況,為啥我的就不行呢?雖然我的是偽分布式,可是我加一個分區道理是一樣的啊。

【暫行解決方案】

  1.對現有虛擬機做備份。記錄問題留待以後解決。

  2.新建虛擬機,先做好lvm配置,做一個磁盤擴容的實驗,實驗成功之後再配置hadoop以及hbase。

  3.後續計劃就是先傳三個月的數據,先只用這三個月的數據來做後端,然後空閑時間包括晚上睡覺的時候傳數據。

【生活感悟】

  1.心情很低落,但是寫完這篇日誌的時候已經恢復了,沒關系,程序員就是這樣不斷的試錯,不斷的成長,抗壓能力蹭蹭的長。然後這個過程自己也學到了很多,畢竟之前對Linux啥也不懂,這一套下來對Linux分區有了更加直觀了理解。

  2.最近真的是比較辛苦,基本都是12點回宿舍,甚至在畢設室通宵了兩次,但是沒想到自己的進度還是落下了,雖然不服氣吧,但是努力的跑吧,給自己加加油。

  3.關於找工作的事情想說一句。看著別人簽了工作自己當然也眼紅,但是發現每次去面試,跑招聘會,不僅浪費了大量的時間和精力,而且還特別打亂自己的節奏,而且現在自己的理論方面不算很強,有時候自己在編程的時候理解,但是自己往出說又說不出來,所以面試效果差,也影響了自己的心情。覺得還是先安安心心做畢設吧,忙完畢設把java理論上的東西再鞏固一下再去面試。

  4.距離軟考也只剩一周左右的時間了,距離六級考試也只有不足一個月的時間了,是時候抓緊時間準備一下了。這一周準備把軟考刷題作為工作重心。

畢設開發日誌2017-10-29