1. 程式人生 > >用JAVA如何實現每天1億條記錄的資料儲存,資料庫方面怎麼設計?

用JAVA如何實現每天1億條記錄的資料儲存,資料庫方面怎麼設計?

一天秒數:60*60*24=86,400秒

每天寫入資料量:100,000,000條

平均每秒寫入資料量:100,000,000/86,400=1157.5條

峰值每秒估算寫入數:1157.5*10=11575條

因此建議從以下幾個層面處理

1、資料庫伺服器磁碟採用高速SSD磁碟

2、資料庫採用2個節點的叢集方式部署,每個叢集節點3臺伺服器,1主2備,主資料庫為寫資料庫,備資料庫為讀資料,採用讀寫分離,單叢集節點內主備庫資料實時同步,叢集節點主庫資料實時同步

3、資料表設計採用分割槽、分表方式設計表結構

4、資料寫入採用單事務批量寫入的方法新增資料

5、在關鍵欄位建立索引,提高查詢效率

6、第一次查詢後將資料快取到redis中,方便下次查詢