1. 程式人生 > >大數據data開發有哪些好的輔助工具?

大數據data開發有哪些好的輔助工具?

擴展 mysql provide 通用 cas 進一步 l數據庫 bigtable nosql

作為一個程序員開發工具好比是人的手和腳,只有把這些開發工具用好,才能做好一個產品的需求。大多使用SQL數據庫存儲/檢索數據,如今很多情況下,它都不再能滿足我們的需求。下面小編就介紹一些大數據data開發常用的輔助工具。 大數據開發工具

開源企業搜索平臺:Solr
用Java編寫,來自Apache Lucene項目。Solr是一個獨立的企業級搜索應用服務器,它對外提供類似於Web-service的API接口。用戶可以通過http請求,向搜索引擎服務器提交一定格式的XML文件,生成索引;也可以通過Http Get操作提出查找請求,並得到XML格式的返回結果。
與ElasticSearch一樣,同樣是基於Lucene,但它對其進行了擴展,提供了比Lucene更為豐富的查詢語言,同時實現了可配置、可擴展並對查詢性能進行了優化。

雲構建的分布式RESTful搜索引擎:Elasticsearch
ElasticSearch是基於Lucene的搜索服務器。它提供了分布式多用戶能力的全文搜索引擎,基於RESTful web接口。Elasticsearch是用Java開發的,並作為Apache許可條款下的開放源碼發布,是比較流行的企業級搜索引擎。
ElasticSearch不僅是一個全文本搜索引擎,還是一個分布式實時文檔存儲,其中每個field均是被索引的數據且可被搜索;也是一個帶實時分析功能的分布式搜索引擎,並且能夠擴展至數以百計的服務器存儲及處理PB級的數據。ElasticSearch在底層利用Lucene完成其索引功能,因此其許多基本概念源於Lucene。
開源分布式數據庫管理系統:Cassandra—
最初是由Facebook開發的,旨在處理許多商品服務器上的大量數據,提供高可用性,沒有單點故障。
開源分布式NoSQL數據庫系統:Apache Cassandra
集Google BigTable的數據模型與Amazon Dynamo的完全分布式架構於一身。於2008開源,此後,由於Cassandra良好的可擴展性,被Digg、Twitter等Web 2.0網站所采納,成為了一種流行的分布式結構化數據存儲方案。
因Cassandra是用Java編寫的,所以理論上在具有JDK6及以上版本的機器中都可以運行,官方測試的JDK還有OpenJDK 及Sun的JDK。 Cassandra的操作命令,類似於我們平時操作的關系數據庫,對於熟悉MySQL的朋友來說,操作會很容易上手。
跨平臺的,面向文檔的數據庫:MongoDB
MongoDB是一個基於分布式文件存儲的數據庫,使用C++語言編寫。旨在為Web應用提供可擴展的高性能數據存儲解決方案。應用性能高低依賴於數據庫性能,MongoDB則是非關系數據庫中功能最豐富,最像關系數據庫的,隨著MongDB 3.4版本發布,其應用場景適用能力得到了進一步拓展。
MongoDB的核心優勢就是靈活的文檔模型、高可用復制集、可擴展分片集群。你可以試著從幾大方面了解MongoDB,如實時監控MongoDB工具、內存使用量和頁面錯誤、連接數、數據庫操作、復制集等。
開源(BSD許可)內存數據結構存儲:Redis 用作數據庫,緩存和消息代理。
Redis是一個開源的使用ANSI C語言編寫的、支持網絡、可基於內存亦可持久化的日誌型、Key-Value數據庫,並提供多種語言的API。Redis 有三個主要使其有別於其它很多競爭對手的特點:Redis是完全在內存中保存數據的數據庫,使用磁盤只是為了持久性目的; Redis相比許多鍵值數據存儲系統有相對豐富的數據類型; Redis可以將數據復制到任意數量的從服務器中。
基於Java的開源內存數據網格:Hazelcast
Hazelcast 是一種內存數據網格 in-memory data grid,提供Java程序員關鍵任務交易和萬億級內存應用。雖然Hazelcast沒有所謂的‘Master’,但是仍然有一個Leader節點(the oldest member),這個概念與ZooKeeper中的Leader類似,但是實現原理卻完全不同。同時,Hazelcast中的數據是分布式的,每一個member持有部分數據和相應的backup數據,這點也與ZooKeeper不同。
Hazelcast的應用便捷性深受開發者喜歡,但如果要投入使用,還需要慎重考慮。
廣泛使用的開源Java分布式緩存:EHCache主要面向通用緩存、Java EE和輕量級容器。
EhCache 是一個純Java的進程內緩存框架,具有快速、精幹等特點,是Hibernate中默認的CacheProvider。主要特性有:快速簡單,具有多種緩存策略;緩存數據有兩級,內存和磁盤,因此無需擔心容量問題;緩存數據會在虛擬機重啟的過程中寫入磁盤;可以通過RMI、可插入API等方式進行分布式緩存;具有緩存和緩存管理器的偵聽接口;支持多緩存管理器實例,以及一個實例的多個緩存區域;提供Hibernate的緩存實現。
用Java編寫的開源軟件框架,用於分布式存儲,並對非常大的數據集進行分布式處理:Hadoop
用戶可以在不了解分布式底層細節的情況下,開發分布式程序。充分利用集群進行高速運算和存儲。Hadoop實現了一個分布式文件系統(Hadoop Distributed File System),簡稱HDFS。Hadoop的框架最核心的設計就是:HDFS和MapReduce。HDFS為海量的數據提供了存儲,MapReduce則為海量的數據提供了計算。
很多初學者,對大數據的概念都是模糊不清的,大數據是什麽,能做什麽,學的時候,該按照什麽線路去學習,學完往哪方面發展,想深入了解,想學習的同學歡迎加入大數據學習qq群:458345782,有大量幹貨(零基礎以及進階的經典實戰)分享給大家,並且有清華大學畢業的資深大數據講師給大家免費授課,給大家分享目前國內最完整的大數據高端實戰實用學習流程體系。

大數據data開發有哪些好的輔助工具?