首頁>Club>
14
回覆列表
  • 1 # 風火0357

    關係資料庫管理系統(RDBMS)(自行收藏)

    框架

    分散式程式設計

    分散式檔案系統

    檔案資料模型

    Key -Map 資料模型

    鍵-值資料模型

    圖形資料模型

    NewSQL資料庫

    列式資料庫

    時間序列資料庫

    類SQL處理

    資料攝取

    服務程式設計

    排程

    機器學習

    基準測試

    安全性

    系統部署

    應用程式

    搜尋引擎與框架

    MySQL的分支和演化

    PostgreSQL的分支和演化

    Memcached的分支和演化

    嵌入式資料庫

    商業智慧

    資料視覺化

    物聯網和感測器

    文章

    論文

    影片

    有一句話叫做三人行必有我師,其實做為一個開發者,有一個學習的氛圍

    跟一個交流圈子特別重要這是一個我的大資料交流學習群531629188

    ,大家一起交流學習,話糙理不糙,互相學習,共同進步,一起加油吧。

    關係資料庫管理系統(RDBMS)

    MySQL:世界最流行的開源資料庫;

    PostgreSQL:世界最先進的開源資料庫;

    Oracle 資料庫:物件-關係型資料庫管理系統。

    框架

    Apache Hadoop:分散式處理架構,結合了 MapReduce(並行處理)、YARN(作業排程)和HDFS(分散式檔案系統);

    Tigon:高吞吐量實時流處理框架。

    分散式程式設計

    AddThis Hydra:最初在AddThis上開發的分散式資料處理和儲存系統;

    AMPLab SIMR:用在Hadoop MapReduce v1上執行Spark;

    Apache Beam:為統一的模型以及一套用於定義和執行資料處理工作流的特定SDK語言;

    Apache Crunch:一個簡單的Java API,用於執行在普通的MapReduce實現時比較單調的連線、資料聚合等任務;

    Apache DataFu:由LinkedIn開發的針對Hadoop and 和Pig的使用者定義的函式集合;

    Apache Flink:具有高效能的執行時間和自動程式最佳化;

    Apache Gora:記憶體中的資料模型和永續性框架;

    Apache Hama:BSP(整體同步並行)計算框架;

    Apache MapReduce:在叢集上使用並行、分散式演算法處理大資料集的程式設計模型;

    Apache Pig:Hadoop中,用於處理資料分析程式的高階查詢語言;

    Apache REEF:用來簡化和統一低層大資料系統的保留性評估執行框架;

    Apache S4:S4中流處理與實現的框架;

    Apache Spark:記憶體叢集計算框架;

    Apache Spark Streaming:流處理框架,同時是Spark的一部分;

    Apache Storm:Twitter流處理框架,也可用於YARN;

    Apache Samza:基於Kafka和YARN的流處理框架;

    Apache Tez:基於YARN,用於執行任務中的複雜DAG(有向無環圖);

    Apache Twill:基於YARN的抽象概念,用於減少開發分散式應用程式的複雜度;

    Cascalog:資料處理和查詢庫;

    Cheetah:在MapReduce之上的高效能、自定義資料倉庫;

    Concurrent Cascading:在Hadoop上的資料管理/分析框架;

    Damballa Parkour:用於Clojure的MapReduce庫;

    Datasalt Pangool:可選擇的MapReduce範例;

    DataTorrent StrAM:為實時引擎,用於以儘可能暢通的方式、最小的開支和對效能最小的影響,實現分散式、非同步、實時的記憶體大資料計算;

    Facebook Corona:為Hadoop做最佳化處理,從而消除單點故障;

    Facebook Peregrine:MapReduce框架;

    Facebook Scuba:分散式記憶體資料儲存;

    Google Dataflow:建立資料管道,以幫助其分析框架;

    Netflix PigPen:為MapReduce,用於編譯成Apache Pig;

    Nokia Disco:由Nokia開發的MapReduc獲取、轉換和分析資料;

    Google MapReduce:MapReduce框架;

    Google MillWheel:容錯流處理框架;

    JAQL:用於處理結構化、半結構化和非結構化資料工作的宣告性程式語言;

    Kite:為一組庫、工具、例項和文件集,用於使在Hadoop的生態系統上建立系統更加容易;

    Metamarkets Druid:用於大資料集的實時e框架;

    Onyx:分散式雲計算;

    Pinterest Pinlater:非同步任務執行系統;

    Pydoop:用於Hadoop的Python MapReduce和HDFS API;

    Rackerlabs Blueflood:多租戶分散式測度處理系統;

    Stratosphere:通用叢集計算框架;

    Streamdrill:用於計算基於不同時間視窗的事件流的活動,並找到最活躍的一個;

    Tuktu:易於使用的用於分批處理和流計算的平臺,透過Scala、 Akka和Play所建;

    Twitter Scalding:基於Cascading,用於Map Reduce工作的Scala庫;

    Twitter Summingbird:在Twitter上使用Scalding和Storm串流MapReduce;

    Twitter TSAR:Twitter上的時間序列聚合器。

    分散式檔案系統

    Apache HDFS:在多臺機器上儲存大型檔案的方式;

    BeeGFS:以前是FhGFS,並行分散式檔案系統;

    Ceph Filesystem:設計的軟體儲存平臺;

    Disco DDFS:分散式檔案系統;

    Facebook Haystack:物件儲存系統;

    Google Colossus:分散式檔案系統(GFS2);

    Google GFS:分散式檔案系統;

    Google Megastore:可擴充套件的、高度可用的儲存;

    GridGain:相容GGFS、Hadoop記憶體的檔案系統;

    Lustre file system:高效能分散式檔案系統;

    Quantcast File System QFS:開源分散式檔案系統;

    Red Hat GlusterFS:向外擴充套件的附網儲存(Network-attached Storage)檔案系統;

    Seaweed-FS:簡單的、高度可擴充套件的分散式檔案系統;

    Alluxio:以可靠的儲存速率在跨叢集框架上檔案共享;

    Tahoe-LAFS:分散式雲端儲存系統;

    檔案資料模型

    Actian Versant:商用的面向物件資料庫管理系統;

    Crate Data:是一個開源的大規模可擴充套件的資料儲存,需要零管理模式;

    Facebook Apollo:Facebook的Paxos演算法,類似於NoSQL資料庫;

    jumboDB:基於Hadoop的面向文件的資料儲存;

    LinkedIn Espresso:可橫向擴充套件的面向文件的NoSQL資料儲存;

    MarkLogic:模式不可知的企業版NoSQL資料庫技術;

    MongoDB:面向文件的資料庫系統;

    RavenDB:一個事務性的,開源文件資料庫;

    RethinkDB:支援連線查詢和群組依據等查詢的文件型資料庫。

    Key Map 資料模型

    注意:業記憶體在一些術語混亂,有兩個不同的東西都叫做“列式資料庫”。這裡列出的有一些是圍繞“key-map”資料模型而建的分散式、持續型資料庫,其中所有的資料都有(可能綜合了)鍵,並與對映中的鍵-值對相關聯。在一些系統中,多個這樣的值對映可以與鍵相關聯,並且這些對映被稱為“列族”(具有對映值的鍵被稱為“列”)。

    另一組也可稱為“列式資料庫”的技術因其儲存資料的方式而有別於前一組,它在磁碟上或在儲存器中——而不是以傳統方式,即所有既定鍵的鍵值都相鄰著、逐行儲存。這些系統也彼此相鄰來儲存所有列值,但是要得到給定列的所有值卻不需要以前那麼繁複的工作。

    Apache Accumulo:內建在Hadoop上的分散式鍵/值儲存;

    Apache Cassandra:由BigTable授權,面向列的分散式資料儲存;

    Apache HBase:由BigTable授權,面向列的分散式資料儲存;

    Facebook HydraBase:Facebook所開發的HBase的衍化品;

    Google BigTable:面向列的分散式資料儲存;

    Google Cloud Datastore:為完全管理型的無模式資料庫,用於儲存在BigTable上非關係型資料;

    Hypertable:由BigTable授權,面向列的分散式資料儲存;

    InfiniDB:透過MySQL的介面訪問,並使用大規模並行處理進行並行查詢;

    Tephra:用於HBase處理;

    Twitter Manhattan:Twitter的實時、多租戶分散式資料庫。

    鍵-值資料模型

    Aerospike:支援NoSQL的快閃記憶體最佳化,資料儲存在記憶體。開源,“’C’(不是Java或Erlang)中的伺服器程式碼可精確地調整從而避免上下文切換和記憶體複製”。

    Amazon DynamoDB:分散式鍵/值儲存,Dynamo論文的實現;

    Edis:為替代Redis的協議相容的伺服器;

    ElephantDB:專門研究Hadoop中資料匯出的分散式資料庫;

    EventStore:分散式時間序列資料庫;

    GridDB:適用於儲存在時間序列中的感測器資料;

    LinkedIn Krati:簡單的永續性資料儲存,擁有低延遲和高吞吐量;

    Linkedin Voldemort:分散式鍵/值儲存系統;

    Oracle NoSQL Database:Oracle公司開發的分散式鍵值資料庫;

    Redis:記憶體中的鍵值資料儲存;

    Riak:分散式資料儲存;

    Storehaus:Twitter開發的非同步鍵值儲存的庫;

    Tarantool:一個高效的NoSQL資料庫和Lua應用伺服器;

    TiKV:由Google Spanner和HBase授權,Rust提供技術支援的分散式鍵值資料庫;

    TreodeDB:可複製、共享的鍵-值儲存,能提供多行原子寫入。

    圖形資料模型

    Apache Giraph:基於Hadoop的Pregel實現;

    Apache Spark Bagel:可實現Pregel,為Spark的一部分;

    ArangoDB:多層模型分散式資料庫;

    DGraph:一個可擴充套件的、分散式、低時延、高吞吐量的圖形資料庫,旨在為Google生產水平規模和吞吐量提供足夠的低延遲,用於TB級的結構化資料的實時使用者查詢;

    Facebook TAO:TAO是facebook廣泛用來儲存和服務於社交圖形的分散式資料儲存;

    GCHQ Gaffer:GCHQ中的Gaffer是一個易於儲存大規模圖形的框架,其中節點和邊緣都有統計資料;

    Google Cayley:開源圖形資料庫;

    Google Pregel:圖形處理框架;

    GraphLab PowerGraph:核心C ++ GraphLab API和建立在GraphLab API之上的高效能機器學習和資料探勘工具包的集合;

    GraphX:Spark中的彈性分散式圖形系統;

    Gremlin:圖形追蹤語言;

    Infovore:以RDF為中心的Map / Reduce框架;

    Intel GraphBuilder:在Hadoop上構建大規模圖形的工具;

    MapGraph:用於在GPU上大規模並行圖形處理;

    Neo4j:完全用Java寫入的圖形資料庫;

    OrientDB:文件和圖形資料庫;

    Phoebus:大型圖形處理框架;

    Titan:建於Cassandra的分散式圖形資料庫;

    Twitter FlockDB:分散式圖形資料庫。

    NewSQL資料庫

    Actian Ingres:由商業支援,開源的SQL關係資料庫管理系統;

    Amazon RedShift:基於PostgreSQL的資料倉庫服務;

    BayesDB:面向統計數值的SQL資料庫;

    CitusDB:透過分割槽和複製橫向擴充套件PostgreSQL;

    Cockroach:可擴充套件、地址可複製、交易型的資料庫;

    Datomic:旨在產生可擴充套件、靈活的智慧應用的分散式資料庫;

    FoundationDB:由F1授意的分散式資料庫;

    Google F1:建立在Spanner上的分散式SQL資料庫;

    Google Spanner:全球性的分散式半關係型資料庫;

    H-Store:是一個實驗性主存並行資料庫管理系統,用於聯機事務處理(OLTP)應用的最佳化;

    Haeinsa:基於Percolator,HBase的線性可擴充套件多行多表交易庫;

    HandlerSocket:MySQL/MariaDB的NoSQL外掛;

    InfiniSQL:無限可擴充套件的RDBMS;

    MemSQL:記憶體中的SQL資料庫,其中有最佳化的快閃記憶體列儲存;

    NuoDB:SQL / ACID相容的分散式資料庫;

    Oracle TimesTen in-Memory Database:記憶體中具有永續性和可恢復性的關係型資料庫管理系統;

    Pivotal GemFire XD:記憶體中低延時的分散式SQL資料儲存,可為記憶體列表資料提供SQL介面,在HDFS中較持久化;

    SAP HANA:是在記憶體中面向列的關係型資料庫管理系統;

    SenseiDB:分散式實時半結構化的資料庫;

    Sky:用於行為資料的靈活、高效能分析的資料庫;

    SymmetricDS:用於檔案和資料庫同步的開源軟體;

    Map-D:為GPU記憶體資料庫,也為大資料分析和視覺化平臺;

    TiDB:TiDB是分散式SQL資料庫,基於谷歌F1的設計靈感;

    VoltDB:自稱為最快的記憶體資料庫。

    列式資料庫

    注意:請在鍵-值資料模型閱讀相關注釋。

    Columnar Storage:解釋什麼是列儲存以及何時會需要用到它;

    Actian Vector:面向列的分析型資料庫;

    C-Store:面向列的DBMS;

    MonetDB:列儲存資料庫;

    Parquet:Hadoop的列儲存格式;

    Pivotal Greenplum:專門設計的、專用的分析資料倉庫,類似於傳統的基於行的工具,提供了一個列式工具;

    Vertica:用來管理大規模、快速增長的大量資料,當用於資料倉庫時,能夠提供非常快的查詢效能;

    Google BigQuery:谷歌的雲產品,由其在Dremel的創始工作提供支援;

    Amazon Redshift:亞馬遜的雲產品,它也是基於柱狀資料儲存後端。

    時間序列資料庫

    Cube:使用MongoDB來儲存時間序列資料;

    Axibase Time Series Database:在HBase之上的分散式時間序列資料庫,它包括內建的Rule Engine、資料預測和視覺化;

    Heroic:基於Cassandra和Elasticsearch的可擴充套件的時間序列資料庫;

    InfluxDB:分散式時間序列資料庫;

    Kairosdb:類似於OpenTSDB但會考慮到Cassandra;

    OpenTSDB:在HBase上的分散式時間序列資料庫;

    Prometheus:一種時間序列資料庫和服務監測系統;

    Newts:一種基於Apache Cassandra的時間序列資料庫。

    類SQL處理

    Actian SQL for Hadoop:高效能互動式的SQL,可訪問所有的Hadoop資料;

    Apache Drill:由Dremel授意的互動式分析框架;

    Apache HCatalog:Hadoop的表格和儲存管理層;

    Apache Hive:Hadoop的類SQL資料倉庫系統;

    Apache Optiq:一種框架,可允許高效的查詢翻譯,其中包括異構性及聯合性資料的查詢;

    Apache Phoenix:Apache Phoenix 是 HBase 的 SQL 驅動;

    Cloudera Impala:由Dremel授意的互動式分析框架;

    Concurrent Lingual:Cascading中的類SQL查詢語言;

    Datasalt Splout SQL:用於大資料集的完整的SQL查詢工具;

    Facebook PrestoDB:分散式SQL查詢工具;

    Google BigQuery:互動式分析框架,Dremel的實現;

    Pivotal HAWQ:Hadoop的類SQL的資料倉庫系統;

    RainstorDB:用於儲存大規模PB級結構化和半結構化資料的資料庫;

    Spark Catalyst:用於Spark和Shark的查詢最佳化框架;

    SparkSQL:使用Spark操作結構化資料;

    Splice Machine:一個全功能的Hadoop上的SQL RDBMS,並帶有ACID事務;

    Stinger:用於Hive的互動式查詢;

    Tajo:Hadoop的分散式資料倉庫系統;

    Trafodion:為企業級的SQL-on-HBase針對大資料的事務或業務工作負載的解決方案。

    資料攝取

    Amazon Kinesis:大規模資料流的實時處理;

    Apache Chukwa:資料採集系統;

    Apache Flume:管理大量日誌資料的服務;

    Apache Kafka:分散式釋出-訂閱訊息系統;

    Apache Sqoop:在Hadoop和結構化的資料儲存區之間傳送資料的工具;

    Cloudera Morphlines:幫助 Solr、HBase和HDFS完成ETL的框架;

    Facebook Scribe:流日誌資料聚合器;

    Fluentd:採集事件和日誌的工具;

    Google Photon:實時連線多個數據流的分散式計算機系統,具有高可擴充套件性和低延遲性;

    Heka:開源流處理軟體系統;

    HIHO:用Hadoop連線不同資料來源的框架;

    Kestrel:分散式訊息佇列系統;

    LinkedIn Databus:對資料庫更改捕獲的事件流;

    LinkedIn Kamikaze:壓縮已分類整型陣列的程式包;

    LinkedIn White Elephant:日誌聚合器和儀表板;

    Logstash:用於管理事件和日誌的工具;

    Netflix Suro:像基於Chukwa 的Storm和Samza一樣的日誌聚合器;

    Pinterest Secor:是實現Kafka日誌永續性的服務;

    Linkedin Gobblin:LinkedIn的通用資料攝取框架;

    Skizze:是一種資料儲存略圖,使用機率性資料結構來處理計數、略圖等相關的問題;

    StreamSets Data Collector:連續大資料採集的基礎設施,可簡單地使用IDE。

    服務程式設計

    Akka Toolkit:JVM中分佈性、容錯事件驅動應用程式的執行時間;

    Apache Avro:資料序列化系統;

    Apache Curator:Apache ZooKeeper的Java庫;

    Apache Karaf:在任何OSGi框架之上執行的OSGi執行時間;

    Apache Thrift:構建二進位制協議的框架;

    Apache Zookeeper:流程管理集中式服務;

    Google Chubby:一種松耦合分散式系統鎖服務;

    Linkedin Norbert:叢集管理器;

    OpenMPI:訊息傳遞框架;

    Serf:服務發現和協調的分散化解決方案;

    Spotify Luigi:一種構建批處理作業的複雜管道的Python包,它能夠處理依賴性解析、工作流管理、視覺化、故障處理、命令列一體化等等問題;

    Spring XD:資料攝取、實時分析、批次處理和資料匯出的分散式、可擴充套件系統;

    Twitter Elephant Bird:LZO壓縮資料的工作庫;

    Twitter Finagle:JVM的非同步網路堆疊。

    排程

    Apache Aurora:在Apache Mesos之上執行的服務排程程式;

    Apache Falcon:資料管理框架;

    Apache Oozie:工作流作業排程程式;

    Chronos:分散式容錯排程;

    Linkedin Azkaban:批處理工作流作業排程;

    Schedoscope:Hadoop作業敏捷排程的Scala DSL;

    Sparrow:排程平臺;

    Airflow:一個以程式設計方式編寫、排程和監控工作流的平臺。

    機器學習

    Apache Mahout:Hadoop的機器學習庫;

    brain:JavaScript中的神經網路;

    Cloudera Oryx:實時大規模機器學習;

    Concurrent Pattern:Cascading的機器學習庫;

    convnetjs:Javascript中的機器學習,在瀏覽器中訓練卷積神經網路(或普通網路);

    Decider:Ruby中靈活、可擴充套件的機器學習;

    ENCOG:支援多種先進演算法的機器學習框架,同時支援類的標準化和處理資料;

    etcML:機器學習文字分類;

    Etsy Conjecture:Scalding中可擴充套件的機器學習;

    Google Sibyl:Google中的大規模機器學習系統;

    GraphLab Create:Python的機器學習平臺,包括ML工具包、資料工程和部署工具的廣泛集合;

    H2O:Hadoop統計性的機器學習和數學執行時間;

    MLbase:用於BDAS堆疊的分散式機器學習庫;

    MLPNeuralNet:針對iOS和Mac OS X的快速多層感知神經網路庫;

    MonkeyLearn:使文字挖掘更為容易,從文字中提取分類資料;

    nupic:智慧計算的Numenta平臺,它是一個啟發大腦的機器智力平臺,基於皮質學習演算法的精準的生物神經網路;

    PredictionIO:建於Hadoop、Mahout和Cascading上的機器學習伺服器;

    SAMOA:分散式流媒體機器學習框架;

    scikit-learn:scikit-learn為Python中的機器學習;

    Spark MLlib:Spark中一些常用的機器學習(ML)功能的實現;

    Vowpal Wabbit:微軟和雅虎發起的學習系統;

    WEKA:機器學習軟體套件;

    BidMach:CPU和加速GPU的機器學習庫。

    基準測試

    Apache Hadoop Benchmarking:測試Hadoop效能的微基準;

    Berkeley SWIM Benchmark:現實大資料工作負載基準測試;

    Intel HiBench:Hadoop基準測試套件;

    PUMA Benchmarking:MapReduce應用的基準測試套件;

    Yahoo Gridmix3:雅虎工程師團隊的Hadoop叢集基準測試。

    安全性

    Apache Knox Gateway:Hadoop叢集安全訪問的單點;

    Apache Sentry:儲存在Hadoop的資料安全模組。

    系統部署

    Apache Ambari:Hadoop管理的運作框架;

    Apache Bigtop:Hadoop生態系統的部署框架;

    Apache Helix:叢集管理框架;

    Apache Mesos:叢集管理器;

    Apache Slider:一種YARN應用,用來部署YARN中現有的分散式應用程式;

    Apache Whirr:運行雲服務的庫集;

    Apache YARN:叢集管理器;

    Brooklyn:用於簡化應用程式部署和管理的庫;

    Buildoop:基於Groovy語言,和Apache BigTop類似;

    Cloudera HUE:和Hadoop進行互動的Web應用程式;

    Facebook Prism:多資料中心複製系統;

    Google Borg:作業排程和監控系統;

    Google Omega:作業排程和監控系統;

    Hortonworks HOYA:可在YARN上部署HBase叢集的應用;

    Marathon:用於長期執行服務的Mesos框架。

    應用程式

    Adobe spindle:使用Scala、Spark和Parquet處理的下一代web分析;

    Apache Kiji:基於HBase,實時採集和分析資料的框架;

    Apache Nutch:開源網路爬蟲;

    Apache OODT:用於NASA科學檔案中資料的捕獲、處理和共享;

    Apache Tika:內容分析工具包;

    Argus:時間序列監測和報警平臺;

    Countly:基於Node.js和MongoDB,開源的手機和網路分析平臺;

    Domino:執行、規劃、共享和部署模型——沒有任何基礎設施;

    Eclipse BIRT:基於Eclipse的報告系統;

    Eventhub:開源的事件分析平臺;

    Hermes:建於Kafka上的非同步訊息代理;

    HIPI Library:在Hadoop’s MapReduce上執行影象處理任務的API;

    Hunk:Hadoop的Splunk分析;

    Imhotep:大規模分析平臺;

    MADlib:RDBMS的用於資料分析的資料處理庫;

    Kylin:來自eBay的開源分散式分析工具;

    PivotalR:Pivotal HD / HAWQ和PostgreSQL中的R;

    Qubole:為自動縮放Hadoop叢集,內建的資料聯結器;

    Sense:用於資料科學和大資料分析的雲平臺;

    SnappyData:用於實時運營分析的分散式記憶體資料儲存,提供建立在Spark單一整合叢集中的資料流分析、OLTP(聯機事務處理)和OLAP(聯機分析處理);

    Snowplow:企業級網路和事件分析,由Hadoop、Kinesis、Redshift 和Postgres提供技術支援;

    SparkR:Spark的R前端;

    Splunk:用於機器生成的資料的分析;

    Sumo Logic:基於雲的分析儀,用於分析機器生成的資料;

    Talend:用於YARN、Hadoop、HBASE、Hive、HCatalog和Pig的統一開源環境;

    Warp:利用大資料(OS X app)的例項查詢工具。

    搜尋引擎與框架

    Apache Lucene:搜尋引擎庫;

    Apache Solr:用於Apache Lucene的搜尋平臺;

    ElasticSearch:基於Apache Lucene的搜尋和分析引擎;

    Facebook Unicorn:社交圖形搜尋平臺;

    Google Caffeine:連續索引系統;

    Google Percolator:連續索引系統;

    TeraGoogle:大型搜尋索引;

    HBase Coprocessor:為Percolator的實現,HBase的一部分;

    Lily HBase Indexer:快速、輕鬆地搜尋儲存在HBase的任何內容;

    LinkedIn Bobo:完全由Java編寫的分面搜尋的實現,為Apache Lucene的延伸;

    LinkedIn Cleo:為一個一個靈活的軟體庫,使得區域性、無序、實時預輸入的搜尋實現了快速發展;

    LinkedIn Galene:LinkedIn搜尋架構;

    LinkedIn Zoie:是用Java編寫的實時搜尋/索引系統;

    Sphinx Search Server:全文搜尋引擎

    MySQL的分支和演化

    Amazon RDS:亞馬遜雲的MySQL資料庫;

    Drizzle:MySQL的6.0的演化;

    Google Cloud SQL:谷歌雲的MySQL資料庫;

    MariaDB:MySQL的增強版嵌入式替代品;

    MySQL Cluster:使用NDB叢集儲存引擎的MySQL實現;

    Percona Server:MySQL的增強版嵌入式替代品;

    ProxySQL:MySQL的高效能代理;

    TokuDB:用於MySQL和 MariaDB的儲存引擎;

    WebScaleSQL:執行MySQL時面臨類似挑戰的幾家公司,它們的工程師之間的合作。

    PostgreSQL的分支和演化

    Yahoo Everest– multi-peta-byte database / MPP derived by PostgreSQL.

    HadoopDB:MapReduce和DBMS的混合體;

    IBM Netezza:高效能資料倉庫裝置;

    Postgres-XL:基於PostgreSQL,可擴充套件的開源資料庫叢集;

    RecDB:完全建立在PostgreSQL內部的開源推薦引擎;

    Stado:開源MPP資料庫系統,只針對資料倉庫和資料集市的應用程式;

    Yahoo Everest:PostgreSQL可以推導多位元組P位元資料庫/MPP。

    Memcached的分支和演化

    Facebook McDipper:快閃記憶體的鍵/值快取;

    Facebook Memcached:Memcache的分支;

    Twemproxy:Memcached和Redis的快速、輕型代理;

    Twitter Fatcache:快閃記憶體的鍵/值快取;

    Twitter Twemcache:Memcache的分支。

    嵌入式資料庫

    Actian PSQL:Pervasive Software公司開發的ACID相容的DBMS,在應用程式中嵌入了最佳化;

    BerkeleyDB:為鍵/值資料提供一個高效能的嵌入式資料庫的一個軟體庫;

    HanoiDB:Erlang LSM BTree儲存;

    LevelDB:谷歌寫的一個快速鍵-值儲存庫,它提供了從字串鍵到字串值的有序對映;

    LMDB:Symas開發的超快、超緊湊的鍵-值嵌入的式資料儲存;

    RocksDB:基於性LevelDB,用於快速儲存的嵌入式持續性鍵-值儲存。

    商業智慧

    BIME Analytics:商業智慧雲平臺;

    Chartio:精益業務智慧平臺,用於視覺化和探索資料;

    datapine:基於雲的自助服務商業智慧工具;

    Jaspersoft:功能強大的商業智慧套件;

    Jedox Palo:定製的商業智慧平臺;

    Microsoft:商業智慧軟體和平臺;

    Microstrategy:商業智慧、移動智慧和網路應用軟體平臺;

    Pentaho:商業智慧平臺;

    Qlik:商業智慧和分析平臺;

    Saiku:開源的分析平臺;

    SpagoBI:開源商業智慧平臺;

    Tableau:商業智慧平臺;

    Zoomdata:大資料分析;

    Jethrodata:互動式大資料分析。

    資料視覺化

    Airpal:用於PrestoDB的網頁UI;

    Arbor:利用網路工作者和jQuery的圖形視覺化庫;

    Banana:對儲存在Kibana中Solr. Port的日誌和時戳資料進行視覺化;

    Bokeh:一個功能強大的Python互動式視覺化庫,它針對要展示的現代web瀏覽器,旨在為D3.js風格的新奇的圖形提供優雅簡潔的設計,同時在大規模資料或流資料集中,透過高效能互動性來表達這種能力;

    C3:基於D3可重複使用的圖表庫;

    CartoDB:開源或免費增值的虛擬主機,用於帶有強大的前端編輯功能和API的地理空間資料庫;

    chartd:只帶Img標籤的反應靈敏、相容Retina的圖表;

    Chart.js:開源的HTML5圖表視覺化效果;

    Chartist.js:另一個開源HTML5圖表視覺化效果;

    Crossfilter:JavaScript庫,用於在瀏覽器中探索多元大資料集,用Dc.js和D3.js.效果很好;

    Cubism:用於時間序列視覺化的JavaScript庫;

    Cytoscape:用於視覺化複雜網路的JavaScript庫;

    DC.js:維度圖表,和Crossfilter一起使用,透過D3.js呈現出來,它比較擅長連線圖表/附加的元資料,從而徘徊在D3的事件附近;

    D3:操作檔案的JavaScript庫;

    D3.compose:從可重複使用的圖表和元件構成複雜的、資料驅動的視覺化;

    D3Plus:一組相當強大的可重用的圖表,還有D3.js的樣式;

    Echarts:百度企業場景圖表;

    Envisionjs:動態HTML5視覺化;

    FnordMetric:寫SQL查詢,返回SVG圖表,而不是表;

    Freeboard:針對IOT和其他Web混搭的開源實時儀表盤構建;

    Gephi:屢獲殊榮的開源平臺,視覺化和操縱大型圖形和網路連線,有點像Photoshop,但是針對於圖表,適用於Windows和Mac OS X;

    Google Charts:簡單的圖表API;

    Grafana:石墨儀表板前端、編輯器和圖形組合器;

    Graphite:可擴充套件的實時圖表;

    Highcharts:簡單而靈活的圖表API;

    IPython:為互動式計算提供豐富的架構;

    Kibana:視覺化日誌和時間標記資料;

    Matplotlib:Python繪圖;

    Metricsgraphic.js:建立在D3之上的庫,針對時間序列資料進行最最佳化;

    NVD3:d3.js的圖表元件;

    Peity:漸進式SVG條形圖,折線和餅圖;

    Plot.ly:易於使用的Web服務,它允許快速建立從熱圖到直方圖等複雜的圖表,使用圖表Plotly的線上電子表格上傳資料進行建立和設計;

    Plotly.js:支援plotly的開源JavaScript圖形庫;

    Recline:簡單但功能強大的庫,純粹利用JavaScript和HTML構建資料應用;

    Redash:查詢和視覺化資料的開源平臺;

    Shiny:針對R的Web應用程式框架;

    Sigma.js:JavaScript庫,專門用於圖形繪製;

    Vega:一個視覺化語法;

    Zeppelin:一個筆記本式的協作資料分析;

    Zing Charts:用於大資料的JavaScript圖表庫。

    物聯網和感測器

    TempoIQ:基於雲的感測器分析;

    2lemetry:物聯網平臺;

    Pubnub:資料流網路;

    ThingWorx:ThingWorx 是讓企業快速建立和執行互聯應用程式平臺;

    IFTTT:IFTTT 是一個被稱為 “網路自動化神器” 的創新型網際網路服務,它的全稱是 If this then that,意思是“如果這樣,那麼就那樣”;

    Evrythng:Evrythng則是一款真正意義上的大眾物聯網平臺,使得身邊的很多產品變得智慧化。

    文章推薦

    NoSQL Comparison(NoSQL 比較)- Cassandra vs MongoDB vs CouchDB vs Redis vs Riak vs HBase vs Couchbase vs Neo4j vs Hypertable vs ElasticSearch vs Accumulo vs VoltDB vs Scalaris comparison;

    Big Data Benchmark(大資料基準)- Redshift, Hive, Shark, Impala and Stiger/Tez的基準;

    The big data successor of the spreadsheet(電子表格的大資料繼承者) – 電子表格的繼承者應該是大資料。

    論文

    2015 – 2016

    2015–Facebook– One Trillion Edges: Graph Processing at Facebook-Scale.(一兆邊:Facebook規模的影象處理)

    2013 – 2014

    2014–Stanford - Mining of Massive Datasets.(海量資料集挖掘)

    2013–AMPLab– Presto: Distributed Machine Learning and Graph Processing with Sparse Matrices. (Presto: 稀疏矩陣的分散式機器學習和影象處理)

    2013–AMPLab– MLbase: A Distributed Machine-learning System. (MLbase:分散式機器學習系統)

    2013–AMPLab - Shark: SQL and Rich Analytics at Scale. (Shark: 大規模的SQL 和豐富的分析)

    2013- AMPLab - GraphX: A Resilient Distributed Graph System on Spark. (GraphX:基於Spark的彈性分散式圖計算系統)

    2013- Google– HyperLogLog in Practice: Algorithmic Engineering of a State of The Art Cardinality Estimation Algorithm. (HyperLogLog實踐:一個藝術形態的基數估算演算法)

    2013–Microsoft - Scalable Progressive Analytics on Big Data in the Cloud.(雲端大資料的可擴充套件性漸進分析)

    2013- Metamarkets - Druid: A Real-time Analytical Data Store. (Druid:實時分析資料儲存)

    2013–Google– Online, Asynchronous Schema Change in F1.(F1中線上、非同步模式的轉變)

    2013- Google - F1: A Distributed SQL Database That Scales. (F1: 分散式SQL資料庫)

    2013–Google– MillWheel: Fault-Tolerant Stream Processing at Internet Scale.(MillWheel: 網際網路規模下的容錯流處理)

    2013–Facebook - Scuba: Diving into Data at Facebook. (Scuba: 深入Facebook的資料世界)

    2013–Facebook– Unicorn: A System for Searching the Social Graph. (Unicorn: 一種搜尋社交圖的系統)

    2013- Facebook - Scaling Memcache at Facebook. (Facebook 對 Memcache 伸縮性的增強)

    2011 – 2012

    2012–Twitter– The Unified Logging Infrastructure for Data Analytics at Twitter. (Twitter資料分析的統一日誌基礎結構)

    2012–AMPLab–Blink and It’s Done: Interactive Queries on Very Large Data. (Blink及其完成:超大規模資料的互動式查詢)

    2012–AMPLab–Fast and Interactive Analytics over Hadoop Data with Spark. (Spark上 Hadoop資料的快速互動式分析)

    2012–AMPLab–Shark: Fast Data Analysis Using Coarse-grained Distributed Memory. (Shark:使用粗粒度的分散式記憶體快速資料分析)

    2012–Microsoft–Paxos Replicated State Machines as the Basis of a High-Performance Data Store. (Paxos的複製狀態機——高效能資料儲存的基礎)

    2012–Microsoft–Paxos Made Parallel. (Paxos演算法實現並行)

    2012–AMPLab– BlinkDB:BlinkDB: Queries with Bounded Errors and Bounded Response Times on Very Large Data.(超大規模資料中有限誤差與有界響應時間的查詢)

    2012–Google–Spanner: Google’s Globally-Distributed Database.(Spanner:谷歌的全球分散式資料庫)

    2011–AMPLab–Scarlett: Coping with Skewed Popularity Content in MapReduce Clusters.(Scarlett:應對MapReduce叢集中的偏向性內容)

    2011–AMPLab–Mesos: A Platform for Fine-Grained Resource Sharing in the Data Center.(Mesos:資料中心中細粒度資源共享的平臺)

    2011–Google–Megastore: Providing Scalable, Highly Available Storage for Interactive Services.(Megastore:為互動式服務提供可擴充套件,高度可用的儲存)

    2001 – 2010

    2010–Facebook - Finding a needle in Haystack: Facebook’s photo storage.(探究Haystack中的細微之處: Facebook圖片儲存)

    2010–AMPLab -Spark: Cluster Computing with Working Sets.(Spark:工作組上的叢集計算)

    2010–Google– Storage Architecture and Challenges.(儲存架構與挑戰)

    2010–Google - Pregel: A System for Large-Scale Graph Processing.(Pregel: 一種大型圖形處理系統)

    2010–Google - Large-scale Incremental Processing Using Distributed Transactions and Notifications base of Percolator and Caffeine.(使用基於Percolator 和 Caffeine平臺分散式事務和通知的大規模增量處理)

    2010–Google– Dremel: Interactive Analysis of Web-Scale Datasets.(Dremel: Web規模資料集的互動分析)

    2010–Yahoo -S4: Distributed Stream Computing Platform.(S4:分散式流計算平臺)

    2009– HadoopDB:An Architectural Hybrid of MapReduce and DBMS Technologies for Analytical Workloads.(混合MapReduce和DBMS技術用於分析工作負載的的架構)

    2008–AMPLab– Chukwa: A large-scale monitoring system.(Chukwa: 大型監控系統)

    2007–Amazon - Dynamo: Amazon’s Highly Available Key-value Store.(Dynamo: 亞馬遜的高可用的關鍵價值儲存)

    2006–Google– The Chubby lock service for loosely-coupled distributed systems.(面向鬆散耦合的分散式系統的鎖服務)

    2006–Google– Bigtable: A Distributed Storage System for Structured Data.(Bigtable: 結構化資料的分散式儲存系統)

    2004–Google - MapReduce: Simplied Data Processing on Large Clusters.(MapReduce: 大型叢集上簡化資料處理)

    2003- Google - The Google File System.(谷歌檔案系統)

    影片

    資料視覺化

    資料視覺化之美

    Noah Iliinsky的資料視覺化設計

    Hans Rosling’s 200 Countries, 200 Years, 4 Minutes

    冰桶挑戰的資料視覺化

  • 中秋節和大豐收的關聯?
  • 什麼是破格複試?