小编给大家分享一下Hadoop生态新增列式存储系统Kudu有什么特点,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!
Hadoop 生态系统发展到现在,存储层主要由HDFS和HBase两个系统把持着,一直没有太大突破。在追求高吞吐的批处理场景下,我们选用HDFS,在追求低延 迟,有随机读写需求的场景下,我们选用HBase,那么是否存在一种系统,能结合两个系统优点,同时支持高吞吐率和低延迟呢?有人尝试修改HBase内核 构造这样的系统,即保留HBase的数据模型,而将其底层存储部分改为纯列式存储(目前HBase只能算是列簇式存储引擎),但这种修改难度较大。 Kudu的出现有望解决这一难题。
Kudu是Cloudera开源的列式存储引擎,具有以下几个特点:
-
C++语言开发
-
高效处理类OLAP负载
-
与MapReduce,Spark以及Hadoop生态系统中其他组件进行友好集成
-
可与Cloudera Impala集成,替代目前Impala常用的HDFS+Parquet组合
-
灵活的一致性模型
-
顺序写和随机写并存的场景下,仍能达到良好的性能
-
高可用,使用Raft协议保证数据高可靠存储
-
结构化数据模型
Kudu的出现,有望解决目前Hadoop生态系统难以解决的一大类问题,比如:
-
流式实时计算结果的更新
-
时间序列相关应用,具体要求有:
-
查询海量历史数据
-
查询个体数据,并要求快速返回
-
预测模型中,周期性更新模型,并根据历史数据快速做出决策
以上是“Hadoop生态新增列式存储系统Kudu有什么特点”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注云搜网行业资讯频道!