HBase在淘宝的应用和优化小结
本文来自于NoSQLFan联合作者@koven2049,他在淘宝从事Hadoop及HBase相关的应用和优化。对Hadoop、HBase都有深入的了解,本文就是其在工作中对HBase的应用优化小结,分享给大家。 原文地址:http://walkoven.com/?p=57 文章PDF下载:hbase optimization and apply summary in taobao.pdf 1 前言...
View ArticleHadoop Namenode HA 合并到主干
Hadoop 的 Namenode 单点问题一直广受诟病,而这个问题最近将会得到解决,对Namenode 的HA方案已经完成实施并合并到主干,经过严格的测试后将会在后续版本中发布。 HA方案中,主要进行了如下的一些工作: Configuration changes for HA Notion of active and standby states were added to the...
View ArticleHBase Coprocessor的分析
本文来自于NoSQLFan联合作者@koven2049,他在淘宝从事Hadoop及HBase相关的应用和优化。对Hadoop、HBase都有深入的了解,本文就是他对HBase Coprocessor的一些分析,分享给大家。 原文地址:http://walkoven.com/?p=77 文章PDF下载:hbase coprocessor的分析.pdf hbase...
View Articlemrcc:基于MapReduce的分布式C语言编译器
这年头什么都讲分布式了,分布式存储,分布式计算。下面要介绍的是一个分布式C语言编译器:mrcc,它基于MapReduce 原理进行并行化编译。听起来实在太疯狂了,但是,它确实是这么干的。 下面就是其工作流程图,它由一个Master和多个Slave节点组成,Master节点负责对编译任务进行分解和分配,Slave节点负责进行具体的编译工作。...
View ArticleSqoop成为Apache顶级项目
Sqoop是一个Hadoop的周边工具,它的主要作用是在结构化数据存储与Hadoop之间进行数据交换,通过Sqoop,你可以批量将你关系型数据库中的数据导入到Hadoop中,也可以将Hadoop中的数据导出到其它结构化存储中。...
View ArticleMongoDB Hadoop Connector发布
10gen刚刚发布了MongoDB Hadoop Connector的1.0版本,它是一个中间件产品,用于将MongoDB和Hadoop连接起来,让MongoDB可以方便的使用Hadoop的分布式计算能力。 MongoDB Hadoop...
View ArticleHBase 0.94 发布
HBase 0.94 版本最近发布了,距上次的0.92 版本发布又四个月了,下面我们就来看一下这个版本中丰富的功能增强。 性能相关 读缓存改进: HDFS 将图片和checksum存储在不同的block中的,所以每次我们进行读操作,都需要进行两次磁盘操作(一次读数据文件,一次读checksum所在的文件)。在 HBASE-5074 这个提案中,提出了将checksum存到block...
View ArticleMongoDB集成Hadoop进行统计计算
MongoDB 本身可以做一些简单的统计工作,包括其内置的基于 Javascript 的 MapReduce 框架,也包括在MongoDB 2.2版本中引入的新的统计框架。除此之外,MongoDB 还提供了对外部统计工具的接口,这就是本文要说的MongoDB-Hadoop的数据中间件。文章内容来源于MongoDB官方博客。 原理图解...
View ArticleRiak对比HBase
文章来自Riak官方wiki,是一篇Riak与HBase的对比文章。Riak官方的对比通常都做得很中肯,并不刻意偏向自家产品。本文也是一样。 对比的Riak版本是1.1.x,HBase是0.94.x。 大方面对比 Riak 与 HBase 都是基于 Apache 2.0 licensed 发布 Riak 的实现是基于 Amazon 的 Dynamo 论文,HBase 是基于 Google 的...
View ArticleNoSQL反模式 –文档数据库篇
本文转自NoSQLFan联合作者颜开(yankay)的我自然博客,虽然目前NoSQL产品没有一套完整的Schema设计方案,但我们在使用过程中还是能总结一些经验和教训,文章对文档数据库的一些错误的使用思路进行了总结。 原文链接:http://www.yankay.com/nosql-anti-pattern-document/...
View Article
More Pages to Explore .....