2010年1月25日 23:42
在《开始研究HBase-0.20.2版》一文中,曾经说到,现在的Hbase,已经成为了一个“消耗文件句柄的肥猪”(a file handle hog),那么,如果解决这个问题呢。今天就介绍一种在Ubuntu Linux中,如何设置用户最大打开文件数量的方法:
1、启用pam_limits.so (暂不确定是否一定需要)
sudo vim /etc/pam.d/common-session
添加如下一行:
session required pam_limits.so
2、修改 sudo vim...
No Comments »
2010年1月22日 13:58
Hbase 0.20.x默认的日志输出级别为DEBUG,因此常常会看到一大堆的调试信息,以及一大堆的Exception,可能会让用户比较困惑。
其中一个会造成困惑的Exception就是在重启Hbase的时候,可能会遇到如下的Exception:
java.io.IOException: org.apache.zookeeper.KeeperException$NoNodeException: KeeperErrorCode = NoNode for /hbase/master
at org.apache.hadoop.hbase.zookeeper.ZooKeeperWrapper.readAddressOrThrow(Zo...
No Comments »
2010年1月19日 15:33
Hbase重启之后就无法启动的现象:
当我们使用Hbase 0.20.2的时候,遇到了2个奇怪的问题。
我们使用了数台机器构建了一个集群,并且按照Hadoop/Hbase的"Getting Started"安装配置了Hadoop和Hbase。之后能够正常启动Hadoop和Hbase,并且创建table和插入数据。
不过,当我们访问Master的页面时: http://10.37.17.252:60010/master.jsp ,我们发现了第一个问题:在regionserver区域,出...
1 Comment »
2010年1月10日 16:04
在配置Hadoop和Hbase的过程中,虽然官方网站上有很多丰富的文档,但是常常仍然会有一些细枝末节的问题,成为阻碍项目配置成功以及后续开发的绊脚石。下面就记录几个Hbase配置以及开发过程中需要注意的事项:
(1)修改节点主机名的问题
在配置文件中使用机器主机名(如WAMDM1)作为通讯方式的时候,需要修改2个文件:/etc/hosts 以及 /etc/hostname
(2)修改Classpath的...
No Comments »
2010年1月7日 15:09
原本实验室里的项目打算使用Hbase-0.19.x,不过最近重新访问Hbase的网站,发现Hbase已经发布了0.20.x,并且其改动还比较大,最明显的一个改动就是自Hbase 0.20.x之后,其将依赖于ZooKeeper这个项目。Hbase宣称HBase-0.20.2版是目前最快、最强大、最稳定的版本。
这个版本的Hbase是一个“消耗文件句柄的肥猪”(a file handle hog),Linux或者是Unix默认的最大文件打开数量1024已经...
4 Comments »
2009年7月28日 22:06
最近我们在通过使用Eclipse3.4版来开发部署Hadoop的工程以及Hbase的工程。不过首要条件是需要先将Hadoop在本地部署起来。在本地下载部署Hadoop源代码的时候,需要注意几点:
1、Hadoop需要在Linux/Unix下进行工程部署
如果打算在Windows下使用Eclipse来部署Hadoop工程,需要安装Linux虚拟环境。所以还是建议直接在Linux下使用Eclipse部署Hadoop。
2、添加两个software update
http:...
No Comments »