读书人

Storm流式实时计算开源框架(3)

发布时间: 2013-02-19 11:11:40 作者: rapoo

Storm流式实时计算开源框架(三)

如果运行./configure命令出现问题,参考这里。在./autogen.sh这步如果报错:autogen.sh:error:could not find libtool is required to run autogen.sh,这是因为缺少了libtool,可以用#yum install libtool*来解决。正确设置 JAVA_HOME环境变量安装Java开发包?

2.3安装Java 6

?

?????? 因为刚才为zookeeper已经配置了JDK6,而该单机版zookeeper和Storm安装在同一台Linux机器上,可以共用,所以此处可以省略,不安装。?

?

2.4安装Python2.7.2?

wget http://www.python.org/ftp/python/2.7.2/Python-2.7.2.tgz
tar zxvf Python-2.7.2.tgz
cd Python-2.7.2
./configure
make
make install??

?

2.5安装unzip?

?????? 在CentOS 5中,系统已经自带unzip解压缩工具,不用安装。?

注意事项:?

? ? ? ?1. 如果使用RedHat系列Linux系统,执行以下命令安装unzip:?

? ? ? ? ? ?apt-get install unzip?

2. 如果使用Debian系列Linux系统,执行以下命令安装unzip:?

? ? yum install unzip?

?

3.安装Storm发布版本?

wget http://cloud.github.com/downloads/nathanmarz/storm/storm-0.8.1.zip
unzip storm-0.8.1.zip
mv storm-0.8.1 /usr/local/
ln -s /usr/local/storm-0.8.1/ /usr/local/storm

?

vim /etc/profile
export STORM_HOME=/usr/local/storm-0.8.1
export PATH=$PATH:$STORM_HOME/bin?

?

4.修改storm.yaml配置文件?

文件在/usr/local/storm/conf/storm.yaml内容:

?storm.zookeeper.servers:
???? - 127.0.0.1?

?storm.zookeeper.port: 2181?

?nimbus.host: "127.0.0.1"?

?storm.local.dir: "/tmp/storm"?

?supervisor.slots.ports:
? - 6700
? - 6701
? - 6702
? - 6703

?

到此为止单机版的Storm就安装完毕了。?

? ? ? ?说明一下:storm.local.dir表示storm需要用到的本地目录。nimbus.host表示那一台机器是master机器,即 nimbus。storm.zookeeper.servers表示哪几台机器是zookeeper服务器。storm.zookeeper.port表示zookeeper的端口号,这里一定要与zookeeper配置的端口号一致,否则会出现通信错误,切记切记。当然你也可以配 superevisor.slot.port,supervisor.slots.ports表示supervisor节点的槽数,就是最多能跑几个 worker进程(每个sprout或bolt默认只启动一个worker,但是可以通过conf修改成多个)。?

?

注意事项:?

? ? ? 1.这个脚本文件写的不咋地,所以在配置时一定注意在每一项的开始时要加空格(最好加两个空格),冒号后也必须要加空格,否则storm不认识这个配置文件。?

?

5.启动ZooKeeperStorm各个后台进程?

? ? ? ?最后一步,启动Storm的所有后台进程。和Zookeeper一样,Storm也是快速失败(fail-fast)的系统,这样Storm才能在 任意时刻被停止,并且当进程重启后被正确地恢复执行。这也是为什么Storm不在进程内保存状态的原因,即使Nimbus或Supervisors被重 启,运行中的Topologies不会受到影响。

?

1. 启动zookeeper:?

单机版直接启动,不用修改什么配置,如集群就需要修改zoo.cfg另一篇文章会讲到,命令如下:

?# /usr/local/zookeeper/bin/zkServer.sh?start?

?

2.以下是启动Storm各个后台进程的方式:?

# bin/storm nimbus(启动主节点)

Storm流式实时计算开源框架(3)

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

#bin/storm supervisor(启动从节点)

Storm流式实时计算开源框架(3)

?

# bin/storm ui(启动主节点监控)

Storm流式实时计算开源框架(3)
?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

?

注意事项:

读书人网 >开源软件

热点推荐