...
注意 |
---|
|
集群部署数据挖掘组件环境如下: 服务器IP | 主机名 | 组件实例 | 部署目录 |
---|
10.10.35.64 | 10-10-35-64 | 数据挖掘-1,Zookeeper-1,Python-1 | /data | 10.10.35.65 | 10-10-35-65 | 数据挖掘-2,Spark-1,Hadoop-1 | /data | 10.10.35.66 | 10-10-35-66 | Spark-2,Zookeeper-2,Hadoop-2 | /data | 10.10.35.67 | 10-10-35-67 | Spark-3,Zookeeper-3,Hadoop-3,Python-2 | /data | 10.10.204.250 | 10.10.204.250 | Smartbi-Proxy | /data |
|
1、系统环境准备
1.1防火墙配置
为了便于安装,建议在安装前关闭防火墙。使用过程中,为了系统安全可以选择启用防火墙,但必须启用服务相关端口。
...
参考 测试数据挖掘集群
3、部署数据挖掘服务引擎(负载均衡)
注意 |
---|
|
数据挖掘服务引擎需要依赖zookeeper,故而文档环境部署zookeeper集群,服务引擎需要依赖Smartbi-Proxy代理,故而需要部署Smartbi-Proxy环境。 主机名 | 角色 |
---|
10-10-35-64 | 执行引擎(主),Zookeeper-1 | 10-10-35-65 | 执行引擎(备) | 10-10-35-66 | Zookeeper-2 | 10-10-35-67 | Zookeeper-3 | 10-10-204-250 | Smartbi-Proxy |
服务引擎使用相同zookeeper集群,无需重复部署。 |
3.1 部署Smartbi-Proxy
登陆10-10-204-250节点部署Smartbi-Proxy。
1、Tomcat安装包解压到/opt目录
代码块 |
---|
language | bash |
---|
linenumbers | true |
---|
|
tar -zxvf apache-tomcat-8.5.57.tar.gz -C /data |
2、修改Tomcat启动参数
进入Tomcat下的bin目录
代码块 |
---|
language | bash |
---|
linenumbers | true |
---|
|
cd /data/apache-tomcat-8.5.57/bin |
创建Tomcat启动参数文件:setenv.sh
代码块 |
---|
language | bash |
---|
linenumbers | true |
---|
|
vi setenv.sh |
具体参数如下(根据实际部署替换配置中的路径):
代码块 |
---|
language | bash |
---|
linenumbers | true |
---|
|
export JAVA_HOME="/data/jdk1.8.0_181"
export JRE_HOME="/data/jdk1.8.0_181/jre"
export CATALINA_HOME="/data/apache-tomcat-8.5.57"
export JAVA_OPTS="-Dfile.encoding=UTF-8 -Duser.region=CN -Duser.language=zh -Djava.awt.headless=true -Xms512m -Xmx2048m -XX:MaxPermSize=512m -Dmail.mime.splitlongparameters=false -XX:+HeapDumpOnOutOfMemoryError" |
赋予setenv.sh相关权限
代码块 |
---|
language | bash |
---|
linenumbers | true |
---|
|
chmod 755 setenv.sh |
3、上传Smartbi-Proxy war包到目录 /data/apache-tomcat-8.5.57/webapps/ 目录
4、启动Tocmat服务
代码块 |
---|
language | bash |
---|
linenumbers | true |
---|
|
cd /data/apache-tomcat-8.5.57/bin
./startup.sh |
5、启动完成后,浏览器访问Smartbi-Proxy控制台,http://IP:PORT/smartbi/proxy 控制台初始账号密码都是admin。
Image Added
Smartbi-Proxy部署完成。
3.2 部署服务引擎
1、解压数据挖掘安装包到指定的目录
代码块 |
---|
language | bash |
---|
linenumbers | true |
---|
|
tar -zxvf SmartbiMiningEngine-V10.0.64186.21183.tar.gz -C /data |
...
代码块 |
---|
|
cd /data/smartbi-mining-engine-bin/engine/sbin/
./service-daemon.sh start |
7、服务引擎启动后,可以登陆Smartbi-Proxy控制台查看服务引擎节点信息,如下图:
Image Added
3.2 运维操作
1、启动/重启/查看服务引擎
代码块 |
---|
|
cd /data/smartbi-mining-engine-bin/engine/sbin/
./experiment-daemon.sh restart #重启服务引擎
./experiment-daemon.sh stop #停止服务引擎
./experiment-daemon.sh status #查看服务引擎运行状态
|
...