页面树结构

版本比较

标识

  • 该行被添加。
  • 该行被删除。
  • 格式已经改变。

...

注意
title文档环境

集群部署数据挖掘组件环境如下:

服务器IP主机名组件实例部署目录
10.10.35.6410-10-35-64数据挖掘-1Zookeeper-1,Python-1/data
10.10.35.6510-10-35-65数据挖掘-2Spark-1,Hadoop-1/data
10.10.35.6610-10-35-66Spark-2Zookeeper-2Hadoop-2/data
10.10.35.6710-10-35-67Spark-3Zookeeper-3,Hadoop-3,Python-2/data
10.10.204.25010.10.204.250Smartbi-Proxy/data


1、系统环境准备

1.1防火墙配置

为了便于安装,建议在安装前关闭防火墙。使用过程中,为了系统安全可以选择启用防火墙,但必须启用服务相关端口。

...

参考 测试数据挖掘集群

3、部署数据挖掘服务引擎(负载均衡)

注意
title数据挖掘执行引擎-高可用 节点说明

数据挖掘服务引擎需要依赖zookeeper,故而文档环境部署zookeeper集群,服务引擎需要依赖Smartbi-Proxy代理,故而需要部署Smartbi-Proxy环境。

主机名角色
10-10-35-64执行引擎(主),Zookeeper-1
10-10-35-65执行引擎(备)
10-10-35-66Zookeeper-2
10-10-35-67Zookeeper-3
10-10-204-250Smartbi-Proxy

服务引擎使用相同zookeeper集群,无需重复部署。

3.1 部署Smartbi-Proxy

登陆10-10-204-250节点部署Smartbi-Proxy。

1、Tomcat安装包解压到/opt目录

代码块
languagebash
linenumberstrue
tar -zxvf apache-tomcat-8.5.57.tar.gz -C /data

2、修改Tomcat启动参数

进入Tomcat下的bin目录

代码块
languagebash
linenumberstrue
cd /data/apache-tomcat-8.5.57/bin

创建Tomcat启动参数文件:setenv.sh

代码块
languagebash
linenumberstrue
vi setenv.sh

具体参数如下(根据实际部署替换配置中的路径):

代码块
languagebash
linenumberstrue
export JAVA_HOME="/data/jdk1.8.0_181"
export JRE_HOME="/data/jdk1.8.0_181/jre"
export CATALINA_HOME="/data/apache-tomcat-8.5.57"
export JAVA_OPTS="-Dfile.encoding=UTF-8 -Duser.region=CN -Duser.language=zh -Djava.awt.headless=true -Xms512m -Xmx2048m -XX:MaxPermSize=512m -Dmail.mime.splitlongparameters=false -XX:+HeapDumpOnOutOfMemoryError"

赋予setenv.sh相关权限

代码块
languagebash
linenumberstrue
chmod 755 setenv.sh

3、上传Smartbi-Proxy war包到目录 /data/apache-tomcat-8.5.57/webapps/  目录

4、启动Tocmat服务

代码块
languagebash
linenumberstrue
cd /data/apache-tomcat-8.5.57/bin
./startup.sh

5、启动完成后,浏览器访问Smartbi-Proxy控制台,http://IP:PORT/smartbi/proxy   控制台初始账号密码都是admin。

Image Added

Smartbi-Proxy部署完成。

3.2 部署服务引擎

1、解压数据挖掘安装包到指定的目录

代码块
languagebash
linenumberstrue
tar -zxvf SmartbiMiningEngine-V10.0.64186.21183.tar.gz -C /data

...

代码块
languagebash
cd /data/smartbi-mining-engine-bin/engine/sbin/
./service-daemon.sh start

7、服务引擎启动后,可以登陆Smartbi-Proxy控制台查看服务引擎节点信息,如下图:

Image Added

3.2 运维操作

1、启动/重启/查看服务引擎

代码块
languagebash
cd /data/smartbi-mining-engine-bin/engine/sbin/
./experiment-daemon.sh restart   #重启服务引擎
./experiment-daemon.sh stop      #停止服务引擎
./experiment-daemon.sh status    #查看服务引擎运行状态

...