页面树结构

版本比较

标识

  • 该行被添加。
  • 该行被删除。
  • 格式已经改变。

...

1
2
3

10.10.35.162 10-10-35-162
10.10.35.163 10-10-35-163
10.10.35.164 10-10-35-164

部署(AIChat、Nginx、dockaer swarm、GlusterFs

2.

...

安装AIChat

具体安装也可以参考单节点部署

  (1) 解压安装包

代码块
languagebash
linenumberstrue
cd /<安装包路径>
tar -xvf nla-setup.tar.gz

...

代码块
languagebash
linenumberstrue
sudo chmod 777 -R *

创建AIChat安装目录(以下以/data/admin/smartbi-nla为例)

代码块
languagebash
linenumberstrue
mkdir /data/admin/smartbi-nla

进入安装包解压目录

代码块
languagebash
linenumberstrue
cd /<安装包解压目录>

使用install.sh脚本进行安装:

代码块
languagebash
linenumberstrue
sudo bash install.sh

输入安装目录的绝对路径(以下以/data/admin/smartbi-nla为例)输入创建的AIChat安装目录的绝对路径:

当出现如下字样则说明安装完成:

Image Removed

...

Image Added

在各个AIChat集群节点上安装完AIChat服务后执行sudo bash stop.sh停止服务;

(3)修改docker本地存储地址(可选择)

原因:通常docker安装后,默认的本地存储地址是根目录,根目录通常都不大,需要将仓库迁移到容量较大的目录

方法:

...

json;如果存在该文件则修改:     vi 2、daemon.json文件的内容如下(假设你的存储目录是:/data/docker-data):

3、复制旧数据存储目录到新的数据存储目录下

sudo rsync -aP /var/lib/docker/ /data/docker-data

4、重启docker

sudo systemctl restart docker

1、停止AIChat和docker

cd /data/admin/smartbi-nla   #停止AIChat

./stop.sh 

systemctl stop docker   #停止docker

2、创建存储目录(假设你的存储目录是:/data/docker-data)

mkdir /data/docker-data

3、在 /etc/docker目录下创建daemon.

json文件;如果存在该文件则修改:

cd /etc/docker

vim /etc/docker/daemon.json

4、daemon.json文件的内容如下(填写创建的存储目录地址)
{
"data-root": "/data/docker-data"
}

5、重启docker
systemctl restart docker

(4)更改了docker本地存储地址后需要重新安装

进入AIChat安装目录

代码块
languagebash
linenumberstrue
cd /<AIChat安装目录>

删除AIChat目录下文件

代码块
languagebash
linenumberstrue
rm -rf *

进入安装包解压目录

代码块
languagebash
linenumberstrue
cd /<安装包解压目录>

使用install.sh脚本进行安装:

代码块
languagebash
linenumberstrue
sudo bash install.sh

输入创建的AIChat安装目录的绝对路径:

Image Added

当出现如下字样则说明安装完成:

Image Added

在各个AIChat集群节点上安装完AIChat服务后执行sudo bash stop.sh停止服务;

3.安装dockaer swarm

3.1 查看已经安装docker环境

...

可参考以下配置文件来修改,具体修改为glusterfs共享目录的路径

docker-compose.yml

4.6. 启动AIChat集群

在Leader节点上启动AIChat集群

启动集群:

...

docker stack rm smartbi-nla

4.7 部署Nginx

参考Nginx官方文档 http://nginx.org/en/docs/ 使用源码或者YUM方式部署Nginx。

4.7.1 使用yum方式安装Nginx

# yum install -y nginx

通过如下命令,启动、重启与关闭nginx

# nginx              #启动nginx

# nginx -s reload     #重启nginx

# nginx -s quit       #关闭nginx

# nginx -t           #验证nginx.conf是否存在问题


日志可在 /var/log/nginx 下进行查看

# vi /etc/log/nginx/access.log     #访问日志

# vi /etc/log/nginx/error.log      #错误日志

4.7.1 Nginx 配置

在 /etc/nginx 路径下修改nginx.conf配置文件,可参考以下配置文件

# vi /etc/nginx/nginx.conf

nginx.conf

Image Added

这里使用“ip_hash”权重分配模式,每个请求按访问ip的hash结果分配,这样每个访客固定访问一个后端服务器,可以解决session的问题,对于到AIChat产品的session会话,采取该种权重分配较为合适。

3、测试配置文件是否通过

1

nginx -t

Image Added

测试通过!

4、重启nginx

1

nginx -s reload

4.8 smartbi配置AIChat集群

 进入Smartbi服务,进入系统运维--系统选项找到 服务器地址-- Smartbi服务器URL地址 配置项,设置Smartbi集群的地址:

...

进入“系统运维--自然语言配置“中设置“自然语言分析的登录地址”,设置AIChat服务地址 ”,设置AIChat服务地址,集群下此处是配置Nginx代理后的服务器地址,点击“显示更多设置”:

如果出现设置项则配置成功,此时点击“保存”,保存系统设置;

...

进入“系统运维--自然语言配置“中设置使用大模型的版本

如果客户本身有大模型,则需要找客户问大模型的“设置大模型调用参数”的配置信息


Local_llm/Local

适用于所有OpenAI接口的大模型,例如deepseek

...