...
(3) 不建议将AIChat 和 Smartbi 部署在同一台服务器上,由于 NLA 对计算和内存资源的使用量均较高,会抢占资源导致卡顿、死机、进程被杀死等问题。
(4) 当服务器配置为最低配置时,即16核32GB。并发数推荐为30个左右,最高不应超过40个。推荐配置时,即32核128GB。并发数推荐为30个左右,最高不应超过40个。
30用户并发情况(每用户登录5次,每次登录执行5次查询)(不同大模型表现不一样,对速度会有很大影响;查询内容不同,也会影响大模型响应时间)
...
...
(3) 不建议将AIChat 和 Smartbi 部署在同一台服务器上,由于 NLA 对计算和内存资源的使用量均较高,会抢占资源导致卡顿、死机、进程被杀死等问题。
(4) 当服务器配置为最低配置时,即16核32GB。并发数推荐为30个左右,最高不应超过40个。推荐配置时,即32核128GB。并发数推荐为30个左右,最高不应超过40个。
30用户并发情况(每用户登录5次,每次登录执行5次查询)(不同大模型表现不一样,对速度会有很大影响;查询内容不同,也会影响大模型响应时间)
...