...
执行 lscpu | grep avx 查询CPU是否支持AVX。
(2) 不建议将AIChat 和 Smartbi 部署在同一台服务器上,由于 可以部署在一台服务器,但生产使用时建议分开部署在不同服务器上。由于 NLA 对计算和内存资源的使用量均较高,会抢占资源导致卡顿、死机、进程被杀死等问题。
...
➢ CPU:支持X86/ARM架构,推荐X86架构,建议跟随GPU显卡去调配CPU等硬件,最低配置。
组件 | 配置 | CPU | 内存 | 硬盘 |
---|---|---|---|---|
大模型 | 最低配置 | X86/ARM 32核 | 128G | 1TB+ |
➢ GPU(重点关注):
配置 | 显卡 |
---|---|
最低配置 | 8*4090 24G |
推荐配置 | 8*A100 80G |