第9.6页，共30页。 显示 292 条结果 (0.02 秒)
vllm本地化部署大模型解决方案
and Correcting，表示是否开启错误检查和纠错技术，"0" 代表关闭，"1" 代表开启。 ECC 开启后功能可以用于保护 GPU 硬件，帮助其免受硬件故障和问题的影响。因为它还可以检查内存模块中的错误，并帮助 GPU 从错误中恢复。 此外，ECC 还有助于降低电力消耗，因为它只需要较少的功耗就可以处理大量的内存纠错； ECC … ，以上样例中只配置了1个做验证，比如有8个GPU配置成 CUDA_VISIBLE_DEVICES=0,1,2,3,4,5,6,7 VLLM_USE_V1 高版本vllm默认启用V1引擎，性能更好，但是对内存要求更高，如果需要运行高质量大模型需要配置VLLM_USE_V1=0，使用V0引擎，否则会导致无法启动模型⬝ Smartbi Proxy+Tomcat部署Smartbi集群
； 把 Smartbi 部署在内网隔离环境下，但同时希望可以在外网上访问，我们就可以在外网上部署 Smartbi Proxy，通过其代理访问内网的 Smartbi 应用。 2. 工作原理 proxy代理分发的原理是按“CPU使用率”、“内存”、“GC时间”去分发，如下图： 用户可以动态的调整资源阈值、cpu、内存 … :MaxPermSize=512m -Dmail.mime.splitlongparameters=false -XX:+HeapDumpOnOutOfMemoryError -XX:+UseG1GC" 1、Xmx参数可以根据服务器的实际内存值进行调整。 2、建议Xmx参数值配置不超过服务器总内存的70%。 赋予setenv.sh性能测试常见FAQ
出现问题 问题常见原因 解决方法 Jmeter无法运行 jmeter运行的电脑中未正确配置JDK 在电脑中添加JDK的jdk/bin路径到环境配置的path中 Jmeter运行经常卡住白屏 若资源录制脚本后，脚本访问正常，但是并发却很容易白屏卡住。一般是内存不够 解决方法：如果机器的内存足够，可以加大jmeter.bat中内存设置大小。如：set HEAP=-Xms1g –Xmx1g可改为 set HEAP=-Xms1g –Xmx16g 请求的参数或返回为乱码 产品访问路径直接访问存在加密 1、在访问路径/smartbi/vision/index.jsp后添加?debug=true 即部署Smartbi MPP分布式集群
建议关闭服务器虚拟内存，避免查询期间使用虚拟内存导致查询变慢和查询异常。 swapoff -a #临时关闭 2. 开始安装 2.1 安装介质 Centos 7.x/Redhat7.x 软件 安装包 Smartbi-MPP … smartbimpp内存大小 修改的配置文件/etc/clickhouse-server/users.xml， 单位是Byte，默认值是10G。根据实际情况配置内存值 worddava08ab95477b7c8cf030258e633e00c9d.png (可选)查询语句大小限制，默认的max_query_size最大系统监控-会话
会话页面以XML的方式显示当前服务器上所有的会话信息，并列出各个会话中已经保存的会话属性（sessionAttribute）。可以通过该页面列出的会话信息确定是否存在存内泄漏（即资源没有正常释放，导致会话属性一直增加）。 会话.png 会话信息中相关节点属性说明如下： 节点 属性 描述 Sessions Count 会话总数 maxMemory JVM最大可以申请的内存数 totalMemory JVM当前已经申请的内存数 freeMemory JVM当前空闲的内存数 Session（会话） id 会话ID电脑操作系统为32位，是否有32位的smartbi服务器安装包
（本文档仅供参考） 问题 电脑的操作系统为32位的操作系统，使用smartbi提供的安装文件无法安装。是否能够提供32位操作系统能够正常安装的服务器安装文件呢？ 说明 由于smartbi的服务要正常运行需要有足够的JVM内存和其他相关的配置（详见：系统环境要求 https://wiki.smartbi.com.cn/pages/viewpage.action?pageId=55840848），其中JVM内存要求至少分配16G。 而32位的操作系统只能安装32位的JDK，无论机器内存多大，JAVA最多能够使用到的JVM只有1.5G，远远达不到smartbi的运行环境要求。因此Smartbi产品不提供32位操作系统的安装文件系统监控-会话
会话页面以XML的方式显示当前服务器上所有的会话信息，并列出各个会话中已经保存的会话属性（sessionAttribute）。可以通过该页面列出的会话信息确定是否存在存内泄漏（即资源没有正常释放，导致会话属性一直增加）。 会话.png 会话信息中相关节点属性说明如下： 节点 属性 描述 Sessions Count 会话总数 maxMemory JVM最大可以申请的内存数 totalMemory JVM当前已经申请的内存数 freeMemory JVM当前空闲的内存数 Session（会话） id 会话ID允许点击列头排序无法勾选
结果全部加载到内存数据库后再进行各种公式计算、排序展示等，而【允许点击列头排序】就是对当前电子表格所有数据加载到内存数据库处理的一种；清单报表类型实现是为了对于比较大数据量的明细报表数据展示，采用的是分页取数的逻辑展示，所以这时候【允许点击列头排序】开放的实际意义就不大了，因为只是对当前加载到内存数据库的排序，和实际应用 … 序】，可将报表设置为【分组报表】，然后将字段设置为列表展示，具体如下图： 1.jpg 2.jpg PS：分组报表类型是将所有查询结果都一次性返回内存数据库后再进行计算、排序的，所以在数据量比较大的情况下，有可能报表渲染速度上没有那么快JVM崩溃导致进程没了
二：内存设置的最大值(xmx)大于服务器物理内存空闲的值，此时JDK无法正常使用，则出现崩溃情况。 03.png 解决方案：建议增大服务器物理内存；若实在无法增加服务器内存，可减少xmx值，但该值建议是配置16G及以上，关于系统环境配置可以参考wiki文档：系统环境要求 https安装部署SmartbiOLAP数据模型服务
winolap1.png 等待服务启动完成即可 注意，运行 startup_deamon.cmd 启动Smartbi OLAP Server时，关闭cmd窗口，Smartbi OLAP Server服务也会停止 3、关于端口、JVM内存 Smartbi OLAP Server服务默认端口为18081，如果该端口已被使用，可以通过修改application.properties文件，更换端口，参考下图： winoalp4.png Smartbi OLAP Server服务默认最大JVM内存为4096m，可以通过修改startup_deamon.cmd文件配置，参考下图： jvm-olap102.png 4
