第161页,共563页。 显示 5,627 条结果 (0.16 秒)
高速缓存库查询报错查询超出最大内存限制
问题现象: 高速缓存库抽取的时候报错,抽取日志中显示超出内存最大限制14G大小,实际上仅2-3个模型进行并发的抽取,就会将内存全部占满。 image2024-7-27_17-34-22.png 问题原因: 按照数据模型抽取逻辑,产品会将维表和事实表单独抽取到高速缓存库中之后在高速缓存库中通过关联查询将所以的表汇总成大宽表,在关联查询的时候很可能因为数据量过大且并发的查询较多的情况下高速缓存库的内存就很有可能会出现不够用的情况。 解决方案: 主要可以从以下几个方面进行优化。 1、调整数据模型维表数据量 高速缓存库会先将表全部抽取之后再进行关联,当维表的数据量很多的时候,比如维表数据量50万,事实表数据量几百万部署Smartbi-MPP高速缓存库
高速缓存库,列式数据库管理系统,用于抽取数据。 +部署Smartbi MPP 单节点 https://wiki.smartbi.com.cn/pages/viewpage.action?pageId=56688654 +部署Smartbi MPP分布式集群 https://wiki.smartbi.com.cn/pages/viewpage.action?pageId=56688680 服务器推荐配置; smartbi-mpp 16核+ 64G+ 2TB+如何在作业流成使用“检查依赖"字段节点
抽取,以电商为例,用户需要统计分析本月的销售情况,由于销售数据较大,用户希望能够将业务系统中的数据按一定的频率抽取到数据仓库中,同时不能对业务系统造成太大的压力,影响现有业务。假设抽取频率为一天,存在一个ETL任务需要统计处本月截止到现在的销售情况。一般地,可以在创建数据库表时,增加一个额外的时间戳字段,负责抽取任务的ETL通过比较系统时间与抽取源表的时间戳字段的值来决定抽取哪些数据。为了保证数据的准确性,需要保证本月截止到现在,负责抽取任务的ETL每一天的运行都是正常的,才能执行接下来的统计分析本月截止到现在的销售情况ETL任务。此时,就可以使用“检查依赖”功能。 输入/输出 输入 一个输入端口,用于连接节点内置用户访问明细原理
: image2018-5-14 18:8:29.png 现象说明 首先,上面的现象是正常的。下面我们说明一下: 这个【资源访问次数明细表】报表产生对应的数据有两个前提: 1)用户访问对应的报表。 2)当天用户访问记录是需要通过每天定时的计划任务执行后才会在对应的知识库表中抽取生成对应的记录,并不是实时更新的。抽取之后的数据储存在t_ext_reporthot表中 因此若是需要看到今天的数据,可通过手动测试运行计划任务【统计资源访问次数】,具体如下: image2018-5-14 18:4:26.png image2018-5-14 18:5:1.png 测试运行成功后,清空缓存,访问对应的报表,已可以看到性能优化自动优化计算公式
(本文档仅供参考) 【系统选项】-【性能优化】处【自动优化】的计算公式为? image2024-7-27_17-7-40.png 数据集单次查询最大单元格数、单线程抽取数据行数、报表最大单元格数、电子表格分组/Excel融合分析报表取数最大行数、透视分析单次查询数据行数、资源定义缓存个数、报表结果缓存个数、数据集结果缓存个数。 以上计算公式为:(JVM最大内存/2g)*系统默认值,其中JVM内存单位为g。秒懂!模型参数的应用与生存法则
变化 image2025-5-19_17-23-32.png 特别提醒:当模型设置为抽取模式(非按次抽取)时,查询操作仅能依据参数设置的默认值来进行。若未设置参数默认值,或者将其设为 '' ,系统会默认查询全部数据;若要查询实际的 '' 数据,需使用 $$$EMPTY_VALUE$$$ 来代表空字串进行查询。此外 … ?pageId=112786816模式,则可以根据切换参数值动态筛选; 如果数据模型是抽取 https://wiki.smartbi.com.cn/pages/viewpage.action?pageId=112786816 模式,则只能根据设置的默认值筛选,无法动态切换,有需要得切换成查询动态抽取【按次抽取】模式参数设置
值动态筛选;如果数据模型是 抽取 模式,则只能根据设置的默认值筛选,无法动态切换。 2、假设 查询 的参数定义“参数 默认值 是必填; 那么在数据模型参数映射之后,默认值也需要填写;否则不能正常查询报表,会提示需要先设置参数默认值。 3、参数支持权限控制,做法与SQL查询一致,详情可查看:创建SQL查询 https … 模型,并去创建 交互式仪表盘,制作组件,并且拖入参数,可以根据参数查询订单信息,效果如下: 如果是数据模型是 直连模式,则可以根据切换参数值动态筛选; 如果数据模型是 抽取 模式,则只能根据设置的默认值筛选,无法动态切换。 baob.png 2.2 参数联动 参数联动是指参数A的选择影响参数B可选值的一种树筛选组件
分行/支行的存款、贷款情况,最终效果如下图: 7.png 具体操作步骤如下: 1、新建数据模型,并把机构交易汇总表.xls导入到数据模型中,并且抽取以及保存数据模型,创建好的数据模型如下图: 8.png 2、去创建仪表盘,在画布中,拖入 多选列表树筛选器 ,并且拖入对应的层次字段:机构名称、一级分行、二级分行 … 1 概述 树筛选组件指以展示树形结构过滤数据的组件。通过树筛选组件可以展示有层级关系的字段,例如”国家-省份-城市“的层级关系。 1、目前树筛选组件只支持拖入:字符串字段,时间层次,不支持 日期字段、数值字段、度量、命名集。 2、树筛选组件需要开启数据模型引擎V2.0才能正常使用。 1.1 功能简介关于计划任务执行机制
放在同一个计划任务一起执行,比如说报表发送要在数据更新完成后执行,即【发送报表的任务】要做【抽取数据任务】之后,这样计划启动后,任务会排队执行,但这个要注意,若前一个任务如果不成功,就不能执行后一个,同一个计划中的任务是属于顺序排队执行的,只有第一个任务执行成功后,才会执行同个计划中的第二个任务,依次排队执行。 注意: 计划任务设置不合理有可能会互相造成影响,并且如果本身存在频繁大数据量抽取,不建议直接通过计划任务抽取,建议是采用专业的ETL工具执行,因为计划任务频繁的执行是需要消耗服务器内存的,会对用户使用造成一些影响。 另外目前是没有办法查出当前节点此刻有多少任务正在执行Infobright使用concat函数拼接乱码
(此文档仅供参考) 问题描述 高速缓存库的数据类型为infobright,数据集抽取后,基于该高速缓存库创建的原生SQL数据集,使用concat函数拼接中文显示乱码,如图: 现象1: https://s2-cs-pub-std.kefutoutiao.com/doc/im/weixin_628_ogxAVv60d_I3QKoPKJ7vcnpaz6TY_f9737bcd2afb44a18a0febd1c8cceb20.jpeg?Expires=1728444216&OSSAccessKeyId=bPexlr6MCcadDhfu&Signature=8SvaMeZkmZjAPshXO4KE3bij33A%3D 现象2