Smartbi 数据模型提供“直连”和“抽取”两种数据加载模式:
实时性需求很高的用户:用户进行业务分析实时性要求很高,直连引擎实时取数,最高实现毫秒级数据刷新。
数据安全性要求很高的用户:不希望将数据抽取到第三方软件,可使用新直连版本直连自己的数据库。
拥有大数据平台的用户:目前很多企业有较为专业的大数据平台,数据质量很高,通过直连引擎取数,可以在保障数据分析性能的同时避免数据资源冗余。
数据量比较小,并觉得抽取要更新数据太过麻烦的用户:直连性能要求较 抽取数据 要高一些,这部分用户数据量小所以使用直连不会有性能方面的担忧;使用直连可以不用更新数据,较为方便。
1、目前Smartbi JDBC for Excel、MongoDB、Tinysoft、Smartbi jdbc4Olap这个几个数据库 不支持直连,其他数据库均支持 直连。 2、打开数据模型默认是直连模式,如果不手动切换或者不加入不支持直连的查询类型,将会一直保持直连模式。 3、直连 时查询计算依赖原始数据库或数仓,如果底层数据库或数仓的配置过低、性能不好等,可能会导致取数慢、查询奔溃等问题。 4、若在原始数据库对表结构进行更改(比如进行了列的增减),那么表结构的变化不会立即更新到在数据模型中;需要对模型中的表进行“同步”操作,“同步”之后才会把新字段添加进来,详情可查阅:设置及修改查。 5、若 直连 的是数据仓库,而数据仓库又是通过ETL作业流 进行更新同步的,如果作业流没有执行,直连查询的还是原来的数据。 6、4、如果是数据模型是 直连模式,则可以根据切换参数值动态筛选;如果数据模型是 抽取 模式,则只能根据设置的默认值筛选,无法动态切换;详参:参数设置。 |
1、直连模式示意图:
2、直连模式是Smartbi引擎查询的默认模式,所有的查询会发送给底层数据库或数仓执行;
目前数据模型中支持直连的查询有:数据源表、即席查询、SQL查询、存储在指定数据库的”生成日期表“(非存储在MPP),详参:查询并准备数据。
Smartbi数据模型先把源数据抽取到高速缓存库,然后从高速缓存库中取数。
数据抽取支持 全量抽取、按次抽取 。
全量抽取模式: 1、如果使用 参数 进行权限控制,比如华南区域的员工只能查看华南的数据,华北区域员工只能查看华北的数据,那么抽取的时候需要使用管理员的账号进行抽取; 详情可查阅计划任务。 2、如果模型的查询是数据源表,并且在源表设置了行权限,全量抽取不会继承源表设置的行权限,需要重新在模型上设置行权限;详参:数据模型行权限。 3、如果模型使用了参数进行数据过滤或者权限控制,在报表层,切换参数无法过滤到数据非默认值的数据,详参:参数设置。 4、如果模型的最后一次抽取失败,打开有影响的报表,无法正常查看,会提示需要抽取模型。 |
全量抽取,即全量覆盖抽取, 每次抽取的时候将表数据全部抽取至MPP数据库。
全量抽取:每次抽取,对数据库的全部数据进行抽取,并覆盖MPP数据库已有的数据,示意图如下:
1、如果模型里面的查询是数据源表,并且在源表设置了行权限,按次抽取会继承源表设置的行权限; 详参:数据模型行权限。 2、“按次抽取”是结合用户的登录生成的Session及查询的参数组合进行抽取。如果用户注销或关闭浏览器,下一次登录系统会重新抽取。 3、按次抽取,如果把报表共享给其他人查看,用户使用public权限第一次打开会进行抽取数据,只要第一次打开的用户不注销或关闭浏览器,后面的用户都无需重新抽取。 4、ETL高级查询不支持按次抽取。 |
“按次抽取”使用场景:
示例:根据产品类别编号获取产品信息。
具体操作步骤如下:
1、以下面”“根据产品类别动态获取产品信息 进行介绍
2、在存储过程查询中选择产品自带的northwind数据库下面的“northwind_sp_getProductInfo存储过程, 如下图:
3、保存存储过程,并回到数据模型,创建参数,如下图,可参考 参数设置 创建参数:
4、在抽取设置 设置查询为按次抽取,并保存数据模型。
5、去建 交互式仪表盘,并把参数拖入,切换参数,组件可以根据参数动态展示数据:
抽取的整体逻辑简单介绍:
|
Smartbi数据模型的手工抽取类型有:抽取并建宽表、单个查询的抽取、更新宽表
选项 | |
---|---|
抽取并建宽表 | 适用于手动抽取的任意场景,比如模型的某个字段数据类型改了,别名改了,关系修改了,增加了某个字段等等,点击“抽取并建宽表”都会把整个模型的查询全部重抽并重新生成大宽表。 |
单个查询的抽取 |
|
更新宽表 | 如果模型里面的所有查询都没有任何调整,只是查询的数据改变了,那么可以直接用更新宽表的方式减少抽取时间。 |
抽取参数值 |
只要是抽取的模型,第一次保存之后都会自动生成计划任务,默认是开启状态。 |
1、模型的抽取计划入口:
2、设置好查询的抽取方式以及抽取参数值,如果想定时更新模型的数据,那么可以使用计划任务进行抽取, 详参:计划任务。
用户查看抽取日志:
1、入口:
2、点击进入抽取日志界面: