页面树结构

版本比较

标识

  • 该行被添加。
  • 该行被删除。
  • 格式已经改变。



注意:(新特性列表中:+表示新增;^表示增强)

V10.5版本重点详细改进情况如下:5.8 版本重点详细改进情况如下:


指标模型支持在线编辑数据
指标模型支持在线编辑数据


+

【指标管理】指标模型支持在线编辑数据【钟翠英】

【指标管理】指标模型支持在线编辑数据


背景介绍指标为企业决策提供数据支撑,数据来源在企业运营过程中,需要经过数据采集、数据治理、数据汇总等流程,这冗长的过程在面对快速更改数据时,都需要依赖技术部门配合完成。

指标模型维度和指标的数据,当前只能通过自助ETL功能进行数据准备,这个数据加工过程漫长且技术门槛高。

1. 采用模拟数据,直接基于仪表盘制作交互原型,在实施前期与甲方共同确认目标,让前期投入后期直接复用同时,也让报表制作和数据加工过程并行更简单。

2. 简化产品演示、demo演示、功能试用等数据准备过程,不需要通过自助ETL进行数据准备,仅通过Excel导入或手工编辑即可完成,增强产品易用性。


解决方案

在Smartbi V10.5

正式版中,在前端以Excel的形式提供在线编辑表数据的功能,支持 

.8 版本中,指标模型的维度和指标数据支持在线编辑表数据的功能,支持 手工录入复制粘贴 

等操作,无需技术部门协同,即可完成数据准备过程。

等操作,快速生成模拟数据即可完成数据准备过程。

功能简介

指标模型的维度和事实表数据预览界面,点击 在线编辑

Image Modified


title
注意
注意

在线编辑的是指标存储库中的数据,此操作不会影响源业务系统的数据。

参考文档指标模型操作详情请参见:

指标模型在线编辑数据操作详情请参见:在线编辑数据

指标模型资源迁移增强
指标模型资源迁移增强


+

【指标管理】指标模型资源迁移增强【钟翠英】

【指标管理】指标模型资源迁移增强


背景介绍

指标模型在持续迭代的过程中,往往需要先在测试环境进行验证,数据准确后再迁移至生产环境,且需保证生产环境中指标模型的定义信息和指标存储库中的数据信息保持一致。如何提高运维人员在做资源迁移时的效率,快速在新环境中恢复资源,成为亟待解决的问题。


解决方案

在Smartbi V10.5

正式版中,为检测指标模型的中定义信息和数据信息是否匹配,提供

.8 中,为检测指标模型的中定义信息和数据信息是否匹配,提供 检查表结构 功能,可快速识别不一致的项并提供 全量覆盖建表 功能和 增量建表 功能,最终保证定义信息和数据信息的一致性。

功能简介

     ●  指标模型右键菜单增加 检查表结构

,找出当前模型结构定义和指标存储库中物理表结构不一致的维表和事实表,并支持对比查看表中有哪些字段不一致

,找出当前模型结构定义和指标存储库中物理表结构不一致的维表和事实表,并支持对比查看表中有哪些字段不一致。

     ●  提供 全量覆盖建表

,根据当前模型结构的定义,全量覆盖指标存储库中的物理表

根据当前指标模型中定义的所有维度和事实表,全部覆盖指标存储库中的同名表。

     ●  提供 增量建表根据当前指标模型中定义的维度和事实表,只批量创建指标存储库中不存在的表。Image Modified

参考文档

指标模型操作详情请参见:指标模型检查表结构操作详情请参见:检查表结构

事实表关联维度/指标自动填入字段
事实表关联维度/指标自动填入字段


+【指标管理】事实表关联维度/

指标自动添加填入字段【钟翠英】

指标自动填充字段


背景介绍

企业在持续发展的过程中,维度会根据实际的业务情况而发生变化,维度的变化将会影响到所有相关的指标,。


企业在持续发展的过程中,维度会根据实际的业务情况而发生变化,维度的变化将会影响到所有相关的指标。功能简介

在Smartbi V10.5

正式版中

.8 中,事实表关联维度和指标时,能自动填入对应字段,极大地提高ETL工程师批量修改关系时的工作效率。

功能简介

事实表中,如果字段名和字段别名没有被修改过,则:

     ●  

关联维度,则自动填入对应维度的主键字段和字段别名

关联维度,自动填充对应维度的主键字段名和别名作为字段名和字段别名

     ●  

关联指标,则自动填入该指标的指标编码和指标名称作为字段名和别名

关联指标,自动填充该指标的指标编码和指标名称作为字段名和字段别名。

屏蔽派生指标和复合指标
屏蔽派生指标和复合指标

<【指标管理】屏蔽派生指标和复合指标【钟翠英】

背景介绍

为什么要屏蔽,待确定话术。(xxx从概念太多,不容易理解这个点来说)


<【指标管理】屏蔽派生指标和复合指标


功能简介

     ●  指标类型中,屏蔽派生指标和复合指标指标类型中,屏蔽派生指标和复合指标。

     ●  原 虚拟指标 更名为 计算指标计算指标。

注意

派生指标和复合指标的功能目前还不完善,所以在Smartbi V10.5.8 中暂时先屏蔽派生指标和复合指标,等后续功能优化完后再开放使用。

自定义分组
自定义分组

+

【数据模型】通过向导创建自定义分组【刘芳】

【数据模型】支持创建自定义分组字段


背景介绍

数据模型可以使用成员建立分组字段,但是大部分用户都不会写MDX 语句,并且维度分组的场景普遍存在,所以支持通过界面可视化支持自定义分组。

场景举例:

设置地理分组。例如,对省份字段分组,划分出几个大区如下。

  • 一线城市:北京、上海、深圳
  • 二线城市:南京、南昌、厦门、大连、常州、天津

  • 三线城市:张家口、昆明、成都、济南、烟台

设置年龄分组。例如,客户年龄字段分组,划分出几个大区如下。

  • 0岁≤未成年<18岁
  • 18岁≤青年<40岁
  • 40岁≤中年<56岁
  • 老年≥56岁

功能介绍

  • 在数据模型区增加新建入口,并且分组包含”枚举分组“和”范围分组“;
  • 在仪表盘、即席查询可以建立私有的分组字段

Image Removed

作业流依赖作业流依赖

+【作业流】作业流支持串联“数据模型”节点

背景介绍

技术人员通过ETL灌数到指定的数据库表,需要手动或通过计划任务定时抽取数据模型的数据到MPP,因为数据模型的抽取和作业流的调度是分开执行的,会有一个先后顺序或时间差,如果ETL执行不成功即没有把最新数据更新到表中,会导致数据模型在定好的时间抽取就没有意义或者说数据不准确,所以需要把数据模型的抽取与作业流的抽取串联起来;

功能介绍

在作业流中左侧增加了”指标模型“、”数据集“目录,目录下仅展示抽取的数据模型,如下图:

Image Removed

分组字段是指对原始数据根据条件将相同的数据先合并到一组,然后按照分组后的数据进行汇总计算。

在V10.5 beta版本中,如果要新增一个分组字段,有2种方法:

  1)写MDX语句:但是大部分人不会写

  2)写SQL语句: 不懂技术的业务人员不会写SQL,只能依靠技术人员

所以在V10.5.8版本中,数据模型以及交互式仪表盘等均可通过界面可视化自定义分组字段,让业务人员轻松创建分组字段,减少对技术人员的依赖,提高了功能的易用性。

功能介绍

1)在数据模型支持自定义分组,支持对字符串、数值、日期进行枚举分组以及范围分组;

 例如,设置城市分组,划分出几个大区如下:

       一线城市:北京、上海、深圳

       二线城市:南京、南昌、厦门、大连、常州、天津

       三线城市:张家口、昆明、成都、济南、烟台

Image Added

    例如,对年龄分组。例如,客户年龄字段分组,划分出几个大区如下。

        0岁≤未成年<18岁

       18岁≤青年<40岁

       40岁≤中年<56岁

        老年≥56岁

Image Added

2) 交互式仪表盘、即席查询也支持创建报表资源级别的自定义分组字段即只对该报表生效,不会保存到数据模型。

参考文档

详情请参考 在数据模型中如何自定义分组

作业流支持串联“数据模型”节点
作业流支持串联“数据模型”节点

+【作业流】支持在作业流中执行数据模型的抽取


背景介绍

 在V10.5 beta版本:

1)作业流和数据模型的抽取是独立分开进行的,但是数据模型的数据依赖于作业流即作业流先抽完,数据模型才能开始抽数,否则会出现数据不正确;

2)作业流执行完了之后数据模型再抽取数据,需要自定义任务(写代码)才能实现,而且非常复杂,耗时耗力

而在V10.5.8,作业流可以通过拖、拉、拽轻松设置数据模型与ETL执行的先后顺序,无需写代码、轻轻松松确保生产安全!

Image Added

功能介绍

在作业流左侧增加了”指标模型“、”数据集“目录(目录下仅展示抽取的数据模型并支持把数据模型当作节点拖入到画布中,并且与其他节点建立执行的先后顺序,如下图:

Image Added

参考文档

详情请参考 如何在作业流中执行抽取的数据模型

Foreach 循环器
Foreach 循环器


+【作业流】作业流支持 Foreach 循环器


背景介绍

Foreach 循环配置允许您在单个数据流任务中轻松摄取多个数据文件。为此,所有文件都需要驻留在相同的目录结构中,并且它们都必须具有相同的结构和元数据。

作业流中的 Foreach 循环容器将控制流任务重复N 次,类似于任何编程语言中的Foreach 循环;

场景举例

零售行业,店面可能分布在不同的国家、城市里,每个店面每个月都会生成一份Execl文件数据;客户把所有店面的文件收集起来,统一存放在一个文件夹中;

客户要求文件夹下所有文件的数据落地整合成一份数据,然后再用于可视化分析,这时可以用到Foreach 的ftp文件枚举器,通过读取ftp文件下的文件再用”循环资源“读取数据合并到一张大宽表

在V10.5 beta版本中,读取文件数据主要有以下方式:

1)使用Excel导入模型:要根据模板导入,并且一次只能导入一个文件

2)数据源/ 加载文件数据: 一次只能导入一个文件

3)ETL的”FTP数据源"节点: 一次只能读取一个文件

 而在V10.5.8版本中,支持一次性批量读取多个excel文件数据并且合并成大宽表存储到指定表中,业务人员无需重复导入,提高了其工作效率。


功能介绍

Foreach 循环器包含:Foreach FTP文件枚举器、Foreach Item 枚举器、、Foreach 参数枚举器Image RemovedFTP 文件枚举器、Foreach Item 枚举器、Foreach 参数枚举器;其中 Foreach FTP文件枚举器 

通过获取ftp文件下的文件名(FileName)+Sheet名称(SheetName),再配合”循环资源“循环读取数据合并到一张大宽表,如下图:

Image Added

参考文档

详情请参考 如何使用"Foreach 循环容器"节点

检测文件节点
检测文件节点

+

【作业流】新增节点:检测文件是否存在

【作业流】支持识别“外部ETL”跑完状态


背景介绍

在项目实施过程中发现,很多客户都有自己的ETL工具(外部ETL),往往是外部ETL工具跑完之后,Smartbi的作业流才开始跑,所以需要一个”标识“告诉Smartbi 作业流可以开始跑了;而这个”标识“客户可能会存在FTP上以文件的形式存在,也可能是其他形式。

场景举例:

某银行项目,客户有自己的ETL工具,会设置时间频率跑定时任务,跑完会把定时任务文件输出到ftp下,并且会生成一个OK文件;如果存在了ok文件,那么则认为,这个外部任务已跑成功,数据已写入完成。

此时smartbi需要去检测是否存在ok文件,如果存在,才可以执行作业流。

功能介绍

在作业流左侧增加了”检查文件存在”的节点,可以通过配置ftp读取信息读取指定文件,如果文件存在作业流则往下执行,如果不存在则不执行直到读取到指定文件才往下执行。

Image Removed

作业流参数作业流参数

+【作业流】作业流支持参数设置

背景介绍

在项目实施过程中发现,很多客户都有自己的ETL工具(外部ETL),往往是外部ETL工具跑完之后,Smartbi的作业流才开始跑;而有些客户外部ETL工具每天跑完会在数据库里面生成一张表,表里面的信息包括ETL日期、ETL执行时间、ETL状态(状态码示例:0失败 1成功)等,那Smartbi 怎么通过动态的参数是获取到这个”状态“呢?

场景举例与功能介绍:

某项目,客户有自己的ETL工具,会设置时间频率跑定时任务,跑完会每定在指定表生成一条记录,记录的状态1为成功,其他值则代表失败,如下表格:

日期

状态

执行时间

2022-02-0102022-02-01 01:132022-02-0112022-02-01 02:10

而Smartbi 通过作业流的参数支持动态参数(公共参数)获取当前日期,根据当前日期,再结合“检查字段值”节点,通过SQL语句查询状态

Image RemovedImage Removed在V10.5beta版本中,识别“外部ETL”跑完状态有以下方法:

1)“源库脚本"节点: 需要写SQL语句并且该节点无法与其他节点关联,需要单独建一个ETL资源,不但操作麻烦而且增加了维护成本。

而V10.5.8,支持”标识“存放在ftp上,也支持”标识“存放在具体的表中,如下图, 扩展了识别方法,操作也更为直观简单,节省了实施成本,确保了数据正确。

Image Added


功能介绍

1)通过"ftp方式”检测文件是否存在: 在作业流左侧增加了”检查文件存在”的节点,可以通过ftp读取指定文件,如果文件存在,作业流则往下执行;如果文件不存在,则作业流不执行:Image Added

2.获取每天ETL执行状态: 作业流增加了参数,用以动态判断记录状态

Image Added

Image Added

参考文档

详情请参考 作业流如何识别“外部ETL”跑完状态

横版ETL开发
横版ETL开发


^【ETL】横版ETL开发


背景介绍

由于数据准备处理需要经常查看数据,改为横版ETL后,留出画布下方空间放节点配置面板和查看数据面板。用户点击执行按钮后能马上从数据面板上看到效果,节省了多次点击的时间。

功能简介

ETL改为横板DAG图,配置面板和数据面板调整至画布下方。选择节点时,配置面板上增加“执行该节点”按钮。左侧的节点树目录结构也做了调整。

Image Added

参考文档

详情请参考 自助ETL - 界面介绍