页面树结构

版本比较

标识

  • 该行被添加。
  • 该行被删除。
  • 格式已经改变。

...

信息

1、增量抽取只在数据模型引擎V2.0上生效。

2、目前增量抽取支持的缓存库:SmartbiMpp产品默认使用高速缓存库CH、StarRocksSmartbiMppMD产品exe安装包自带高速缓存库,正在持续继续完善。

3、导入文件生成日期表ETL高级查询不支持增量抽取。不支持增量抽取;增量抽取是针对数据模型的单个表或查询进行设置的。

1.1 增量抽取适用场景

增量抽取常用于频繁更新且数据量比较大的表。

...

  • 历史数据不会变动  --入库方式可以使用”追加“。
  • 表内有“时间戳”字段,可用来和"更新时间"做对比实现增量更新,--入库方式可以使用”更新与插入“。


 2 示例介绍

数据模型共有9种查询,其中 导入文件生成日期表ETL高级查询 不支持增量抽取。

...

2.1 增量数据入库方式-追加示例

  • 追加:每次抽取,根据“用于标识新增数据的字段”判断数据库中的数据是否为新增数据,对数据库的新增数据进行抽取,并追加在MPP数据库中,如下图所示:

...