第33页,共411页。 显示 4,108 条结果 (0.612 秒)
执行关系数据源节点报错找不到驱动类
(本文仅供参考) 问题描述: ETL直接抽取Hadoop-hive的表报错提示:后台异常,根据名称找不到类(驱动类),但是在数据模型可以正常使用。 报错信息: image2022-4-14_12-9-49.png 问题原因: 报错的原因是Hadoop_Hive使用的是自定义驱动,数据挖掘引擎里没有对应的驱动导致。 解决方案: 将驱动放入引擎config/lib的对应数据库类型目录下,并重启引擎,具体步骤如下; 1、例如当前文档中报错提示,引擎中缺少hive驱动,需要将hive驱动放到引擎config/lib对应的hive目录中 windows:.../SmartbiEngine/config/lib image信创版本数据连接支持情况-汇总
备注: 支持存储过程:存储过程只支持单个输出参数,而且OUT参数只支持游标类型。 选项中是“-”、,代表它不支持。 更多其他关系数据源可查看:数据连接支持情况-汇总 https://wiki.smartbi.com.cn/pages/viewpage.action?pageId=142969310。。 序号 数据库 数据源 数据模型 指标模型 自助ETL 数据模型引擎V2.0 电子表格 备注 内置驱动 支持导入文件 支持多catalog 支持存储过程 支持导入文件 支持生成日期表 支持分区 作为指标库 关系数据源(读) 关系表(追加) 关系表(覆盖) 关系表(插入或更新数据连接支持情况-汇总
备注: 支持存储过程:存储过程只支持单个输出参数,而且OUT参数只支持游标类型。 选项中是“-”、,代表它不支持。 序号 数据库 数据源 数据模型 指标模型 自助ETL 数据模型引擎V2.0 电子表格 备注 内置驱动 支持导入文件 支持多catalog 支持存储过程 支持导入文件 支持生成日期表 支持分区 作为指标库 关系数据源(读) 关系表(追加) 关系表(覆盖) 关系表(插入或更新) 建表 删除回退 execl模板导入 回写通过存储过程或 ETL 同步用户
t_group_role 用户组与角色对应关系表。相关字段:t_role.c_roleid、t_group. c_groupid t_user_role 用户与角色对应关系表。相关字段:t_role.c_roleid、t_user. c_userid t_funclist 操作权限表。 t_role_func 角色与操作权限关系表。相关字段:t_role.c_roleid、t_funclist. c_funcid 2、字段类型 下文表结构中的字段类型等信息,均是针对 MySQL 5.0 而言,其它数据库类型的对应关系如下表所示操作权限列表
。 示例数据源 用于控制在自助ETL中是否拥有“输入”节点下“示例数据源”节点的权限。 输出 追加到关系表 用于控制在自助ETL中是否拥有“输出”节点下“追加到关系表”节点的权限。 覆盖关系表 用于控制在自助ETL中是否拥有“输出”节点下“覆盖关系表”节点的权限。 插入/更新关系表 用于控制在自助ETL中是否拥有“输出”节点下“插入/更新关系表”节点的权限。 追加到HDFS 用于控制在自助ETL中是否拥有“输出”节点下“追加到HDFS”节点的权限。 覆盖到HDFS 用于控制在自助ETL中是否拥有“输出”节点下“覆盖到HDFS”节点的权限。 Python脚本 用于控制在自助数据挖掘-数据的输入和输出
kafka数据。 自定义数字:指定某个位置作为起点开始消费kafka数据。 消息格式 支持csv跟json格式,如果是csv格式,需要设置分隔符跟字段映射。 关系数据源 概述 关系数据源是指从Smartbi关系数据源中读取的库表数据。 目前支持Infobright、ClickHouse … : image2021-8-18_18-2-1.png 设置说明如下: 参数 说明 数据源 选择数据源,这些数据源是Smartbi中连接配置好的关系数据源,必填。 SCHEMA 选择SCHEMA,必填。 表名 选择表,必填。 分区设置 把表数据相对平均分成多个分区系统检查
的相关记录在资源树表中是否存在(与资源树表中的记录有关联的实体表) 否 用户关系检查 检查“组”的父组不存在的垃圾数据 检查“操作权限”的父权限不存在的垃圾数据 检查“组”与“用户”关系表中的垃圾数据 检查“组”与“用户”扩展关系表中的垃圾数据 检查“角色”与“用户”关系表中的垃圾数据 检查“组”与“角色”关系表中的垃圾数据 检查“角色”与“操作权限”关系表中的垃圾数据 检查“组”的扩展属性对应组不存在的垃圾数据 检查“用户”没有组的垃圾数据 检查“用户”的扩展属性对应用户不存在的垃圾数据 检查“用户”的个人设置对应用户不存在的垃圾数据 检查“角色”所在组已经不存在的垃圾数据 是。 修复系统检查
的记录有关联的实体表) 用户关系检查 检查“组”的父组不存在的垃圾数据 检查“操作权限”的父权限不存在的垃圾数据 检查“组”与“用户”关系表中的垃圾数据 检查“组”与“用户”扩展关系表中的垃圾数据 检查“角色”与“用户”关系表中的垃圾数据 检查“组”与“角色”关系表中的垃圾数据 检查“角色”与“操作权限”关系表中的垃圾数据 检查“组”的扩展属性对应组不存在的垃圾数据 检查“用户”没有组的垃圾数据 检查“用户”的扩展属性对应用户不存在的垃圾数据 检查“用户”的个人设置对应用户不存在的垃圾数据 检查“角色”所在组已经不存在的垃圾数据 表数据量检查 检查表数据量是否过大,主要检查大数据量抽取性能优化
300G+的目录上。 2.3 关系数据源节点配置 提升关系数据源节点执行性能,主要通过两个设置,分区设置跟选择列。 2.3.1 分区设置 image2024-7-18_16-59-56.png 分区设置为了把表数据相对平均分成多个分区,抽取程序会尽可能一个分区分配一个线程进行并行抽取,这样能够极大的提高 … 设置。 image2024-7-18_17-26-54.png 2.4 关系目标表节点配置 一般不需要做特别设置,根据不同场景选择不同节点。全量数据抽取,使用关系目标表(覆盖) 节点,增量数据追加,使用关系目标表(追加),增量数据更新,使用关系目标表(插入或更新)。 如果是mysql 协议的数据库,建议在数据源url 上加上通过存储过程或 ETL 同步用户
t_group_role 用户组与角色对应关系表。相关字段:t_role.c_roleid、t_group. c_groupid t_user_role 用户与角色对应关系表。相关字段:t_role.c_roleid、t_user. c_userid t_funclist 操作权限表。 t_role_func 角色与操作权限关系表。相关字段:t_role.c_roleid、t_funclist. c_funcid 1.2 字段类型 下文表结构中的字段类型等信息,均是针对 MySQL 5.0 而言,其它数据库类型的对应关系如下表所示