从SLS同步
字段映射 日志字段和云数据库ClickHouse表字段的映射。投递开始时间 日志写入SLS的时间。例如，选择时间为 2021-12-31 08:00，即把 2021-12-31 08:00 之后的日志数据投递到云数据库ClickHouse。是 否过滤脏数据 是否对脏数据进行过滤。建议...
配置Kafka输出组件
配置Kafka输出组件，可以将外部数据库中读取数据写入到Kafka，或从大数据平台对接的存储系统中将数据复制推送至Kafka，进行数据整合和再加工。本文为您介绍如何配置Kafka输出组件。操作步骤 请参见 离线管道组件开发入口，进入离线单条管道...
配置Kafka输出组件
配置Kafka输出组件，可以将外部数据库中读取数据写入到Kafka，或从大数据平台对接的存储系统中将数据复制推送至Kafka，进行数据整合和再加工。本文为您介绍如何配置Kafka输出组件。操作步骤 请参见 离线管道组件开发入口，进入离线单条管道...
创建索引或约束支持的字段类型
本文为您介绍 MySQL 数据库和 OceanBase 数据库 MySQL 租户对于不同约束支持的字段类型不兼容的场景。主键（PRIMARY KEY）字段类型 通过 CREATE TABLE DDL 创建 PRIMARY KEY 时，MySQL 数据库和 OceanBase 数据库 MySQL 租户支持的字段类型...
通过Kettle导入至数仓版
在 表输出 的 数据库字段 选项卡中，单击 获取字段 和 输入字段映射，可以设置Excel中的列与 AnalyticDB MySQL版 表中列名间的映射关系。单击白色三角箭头运行转换，观察运行日志和运行状态。本地Excel数据成功同步至 AnalyticDB MySQL版 ...
虚拟列
使用虚拟列功能时，您可以通过修改多元索引Schema或者新建多元索引来实现新字段新数据类型的查询功能，而无需修改表格存储的存储结构及数据。功能概述 虚拟列功能支持用户在创建多元索引的时候将表中一列映射到多元索引中的虚拟列。新的...
数据集成侧同步任务能力说明
说明 以业务数据库数据同步到MaxCompute数据仓库为例，当有大量的数据存储在数据库系统里，需要将数据库中的全量及增量数据同步到MaxCompute进行数仓分析时，数据集成传统方式是通过全量同步或者依赖数据库表中的 modify_time 等字段进行...
通过日志服务导入至数仓版
左边文本框为日志字段名称，右边为AnalyticDB MySQL数据库表中的字段。说明 Timestamp类型的字段映射精确到秒级别。例如日志时间为2022-01-05 10:12:13.145，投递到AnalyticDB MySQL后，投递结果为2022-01-05 10:12:13。投递开始时间 配置...
合作数据管理
示例说明：A表有id_a、gender字段，B表有id_b、age字段，代码如下：#bob查，可以执行成功 select alice.gender,count(alice.gender),bob.age,count(bob.age)from alice join bob on alice.id_a=bob.id_b group by alice.gender,bob.age;...
数据归档
背景信息 ODC 支持定时将源数据库中的表数据归档至其它目标数据库中，以解决因线上数据增多影响查询性能与业务运作的问题。本文档旨在介绍如何通过提交数据归档工单实现归档数据。原理介绍 前提条件 归档的表中必须包含主键。注意事项 前置...
函数总览
本文列举数据加工任务所涉及的所有函数。全局操作函数 函数分类 函数名称 说明 流程控制函数 e_if 条件与操作组合。满足条件则进行对应操作，不满足条件则不进行对应操作，直接进行下一个条件判断。对于某一条日志，如果其中某一操作删除了...
数据探查
字段采样：可选择数据表的任一字段，所选字段不同值至少抽样一条。探查卡片操作 探查卡片包括表头、数据质量柱图和值分布柱图三部分。表头 表头信息有字段名、字段类型、去重值个数、排序、搜索和更多功能。说明 字段名、字段类型的修改及...
Quick BI数据源新增字段后，数据集字段信息同步更新
问题描述 Quick BI数据源新增字段，数据集字段信息更新。问题原因 数据源更新表生成新字段后，数据集也需更新。解决方案 打开数据集后，点击左上方表字段选择，在右边选中新增字段后，点击确定刷新数据集。适用于 Quick BI
操作流程
物理化逻辑表 通过物理化的方式，将 企业数据智能平台 中创建的逻辑表存储到对应的云计算资源中，成为云计算资源或者数据库中实际存在的表，方便实施后面的管理。具体操作，请参见 物理化逻辑表。设置逻辑表质量规则 通过可视化方式设置...
MaxCompute+API 数据源
表权限，在配置MaxCompute 数据表时需要登录OpenSearch的账号对该表有相应的权限（describe,select,download,字段的label权限）。赋权语句如下：添加账号 add user*@aliyun.com;给该账号赋相应的表权限 GRANT describe,select,download ON ...
操作流程
物理化逻辑表 通过物理化的方式，将 数据资源平台 中创建的逻辑表存储到对应的云计算资源中，成为云计算资源或者数据库中实际存在的表，方便实施后面的管理。具体操作，请参见 物理化逻辑表。设置逻辑表质量规则 通过可视化方式设置质量...
步骤二：开发事实逻辑表
本文为您介绍如何基于本教程完成 下单购买事实逻辑表（fct_order_buy_di）开发。步骤一：新建事实逻辑表 在Dataphin首页，单击顶部菜单栏的 开发。按照下图操作指引，进入 新建事实逻辑表 对话框。在 新建事实逻辑表 页面，配置相关参数。...
步骤二：开发事实逻辑表
本文为您介绍如何基于本教程完成 下单购买事实逻辑表（fct_order_buy_di）开发。步骤一：新建事实逻辑表 在Dataphin首页，单击顶部菜单栏的 开发。按照下图操作指引，进入 新建事实逻辑表 对话框。在 新建事实逻辑表 页面，配置相关参数。...
元数据
背景信息 元数据（字典）是属于数据库本身的一些数据，包含数据库名、数据库字符集、表名、表的大小、表的记录行数、表的字符集、表的字段、表的索引、表的描述、字段的类型、字段的精度、字段的描述等。所有信息均来源于 information_...
步骤一：开发维度逻辑表
本文为您介绍如何基于本教程完成 产品维度逻辑表 和 客户维度逻辑表 开发。背景信息 完成产品维度逻辑表开发并提交后，还需完成客户维度逻辑表的开发并提交。本教程的产品维度逻辑表开发与客户维度逻辑表开发操作步骤相同，本文以开发 产品...
步骤一：开发维度逻辑表
本文为您介绍如何基于本教程完成 产品维度逻辑表 和 客户维度逻辑表 开发。背景信息 完成产品维度逻辑表开发并提交后，还需完成客户维度逻辑表的开发并提交。本教程的产品维度逻辑表开发与客户维度逻辑表开发操作步骤相同，本文以开发 产品...
API概览
本产品（数据湖构建/2020-...ListDatabases 获取元数据库列表 获取数据湖元数据库列表，分页查询，可以根据数据库名称匹配。表 表 CreateTable 新增元数据表 新增数据湖的元数据表。DeleteTable 删除元数据表 根据名称删除数据湖的元数据表。...
配置逻辑表关联字段标准
说明 逻辑表对应字段关联数据标准中的值后，如果确认用标准字段的名称覆盖当前逻辑表字段的名称，则单击 确认 后，逻辑表中该字段的名称会自动更改为数据标准中对应的数据元、指标、或者维度的code值，例如：逻辑表中的手机号码原始字段...
配置逻辑表关联字段标准
说明 逻辑表对应字段关联数据标准中的值后，如果确认用标准字段的名称覆盖当前逻辑表字段的名称，则单击 确认 后，逻辑表中该字段的名称会自动更改为数据标准中对应的数据元、指标、或者维度的code值，例如：逻辑表中的手机号码原始字段...
查看并管理明细及汇总表实例
例如 图标，表示该逻辑表的字段有运行 成功 和 未运行 的两种状态。字段运行状态图标后字段对应的数量为当前逻辑表节点的字段数量；节点对应的数量为当前逻辑表节点的物化节点数量。同时您也可以单击 图标，查看每个字段的归一运行状态。...
查看并管理明细及汇总表实例
例如 图标，表示该逻辑表的字段有运行 成功 和 未运行 的两种状态。字段运行状态图标后字段对应的数量为当前逻辑表节点的字段数量；节点对应的数量为当前逻辑表节点的物化节点数量。同时您也可以单击 图标，查看每个字段的归一运行状态。...
DB-IN
DB-IN算法组件从所选数据源内选表选字段。计算逻辑原理 根据用户填写的数据源连接信息，调用选择数据源的接口获取表字段schema。使用流程说明 先在“数据源管理”页定义好数据源连接信息，然后将组件拖入画布，选择相应数据源的表字段。...
创建多元索引
例如有一张数据表有5个字段，分别为id、name、age、city、sex，需要按照name、age或city查询数据时，有两种创建多元索引的方式。方法一：一个字段建立一个多元索引 按照name、age或city字段分别创建多元索引，名称分别为name_index、age_...
全增量实时同步至Hologres
如上图所示，使用 源端数据库名 将源端数据库名作为目标schema名称，并且将所有满足 order_db.*正则表达式的源库写入目标Hologres名为 order_db 的schema中。自定义目标表名映射规则 在 目标表名映射自定义 列，单击 编辑 按钮。可以使用...
MongoDB数据导入
返回结果：+-+|CAST(_id AS string)|+-+|641002ad883a73eb0d7291a7|+-+说明 如果要将ObjectId字段导入到 AnalyticDB MySQL 中，需要先创建用于存储ObjectId字段的数据库和数据表，具体操作，请参见 导入MongoDB非嵌套文档 中的步骤5~7。...
质量规则模板类型
数据表/指标模板类型 模板分类 模板说明 完整性 字段空值校验 用于对单字段是否是空值进行校验。字段空字符串校验 用于对单个字段是否是空字符串进行校验。唯一性 字段唯一性校验 用于对单字段唯一值/非唯一值进行校验。字段分组个数校验 ...
质量规则模板类型
数据表/指标模板类型 模板分类 模板说明 完整性 字段空值校验 用于对单字段是否是空值进行校验。字段空字符串校验 用于对单个字段是否是空字符串进行校验。唯一性 字段唯一性校验 用于对单字段唯一值/非唯一值进行校验。字段分组个数校验 ...
手动新建逻辑表
通过手动新建逻辑表，建立您期望的数据表样式和字段，并支持将逻辑表物理化至云计算资源中，为后续...说明 删除逻辑表不会同时删除数据库中已生成的物理表。后续步骤 创建完逻辑表以后，需要将逻辑表物理化，更多信息，请参见 物理化逻辑表。
从RDS MySQL数据库获取数据进行数据富化
说明 日志字段的值和RDS MySQL数据库表字段的值进行等值匹配时，如果RDS MySQL数据库表字段存在多个相同的值（例如RDS MySQL数据库表有多个值为 1 的 cid 字段。e_table_map函数只获取匹配到的第一行数据。e_table_map函数只支持单行匹配，...
子表查询
描述 Ha3的子表生成是会注册为一个复合字段（可以理解为Struct）。...如果WHERE语句中不带有子表字段的条件，则查询结果的主表记录和子表记录join方式默认为LEFT_JOIN，可通过hint修改，具体见 Hint 配置主子表的场景下，支持单独查询主表。
手动新建逻辑表
通过手动新建逻辑表，建立您期望的数据表样式和字段，并支持将逻辑表物理化至云计算资源中，为后续...说明 删除逻辑表不会同时删除数据库中已生成的物理表。后续步骤 创建完逻辑表以后，需要将逻辑表物理化，更多信息，请参见 物理化逻辑表。
BI分析模式数据面板功能介绍
说明 当数据集中字段有更新后，您可以单击字段区块右上角的 刷新，重新获取该数据集内所有字段内容。您也可以在 输入关键字搜索 输入框中，自定义输入所需字段名称即可搜寻得到想要的字段内容。配置图表字段映射 在BI分析模式组件 数据 ...
UpdateTableMeta-更新数据表
reso-2s416t*TableName string 是 数据库中的表名。table_mysql Module string 是 数据表模块。ABTest：实验数据表。ExperimentTool：实验工具表。DataDiagnosis：数据诊断 ABTest InstanceId string 是 实例 ID，可通过接口 ListInstances...
管理数据表
本文为您介绍如何快速查找数据表，并查看数据表中的数据字段和数据类型等信息。查询数据表 当数据源中的数据表过多，无法快速定位到自己所需的数据表时，您可以按照以下步骤操作。登录 Quick BI控制台。按照下图指引，进入数据源管理页面。...
数据规范
物品详情表 物品详情表至少需要有两个数据字段，其中一个字段为 主键，同时也是 分片字段，其他字段为物品属性字段。表中的记录和物品一一对应，主键 为物品的唯一标识，因此 主键 必须是唯一的。主键 的字段类型必须为 STRING。其他物品...
- 产品推荐
- 这些文档可能帮助您