补数据任务概述
对于经常补数据的节点，但补数据时间及补数据业务日期不确定的场景，您可以通过创建手动运行的补数据任务进行补数据，减少重复配置的繁琐性。更多信息，请参见 查看并管理手动运行补数据任务。补数据任务页面入口 请参见 运维中心入口，...
资源组操作及网络连通
做数据集成同步前，您需要非常了解以下信息：需要同步的数据库所在的VPC，Vswitch，地域（Region）等信息和DataWorks所在地域（Region）情况。需要同步的数据库和DataWorks是否存在跨账号、跨region等特殊情况。如果在任务同步时遇到问题，...
配置Teradata输入组件
输入过滤 配置抽取数据的筛选条件，配置说明如下：配置固定值，抽取对应的数据，例如 ds=20210101。配置变量参数，抽取某一部分数据，例如 ds=${bizdate}。输出字段 输出字段区域展示了已选中表及筛选条件命中的所有字段。如果不需要将某些...
数据源权限管理
本文为您汇总数据源权限管理相关的问题。哪些角色可以管理数据源的权限？是否支持再次分享已被分享的数据源？数据源的创建者是否有权控制该数据源？什么是私有模式的数据源？哪些用户能够收回数据源的分享权限？如何检查数据源分享关系的...
数据使用诊断
处理建议 您可以根据所给的建议，进行敏感数据规则设置，以便全面掌握敏感数据分布情况，保护敏感数据的安全。诊断详情列表 数据安全防护诊断 帮助您提升敏感数据的安全性。安全检测维度 安全检测项 检测对象 检测方式 敏感数据保护 数据...
配置Vertica输入组件
输入过滤 配置抽取数据的筛选条件，配置说明如下：配置固定值，抽取对应的数据，例如 ds=20210101。配置变量参数，抽取某一部分数据，例如 ds=${bizdate}。输出字段 输出字段区域展示了已选中表及筛选条件命中的所有字段。如果不需要将某些...
配置Vertica输入组件
输入过滤 配置抽取数据的筛选条件，配置说明如下：配置固定值，抽取对应的数据，例如 ds=20210101。配置变量参数，抽取某一部分数据，例如 ds=${bizdate}。输出字段 输出字段区域展示了已选中表及筛选条件命中的所有字段。如果不需要将某些...
功能简介
数据资产构建 数据同步 可实现离线、实时多源异构数据的便捷同步，系统提供完善的数据接入配置、任务运行监控等功能，有效保障数据接入的稳定性和可控性，满足各类平台、数据源及应用系统间的数据汇聚需求。数据查询 可探查 AnalyticDB ...
数据集成概述
背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效的配置大量数据表的同步任务、能够集成多种异构数据源、能够实现对数据源的数据进行轻度预处理、能够实现数据同步任务的调优（例如容错，限速，并发）等。...
配置Hologres输出组件
同步其他数据源的数据至Hologres数据源的场景中，完成源数据的信息配置后，需要配置Hologres输出组件的目标数据源。本文为您介绍如何配置Hologres输出组件。前提条件 已创建Hologres数据源并已申请Hologres数据源的同步写权限：如何创建...
配置资产数据
本文档介绍配置资产数据的方法，以及资产数据面板的内容，包括数据接口、数据源、数据过滤器和数据轮询频次等。操作步骤 登录 DataV控制台。在 我的可视化 页面，单击您创建的可视化应用项目上方的 编辑 按钮。在画布编辑器页面，单击 图层...
添加RDS for PostgreSQL数据源
本文为您介绍在DataV中添加RDS for PostgreSQL数据源的方法。前提条件 已准备好待添加的RDS for PostgreSQL数据源。通过内网添加数据源操作步骤 登录 DataV控制台。在 我的数据 页签中选择 数据源管理，单击 添加数据。从 类型 列表中，...
配置OpenGauss输出组件
同步其他数据源的数据至OpenGauss数据源的场景中，完成源数据源的信息配置后，需要配置OpenGauss输出组件写入数据的目标数据源。本文为您介绍如何配置OpenGauss输出组件。前提条件 已创建OpenGauss数据源，如何创建，请参见 创建OpenGauss...
配置Impala输出组件
同步其他数据源的数据至Impala数据源的场景中，完成源数据源的信息配置后，需要配置Impala输出组件写入数据的目标数据源。本文为您介绍如何配置Impala输出组件。前提条件 已创建Impala数据源，如何创建，请参见 创建Impala数据源。进行...
添加RDS for PostgreSQL数据源
本文为您介绍在DataV中添加RDS for PostgreSQL数据源的方法。前提条件 已准备好待添加的RDS for PostgreSQL数据源。通过内网添加数据源操作步骤 登录 DataV控制台。在 工作台 页面，单击 数据准备>数据源，进入 数据源 页面，单击 新建数据...
添加RDS PostgreSQL数据库
本文为你介绍如何添加RDS PostgreSQL数据库。前提条件 添加数据库之前请先安装Ganos插件，详情请参见 GanosBase时空数据库。添加数据库前请先参见 创建RDS PostgreSQL实例，开通对应数据库服务并添加白名单。外网连接数据库 登录 DataV-...
配置IBM DB2输入组件
输入过滤 配置抽取数据的筛选条件，配置说明如下：配置固定值，抽取对应的数据，例如 ds=20210101。配置变量参数，抽取某一部分数据，例如 ds=${bizdate}。输出字段 输出字段区域展示了已选中表及筛选条件命中的所有字段。如果不需要将某些...
配置IBM DB2输入组件
输入过滤 配置抽取数据的筛选条件，配置说明如下：配置固定值，抽取对应的数据，例如 ds=20210101。配置变量参数，抽取某一部分数据，例如 ds=${bizdate}。输出字段 输出字段区域展示了已选中表及筛选条件命中的所有字段。如果不需要将某些...
配置TiDB输出组件
同步其他数据源的数据至TiDB数据源的场景中，完成源数据源的信息配置后，需要配置TiDB输出组件写入数据的目标数据源。本文为您介绍如何配置TiDB输出组件。前提条件 已创建TiDB数据源，如何创建，请参见 创建TiDB数据源。进行TiDB输出组件...
实时数据订阅概述
每次对Lindorm表格的数据执行增删改操作时，数据订阅都会生成一个Stream Record键值对，键值对的键是这一行数据的主键，值是此次操作的详细信息（操作前的值，操作后的值，时间戳，操作类型）。开通模式 开通 云原生多模数据库 Lindorm ...
添加兼容MySQL数据库的数据源
本文档介绍在DataV中添加兼容MySQL数据库数据源的方法，以及相关参数配置说明。通过兼容MySQL数据库的数据源，您可以使用旧版本的MySQL数据库作为组件的数据源。前提条件 已准备好待添加的兼容MySQL数据库数据源。操作步骤 登录 DataV控制...
数据域
数据域是联系较为紧密的数据主题的集合，通常是根据业务类别、数据来源、数据用途等多个维度，对企业的业务数据进行的区域划分，将同类型数据存放在一起，便于您快速查找需要的内容。不同使用目的数据，分类标准不同。例如，电商行业通常...
数据安全
SSL在传输层对网络连接进行加密，能提升通信数据的安全性和完整性，但会增加网络连接响应时间。详细介绍及使用说明，请参见 设置SSL加密。透明数据加密 云原生多模数据库 Lindorm 支持透明数据加密TDE（Transparent Data Encryption）功能...
配置TiDB输出组件
同步其他数据源的数据至TiDB数据源的场景中，完成源数据源的信息配置后，需要配置TiDB输出组件写入数据的目标数据源。本文为您介绍如何配置TiDB输出组件。前提条件 已创建TiDB数据源，如何创建，请参见 创建TiDB数据源。进行TiDB输出组件...
周期任务补数据
补数据范围 下游任务选择 支持通过 列表模式 和 海量模式 选择需要补数据的下游任务：说明 若起点任务是逻辑表，下游任务展示范围取决于选中需要补数据的逻辑表字段。列表模式：适用于所有层级的下游任务，总共最多2000个。且任务依赖可...
周期任务补数据
补数据范围 下游任务选择 支持通过 列表模式 和 海量模式 选择需要补数据的下游任务：说明 若起点任务是逻辑表，下游任务展示范围取决于选中需要补数据的逻辑表字段。列表模式：适用于所有层级的下游任务，总共最多2000个。且任务依赖可...
查看并管理定时调度补数据任务
定时调度补数据任务是指任务将按照配置的定时调度时间生成并运行补数据实例，进行历史数据的回刷。本文将为您介绍如何查看并管理定时调度类型的补数据任务。定时调度补数据任务入口 请参见 运维中心入口，进入 运维 中心。按照下图操作指引...
DescribeColumns-查询数据资产表中列的数据
接口说明 本接口一般用于敏感数据资产信息表中列数据的查看，便于用户准确的对敏感数据进行分析。注意事项 DescribeColumns 接口已修订为 DescribeColumnsV2。建议您在开发应用程序时使用较新的版本 DescribeColumnsV2。QPS 限制 本接口的...
数据服务概述
数据服务作为统一的数据服务出口，实现了数据的统一市场化管理，有效地降低数据开放门槛的同时，保障了数据开放的安全。前提条件 已购买 数据服务 增值服务，开通Dataphin 常见数据应用问题 一般从需求提出到需求交付分为：需求提出-需求...
配置Hologres输出组件
同步其他数据源的数据至Hologres数据源的场景中，完成源数据的信息配置后，需要配置Hologres输出组件的目标数据源。本文为您介绍如何配置Hologres输出组件。前提条件 已创建Hologres数据源并已申请Hologres数据源的同步写权限：如何创建...
DataWorks数据集成
无论是哪种应用场景，都可以通过DataWorks的数据集成功能完成数据的同步过程，详细的操作步骤（包括创建数据集成任务、数据源配置、作业配置、白名单配置等），请参考 DataWorks文档 中的使用指南->数据集成一栏。文章中余下部分会介绍 ...
执行补数据并查看补数据实例（旧版）
按工作空间选择需要补数据的节点 您可根据业务需求，在 您的所有项目 区域，选择目标工作空间，将其添加至 补数据的项目 区域，为目标工作空间中所选节点进行补数据。说明 筛选DataWorks工作空间支持模糊匹配，即输入关键字，即可显示所有...
基本概念
同步延迟 同步延迟是指同步到目标数据库的最新数据的时间戳，与源数据库的当前时间戳之间的差值。如果同步延迟为0，则源数据库与目标数据库的数据完全同步。数据更新 数据更新是指仅修改数据，未修改结构定义的操作，例如INSERT、DELETE和...
集成与开发概览
功能简介 数据集成与开发功能模块支持多种计算、存储引擎，支持结构化、半结构化、非结构化数据的实时集成、离线集成、开发、服务，能够满足企业各类数据加工、集成、开发、服务需求。您可以通过流批一体的数据集成对在线数据进行入仓、...
API概览
ModifyDefaultLevel 修改敏感数据的风险等级定义规则 调用本接口修改敏感数据的风险等级定义规则，包括未能识别数据的默认风险等级、归类为“敏感”的数据风险等级。ModifyRuleStatus 修改识别规则的检测功能状态 调用本接口开启或关闭敏感...
DescribeColumnsV2-查询数据资产表中列的数据V2
1232122 RiskLevelId long 数据资产表中列数据的风险等级 ID。取值：1：N/A。2：S1。3：S2。4：S3。5：S4。4 RuleName string 数据资产表中列数据命中的敏感数据识别规则名称。name RuleId long 数据资产表中列数据命中的敏感数据识别规则 ...
通用数据开发
数据分析与处理：完成数据的同步后，可以对MaxCompute中的数据进行加工（MaxCompute SQL、MaxCompute MR）、分析与挖掘（数据分析、数据挖掘）等处理，从而发现其价值。数据提取：分析与处理后的结果数据，需要同步导出至业务系统，以供...
数据引入概述
Dataphin支持通过数据集成和数据同步的方式，将业务数据源的数据引入Dataphin平台。背景信息 如果您是在 2020年4月之后 购买的Dataphin，则数据同步能力通过数据集成功能实现（即系统 不再提供数据同步的功能入口）。数据集成为您提供简单...
数据引入概述
Dataphin支持通过数据集成和数据同步的方式，将业务数据源的数据引入Dataphin平台。背景信息 如果您是在 2020年4月之后 购买的Dataphin，则数据同步能力通过数据集成功能实现（即系统 不再提供数据同步的功能入口）。数据集成为您提供简单...
修改组件数据
本文档为您介绍在DataV疫情模板可视化应用中修改组件数据的方法。前提条件 已完成可视化应用的创建，详情请参见 创建可视化应用。背景信息 本案例使用的是静态数据源，因此可以直接在组件的数据配置区域粘贴准备好的数据。如果您的数据源为...
- 产品推荐
- 这些文档可能帮助您