查询机制
INSERT 当您使用INSERT插入一条数据时，具体过程如下：从数据文件中读取一个数据块到内存中，并将这行数据写入这个数据块，系统生成一条INSERT的WAL日志。当执行COMMIT命令后，系统会产生一条COMMIT的WAL日志。INSERT WAL日志和COMMIT WAL...
使用Kafka客户端消费订阅数据
注意事项 使用本文提供的Demo消费数据时，如果采用auto commit（自动提交），可能会因为数据还没被消费完就执行了提交操作，从而丢失部分数据，建议采用手动提交的方式以避免该问题。说明 如果发生故障没有提交成功，重启客户端后会从上...
使用Kafka客户端消费订阅数据
注意事项 使用本文提供的Demo消费数据时，如果采用auto commit（自动提交），可能会因为数据还没被消费完就执行了提交操作，从而丢失部分数据，建议采用手动提交的方式以避免该问题。说明 如果发生故障没有提交成功，重启客户端后会从上...
Broker Load
本文介绍如何通过Broker Load导入数据至 云数据库 SelectDB 版 实例。背景信息 Broker Load是一种异步的导入方式，通过读取远端存储（如HDFS、S3）上的数据，导入数据到 云数据库 SelectDB 版 的表中。您可通过MySQL协议创建 Broker Load ...
设置数据风控
业务代码重写页面的请求发送方法或自定义请求提交，例如重写表单提交、重写XHR、自定义ajax提交等情况。业务代码中存在hook相关请求提交的内容。如果您的业务中可能存在不兼容问题，建议您在接入数据风控功能初期，选用预警模式并结合Web...
OCS与数据库结合使用示例
从MySQL中查询数据.Key=non-beijing,Value=7 从OCS中读取数据.Key=non-beijing,Value=7 从OCS中读取数据.Key=non-beijing,Value=7 从OCS中读取数据.Key=non-beijing,Value=7 …… …… 从结果可以看出，程序第1次是从MySQL数据库当中查询...
配置DataHub输出组件
说明 一次提交数据量、batchSize、maxCommitInterval三个参数，只需满足一个参数则进行投递。另外DataHub对于一次Request请求写入的数据条数限制是10000条，超出10000条会导致任务出错，建议将batchSize设置为小于或等于10000条，避免任务...
配置DataHub输出组件
说明 一次提交数据量、batchSize、maxCommitInterval三个参数，只需满足一个参数则进行投递。另外DataHub对于一次Request请求写入的数据条数限制是10000条，超出10000条会导致任务出错，建议将batchSize设置为小于或等于10000条，避免任务...
背景信息以及准备工作
任务调度中一个重要的功能是任务之间的依赖，为演示这个功能，本教程以在DataWorks中循环调度从orders表查询出已经完成的订单 o_orderstatus='F'，并将其写入finished_orders表为例，为您介绍详细的实施步骤。准备工作 使用DataWorks循环...
DataWorks各版本详解
DataWorks产品分为基础版、标准版、专业版、企业版（按照版本级别从低到高排列），不同版本提供的功能存在差异，版本级别越高，提供的功能越丰富。您可参考本文了解各版本适用的场景，结合自身需要，选择合适的版本购买。若所购买的版本...
概述
无 循环SQL 可循环生成SQL语句，再将其分批提交给DMS管理的任意关系型数据库执行，同时，还可以搭配变量，控制SQL循环次数，达到简化SQL循环逻辑、平衡SQL语句对源库产生压力的目的。配置循环SQL节点 跨库Spark SQL 基于Spark引擎，实现大...
事务隔离
当一个事务使用这个隔离级别运行时，一个查询（没有 FOR UPDATE/SHARE 子句）只能看到查询开始之前已经被提交的数据，而无法看到未提交的数据或在查询执行期间其它事务提交的数据。实际上，SELECT 查询看到的是一个在查询开始运行的瞬间该...
配置管理
在提交数据变更工单时，是否强制录入回滚SQL，Y表示必须要录入回滚SQL，N表示不强制录入回滚SQL 取值：Y：在提交数据变更工单时，必须要录入回滚SQL。N：在提交数据变更工单时，不强制录入回滚SQL。是否开启超级SQL模式 取值：Y：开启超级...
普通数据变更
您可以在DMS中通过SQL窗口直接输入SQL语法或通过数据变更工单提交数据变更。同时，您可以自定义安全规则，实现对不同环境库定义不同的数据变更执行配置。本文将通过以下4个例子向您介绍典型场景下的安全规则设定与对应提交数据变更的方式。...
存储过程
存储过程（SQL stored procedures），通常指数据库中存放在一起的一系列SQL。您在使用存储过程时，可以指定存储过程的名字并使用参数（parameters），并在合适的时候调用存储过程实现相同或者不同的业务。本文将介绍存储过程的使用方法。...
配置do-while节点
DataWorks为您提供循环节点（do-while节点），您可以重新编排do-while节点内部的业务流程，将需要循环执行的逻辑写在节点内，再编辑end循环判断节点来控制是否退出循环。同时您也可以结合赋值节点来循环遍历赋值节点传递的结果集。本文通过...
架构
订阅者按照数据在发布者上被提交的顺序应用数据，这样任意单一订阅中的发布的事务一致性才能得到保证。逻辑复制被构建在一种类似于物理流复制的架构上。它由“walsender”和“apply”进程实现。walsender 进程开始对 WAL 的逻辑解码并且...
文档更新动态（2024年）
新增说明 新建SelectDB数据源 创建Sap Table数据源 数据引入-离线集成-离线单条管道-组件库开发 将存储在计算引擎中的数据作为来源数据时支持展示数据分类分级信息。支持将离线管道切换为离线脚本模式或克隆为脚本模式，可以有效提高脚本...
MaxCompute表数据
包括数据检索、数据预览、查看元数据详情、查看数据血缘关系、分类分组管理数据表等操作。本文为您介绍如何在数据地图查看和管理MaxCompute表。前提条件 已绑定MaxCompute引擎至当前工作空间，绑定后DataWorks会面向引擎自动采集元数据，...
API概览
本产品（大数据开发治理平台 DataWorks/2020-05-18）的OpenAPI采用 RPC 签名风格，签名细节参见 签名机制说明。我们已经为开发者封装了常见编程语言的SDK，开发者可通过 下载SDK 直接调用本产品OpenAPI而无需关心技术细节。如果现有SDK不能...
发布中心概述
在数据权限管控严格的研发流程下，开发者通常会在开发项目内完成任务开发、基础属性和调度属性配置、补数据测试后，提交任务至发布中心，发布成功的任务才能在生产环境生效并调度运行，以实现开发和生产运维的数据隔离，保证资产质量。...
发布中心概述
在数据权限管控严格的研发流程下，开发者通常会在开发项目内完成任务开发、基础属性和调度属性配置、补数据测试后，提交任务至发布中心，发布成功的任务才能在生产环境生效并调度运行，以实现开发和生产运维的数据隔离，保证资产质量。...
入门概述
项目主要由项目成员、数据库、工单组成，项目成员通过 SQL 窗口或者提交工单的方式操作拥有相关数据库访问权限的数据库，工单提交后根据该数据库环境对应的管控策略由指定的项目组成员审批或者免审批，完成一次数据库操作。5 项目中添加...
无锁结构变更
DMS为解决结构变更时的锁表问题而推出的无锁结构变更功能，能较好地规避因数据库变更导致锁表以至于阻塞业务的现象、以及数据库原生Online DDL带来的主备延迟现象。前提条件 实例的管控模式为稳定变更或安全协同。更多信息，请参见 管控...
自定义SQL Console的使用规范
您可提交 数据导出 工单查看更多数据。配置结果集是否支持编辑 本示例通过设置安全规则，允许您在SQL Console页面编辑SQL结果集。配置安全规则。进入安全规则详情页。在 详情 页左侧的导航栏中，单击 SQL窗口，并单击 基础配置项。找到 ...
新增脱敏算法
敏感数据保护功能提供了哈希、遮掩、替换、变换、加密五类脱敏算法，您可以基于某个内置的脱敏算法自定义不同的脱敏规则，从而形成灵活、多样的脱敏策略。敏感数据保护功能中内置了一个全遮掩的脱敏规则，如果您需要其他的脱敏方式，可以...
常见问题概览
检查影响行数失败，语法检查失败 Hologres使用BEGIN和END语句提交数据变更在DMS显示成功，但实际变更失败，该如何处理？安全托管 安全托管和安全协同存在哪些功能差异？实例开启安全托管前后有什么不同？如果不需要细粒度的权限管控，只想...
PREPARE TRANSACTION
相反，它的状态被完全存储在磁盘上，并且有很高的可能性它会被提交成功（即便在请求提交前发生数据库崩溃）。一旦被准备好，事务稍后就可以分别用 COMMIT PREPARED 或者ROLLBACK PREPARED提交或者回滚。可以从任何会话而不仅仅是执行原始...
DB2数据源
DB2数据源作为数据中枢，为您提供读取和写入DB2数据库的双向通道，能够快速解决海量数据的计算问题。本文为您介绍DataWorks的DB2数据同步的能力支持情况。支持的版本 DB2 Reader和DB2 Writer使用的DB2驱动版本为 IBM Data Server Driver ...
RDS术语
A AliPG 阿里云支持一系列兼容PostgreSQL的云数据库服务产品，这些云数据库服务采用统一的数据库内核（简称AliPG），AliPG兼容PostgreSQL开源数据库，于2015年正式商用，支持PostgreSQL主流大版本，已稳定运行多年，支撑了大量阿里巴巴集团...
RDS术语
DMS Data Management，数据管理，是一种阿里云提供的图形化的数据管理工具，集数据管理、结构管理、访问安全、BI图表、数据趋势、数据轨迹、性能与优化和服务器管理于一体的数据管理服务。支持MySQL、SQL Server、PostgreSQL、MongoDB、...
RDS术语
DMS Data Management，数据管理，是一种阿里云提供的图形化的数据管理工具，集数据管理、结构管理、访问安全、BI图表、数据趋势、数据轨迹、性能与优化和服务器管理于一体的数据管理服务。支持MySQL、SQL Server、PostgreSQL、MongoDB、...
创建标签项目
项目内可以编辑开发并提交数据对象、提交即可更新至生产调度及监控运维。区域 参数名称 描述 归属板块 数据板块 选择项目所属的数据板块。选择归属板块后，即可进行规范建模研发工作。若不选择，则只可进行通用研发工作。说明 若数据板块为...
RestAPI（HTTP形式）数据源
RestAPI数据源为您提供读取和写入RestAPI双向通道的功能，本文为您介绍DataWorks的RestAPI数据同步的能力支持情况。使用限制 目前该数据源仅支持 独享数据集成资源组。目前不支持设置超时参数，当前DataWorks内置的请求超时时间是60s,如果...
访问CDC数据
云原生多模数据库 Lindorm 计算引擎提供Lindorm CDC（Change Data Capture）数据源，您可以通过该数据源使用Spark SQL查询Lindorm实例其他引擎变更的数据。前提条件 Lindorm实例已开通LTS（Lindorm Tunnel Service）服务，具体请参见 购买...
API概览
PutStartBackup 该接口用于提交数据备份任务。SetBackupPolicy 该接口用于设置备份策略。EnableSqlFlashbackMatchSwitch 该接口用于执行 PolarDB-X 1.0 数据库使用存储资源RDS的BINLOG中的QUERY信息，精确恢复数据 DescribeBackupSets 该...
新建普通维度逻辑表
添加字段：支持添加 数据字段 和 分区字段，您可根据业务情况编辑字段的 名称、说明、数据类型、字段类别、关联维度、字段标准、字段约束、数据分类、数据分级 及 备注 信息。说明 MaxCompute引擎下支持创建不超过6级分区字段。④ 字段列表...
导入与导出
数据同步过程中，可以修改源表中的字段类型，目前仅支持整型数据类型之间、浮点数据类型之间的列类型更改，并且只能将取值范围小的数据类型更改为取值范围大的数据类型，或者将单精度数据类型更改为双精度数据类型。整型数据类型：支持...
新建普通维度逻辑表
添加字段：支持添加 数据字段 和 分区字段，您可以根据业务情况编辑字段的 名称、说明、数据类型、字段类别、关联维度、字段标准、字段约束、数据分类、数据分级 及 备注 信息。说明 MaxCompute引擎下支持创建不超过6级分区字段。ArgoDB、...
创建同步任务
本文为您介绍如何通过创建同步任务，导出MaxCompute中的数据至MySQL数据源中。前提条件 已通过RDS创建MySQL实例，获取RDS实例ID，并在RDS控制台添加白名单。详情请参见 快速创建RDS MySQL实例 和 添加白名单。说明 如果是通过自定义资源组...
- 产品推荐
- 这些文档可能帮助您