数据源管理概述
生产与开发数据源：Dataphin添加数据源时支持添加生产数据源和开发数据源。Basic项目及Dev-Prod项目的Prod环境，读写生产数据源；Dev-Prod项目的Dev环境，读写开发数据源。数据源标签：对于同类型或同业务的数据源。您可以通过自定义标签...
索引优化
大数据集场景下优先考虑稀疏索引：如果您的数据量非常地大，并且您的查询限定条件为<、、=、>=、>，需要从大数据量的表中取出少于50%的数据，那么使用稀疏索引（BRIN Index或者AOCS表的metascan）可以极大地减少无效数据的加载。...
DataWorks数据服务对接DataV最佳实践
添加数据服务为数据源 登录DataV控制台。进入 我的数据 页面，单击 添加数据。填写 添加数据 对话框中的配置。参数 描述 类型 添加的数据源类型。自定义数据源名称 数据源的显示名称，可以自由命名。项目 选择DataWorks工作空间。AppKey/...
Dataphin支持的数据源
Dataphin添加数据源时支持添加生产数据源和开发数据源。Basic项目及Dev-Prod项目的Prod环境，读写生产数据源；Dev-Prod项目的Dev环境，读写开发数据源。数据服务中Basic模式和Dev-Prod模式的Prod环境读取生产数据源，Dev-Prod模式的Dev环境...
产品简介
DLA Ganos是基于云原生数据湖分析（Data Lake Analytics，DLA）系统设计开发的，面向时空大数据存储与计算的数据引擎产品。基于DLA无服务器化（Serverless）数据湖分析服务与内置的Spark计算引擎，DLA Ganos打通了阿里云各个存储系统，如...
Dataphin支持的数据源
Dataphin添加数据源时支持添加生产数据源和开发数据源。Basic项目及Dev-Prod项目的Prod环境，读写生产数据源；Dev-Prod项目的Dev环境，读写开发数据源。数据服务中Basic模式和Dev-Prod模式的Prod环境读取生产数据源，Dev-Prod模式的Dev环境...
典型使用场景
AnalyticDB PostgreSQL版 典型的使用场景如下所示：数据通过实时写入或批量加载方式入库，形成ODS（Operational Data Model）层。典型的数据源包括：MySQL/SQL Server/PostgreSQL/Oracle等OLTP业务数据库，业务App产生的日志数据，在OSS/...
创建GreenPlum数据源
通过创建GreenPlum数据源能够实现Dataphin读取GreenPlum的业务数据或向GreenPlum写入数据。本文为您介绍如何创建GreenPlum数据源。背景信息 Greenplum是一款大数据分析引擎，作用于分析、机器学习和AI等领域。其架构主要针对管理大规模分析...
创建GreenPlum数据源
通过创建GreenPlum数据源能够实现Dataphin读取GreenPlum的业务数据或向GreenPlum写入数据。本文为您介绍如何创建GreenPlum数据源。背景信息 Greenplum是一款大数据分析引擎，作用于分析、机器学习和AI等领域。其架构主要针对管理大规模分析...
什么是数据资源平台
添加数据的同时支持各类型空间数据的元信息自动解析，支持按空间对平台所有空间数据进行统一检索、统计和管理。数据探查：提供对云计算资源中物理表的探查，快速了解物理表详情及分布情况。支持面向多种云计算资源中的表及字段进行预览和表...
无感集成（Zero-ETL）
云原生数据仓库 AnalyticDB PostgreSQL 版 提供无感集成（Zero-ETL）功能，可以帮助您一站式完成数据同步和管理，实现事务处理和数据分析一体化，专注于数据分析业务。公测时间 2024年4月1日至6月30日。公测地域 华东2（上海）。方案概述 ...
案例演示
案例三：实现动态数据加和 添加组件。在画布编辑器上方单击 搜索，输入 数字翻牌器。单击将组件添加至画布中。设置静态全局变量。在画布编辑器左侧，选择 全局变量 页签。单击 新建变量，创建两个全局变量，分别重命名为 y 和 z，设置初始...
管理内置数据集
AnalyticDB for MySQL 湖仓版（3.0）支持加载内置数据集，方便您快速体验或测试 AnalyticDB for MySQL 集群。您可以在创建集群时自动加载内置数据集，或通过控制台手动加载内置数据集。本文介绍如何加载和删除内置数据集。注意事项 仅 湖仓...
配置FTP输入组件
FTP输入组件适用于从FTP中将数据读取至大数据平台对接的存储系统内，进行数据整合和再加工。本文为您介绍如何配置FTP输入组件。前提条件 已创建FTP数据源，详情请参见 创建FTP数据源。进行FTP输入组件属性配置的账号，需具备该数据源的同步...
配置FTP输入组件
FTP输入组件适用于从FTP中将数据读取至大数据平台对接的存储系统内，进行数据整合和再加工。本文为您介绍如何配置FTP输入组件。前提条件 已创建FTP数据源，详情请参见 创建FTP数据源。进行FTP输入组件属性配置的账号，需具备该数据源的同步...
离线同步常见问题
实例ID形式添加数据源：在数据库名后拼接，格式为 database?com.mysql.jdbc.faultInjection.serverCharsetIndex=45 。修改数据库相关的编码格式为utf8mb4。例如，在RDS控制台修改RDS的数据库编码格式。说明 设置RDS数据源编码格式命令：set...
配置跨库Spark SQL节点
可选：在 数据库引用 区域，单击 添加数据库引用，添加SQL语句中需要引用的数据库。配置完成后单击 保存。配置项 是否必填 说明 数据库类型 是 选择目标数据库的类型。说明 您可以进入SQL窗口，在页面左侧的实例列表中，将鼠标移动到目标...
我是安全管理员
解决方案 数据归档概述 数据归档功能支持定时将大表的数据归档至其他数据库，同时支持源表数据删除、表空间整理回收等。一键建仓 一键创建实时同步的数据仓库，数据在秒级的延迟下，同步至AnalyticDB MySQL版数据库中。数据库迁移 通过创建...
常见问题
数据水印将标记信息嵌入原始数据，在不影响数据使用的前提下，生成水印和添加数据标记，可对泄露数据溯源，避免内部人员泄露数据但是无法对事件定责追溯的问题，提高数据安全性和溯源能力。数据安全中心通过水印技术，可以定位泄露的数据、...
数据集成
数据源支持情况 数据集成目前支持40种以上的数据源类型（包括关系型数据库、非结构化存储、大数据存储、消息队列等），通过定义来源与去向数据源，并使用数据集成提供的数据抽取插件（Reader）、数据写入插件（Writer），实现任意结构化、...
测试数据构建
数据管理DMS的测试数据构建功能拥有强大的算法引擎，支持批量生成各类随机值、地区名、虚拟IP地址等信息，可以大大减轻准备测试数据的负担。本文介绍构建测试数据的方法。前提条件 支持的数据库类型：MySQL：RDS MySQL、PolarDB MySQL版、...
创建HBase数据源
通过创建HBase数据源能够实现Dataphin读取HBase的业务数据或向HBase写入数据。本文为您介绍如何创建HBase数据源。背景信息 HBase是用于处理存储在Hadoop集群中大量数据的SQL查询引擎。如果您使用的是HBase，在导出Dataphin数据至HBase，您...
我是管理员
数据归档 数据归档功能定时将大表的数据归档至其他数据库，支持源表数据删除、表空间整理回收等功能。数据库迁移 通过创建工单实现数据库迁移、校验和清理的闭环操作。运维管理 通知管理 可根据您的业务需求，订阅不同功能模块的消息事件，...
DataWorks On CDP/CDH使用说明
一、数据集成 DataWorks的数据集成模块为您提供读取和写入数据至CDP/CDH Hive、CDP/CDH HBase的能力，您需要将Hive或HBase组件创建为 DataWorks的 Hive或HBase数据源，实现将其他数据源的数据同步至Hive或HBase数据源，或将Hive或HBase数据...
风险识别管理（新版）
风险识别维度 细分类别 描述 数据属性 数据分级 识别指定级别的风险数据，您需要提前定义数据的分级，详情请参见 配置敏感数据分类分级。数据分类 识别指定类别的风险数据，您需要提前定义数据的类别，详情请参见 配置数据识别规则。敏感...
DataWorks On MaxCompute使用说明
数据地图概述 安全中心 数据保护伞 审批中心 安全中心是集数据资产分级分类、敏感数据识别、数据授权管理、敏感数据脱敏、敏感数据访问审计、风险识别与响应于一体的一站式数据安全治理界面，帮助用户落地数据安全治理事项。安全中心概述 ...
DataWorks On Hologres使用说明
数据地图概述 安全中心 数据保护伞 审批中心 安全中心是集数据资产分级分类、敏感数据识别、数据授权管理、敏感数据脱敏、敏感数据访问审计、风险识别与响应于一体的一站式数据安全治理界面，帮助用户落地数据安全治理事项。安全中心概述 ...
实现动态数据加和
本文以 数字翻牌器 组件展示其他两个数字翻牌器组件的实时数据相加结果为例，实现动态数据加和效果。效果展示 操作步骤 登录 DataV控制台。选择任一可视化应用，单击编辑，进入画布编辑器页面。添加3个 数字翻牌器 组件到画布中。单击任一...
加载样本数据集
为方便您快速体验或测试 AnalyticDB PostgreSQL版 实例，您可以将样本数据集加载至数据库中。如果您在创建实例时选择了 加载 样本数据，则可跳过此步骤。前提条件 已根据快速入门，完成了 创建实例。已根据快速入门，完成了 登录数据库。...
接入数据库
在使用 数据安全中心DSC（Data Security Center）检测云产品（包括OSS、RDS、PolarDB等）中存在的敏感数据或审计数据库活动前，您需要先将数据库接入DSC。本文介绍如何将数据库接入DSC。背景信息 DSC 支持的数据库类型详情，请参见 支持的...
数据服务入门
步骤一：创建数据源并配置网络连通性 使用数据服务创建API前，您需将数据库或数据仓库添加为DataWorks的数据源，并保障数据服务资源组与您的目标数据源网络连通，以便调用API时DataWorks可成功访问数据源。说明 DataWorks工作空间将集群或...
折线柱状图
当单击折线柱状图的柱子或圆点时会触发数据请求，抛出变量，动态加载不同柱子或圆点的数据。默认抛出数据中的 x、y、z 和 s 值，具体配置请参见 组件交互配置。蓝图交互 单击页面左上角的 图标，进入 蓝图 页面。在 图层节点 页签下，添加...
折线柱状图
当单击折线柱状图的柱子或圆点时，会触发数据请求，抛出回调值，动态加载不同柱子或圆点的数据。默认抛出数据中的 x、y、z 和 s 值，具体配置请参见 如何配置数字翻牌器组件的回调ID。蓝图编辑器交互配置 在画布编辑器页面，右键单击组件，...
产品架构
相比于传统关系模型，LindormTable除了支持预定义字段类型外，还可以随时动态添加列，而无需提前发起DDL变更，以适应大数据灵活多变的特点。同时，LindormTable支持全局二级索引、倒排索引，系统会自动根据查询条件选择最合适的索引，加速...
管理样本数据集
实例中不能存在与数据集同名的数据库 adb_sampledata_tpch，如果存在同名数据库，会导致数据集加载失败。数据集加载耗时约6~8分钟，数据集加载期间可能会影响实例的其它操作，例如新增节点、节点规格变配等。新建实例加载样本数据集 登录 ...
添加项目基底数据
添加基底数据对话框内，提供了创建一个项目所需的所有功能，如添加空间实体、选择区域及查看区域数据等。本文介绍在添加基底数据面板内各个功能的使用方法。选择空间实体 进入空间构建平台。在 我的项目 页面，单击 创建项目。输入项目名称...
添加项目基底数据
添加基底数据对话框内，提供了创建一个项目所需的所有功能，如添加空间实体、选择区域及查看区域数据等。本文介绍在添加基底数据面板内各个功能的使用方法。选择空间实体 进入空间构建平台。在 我的项目 页面，单击 创建项目。输入项目名称...
通过DataV展示数据
选择 我的数据>添加数据。填写RDS实例的相关信息，单击 确定。说明 进入 云数据库RDS控制台，单击RDS MySQL实例链接，进入实例的 基本信息 页面，获取以上信息。如果您的网络类型为 内网，则对应的 域名 为RDS MySQL实例的内网地址。如果您...
轮播页面
数据源 单击 配置数据源，可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果，详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...
RDS迁移至MaxCompute实现动态分区
本文为您介绍如何使用DataWorks数据集成同步功能自动创建分区，动态地将RDS中的数据迁移至MaxCompute大数据计算服务。前提条件 准备DataWorks环境 开通MaxCompute。在DataWorks上完成创建业务流程，本例使用DataWorks简单模式。详情请参见 ...
- 产品推荐
- 这些文档可能帮助您