使用Tunnel Upload命令上传数据时,如果数据使用空格作为列分隔符,或需要对数据做正则表达式过滤时,如何解决?Tunnel Upload完成后,存在脏数据,如何解决?Tunnel Download Tunnel Download导出格式有哪些?在同一地域内使用Tunnel ...
什么是数据管理DMS 02月 功能名称 变更类型 功能描述 相关文档 数据库迁移 新增 通过产品化解决方案的封装,实现数据库迁移、校验和清理的闭环操作。同时支持库名称修改、迁移前预校验、迁移后数据一致性校验及来源数据库的清理,保证数据...
时间 特性 类别 描述 产品文档 2023.4.23 新增功能 数据集成 数据集成的MaxCompute同步任务默认使用公共传输资源上传、下载数据至MaxCompute,为满足您业务增长对传输资源的更高要求,MaxCompute推出了独享传输资源能力,可以为您提供更好...
什么是E-MapReduce 开源大数据开发平台E-MapReduce(简称EMR),是运行在阿里云平台上的一种大数据处理的系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark,让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理...
EMR还可以与阿里云其他的云数据存储系统和数据库系统(例如,阿里云OSS和RDS等)进行数据传输。产品介绍 阿里云EMR提供了on ECS、on ACK和Serverless形态,以满足不同用户的需求。形态 描述 EMR on ECS EMR负责将开源Hadoop生态的组件安装...
OceanBase 数据库之间的数据迁移 支持 TiDB 数据库至 OceanBase 数据库 MySQL 租户的结构迁移、全量迁移、增量同步、全量校验和反向增量 迁移 TiDB 数据库的数据至 OceanBase 数据库 MySQL 租户 支持 PolarDB-X 1.0 数据库至 OceanBase ...
存储策略 维度表基于什么策略(即存储数据的时间周期及数据量范围)存储数据。维度 维度表关联的维度,用于配置维度表分析数据的视角。说明 创建维度,详情请参见 创建概念模型:维度。表名规则 通过已配置的检查器规范维度表的命名规则。...
什么是数据目录(Catalog)数据目录(Catalog)是数据湖构建(Data Lake Formation)的元数据最上层实体,它可以包含多个数据库。适用场景 主要适用于元数据隔离的场景,比如多个E-MapReduce集群,每个集群绑定不同的Catalog,每个EMR集群...
以下是您使用数据库审计A100实例的具体操作流程:任务 描述 步骤1:启用数据库审计实例 开通数据库实例后,您必须启用实例,才能登录数据库审计系统并使用审计服务。步骤2:管理数据库审计实例 启用数据库审计实例后,您可以调整实例的安全...
说明 仅用于验证数据库是否可以连接成功,不做任何其他工作。DbDescription String 否 开发环境数据库 数据库描述。InstanceId String 是 db 实例ID。DbName String 否 db_test 数据库名称。返回数据 名称 类型 示例值 描述 Code String OK...
说明 仅用于验证数据库是否可以连接成功,不做任何其他工作。DbDescription String 否 开发环境数据库 数据库的描述。RegionId String 是 cn-hangzhou 地域ID。DbName String 否 db_test 数据库名称。ClientToken String 否 ...
若当前数据为栅格数据,您还可以做以下操作。查看栅格元数据:在数据表 操作 栏单击 图标,查看栅格元数据。名称 说明 坐标参考系 表示栅格的坐标系。宽度 表示栅格的分辨率中的宽度值。高度 表示栅格的分辨率中的高度值。数据类型 表示...
用户可以在对话框中描述数据处理的需求,并支持对推荐的代码内容进行修改。前提条件 已登录DataV控制台 已进入画布编辑器页面 操作步骤 在当前数据看板中随机添加一个组件(例如:柱状图)。单击右侧配置面板中的 数据源。在 数据源 配置...
数据安全中心DSC根据为不同行业预先定义的敏感数据关键字段,扫描MaxCompute、OSS、阿里云数据库服务(RDS、PolarDB-X、PolarDB、OceanBase、表格存储等)和自建数据库中的数据,通过敏感数据规则,判断和打标敏感数据,为数据安全审计、...
汇总表用于组织一个数据域下相同时间周期、相同维度的多个派生指标的统计数据,为后续的业务查询,OLAP分析,数据分发等提供基础。本文为您介绍如何创建汇总表。前提条件 已创建数据分层。数据分层是将相同功能作用的表挂载至统一的数据层...
如果需要快速地对数据进行查询与分析,您可以使用SQL语句查询MaxCompute、EMR Hive、Hologres等数据源。本文为您介绍如何通过SQL语句查询数据源。支持查询的数据源 SQL查询支持的数据源包含MaxCompute、Hologres、EMR Hive、EMR Spark SQL...
10月17日 切换专有网络VPC和交换机 2023年9月 功能名称 功能描述 发布时间 相关文档 PolarDB 支持通过AAT连接AI和数据库表 PolarDB for AI在数据库中可以生成含有AI模型推理列的数据表PolarDB for AI Augmented Table(AAT)。经过人工智能...
参数 描述 数据时效 开启 天。来源主表 选择 LD_dataphin_tutorial.fct_order_buy_di 来源表。计算逻辑 输入原子指标的计算逻辑。sum(fct_order_buy_di.payment_amount)是否可累加 选择 是。配置完成后,单击 保存并提交,提交原子指标。
应用表是面向具体业务场景时,用于组织相同时间周期、相同维度的多个原子指标、派生指标或统计粒度的统计数据,为后续的业务查询,OLAP分析,数据分发等提供基础。本文为您介绍如何创建应用表。前提条件 已创建数据分层。数据分层是将相同...
名词解释 元数据:是描述数据的数据(Data About Data),主要是描述数据属性的信息,用来支持如指示存储位置、历史数据、资源查找、文件记录等功能。主题域:为您展示数据架构部分已经创建好的主题域,便于您根据主题域更快捷的进行资产...
名词解释 元数据:是描述数据的数据(Data About Data),主要是描述数据属性的信息,用来支持如指示存储位置、历史数据、资源查找、文件记录等功能。主题域:为您展示数据架构部分已经创建好的主题域,便于您根据主题域更快捷的进行资产...
本文将使用Quick BI指导您完成本教程的可视化分析步骤,包括数据源、数据集的创建和数据大屏图表的配置。步骤一:创建数据源 登录 Quick BI控制台。按照下图操作指引,进入 创建数据源 对话框。在 MySQL-阿里云 区域,配置连接参数。参数 ...
本文将使用Quick BI指导您完成本教程的可视化分析步骤,包括数据源、数据集的创建和数据大屏图表的配置。步骤一:创建数据源 登录 Quick BI控制台。按照下图操作指引,进入 创建数据源 对话框。在 MySQL-阿里云 区域,配置连接参数。参数 ...
5 功能名称 功能描述 发布时间 发布地域 相关文档 按外部表类型对外部表计算独立计费 MaxCompute按外部表类型进行独立计费,目前用户可以在自己的账单上清晰看到OSS外部表和Tablestore外部表分别产生的费用,方便用户查看不同数据源做数据...
在数据集卡片页右上角可以做以下操作。单击修改时间,可以按 名称、修改时间 和 创建时间 对当前数据集进行排序。单击筛选,可以根据需要,筛选出特定数据集。单击搜索框,输入数据集名称,快速定位所需数据集。重命名数据集 登录 DataV...
创建完成维表后,您可以在维表中直接写入数据,也可以导入电子表格、本地CSV文件和Excel文件的数据至维表,为后续数据分析做准备。前提条件 已创建完成一个维表,详情请参见 创建维表。操作步骤 在 维表 页面,单击 全部维表 下相应的 文件...
更多阿里云MongoDB信息,请参见 云数据库MongoDB-什么是云数据库MongoDB版。使用限制 Dataphin仅支持超级管理员、数据源管理员、板块架构师、项目管理员角色创建数据源。超级管理员、数据源管理员角色添加与配置请参见 添加、配置及管理...
阿里云数据库ClickHouse的更多信息,请参见 云数据库 ClickHouse-什么是云数据库ClickHouse。使用限制 Dataphin仅支持超级管理员、数据源管理员、板块架构师、项目管理员角色创建数据源。操作步骤 在Dataphin首页,单击顶部菜单栏 管理中心...
离线同步常见问题 离线同步任务运维常见问题 为什么数据源测试连通性成功,但是离线同步任务执行失败?如何切换数据集成任务执行资源组?脏数据如何排查和定位?如何查看脏数据?如果离线同步传输数据时,脏数据超出限制,是否所有数据都...
深度集成的生态 接入融合分析和数据回流能力 目前支持如下数据源的接入融合分析和数据回流能力,包括对象存储OSS上7种以上结构化、半结构化、以及多种压缩格式的数据文件,表格存储,AnalyticDB,云数据库版或自建数据库(MySQL、...
数据库审计和其他产品的区别 数据库审计产品相对于自己安装Packetbeat抓取流量审计和RDS数据库自带的SQL洞察功能,有以下区别:支持的数据库协议:数据库审计产品是专注于数据库协议解析的,支持的数据库协议更丰富,解析的粒度更细。数据...
数据迁移 数据迁移功能帮助您实现同构或异构数据源之间的数据迁移,适用于数据上云迁移、阿里云内部跨实例数据迁移、数据库拆分扩容等业务场景 功能集 功能 功能描述 参考文档 同构迁移 逻辑迁移 支持同构数据库间的数据迁移。自建MySQL...
更多阿里云MongoDB信息,请参见 云数据库MongoDB-什么是云数据库MongoDB版。使用限制 Dataphin仅支持超级管理员、数据源管理员、板块架构师、项目管理员角色创建数据源。超级管理员、数据源管理员角色添加与配置请参见 添加Dataphin成员。...
更新说明 创建MySQL数据源 创建PolarDB-X数据源 创建AnalyticDB for MySQL 2.0数据源 创建AnalyticDB for PostgreSQL数据源 创建达梦(DM)数据源 创建TiDB数据源 创建Kafka数据源 离线集成配置优化 新增Apache Doris数据源的离线集成。...
完成自定义数据源类型后,您可将该类型的数据源接入到Dataphin中,为后续进行集成开发做准备。前提条件 已有自定义数据源类型。具体操作,请参见:新建离线自定义源类型。新建实时自定义源类型。操作步骤 请参见 数据源管理入口,进入 数据...
完成自定义数据源类型后,您可将该类型的数据源接入到Dataphin中,为后续进行集成开发做准备。前提条件 已有自定义数据源类型。具体操作,请参见:新建离线自定义源类型。新建实时自定义源类型。操作步骤 请参见 数据源管理入口,进入 数据...
调用ModifyDatabaseDescription接口修改数据库备注描述。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action ...
通过创建OceanBase数据源能够实现Dataphin读取OceanBase的业务数据或向OceanBase写入数据。本文为您介绍如何创建OceanBase数据源。背景信息 OceanBase即阿里云数据库OceanBase,是阿里巴巴和蚂蚁金服100%自主研发的金融级分布式关系数据库...
通过创建OceanBase数据源能够实现Dataphin读取OceanBase的业务数据或向OceanBase写入数据。本文为您介绍如何创建OceanBase数据源。背景信息 OceanBase即阿里云数据库OceanBase,是阿里巴巴和蚂蚁金服100%自主研发的金融级分布式关系数据库...
说明 通常情况下,生产数据源和开发数据源需配置非同一个数据源,以使开发数据源与生产数据源的环境隔离,降低开发数据源对生产数据源的影响。但Dataphin也支持配置成同一个数据源,即相同参数值。参数 描述 ES URL Elasticsearch的连接...