轨迹服务
如何保存和处理这些实时数据，如何提升实时查询性能，成为平台需要面临的新问题。业务挑战 面对海量的车辆实时数据，汽车云平台的业务系统需要达到以下要求：能高效写入海量轨迹点，且存储成本低。实时计算：实时电子围栏：实时判断车辆...
配置用户组
单击左上方的 图标，选择 全部产品>数据治理>数据保护伞，单击 立即体验，进入数据保护伞。说明 若阿里云主账号已授权，则直接进入数据保护伞的首页。若阿里云主账号未授权，则进入数据保护伞的授权页面。授权后才可使用保护伞的相关功能。...
使用Flink SQL消费实时变更数据示例
云原生多模数据库 Lindorm 支持实时数据订阅功能，对实时变更数据进行计算，可以为实时监控，实时报表和流数据分析功能提供有效数据。通过Flink Kafka Connector可以从底层存储消费订阅数据，同时Flink Kafka Connector对订阅数据进行解析...
数据同步流程
适用于数据异地多活、数据异地灾备、数据聚合和实时数据仓库等多种业务场景。您可以参考以下流程进行同步前的准备工作、以及购买、配置和管理数据同步项目。完成准备工作。数据传输已具备云资源访问权限。详情请参见 数据传输迁移角色授权...
典型场景
构建数据湖 实时数据湖：支持DB的CDC与消息数据（如Kafka）入湖，构建大规模的可以增删改查的数据集，延迟为T+10分钟。一键建仓：支持数据库一键入湖，T+1天。文件上传：数据上传后，DLA元数据发现功能可自动发现并构建好元数据体系。数据...
新建元表
数据源 Dataphin支持的实时数据源及创建的表类型详情，请参见 Dataphin支持的实时数据源。您也可以自定义实时数据源类型，具体操作，请参见 新建实时自定义源类型。选择数据源后，您还需根据数据源类型，配置对应信息。详情请参见 附录：...
Iceberg概述
而Iceberg简化了工作流程，整个数据处理过程是一条完整的、可靠的实时流，其数据的清洗、转换和特征化等操作都是流上的节点动作，无需处理历史数据和实时数据。此外，Iceberg还支持原生的Python SDK，对于机器学习算法的开发者非常友好。
查看敏感数据血缘（公测）
背景信息 数据血缘为您提供如下功能：可视化血缘图谱 数据保护伞基于敏感字段之间的血缘关系，绘制成敏感数据血缘可视化图谱，帮助您清晰的了解数据的来龙去脉。提升数据识别效率 敏感数据自动识别任务可基于敏感字段血缘关系，将其中敏感...
实时消费Kafka数据
当您需要将Kafka数据写入 云原生数据仓库AnalyticDB PostgreSQL版，且不希望使用其他数据集成工具时，可以通过实时数据消费功能直接消费Kafka数据，减少实时处理组件依赖，提升写入吞吐。Apache Kafka是一个容错、低延迟、分布式的发布-...
管理敏感数据
注意事项 敏感数据保护功能仅对在DMS管理的数据库生效，对接口等其他端不生效。使用敏感数据保护功能不影响您的源数据库数据。例如，对在DMS管理的 RDS MySQL 数据库数据进行脱敏，脱敏效果仅在DMS可见，不影响您的源数据库数据。设置敏感...
概述
数据保护功能详情请参见 数据保护机制。MaxCompute 2.0数据类型版本支持较多数据类型，例如TINYINT、SMALLINT、DATETIME、TIMESTAMP、ARRAY、MAP和STRUCT等。您如果需要使用这些新类型，在执行SQL之前需要执行以下语句，打开MaxCompute 2.0...
新建元表
数据源 Dataphin支持的实时数据源及创建的表类型详情，请参见 Dataphin支持的实时数据源。您也可以自定义实时数据源类型，具体操作，请参见 新建自定义数据源类型。选择数据源后，您还需根据数据源类型，配置对应信息。详情请参见 附录：...
数据源读取时间超时的优化思路
DataV数据可视化产品主要用于动态、实时数据展示场景，需要对数据高频实时查询，对数据访问性能有一定要求。如果您的数据源访问经常超时，则需要从整体数据架构上做一定的优化。本文介绍导致DataV读取数据源超时的常见原因和解决方法。使用...
开发管控：管理者
通过操作审计查询行为事件日志 数据脱敏及泄露数据溯源 为防止重要文件泄露，您可通过数据保护伞的脱敏配置，对重要数据设置脱敏规则，并依据数据水印功能对泄露数据进行溯源。说明 仅 空间管理员 或 安全管理员 角色的用户，以及拥有 ...
RAM角色授权
如果您第一次进入CDP 管控台，首先进行RAM角色授权：说明 使用CDP企业数据云产品之前需要主账号或权限管理员创建如下服务关联角色 角色名称：AliyunServiceRoleForCDP 角色权限策略：AliyunServiceRolePolicyForCDP Cloudera企业数据云平台...
永洪BI
本文介绍如何通过永洪BI连接 云原生数据仓库AnalyticDB MySQL版 集群并进行实时数据分析。前提条件 安装MySQL JDBC驱动。安装永洪BI工具。如果您需要通过外网连接 云原生数据仓库AnalyticDB MySQL版 集群，请先申请外网地址。具体操作，请...
整体架构
云原生数据仓库AnalyticDB MySQL版 是阿里巴巴自主研发、经过超大规模以及核心业务验证的PB级实时数据仓库。概述 自2012年第一次在集团发布上线以来，AnalyticDB MySQL版 至今已累计迭代发布近百个版本，支撑起集团内的电商、广告、物流、...
操作审计
详情请参考文档：数据保护伞数据脱敏管理：数据脱敏管理 MaxCompute表权限的权限审计 您可以进入安全中心，在数据访问控制，权限审计处，查看表都有谁有具体的什么权限，以及申请的权限有效期，并支持回收表权限。权限审计 表数据，节点...
全增量数据同步
支持表结构迁移、实时数据同步、全量数据迁移。支持整库迁移、namespace迁移、表级别迁移。迁移支持表重命名。迁移支持指定时间范围、rowkey范围、指定列。提供OpenAPI，支持调用API创建迁移任务。迁移优势 不停服数据迁移，同时搞定历史...
数据传输作业：数据集成
实时同步 DataWorks提供的实时数据同步功能，使用单表或整库同步方式，将源端数据库中部分或全部表的数据变化实时同步至MaxCompute中，实现MaxCompute实时保持和源库的数据对应。一个实时同步任务支持多个转换插件进行数据清洗，并支持多个...
创建数据脱敏场景
单击左上方的 图标，选择 全部产品>数据治理>数据保护伞，单击 立即体验，进入数据保护伞。说明 若阿里云主账号已授权，则直接进入数据保护伞的首页。若阿里云主账号未授权，则进入数据保护伞的授权页面。授权后才可使用保护伞的相关功能。...
通过样本库识别
单击左上方的 图标，选择 全部产品>数据治理>数据保护伞。单击 立即体验，进入数据保护伞。在左侧导航栏，单击 规则配置>敏感数据识别，进入 敏感数据识别 页面。单击 数据样本管理，进入 数据样本管理 页面。单击 新增样本，配置样本库...
管理敏感数据
如果您需要对RDS实例中的敏感数据进行管控和脱敏，可以使用数据管理DMS提供的敏感数据保护功能。费用 请参见 敏感数据保护功能定价。功能介绍 数据管理DMS的敏感数据管理提供如下功能：提供敏感数据资产大盘，解决企业敏感数据分布的统一纳...
数据同步操作指导
数据同步功能可以帮助您实现数据源之间的数据实时同步，适用于数据异地多活、数据异地灾备、本地数据灾备、跨境数据同步、查询与报表分流、云BI及实时数据仓库等多种业务场景。本文介绍数据同步功能的具体使用流程，帮助您快速掌握创建、...
调整字段安全级别
前提条件 实例已开启敏感数据保护功能。具体操作，请参见 开通敏感数据保护。设置敏感等级的影响 设置敏感等级后，对使用数据的影响：SQL窗口中查询数据时，对无权限的中敏感、高敏感字段显示为星号（*）或者按自定义的方式显示。查询、...
数据存储冷热分离
如果加载数据之后 hot_total_size 和 cold_total_size 都为0，则表示数据还在实时中，rt_total_size 为实时数据的存储，可以通过执行build语句，将实时数据转换为分区数据，待build完成后可以查到 hot_total_size 和 cold_total_size。...
数据迁移、同步和恢复区别
数据同步主要用于两个数据源之间的数据实时同步，适用于异地多活、数据灾备、跨境数据同步、查询与报表分流、云BI及实时数据仓库等场景。它属于持续性任务，任务创建后会一直同步数据，保持数据源和数据目标的数据一致性。
数据迁移、同步和恢复区别
数据同步主要用于两个数据源之间的数据实时同步，适用于异地多活、数据灾备、跨境数据同步、查询与报表分流、云BI及实时数据仓库等场景。它属于持续性任务，任务创建后会一直同步数据，保持数据源和数据目标的数据一致性。
数据迁移、同步和恢复区别
数据同步主要用于两个数据源之间的数据实时同步，适用于异地多活、数据灾备、跨境数据同步、查询与报表分流、云BI及实时数据仓库等场景。它属于持续性任务，任务创建后会一直同步数据，保持数据源和数据目标的数据一致性。
数据迁移、同步和恢复区别
数据同步主要用于两个数据源之间的数据实时同步，适用于异地多活、数据灾备、跨境数据同步、查询与报表分流、云BI及实时数据仓库等场景。它属于持续性任务，任务创建后会一直同步数据，保持数据源和数据目标的数据一致性。
使用ETL分析实时订单
应用场景 为满足企业处理实时数据的需求，ETL提供了流式数据抽取、加工和加载功能，能够高效整合海量实时数据，支持拖拽式操作和低代码开发方式，帮助企业轻松完成商业决策分析、报表提速、实时数据计算等。企业在数字化转型过程中，涉及...
ClickHouse概述
近实时数据更新，Clickhouse支持近实时的数据插入、指标聚合以及索引创建。支持索引 按照主键对数据进行排序，ClickHouse可以在几十毫秒以内完成对数据特定值或范围的查找。典型应用场景 场景 描述 用户行为分析 行为分析系统的表可以制作...
最佳实践
配置规则 基于选定的被保护数据，按照数据保护规则格式，编辑规则内容，并通过SQL UDF下发规则。更多规则格式介绍请参见 数据保护规则简介。SELECT encdb_rule_op('add','[{"name":"rule-for-contact-name","enabled":true,"meta":{...
通过自定义模型识别
创建模型 进入 数据保护伞。登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。单击左上方的 图标，选择 全部产品>数据治理>数据保护伞。单击 立即体验，进入数据保护伞。...
Transaction Table2.0概述
随着当前数据处理业务场景日趋复杂，很多业务场景并不要求延时秒级更新可见或者行级更新，更多的需求是分钟级或者小时级的近实时数据处理叠加海量数据批处理场景，MaxCompute支持基于Transaction Table2.0实现近实时的增全量一体的数据存储...
数据同步方案概览
数据同步功能帮助您实现数据源之间的数据实时同步，适用于数据异地多活、数据异地灾备、本地数据灾备、跨境数据同步、云BI及实时数据仓库等多种业务场景。本文将介绍数据同步功能支持的数据库、同步类型和同步拓扑。收费策略 DTS数据同步...
通过DMS管理MongoDB数据库
背景信息 DMS提供如下几个角色：管理员：除 系统管理 菜单中的 数据保护伞 之外的所有入口对此角色可见。说明 其中 用户管理、访问IP白名单 功能仅此角色可见。如果您是管理员用户，需要通过 登录实例 管理您的MongoDB数据库。安全管理员：...
数据库备份到OSS
阿里云RDS或阿里云ECS自建数据库在OSS上备份或长期归档 自建IDC数据备份上云 其他云数据库在阿里云OSS上做多云备份 数据库做异地备份灾备 方案优势 支持全量或实时增量备份 秒级RPO：日志内存实时捕获，CDP实时备份，RPO达到秒级。...
数据治理
敏感数据保护 对于业务中对数据保护的需求，您可以将数据进行动态或静态脱敏，在当前实验中，会将表（retail_e_commerce_2.dim_ec_mbr_user_info）中的手机号码、IP地址等敏感字段进行动态脱敏处理。具体操作请参见下文指导，更多数据保护...
资产大盘
资产大盘仅统计并展示T+1前7天数据资产的变化趋势，非实时数据。操作步骤 登录 数据管理DMS 5.0。在顶部菜单栏中，选择 数据资产>资产大盘。说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>数据资产>资产...
- 产品推荐
- 这些文档可能帮助您