Slowly Changing Dimension
通过使用两次批量写入，代替流式写入的方式模拟G-SCD on Delta Lake的数据处理。第一次批量写入，然后创建对应时间粒度的Savepoint。第一次批量写入。MERGE INTO GSCD("2021-01-01")target as target USING s1 as source ON source.id=...
查看资源用量大盘
资源用量大盘为您展示当前租户下已使用的数据处理单元总量和按任务类型分别统计的消耗趋势以及按项目粒度统计的消耗增量排行，帮助您了解数据处理单元的消耗情况以及时调整资源规格配置。本文为您介绍如何查看资源用量大盘。前提条件 需...
查看资源使用情况-半托管
当前用量：为您展示当前租户下已使用的数据处理单元数量占可配置的数据处理单元总数的百分比。用量详情：为您展示当前租户下 离线同步&集成任务、离线计算任务、维度逻辑表、事实逻辑表、指标 的资源使用情况。关于数据处理单元的更多信息...
查看资源使用情况-全托管
当前用量：为您展示当前租户下已使用的数据处理单元数量占可配置的数据处理单元总数的百分比。用量详情：为您展示当前租户下 离线同步&集成任务、离线计算任务、维度逻辑表、事实逻辑表、指标 的资源使用情况。关于数据处理单元的更多信息...
包年包月
欠费影响 如果您购买的服务已到期，您账户下的流数据处理Confluent服务会立即停机，即您将不能再继续使用流数据处理Confluent服务。如果停机后168小时依然欠费，流数据处理Confluent实例将会释放，实例释放后数据不可恢复，即您不能再使用...
引擎简介
云原生多模数据库 Lindorm 流引擎面向实时数据处理场景，支持使用标准的SQL及熟悉的数据库概念完成一站式的实时数据处理，适用于车联网、物联网和互联网中常见的ETL、实时异常检测和实时报表统计等场景。本文介绍Lindorm流引擎的应用场景和...
Kafka实时入湖
Kafka默认字段列表 在使用数据预处理功能之前，我们需要清楚Kafka入湖过程中目标schema包含哪些字段，字段列表如下。字段 类型 说明 key binary Kafka消息key value binary Kafka消息体 topic string Kafka topic partition int Kafka分区...
权限自查建议
这种情况符合数据开发的实际情况，如果可以用SQL处理，通常优先使用SQL处理数据。某账号提交的任务非常多，经了解，其将自己的AccessKey通过SDK的方式配置了一个查询软件，并提供多人进行查询。不推荐该方式，请谨慎开放权限，避免多人共用...
选择连接工具
本文为您介绍连接并处理MaxCompute项目数据工具的应用场景、运行环境要求以及使用指引。您可根据业务需要和相应准备的环境，选择合适的连接工具。前提条件 已创建MaxCompute项目。更多创建MaxCompute项目操作，请参见 创建MaxCompute项目。...
自定义区域下钻层（v4.x版本）
请求数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如自定义区域下钻层配置了API数据源为 https://api.test ，传到 请求数据接口 动作的数据为 { id:'1'}，则最终请求接口为 https://api.test?id=1 。...
自定义区域下钻层（v3.x版本）
请求数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如自定义区域下钻层配置了API数据源为 https://api.test ，传到 请求数据接口 动作的数据为 { id:'1'}，则最终请求接口为 https://api.test?id=1 。...
基础折线图
动作 动作 说明 请求基础折线图接口描述 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如基础折线图配置了API数据源为 https://api.test ，传到 请求基础折线图接口描述 动作的数据为 { id:'1'}，则最终请求...
基础散点图
动作 动作 说明 请求基础散点图接口描述 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如散点图配置了API数据源为 https://api.test ，传到 请求基础散点图接口描述 动作的数据为 { id:'1'}，则最终请求接口为 ...
气泡图
动作 动作 说明 请求气泡图接口描述 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如气泡图配置了API数据源为 https://api.test ，传到 请求气泡图接口描述 动作的数据为 { id:'1'}，则最终请求接口为 ...
PyODPS概述
推荐使用PyODPS DataFrame接口来完成数据处理。常见的需求，比如需要对每一行数据处理然后写回表，或者一行数据要拆成多行，都可以通过PyODPS DataFrame中的 map 或者 apply 实现，有些甚至只需要一行代码，足够高效与简洁，案例可参见 ...
数据处理
串行数据处理节点 串行数据处理 节点，是使用串行方式来处理一个事件。使用场景：例如，小数0.835要转换成整数百分比83%，可经过：单位转换（83.5）->取整（83）->添加字符串后缀（83%），一系列串行操作完成。添加 串行数据处理 节点至...
配置跨库Spark SQL节点
db.dept_sales SELECT dept_name，trade_date,COUNT(*)cnt,SUM(amt)amt FROM mysql_db.sales t1 JOIN oracle_db.users t2 ON t1.emp_id=t2.id WHERE t1.trade_date=${bizdate} GROUP BY t2.dept_name 功能特性 跨库数据处理：支持使用SQL...
数据导入方式介绍
为满足多样化的数据导入需求，云原生数据仓库AnalyticDB MySQL版 提供了多种数据导入方式，包括：通过外表导入数据、使用DataWorks导入数据和利用JDBC通过程序导入数据等。本文介绍各导入方式的特性及适用场景，帮助您选择正确的数据导入...
数据下载
在DataWorks的数据开发（DataStudio）、数据分析、安全中心模块下载的CSV、XLSX格式文件数据将同步保存至数据下载功能。通过该功能，您可将所需历史下载文件重新下载至本地使用，也可追溯历史下载记录的操作详情。前提条件 已通过如下模块...
数据处理
数据处理类节点包括页面导航节点、并行数据处理节点、串行数据处理节点、序列执行节点和WebSocket节点。本文介绍在蓝图编辑器中，配置数据处理类节点的方法。页面导航节点 页面导航 节点，可用于实现页面跳转的功能，支持新开浏览器标签页...
导入概述
Insert Into导入 手工测试及临时数据处理时可以使用 Insert Into 方法向StarRocks表中写入数据。其中，INSERT INTO tbl SELECT.;语句是从StarRocks的表中读取数据并导入到另一张表，INSERT INTO tbl VALUES(.);语句是向指定表里插入单条...
导入概述
Insert Into导入 手工测试及临时数据处理时可以使用 Insert Into 方法向StarRocks表中写入数据。其中，INSERT INTO tbl SELECT.;语句是从StarRocks的表中读取数据并导入到另一张表，INSERT INTO tbl VALUES(.);语句是向指定表里插入单条...
添加处理后数据到数据管理
数据处理后，需要将处理后的数据添加到数据管理中，以便被用于数仓建设、标签管理等数据中台任务。本文以倾斜数据处理后为例，介绍如何添加处理后数据到数据管理。前提条件 已新建数据处理任务，具体操作，请参见 新建数据处理任务。操作...
查看数据处理任务运维信息
您可以通过查看数据处理任务运维信息，快速定位任务失败的原因。本文以倾斜数据处理后为例，介绍如何查看数据处理任务运维信息。操作步骤 登录 数据资源平台控制台。在页面左上角，单击 图标，选择 协同。在顶部菜单栏，单击 图标，选择...
影响查询性能的因素
节点数量 AnalyticDB MySQL版 使用了分布式数据处理架构，一条查询会被分解成多个Stage在不同的节点上并行执行。所以如果集群中的节点数量越多，AnalyticDB MySQL版 处理查询的能力也会越强。您可以根据实际的业务需求来决定集群节点的购买...
新建数据处理任务
系统提供数据处理能力，包括倾斜数据处理、地形数据处理、三维模型处理、影像优化处理。本文以新建倾斜数据处理任务为例，介绍如何新建数据处理任务。前提条件 已添加空间元数据，具体操作，请参见 添加数据。已添加OSS类型云计算资源。...
Control Center基本使用
SchemaRegistry使用 SchemaRegistry是流数据处理Confluent的核心功能之一，具体操作请参见 Schema Registry管理。1.查看集群配置 点击“Cluster settings”按钮可以查看集群的基本信息，例如Cluster id。说明 Cluster id可用于通过Conluent...
计费说明-半托管
智能研发版定价 数据处理单元规格 定价（CNY/年）500 298,000 1000 397,800 1500 497,600 2000 597,400 2500 697,200 3000 797,000 数据处理单元统计规则：数据处理单元总量=（数据同步任务数+数据集成任务数）/3+计算任务数（离线和实时）...
功能简介
数据处理 支持倾斜数据处理能力，可以将OSGB格式数据转化为S3M数据，再将处理后的数据添加到数据管理中，以便被用于数仓建设、标签管理等数据中台任务。支持对数据处理任务进行管理。支持查看数据处理任务详情，包括任务的基本信息、处理的...
空间数据（邀测中）
数据处理 支持倾斜数据处理能力，可以将OSGD格式数据转化为S3M数据，再将处理后的数据添加到数据管理中，以便被用于数仓建设、标签管理等数据中台任务。支持对数据处理任务进行管理。支持查看数据处理任务详情，包括任务的基本信息、处理的...
数据安全治理的必要性
当下企业在开展数据处理相关业务时，只要存在数据收集、处理、使用等行为，就需要从以下方面保障企业的经营合法合规。重点关注及遵守相关法律法规，时刻监督自己是否存在违规行为。例如，网络安全法、数据安全法、个性信息保护法、民法典及...
功能简介
数据资产申请，数据使用者向数据管理方提出使用申请，说明申请方式和申请理由。由租户资产管理员进行资产使用的审核处理。数据资产服务，根据数据资源的性质和特点，选择采用数据表、标签 或接口方式提供资产服务。数据资产下线，根据数据...
运营
数据资产申请，数据使用者向数据管理方提出使用申请，说明申请方式和申请理由。由租户资产管理员进行资产使用的审核处理。数据资产服务，根据数据资源的性质和特点，选择采用数据表或接口方式提供资产服务。数据资产下线，根据数据的实际...
功能简介
数据资产申请，数据使用者向数据管理方提出使用申请，说明申请方式和申请理由。由租户资产管理员进行资产使用的审核处理。数据资产服务，根据数据资源的性质和特点，选择采用数据表、标签 或接口方式提供资产服务。数据资产下线，根据数据...
数据开发概述
数据处理：通过编写代码的方式构建复杂的数据模型、构建同步任务和构建不同类型的代码任务。即席查询：即主题式查询，面向业务主题的数据查询。屏蔽了物理模型中技术特性带来的影响，基于逻辑模型从业务视角出发对外提供查询服务。双开发...
应用场景
车联网：车辆轨迹与状况数据的高效存储处理 使用Lindorm存储车联网中的行驶轨迹、车辆状况、精准定位等重要数据，提供低成本、弹性、灵活可靠的能力，帮助您构建网约车、物流运输、新能源车检测等场景服务。优势 低成本：高压缩比，数据...
应用场景
前端的监控系统和大数据处理系统会利用 TSDB 的数据查询和计算分析能力进行业务监控和分析结果的实时展现。电力化工及工业制造监控分析 传统电力化工以及工业制造行业需要通过实时的监控系统进行设备状态检测，故障发现以及业务趋势分析。...
租户设置
资源使用说明 总的处理单元规格数和总的质量规则数与客户购买的数据处理单元和规则配额有关。详情请参见 查看资源使用情况。新建租户 使用超级管理员或系统管理员账号，登录元仓租户。在Dataphin首页，单击顶部菜单栏的 管理中心。在 管理...
全景视角
阿里云DataWorks为您提供数据生产、数据使用、数据管理视角下的主要数据治理情况。您可以根据需求选择合适的视角，高效的进行数据治理工作。背景信息 为提高不同使用场景下的数据治理效率和质量，DataWorks为您提供以下视角：数据管理视角...
MaxFrame概述
MaxFrame是阿里云自研的分布式计算框架，结合MaxCompute Notebook、镜像管理等功能提供了一套完整的Python开发生态，让用户可以用更符合Python社群开发习惯的方式使用MaxCompute弹性计算资源及数据接口进行大规模数据处理、分析及数据挖掘...
- 产品推荐
- 这些文档可能帮助您