LogHub（SLS）实时ETL同步至Hologres
在 数据输出预览 窗口，您可以根据需要修改输入数据，或单击 手工构造数据 按钮自定义输入数据，再单击 预览 按钮，查看当前数据处理节点对数据的处理结果，当数据处理节点对输入数据处理异常，或产生脏数据时，也会反馈出异常信息，能够...
Oracle同步至Tablestore
在 数据输出预览 窗口，您可以根据需要修改输入数据，或者单击 手工构造数据 按钮自定义输入数据，然后单击 预览 按钮，查看当前数据处理节点对数据的处理结果，当数据处理节点处理异常，或者产生脏数据时，也会实时反馈异常信息，能够帮助...
Kafka单表实时入湖OSS（HUDI）
在 数据输出预览 窗口，您可以根据需要修改输入数据，或者单击 手工构造数据 按钮自定义输入数据，然后单击 预览 按钮，查看当前数据处理节点对数据的处理结果，当数据处理节点处理异常，或者产生脏数据时，也会实时反馈异常信息，能够帮助...
Kafka实时ETL同步至Hologres
在 数据输出预览 窗口，您可以根据需要修改输入数据，或者单击 手工构造数据 按钮自定义输入数据，然后单击 预览 按钮，查看当前数据处理节点对数据的处理结果，当数据处理节点处理异常，或者产生脏数据时，也会实时反馈异常信息，能够帮助...
文档更新动态（2022年之前）
通用功能 计费说明 2020-05-09 购买 功能拓展 为您介绍购买Dataphin实例时，可以选择数据处理单元、增值功能包（数据服务）和购买时长的拓展规格。通用功能 开通Dataphin 2020-05-09 续费 功能拓展 新增自动续费功能，帮助您快速地续费...
PyODPS概述
常见的需求，比如需要对每一行数据处理然后写回表，或者一行数据要拆成多行，都可以通过PyODPS DataFrame中的 map 或者 apply 实现，有些甚至只需要一行代码，足够高效与简洁，案例可参见 使用自定义函数及Python第三方库。使用这些接口...
有数BI
说明 您可以在工作区将多张表关联成一张表，也可以进行数据处理，例如字段重命名、类型转换、空值处理、建立数据字典、添加计算字段、创建层级、分组等操作。具体操作，请参见 模型制作演示。选择指定文件夹或新建文件夹后，单击 确定，...
网易有数BI连接MaxCompute
您可以在工作区将多张表关联成一张表，也可以进行数据处理，例如字段重命名、类型转换、空值处理、建立数据字典、添加计算字段、创建层级、分组等操作。更多模型制作指导，请参见 模型制作演示。在 保存模型 对话框，填写 名称 并选择文件...
Slowly Changing Dimension
示例中通过两次批量写入代替流式写入的方式模拟G-SCD on Delta Lake的数据处理。步骤三：验证数据写入结果 通过查询语句，验证数据是否写入成功。步骤一：创建G-SCD表 创建G-SCD表的示例如下，该表会在 步骤二：处理数据 使用。CREATE ...
查看数据处理任务运维信息
您可以通过查看数据处理任务运维信息，快速定位任务失败的原因。本文以倾斜数据处理后为例，介绍如何查看数据处理任务运维信息。操作步骤 登录 数据资源平台控制台。在页面左上角，单击 图标，选择 协同。在顶部菜单栏，单击 图标，选择...
导入概述
如果导入过程中有复杂的多表关联和ETL预处理可以使用Flink（Flink Connector）处理以后，再通过 Stream Load 写入StarRocks。程序写入StarRocks：推荐使用 Stream Load，可以参见Stream Load中Java或Python的Demo。文本文件导入：推荐使用 ...
导入概述
如果导入过程中有复杂的多表关联和ETL预处理可以使用Flink（Flink Connector）处理以后，再通过 Stream Load 写入StarRocks。程序写入StarRocks：推荐使用 Stream Load，可以参见Stream Load中Java或Python的Demo。文本文件导入：推荐使用 ...
功能简介
数据处理 支持倾斜数据处理能力，可以将OSGB格式数据转化为S3M数据，再将处理后的数据添加到数据管理中，以便被用于数仓建设、标签管理等数据中台任务。支持对数据处理任务进行管理。支持查看数据处理任务详情，包括任务的基本信息、处理的...
空间数据（邀测中）
数据处理 支持倾斜数据处理能力，可以将OSGD格式数据转化为S3M数据，再将处理后的数据添加到数据管理中，以便被用于数仓建设、标签管理等数据中台任务。支持对数据处理任务进行管理。支持查看数据处理任务详情，包括任务的基本信息、处理的...
轮播列表
请求数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如轮播列表配置了API数据源为 https://api.test ，传到 请求数据接口 动作的数据为 { id:'1'}，则最终请求接口为 https://api.test?id=1 。高亮 高亮...
自定义区域下钻层（v4.x版本）
请求数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如自定义区域下钻层配置了API数据源为 https://api.test ，传到 请求数据接口 动作的数据为 { id:'1'}，则最终请求接口为 https://api.test?id=1 。...
自定义区域下钻层（v3.x版本）
请求数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如自定义区域下钻层配置了API数据源为 https://api.test ，传到 请求数据接口 动作的数据为 { id:'1'}，则最终请求接口为 https://api.test?id=1 。...
矢量散点层（v3.x版本）
动作 动作 说明 请求数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如矢量散点层配置了API数据源为 https://api.test ，传到 请求数据接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
梯形柱状图
请求梯形柱状图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如梯形柱状图配置了API数据源为 https://api.test ，传到 请求梯形柱状图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
分组柱状图
请求分组柱状图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如分组柱状图配置了API数据源为 https://api.test ，传到 请求分组柱状图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
双轴折线图
请求双轴折线图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如双轴折线图配置了API数据源为 https://api.test ，传到 请求双轴折线图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
斑马柱状图
请求斑马柱状图接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如斑马柱状图配置了API数据源为 https://api.test ，传到 请求斑马柱状图接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
通用标题
（可选）如果需要跳转特定Tab页签，可以在串行数据处理节点前加入 条件判断 节点，满足时再执行处理方法；不满足显示默认值。例如：不显示第一个Tab页签内容。条件判断节点 return data.id>1;串行数据处理-满足 return[{value:data.content...
通用标题
可选，如果需要跳转特定Tab页签，可以在串行数据处理节点前加入 分支判断 节点，满足时再执行处理方法；不满足显示默认值。例如：不显示第一个Tab页签内容。分支判断节点 return data.id>1;处理方法-满足 return[{value:data.content}];...
算子
AnalyticDB for MySQL 中的一个算子负责完成一个基本的数据处理逻辑，合理地组合算子、优化算子的顺序和执行方式，可以提升数据的处理效率。本文介绍 AnalyticDB for MySQL 中的常用算子及算子所对应的属性。背景信息 AnalyticDB MySQL版 ...
数据风险点监控
通过配置DQC的数据质量校验规则，可以实现在数据处理过程中进行自动的数据质量监控。DQC可以监控数据质量并报警，但它不对数据产出进行处理，需要报警接收人判断如何处理。DQC数据监控规则有强规则和弱规则：强规则：一旦触发报警就会阻断...
使用场景
实时数据处理 DMS任务编排可以设置定时任务，实现对实时数据的处理和分析。业务流程自动化 结合DMS任务编排的调度和依赖管理功能，可以实现业务流程的自动化处理，提高工作效率和数据处理的准确性。数据治理与数据管控 DMS任务编排提供了...
添加处理后数据到数据管理
数据处理后，需要将处理后的数据添加到数据管理中，以便被用于数仓建设、标签管理等数据中台任务。本文以倾斜数据处理后为例，介绍如何添加处理后数据到数据管理。前提条件 已新建数据处理任务，具体操作，请参见 新建数据处理任务。操作...
如何对JSON类型进行高效分析
PolarDB IMCI采用精简二进制方式存储JSON列存数据，且使用RapidJSON库解析JSON数据，处理过程中按需读取数据且利用列存压缩技术等有效减少IO量，同时充分利用SIMD和向量化及并行等加速运算。以实际测试数据为例展示列存中JSON用法及其行列...
技术面临的挑战与革新
这种类型的架构好处显而易见，数据Sharding的方式让数据存取以及处理可以并行化，计算存储本地化最大化提升了数据读写的带宽以及延时。在过去网络IO还是一大瓶颈的年代，分布式系统设计以及优化的一大原则就是尽量使得计算存储本地化，避免...
DataWorks数据集成
可以通过数据集成的同步任务将处理好的其他数据源数据同步到 AnalyticDB PostgreSQL版（AnalyticDB PostgreSQL版 数据导入）。无论是哪种应用场景，都可以通过DataWorks的数据集成功能完成数据的同步过程，详细的操作步骤（包括创建数据...
Control Center基本使用
RBAC授权使用 RBAC全称为Role Based Access Control，是流数据处理Confluent权限管理的核心功能之一，具体操作请参见 Control Center页面进行RBAC授权。告警设置 流数据处理Confluent支持一些业务告警配置，具体操作请参见 Control Center...
查看资源用量大盘
资源用量大盘为您展示当前租户下已使用的数据处理单元总量和按任务类型分别统计的消耗趋势以及按项目粒度统计的消耗增量排行，帮助您了解数据处理单元的消耗情况以及时调整资源规格配置。本文为您介绍如何查看资源用量大盘。前提条件 需...
代码智能推荐
该功能可以利用AI模型帮助用户生成组件数据处理的代码。用户可以在对话框中描述数据处理的需求，并支持对推荐的代码内容进行修改。前提条件 已登录DataV控制台 已进入画布编辑器页面 操作步骤 在当前数据看板中随机添加一个组件（例如：...
Kafka实时入湖
本文为您介绍如何在数据湖构建（Data Lake Formation，简称DLF）中使用Kafka实时入湖任务将数据同步到数据湖中。重要 数据入湖功能已经停止更新，如果您有数据入湖需求请参考：数据入湖停止更新公告。前提条件 已开通数据湖构建服务，尚未...
计费说明-半托管
智能研发版定价 数据处理单元规格 定价（CNY/年）500 298,000 1000 397,800 1500 497,600 2000 597,400 2500 697,200 3000 797,000 数据处理单元统计规则：数据处理单元总量=（数据同步任务数+数据集成任务数）/3+计算任务数（离线和实时）...
配置学区地图区域热力层交互
{"id":xxx,"name":"xxx小学","distance":"","public_or_private":"","is_primary":1,"is_middle":0,"is_nursery":0,"is_high":0,"location":"","address":"","logo":""} 使用同样的方式，配置其他四个 串行数据处理 节点，示例代码如下。...
配置学区地图区域热力层交互
{"id":xxx,"name":"xxx小学","distance":"","public_or_private":"","is_primary":1,"is_middle":0,"is_nursery":0,"is_high":0,"location":"","address":"","logo":""} 使用同样的方式，配置其他四个 串行数据处理 节点，示例代码如下。...
什么是Databricks数据洞察
Spark Streaming 实时数据处理和分析，可以用写批处理作业的方式写流式作业。支持Java、Scala和Python语言。MLlib 可扩展的机器学习库，包含了许多常用的算法和工具包。GraphX Spark用于图和图并行计算的API。Spark Core API 支持R、SQL、...
包年包月
欠费影响 如果您购买的服务已到期，您账户下的流数据处理Confluent服务会立即停机，即您将不能再继续使用流数据处理Confluent服务。如果停机后168小时依然欠费，流数据处理Confluent实例将会释放，实例释放后数据不可恢复，即您不能再使用...
- 产品推荐
- 这些文档可能帮助您