MaxFrame概述
MaxFrame是阿里云自研的分布式计算框架，结合MaxCompute Notebook、镜像管理等功能提供了一套完整的Python开发生态，让用户可以用更符合Python社群开发习惯的方式使用MaxCompute弹性计算资源及数据接口进行大规模数据处理、分析及数据挖掘...
用户价值
业务应用方 应用开发 业务分析 使用数据资产获得业务价值 更便捷的使用数据和算法资源：通过统一服务，应用开发人员可以快速开发数据智能应用，提高智能应用开发效率，发挥数据价值。自主挖掘数据的业务价值：通过画像分析、业务模型编辑器...
计费说明-全托管
000 4500 60C240G 101,500 5000 60C240G 110,000 数据处理单元统计规则：数据处理单元总量=（数据同步任务数+数据集成任务数）/3+计算任务数（离线和实时）+明细逻辑表总数+[向上取整（指标数/10）]其中：前200个数据集成任务不纳入统计，...
功能更新动态（2022年之前）
本文为您及时同步2022年之前Dataphin的版本发布信息。2021年08月 功能名称 功能描述 发布时间 发布地域 相关...购买指引 升级 支持通过升级的方式，将智能研发版的低规格数据处理单元升级为高规格数据处理单元，同时也可以将基础研发版升级...
文档更新动态（2022年之前）
通用功能 购买指引 2020-05-09 计费说明 功能拓展 为您介绍本版本新增的内容：数据处理单元拓展规格的定价。数据服务拓展规格的定价。通用功能 计费说明 2020-05-09 购买 功能拓展 为您介绍购买Dataphin实例时，可以选择数据处理单元、增值...
配置数据源
使用数据服务创建API前，需先将您的数据库或数据仓库添加为DataWorks数据源，以此作为数据服务API的数据来源。开发数据服务API时，数据服务将访问该数据源获取数据表的Schema信息，帮助您进一步设置请求和返回参数。本文为您介绍如何配置...
产品架构
流引擎 LindormStream 是面向流式数据处理的引擎，提供了流式数据的存储和轻计算功能，兼容Kafka API和Flink SQL，帮助业务基于Lindorm快速构建基于流式数据的处理和应用。LindormStream内部包含流存储、流计算两大组件，通过两者的一体化...
参考：渐进式计算
背景信息 渐进式计算能够处理增量数据并维护中间结果数据，提高了在计算资源消耗、执行时间调度、查询延迟、数据处理粒度等方面的灵活性。例如在范围查询（Range Query）场景下（即查询一段时间范围内的数据），使用传统批处理方式和渐进式...
产品概述
用户可以编写应用程序或者使用流计算引擎来处理写入到数据总线 DataHub的流式数据比如实时Web访问日志、应用日志、各种事件等，并产出各种实时的数据处理结果比如实时图表、报警信息、实时统计等。产品概述 数据总线 DataHub基本介绍 阿里...
集群数据库监控详情
在集群数据库详情页面，您可以查看租户的数据库监控相关信息。查看集群数据库监控数据 进入 OceanBase 管理控制台。在左侧导航栏中，单击 实例列表。在实例列表中找到目标实例，单击实例名称，进入 实例工作台。在工作台页面的左侧导航栏中...
数据使用诊断
DataWorks的数据使用诊断，为您提供了对当前DataWorks工作空间的数据内容及数据隐私的安全保护能力，以及诊断相关安全问题的最佳实践及解决方案，帮助您快速建立数据使用时和使用后的基本安全体系。进入数据使用诊断 登录 DataWorks控制台...
Transaction Table2.0概述
随着当前数据处理业务场景日趋复杂，很多业务场景并不要求延时秒级更新可见或者行级更新，更多的需求是分钟级或者小时级的近实时数据处理叠加海量数据批处理场景，MaxCompute支持基于Transaction Table2.0实现近实时的增全量一体的数据存储...
查询流程和执行计划
Executor节点将数据处理的最终结果返回到客户端，或者写入 AnalyticDB MySQL版 集群的内部表以及其它外部存储系统（如OSS）中。执行计划相关概念 了解以下概念能帮助您更好地分析 AnalyticDB MySQL版 的执行计划（即物理执行计划）：Stage ...
独享数据集成资源组
使用限制 独享数据集成资源组的计费方式为包年包月，在资源组到期前不支持提前删除、释放资源组，资源组到期后会按照规定的时间停服、释放。独享数据集成资源组不支持跨地域使用。例如，华东2（上海）地域的独享数据集成资源组，只能给华东...
未来规划
结构化与非结构化数据如何融合异构处理，比如如何用向量处理引擎把非结构化数据变成结构化数据，高维向量、多源异构数据处理的技术。数据处理与分析：海量数据分析在线化（实时在线交互式分析）。如何对海量数据进行在线分析和计算，支持...
通知设置
资源用量：用于数据处理单元、数据标准、智能运维等资源统计用量情况的通知。租户管理：用于租户设置变更的通知。系统消息：用于元数据获取异常等系统异常的通知。操作步骤 在Dataphin首页，按照下图操作指引，进入 通知中心。单击左侧导航...
DataWorks节点合集
ODPS SQL、Hologres SQL、EMR Hive），以及可对引擎计算节点进行复杂逻辑处理的通用节点（例如，可统筹管理多个节点的虚拟节点、可循环执行代码的do-while节点），多种节点配合使用，满足您不同的数据处理需求。数据开发（DataStudio）支持...
流式数据通道概述
MaxCompute流式数据通道服务提供了以流式的方式把数据写入MaxCompute的能力，使用与原批量数据通道服务不同的一套全新的API及后端服务。流式服务在API上极大简化了分布式服务的开发成本，同时解决了批量数据通道在高并发、高QPS（Queries-...
创建Lindorm数据源
背景信息 Lindorm是阿里云推出的自研数据库，提供宽表、时序、文件、搜索等多种数据模型，支持毫秒级在线数据处理、海量数据低成本存储和分析。更多阿里云Lindorm信息，请参见 云原生多模数据库 Lindorm。权限说明 Dataphin仅支持 超级管理...
创建Lindorm数据源
背景信息 Lindorm是阿里云推出的自研数据库，提供宽表、时序、文件、搜索等多种数据模型，支持毫秒级在线数据处理、海量数据低成本存储和分析。更多阿里云Lindorm信息，请参见 云原生多模数据库 Lindorm。权限说明 Dataphin仅支持 超级管理...
什么是Dataphin
编码研发 资源及函数管理 支持管理各种资源包（例如JAR、文本文件），以满足部分数据处理需求。支持查找与使用内置的系统函数。支持用户自定义函数，以满足数据研发的特殊加工需求。创建资源 新建用户自定义函数 数据萃取 基于Dataphin数据...
常见问题
使用lindorm bulk方式写入数据，是否每次都会替换掉历史数据？如何查询一个ES索引下的所有字段？离线同步场景及解决方案 离线同步任务如何自定义表名？配置离线同步节点时，无法查看全部的表，该如何处理？读取MaxCompute（ODPS）表数据时...
DataWorks On MaxCompute使用说明
类别 描述 相关文档 OpenAPI DataWorks开放平台的OpenAPI功能，为您提供开放API能力，通过开放API实现本地服务和DataWorks服务的交互，提升企业大数据处理效率，减少人工操作和运维工作，降低数据风险和企业成本。开放API（OpenAPI）开放...
步骤二：实时项目规划
本文将指导您完成本教程的Ververica Flink计算源、数据源、实时项目的创建与绑定。步骤一：创建 Ververica Flink 计算源 在Dataphin首页，单击顶部菜单栏的 规划。按照下图操作指引，进入 Ververica Flink新建计算源 页面。在 新建计算源 ...
步骤二：实时项目规划
本文将指导您完成本教程的Ververica Flink计算源、数据源、实时项目的创建与绑定。步骤一：创建 Ververica Flink 计算源 在Dataphin首页，单击顶部菜单栏的 规划。按照下图操作指引，进入 Ververica Flink新建计算源 页面。在 新建计算源 ...
开通服务
重要 云资源访问授权是对系统创建的供媒体处理使用的角色授予访问云资源的权限。授权后如果误删角色 AliyunMTSDefaultRole，可使用阿里云账号再次进入 授权页面，或登录控制台重新授权。开通OSS服务，详细操作请参见 开通OSS服务。说明 ...
X-Engine简介
数据库领域的泰斗，图灵奖得主Michael Stonebreaker就此写过一篇论文《OLTP Through the Looking Glass,and What We Found There》，指出传统关系型数据库，仅有不到10%的时间是在做真正有效的数据处理工作，剩下的时间都浪费在其它工作上...
安全算法
引用函数：在研发模块进行数据处理脚本编写或即席查询时，即可在SQL语句中引用安全函数；配置脱敏规则时，也可以选择所需的安全函数。测试安全算法 在 安全算法 页面，单击测试 图标，进行算法的测试。在 测试安全算法 对话框，输入需测试...
安全算法
引用函数：在研发模块进行数据处理脚本编写或即席查询时，即可在SQL语句中引用安全函数；配置脱敏规则时，也可以选择所需的安全函数。测试安全算法 在 安全算法 页面，单击测试 图标，进行算法的测试。在 测试安全算法 对话框，输入需测试...
代码智能推荐
该功能可以利用AI模型帮助用户生成组件数据处理的代码。用户可以在对话框中描述数据处理的需求，并支持对推荐的代码内容进行修改。前提条件 已登录DataV控制台 已进入画布编辑器页面 操作步骤 在当前数据看板中随机添加一个组件（例如：...
配置学区地图区域热力层交互
{"id":xxx,"name":"xxx小学","distance":"","public_or_private":"","is_primary":1,"is_middle":0,"is_nursery":0,"is_high":0,"location":"","address":"","logo":""} 使用同样的方式，配置其他四个 串行数据处理 节点，示例代码如下。...
配置学区地图区域热力层交互
{"id":xxx,"name":"xxx小学","distance":"","public_or_private":"","is_primary":1,"is_middle":0,"is_nursery":0,"is_high":0,"location":"","address":"","logo":""} 使用同样的方式，配置其他四个 串行数据处理 节点，示例代码如下。...
创建Kudu数据源
Kudu适用HTAP场景（例如物联网），对于数据处理系统的复杂性提出了更高的要求。从早期的OLTP、OLAP拆分，到后来的Lambda架构，都存在数据复制和同步的复杂性，而Kudu的单一数据架构，规避了传统架构数据复制和同步的复杂性。更多详情请参见...
什么是数据库网关
使用指引 如果您是第一次使用数据库网关，您可以参考下述步骤开始使用：准备工作 新建数据库网关 添加数据库 为什么选择数据库网关 数据库网关提供安全可靠、低成本的数据库接入服务，通过数据库网关您可以安全且低成本地将第三方云或本地...
创建Impala数据源
背景信息 Impala是用于处理存储在Hadoop集群中大量数据的SQL查询引擎。如果您使用的是Impala，在导出Dataphin数据至Impala，您需要先完成Impala数据源的创建。更多Impala信息，请参见 Impala官网。权限说明 Dataphin仅支持 超级管理员、...
ETL工作流快速体验
通过数据加工处理，并设置调度策略，实现数据处理的自动化，从而向您展示智慧城市项目下数据加工的整个过程。GitHub十大热门编程语言 DataWorks MaxCompute 函数计算 OSS 数据集成 数据开发 基于GitHub Archive公开数据集，通过DataWorks ...
创建HDFS数据源
DataNode用于存储数据，及处理数据块的读写。如果您使用的是HDFS，在引入HDFS的业务数据至Dataphin中或将Dataphin数据导出至HDFS的场景中，您需要先完成HDFS数据源的创建。更多HDFS信息，请参见 HDFS官方介绍。使用限制 Dataphin仅支持超级...
DataWorks On EMR使用说明
数据同步的同步资源费用 运行数据同步任务时，除调度资源外，还需使用数据同步资源。您需按需购买数据同步所需的包年包月的独享数据集成资源组，支付相应的资源组费用。二、非DataWorks相关费用 以下费用不会体现在DataWorks产品相关账单中...
配置学区地图单选框交互
使用同样的方式对 初中 节点进行连线并添加 串行数据处理 节点。最终的连线效果如下。连线的原理为：将 全选 的 串行数据处理 节点分别与 公办 和 民办 的 显示 动作连线。将 公办 的 串行数据处理 节点分别与 公办 的 显示 动作和 民办 的...
配置学区地图单选框交互
使用同样的方式对 初中 节点进行连线并添加 串行数据处理 节点。最终的连线效果如下。连线的原理为：将 全选 的 串行数据处理 节点分别与 公办 和 民办 的 显示 动作连线。将 公办 的 串行数据处理 节点分别与 公办 的 显示 动作和 民办 的...
- 产品推荐
- 这些文档可能帮助您