ECS资源复用版
客户A在MaxCompute购买了包年包月计算资源 500 CU，用于满足00:00~08:00的离线计算作业需求。客户开通ECS资源复用版后，可将CR共享至MaxCompute，并将共享时间段设置为00:00~09:00。MaxCompute将在00:00购买CR内未被占用的20台ECS实例，并...
查看离线计算任务详情
离线计算任务是由智能标签、表加工、质量评估、数据加工等业务产生的任务，运维监控支持查看离线计算任务详情，包括任务信息、任务代码、实例列表。本文介绍如何查看离线计算任务详情。操作步骤 登录企业数据智能平台。在页面左上角，单击 ...
查看离线计算任务详情
离线计算任务是由智能标签、表加工、质量评估、数据加工等业务产生的任务，运维监控支持查看离线计算任务详情，包括任务信息、任务代码、实例列表。本文介绍如何查看离线计算任务详情。操作步骤 登录 数据资源平台控制台。在页面左上角，...
标记离线计算实例
对执行失败或异常的离线计算实例标记后，实例的状态会标记为成功，方便对实例进行筛选。本文主要介绍如何标记离线计算实例。操作步骤 登录企业数据智能平台。在页面左上角，单击 图标，选择 协同。在顶部菜单栏，单击 图标，选择目标工作组...
标记离线计算实例
对执行失败或异常的离线计算实例标记后，实例的状态会标记为成功，方便对实例进行筛选。本文主要介绍如何标记离线计算实例。操作步骤 登录 数据资源平台控制台。在页面左上角，单击 图标，选择 协同。在顶部菜单栏，单击 图标，选择目标...
重跑离线计算实例
在任务中心，您可以重跑离线计算实例，重新运行离线任务。本文主要介绍如何重跑离线计算实例。背景信息 只有全量任务支持重跑，增量任务不支持。操作步骤 登录企业数据智能平台。在页面左上角，单击 图标，选择 协同。在顶部菜单栏，单击 ...
重跑离线计算实例
在任务中心，您可以重跑离线计算实例，重新运行离线任务。本文主要介绍如何重跑离线计算实例。背景信息 只有全量任务支持重跑，增量任务不支持。操作步骤 登录 数据资源平台控制台。在页面左上角，单击 图标，选择 协同。在顶部菜单栏，...
新建离线计算模板
Dataphin支持创建离线计算模板。后续在开发任务时，可以引用创建的离线计算模板以提高任务的研发效率。本文为您介绍如何创建、配置并提交离线计算模板。背景信息 当多个任务的代码逻辑相似，只有部分配置项或输入参数不同时，您可以将代码...
新建离线计算模板
Dataphin支持创建离线计算模板。后续在开发任务时，可以引用创建的离线计算模板以提高任务的研发效率。本文为您介绍如何创建、配置并提交离线计算模板。背景信息 当多个任务的代码逻辑相似，只有部分配置项或输入参数不同时，您可以将代码...
查看及管理离线计算任务列表
离线计算任务列表是指在Dataphin创建的离线计算任务集合。在Dataphin的离线计算任务列表为您展示了离线任务的基本信息及相关管理操作选项，方便您查看创建的离线任务并进行管理。本文为您介绍离线计算任务列表支持的管理功能。离线 计算...
查看及管理离线计算任务列表
离线计算任务列表是指在Dataphin创建的离线计算任务集合。在Dataphin的离线计算任务列表为您展示了离线任务的基本信息及相关管理操作选项，方便您查看创建的离线任务并进行管理。本文为您介绍离线计算任务列表支持的管理功能。离线 计算...
查看离线计算实例详情
离线计算实例是由智能标签、表加工、质量评估、数据加工等业务产生的任务实例，运维监控支持查看离线计算任务实例的详情，包括实例信息、任务代码、实例日志。本文介绍查看离线计算实例详情。操作步骤 登录企业数据智能平台。在页面左上角...
查看离线计算实例详情
离线计算实例是由智能标签、表加工、质量评估、数据加工等业务产生的任务实例，运维监控支持查看离线计算任务实例的详情，包括实例信息、任务代码、实例日志。本文介绍查看离线计算实例详情。操作步骤 登录 数据资源平台控制台。在页面左上...
任务中心
离线任务 支持查看离线计算任务的属性信息，查看离线同步实例、离线计算实例的属性与运行日志。离线同步实例：支持以列表的方式展示离线同步实例信息，并提供离线同步实例属性与运行日志查看；可进行实例重跑的功能。离线计算任务：支持以...
概述
离线任务 支持查看离线计算任务的属性信息，查看离线同步实例、离线计算实例的属性与运行日志。离线同步实例：支持以列表的方式展示离线同步实例信息，并提供离线同步实例属性与运行日志查看；可进行实例重跑的功能。离线计算任务：支持以...
概述
离线任务 支持查看离线计算任务的属性信息，查看离线同步实例、离线计算实例的属性与运行日志。离线同步实例：支持以列表的方式展示离线同步实例信息，并提供离线同步实例属性与运行日志查看；可进行实例重跑的功能。离线计算任务：支持以...
产品限制
版本v20150630：BatchCompute 使用共享资源池支持大规模离线计算，计算任务可能需要排队等待。计算节点暂不支持公网访问。
计算设置概述
设置Dataphin实例的计算引擎为MaxCompute 实时计算引擎 阿里云实时计算Flink 阿里云新一代计算引擎Flink，支持实时计算，具有高吞吐低延迟等优势，同时也支持离线计算与调度。租户开启 实时研发 模块后，系统将根据 离线计算引擎 选择进行...
概述
Tunnel主要用于批量上传数据至离线表，适用于离线计算的场景。DataHub DataHub数据迁移功能通过Connector实现。DataHub Connector可以将DataHub中的流式数据同步至MaxCompute。您只需要向DataHub中写入数据，并在DataHub中配置同步功能，便...
计算设置概述
设置Dataphin实例的计算引擎为TDH或ArgoDB 星环TDH 6.x Transwarp Data Hub（TDH)是星环大数据平台 实时计算引擎 阿里云实时计算Flink 阿里云新一代计算引擎Flink，支持实时计算，具有高吞吐低延迟等优势，同时也支持离线计算与调度。...
CDM接口数据层设计规范
统计时间周期范围和数据域说明如下：关于统计时间周期范围缩写，默认情况下，离线计算包括最近一天（1d）、最近N天（nd）和历史截至当天（td）三个表。说明 如果出现 nd 的表字段过多，需要拆分时，只允许以一个统计周期单元作为原子拆分，...
技术架构选型
在数据模型设计之前，您需要首先完成技术...MaxCompute作为整个大数据开发过程中的离线计算引擎。DataWorks则包括数据开发、数据质量、数据安全、数据管理等在内的一系列功能。icmsDocProps={'productMethod':'created','language':'zh-CN',};
计算任务概述
更多信息，请参见：离线计算任务属性配置，请参见 离线任务属性配置概述。实时计算任务属性配置，请参见：实时模式配置概述。离线模式配置概述。相关：离线计算任务支持查看计算任务的相关对象，即 当前 计算 任务引用读取的表、引用读取...
计算任务概述
更多信息，请参见：离线计算任务属性配置，请参见 离线任务属性配置概述。实时计算任务属性配置，请参见：实时模式配置概述。离线模式配置概述。相关：离线计算任务支持查看计算任务的相关对象，即 当前 计算 任务引用读取的表、引用读取...
Transaction Table2.0概述
很多业务场景并不要求延时秒级更新可见或者行级更新，更多的需求是分钟级或者小时级的近实时数据处理叠加海量数据批处理场景，MaxCompute支持基于Transaction Table2.0实现近实时的增全量一体的数据存储、计算解决方案，本文为您介绍本方案...
离线异步任务场景
本文介绍什么是GPU离线异步任务场景和如何使用函数计算GPU异步调用、异步有状态调用服务离线AI推理、离线AI训练、离线GPU加速场景，以及如何基于非Web Server模式的Custom Container满足离线GPU应用场景。场景介绍 在离线异步应用场景中，...
金融大数据
大数据数据仓库融合了丰富的计算引擎，能够满足离线计算、实时计算、流计算、图计算等不同的业务应用场景。同时支持结构化数据与非结构化数据的存储与计算。架构优势：提供了结构化与非结构化数据的融合方案 满足了同时存在离线、在线、流...
计算源概述
功能概述 您可根据业务需求添加相应计算源，各计算源描述及创建说明如下：计算设置 计算源 MaxCompute 计算设置为MaxCompute的租户支持创建以下计算源：离线计算源 MaxCompute计算源：绑定MaxCompute计算源的项目，支持规范建模、即席查询...
功能简介
支持流式计算、批量离线计算等多种类型的计算节点在一个工作流中统一编排。支持同一租户内，不同工作组、不同场景间的全局任务依赖和统一调度。提供可视化操作界面，通过拖拉拽的方式连接计算节点迅速实现数据加工流程编辑，大幅提升数据...
功能简介
支持流式计算、批量离线计算等多种类型的计算节点在一个工作流中统一编排。支持同一租户内，不同工作组、不同场景间的全局任务依赖和统一调度。提供可视化操作界面，通过拖拉拽的方式连接计算节点迅速实现数据加工流程编辑，大幅提升数据...
数据开发
支持流式计算、批量离线计算等多种类型的计算节点在一个工作流中统一编排。支持同一租户内，不同工作组、不同场景间的全局任务依赖和统一调度。提供可视化操作界面，通过托拉拽的方式连接计算节点迅速实现数据加工流程编辑，大幅提升数据...
整体架构
AnalyticDB MySQL 新推出的 湖仓版（3.0）新增了高吞吐离线处理能力，通过一体化的方式解决离线处理和在线分析两种场景的需求，恰好可以解决该问题。数仓版（3.0）AnalyticDB MySQL 数仓版（3.0）架构如下：接入层 接入层由Mulit-Master可...
支持的云服务
MaxCompute和DataWorks提供完善的ETL、数据分析、数据地图、数据治理和数据仓库管理能力，并支持SQL、MapReduce、Graph等多种经典的分布式计算模型，能够更快速地解决用户海量数据计算问题，有效降低企业成本，保障数据安全。更多DataWorks...
什么是图计算服务
大数据生态，深度对接 对接完整的阿里云大数据及AI产品生态，提供基于MaxCompute+Flink+Graph Compute 的场景化图计算解决方案。图计算服务Graph Compute特点 高性能 查询延时低、数据导入快（千亿数据查询延时2ms以内，数据载入最高达500w...
IDMapping在离线一体化解决方案
首先，配合MaxCompute数仓，基于智能运维系统，将离线计算与在线实时计算结合落地的方案。其次，提供多种业务数据查询能力，可提供向量、倒排、复杂图查询，让业务使用更灵活。最后，基于离线、在线一体化方案，可配合业务自行选择，赋能...
通过函数计算转存离线日志
通过阿里云的函数计算转存离线日志功能，当CDN产生新的离线日志时，它会触发预设的函数计算逻辑，自动地、无服务器地将这些日志文件传输到对象存储服务（OSS）。这样，无需人工干预或额外运维成本，就能实现日志数据的安全、高效、稳定的...
持续架构优化
探索混合部署 为提升资源整体利用率，解决资源碎片问题并降低离线作业成本，将不同类型的在线、离线任务调度到相同资源上，通过调度和资源隔离等控制手段保障服务的能力称为在离线或离在线混部。两者区别在于是以在线业务为主还是以离线...
常见问题
一般MaxCompute任务是混部集群上执行的，混部集群底层对离线、在线任务是共用的，因此可能出现离线任务占用了较多的集群资源，导致在线任务获取不到相应的资源，出现运行缓慢甚至失败等情况。一般建议：限制离线任务的资源使用。可以限制...
功能特性
计算 MaxCompute向用户提供了多种经典的分布式计算模型，提供TB、PB、EB级数据计算能力，能够更快速的解决用户海量数据计算问题，有效降低企业成本。功能集 功能 功能描述 参考文档 SQL开发 DDL语句 DDL语句 DDL DML操作 DML操作 DML操作 ...
基于Flink+Hologres搭建实时数仓
除传统的面向海量数据加工场景设计的离线场景外，大量业务需要解决面向实时加工、实时存储、实时分析的实时场景问题。传统离线数仓搭建的方法论比较明确，通过定时调度实现数仓分层（ODS->DWD->DWS->ADS）；但对于实时数仓的搭建，目前缺乏...
- 产品推荐
- 这些文档可能帮助您