离线同步能力说明
数据集成的离线同步功能为您提供数据读取（Reader）和写入插件（Writer），方便您通过定义来源与去向数据源，并结合DataWorks调度参数使用，将源端数据库中全量或增量数据的同步至目标数据库中。本文为您介绍离线同步的相关能力。使用限制 ...
Stream模型
Produce接口按指定频率持续运行生成一批次子任务信息进入队列，基于缓冲队列框架持续分发子任务给当前业务集群处理。处理分发过程不会等待上一批次执行结束，只要集群有可用机器，资源就会持续分发处理。该模型主要解决以下问题场景：现有...
使用DMS进行数据归档
随着企业的数据资料持续积累，需要持久化地保留数据资产，但是数据的存储成本居高不下，因此DMS和 AnalyticDB PostgreSQL版 Serverless模式共同推出了数据归档功能，可以面对数据库实现灵活低价、归档管理和高分析性能的能力。功能介绍 DMS...
查看运维大屏
运维大屏为您展示工作空间的运维稳定性评估、重点关注的运维指标、调度资源使用及周期任务运行概况，以及数据集成同步任务的运行详情，助力您从宏观角度快速了解空间任务的整体概况，及时发现并处理异常任务，提升运维效率。使用说明 运维...
ACK集群概述
调度：支持不同弹性资源的混合调度、异构资源的精细化调度、批量计算的任务调度等，提升应用的性能和集群整体资源的利用率。多集群管理：支持线下IDC和多云多区域的集群统一接入实现混合云应用管理。授权管理：支持RAM授权和RBAC权限管理。...
ALB服务器组概述
详细调度算法逻辑请参见 负载均衡调度算法介绍。加权轮询：权重值越高的后端服务器，被轮询到的次数（概率）也越高。加权最小连接数：除了根据每台后端服务器设定的权重值来进行轮询，同时还考虑后端服务器的实际负载（即连接数）。当权...
IoT数据自动化同步至云端解决方案
IoT设备大量的数据通常以半结构化的形式存储。例如，使用OSS存储原始信息为CSV文件。但同步至大数据系统或传统数据库的数据，需要使用专业的数据同步系统。下图为您展示使用DataWorks数据集成完成OSS数据同步至大数据系统的解决方案流程。...
常见问题
移动调度中心高可用 Q：移动调度中心实现高可用的策略是什么？A：移动调度中心实现高可用的策略如下：移动调度中心已预先配置好自身域名和 IP，这样 App 可以拉取到 MDGC 自身的域名调度配置。移动调度中心已预先配置好域名和 IP 到公网 ...
名词解释
调度时间 JobInstance每次调度的时间叫做调度时间，JobProcessor可以根据 context.getScheduleTime()获取。数据时间 SchedulerX可以处理有数据状态的任务。创建任务的时候可以填数据偏移。例如一个任务是每天00:30运行，但是实际上要处理上...
名词解释
调度时间 JobInstance每次调度的时间叫做调度时间，JobProcessor可以根据 context.getScheduleTime()获取。数据时间 SchedulerX可以处理具有数据状态的任务。创建任务的时候可以填写数据偏移。例如一个任务是每天00:30运行，但是实际上要...
如何接入日志服务
阿里巴巴分布式任务调度系统SchedulerX 2.0提供日志服务，您无需修改代码，只需增加一个Log4j或Logback的配置，即可在控制台看到每次任务调度（包括分布式任务）的业务日志。本文介绍如何通过SchedulerX接入并查看日志服务。前提条件（可选...
通过Docker安装并使用cGPU服务
原生调度（policy=5）只用来做显存的隔离。原生调度表示NVIDIA GPU驱动本身的调度方式。算力调度策略支持阿里云所有的异构GPU实例，以及GPU实例所配备的NVIDIA显卡，其型号包含Tesla P4、Tesla P100、Tesla T4、Tesla V100、Tesla A10。...
创建安全沙箱应用
Init Container可以包括一些应用镜像中不存在的实用工具和安装脚本，用来初始化应用容器的运行环境，例如设置内核参数、生成配置文件。更多信息，请参见 Init Containers。（可选）端口设置 设置容器的端口。参数 描述 名称 设置容器端口...
通过虚拟节点将Pod调度到ECI上运行
借助ACK虚拟节点（Virtual Node）可以将Pod快速地调度到弹性容器实例ECI上运行，且无需购买和管理ECS节点。本文主要介绍如何在注册集群中将Pod调度到ECI上运行。工作原理 阿里云弹性容器实例ECI（Elastic Container Instance）是面向容器...
数据开发
层级管理：用于对表的物理层级进行设计，用来定义和管理数据仓库分层。本实验中参考数据建模的分层划域，新建“ODS数据引入层、DIM维度层、DWD明细数据层、DWS汇总数据层、ADS应用数据层”。主题管理：按照分析视角对表进行划分。本实验中...
基础监控
资源混部比例 分为CPU和内存两个资源维度，资源混部比例展示了集群当前可供应用非混部调度的资源量和可供应用混部调度的资源量。集群中的空闲物理资源越多，混部资源的比例越高，表示有更多资源可供混部调度。集群混部资源详情 集群资源...
什么是分布式任务调度SchedulerX
分布式任务调度SchedulerX是阿里巴巴自研的分布式任务调度平台，兼容开源XXL-JOB、ElasticJob、Spring Schedule，K8s Job，支持Cron定时、一次性任务、可视化工作流任务编排和分布式跑批，具有高可用、可观测、可运维和低延时等能力。...
集群概述
调度服务：主要作用是运行PBS或Slurm等调度工具的服务端，处理作业提交、管理调度等。域账号服务：集中管理E-HPC集群内用户信息。重要 管控节点负责作业的管理调度和域账号解析，请勿在管控节点进行编译软件、上传下载打包数据等操作，以免...
资源调度概述
ACS兼容Kubernetes原生调度能力，支持不同类型的工作负载混合调度，并提供弹性资源、异构资源等精细化调度能力。本文介绍ACS兼容的Kubernetes原生调度能力和任务调度能力。兼容的Kubernetes原生调度能力 ACS兼容Kubernetes原生调度能力，但...
AI负载调度
本文介绍弹性资源调度、AI任务调度、异构资源调度和任务队列调度，帮助用户提升集群的资源利用率和作业运行效率。弹性调度 ACK为不同弹性资源提供了混合调度的能力。功能 描述 参考文档 弹性调度 阿里云提供了不同种类的弹性资源，如ECS和...
SwitchSchedulerRule-切换调度规则
调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 Action 元素中使用，用来给RAM用户或RAM角色授予调用此API的权限。具体说明如下：操作：是指具体的权限点。访问级别：是指每个操作的访问级别，取值为写入（Write）、读取...
天任务依赖分钟任务最佳实践
数据同步节点用来同步每5分钟调度一次的MySQL数据至MaxCompute。ODPS SQL节点用来汇总MaxCompute接收的数据。单击工具栏中的 图标。配置作为分钟任务的离线同步节点。双击离线同步节点，进入该节点的编辑页面。选择 数据来源 和 数据去向。...
无服务器弹性（ECI弹性调度）
无服务器弹性（ECI弹性调度）是阿里云提供的弹性调度策略。您可以在部署服务时通过添加Annotations来申明只使用ECS或ECI弹性资源，或者是在ECS资源不足时自动申请ECI资源。通过无服务器弹性（ECI弹性调度）可以满足您在不同工作负载的场景...
Dataphin中补数据实例处于等待调度状态
问题描述 这个调度任务是一天三次，所以补数据之后也有三个实例。但是前两个都执行成功了，最后一个一直是等待调度。问题原因 补数据时间选择的是T-1，调度时间设置的是12点，15点，18点。指定补数据时间点是16点，所以12点和15点的补数据...
什么是分布式任务调度SchedulerX
分布式任务调度SchedulerX是阿里巴巴基于Akka架构自研的新一代分布式任务调度平台，提供定时调度、调度任务编排和分布式批量处理等功能。您可以在控制台配置、管理您的定时调度任务、查询任务执行记录和运行日志，还可以通过工作流进行任务...
调度周期：日调度
日调度即调度节点每天在指定的定时时间运行一次。新建周期任务时，默认调度时间是在 00:00~00:30 时间段随机生成。您可根据需要自行指定运行时间点。例如，指定每天13点运行一次。配置示例 配置路径 您需要进入数据开发节点的编辑页面，...
创建跨地域流量调度策略
如果您需要优化和控制跨区域的网络流量，您可以调用CreateCenInterRegionTrafficQosPolicy接口创建企业版转发路由器下的跨地域流量调度策略。接口说明 仅企业版转发路由器下的跨地域连接支持创建跨地域流量调度策略。流量调度功能仅作用在...
补数据任务概述
调度类型说明 Dataphin补数据任务支持两种调度类型：定时调度和手动运行。定时调度：是指可以在预设的时间点自动运行的补数据任务，可以按照 日、周、月 进行调度。适用于调度策略和时间点固定，且需要定期进行补数据的场景。更多信息，请...
背景信息以及准备工作
本文档主要介绍了循环调度DLA Presto任务的背景信息和准备工作。背景信息 DLA作为无服务化的大数据分析服务，通过标准的SQL语句直接对存储在阿里云对象存储服务（Object Storage Service，简称 OSS）、表格存储（Table Store）中的数据进行...
什么是分布式任务调度SchedulerX
分布式任务调度SchedulerX是阿里巴巴自研的基于Akka架构的分布式任务调度平台，兼容开源XXL-JOB、ElasticJob、Spring@Scheduled注解，支持Cron定时、一次性任务、可视化任务编排和分布式跑批，具有高可用、可观测、可运维和低延时等能力。...
配置逻辑表调度属性
逻辑表调度属性用于定义逻辑表任务在调度过程中的调度规则。本文为您介绍如何配置维度或事实逻辑表的调度属性。操作步骤 请参见 数据开发入口，进入数据 开发 页面。按照下图操作指引，选择您需配置调度属性的逻辑表，进入 调度配置 信息...
补数据任务概述
调度类型说明 Dataphin补数据任务支持两种调度类型：定时调度和手动运行。定时调度：是指可以在预设的时间点自动运行的补数据任务，可以按照 日、周、月 进行调度。适用于调度策略和时间点固定，且需要定期进行补数据的场景。更多信息，请...
配置逻辑表调度属性
逻辑表调度属性用于定义逻辑表任务在调度过程中的调度规则。本文为您介绍如何配置维度或事实逻辑表的调度属性。操作步骤 请参见 数据开发入口，进入数据 开发 页面。按照下图操作指引，选择您需配置调度属性的逻辑表，进入 调度配置 信息...
设置调度器参数
调度器是集群上调度作业的软件，负责分发作业、处理作业优先级、按需分配计算节点资源（如vCPU、内存、节点个数）等。您可以根据作业大小，预估使用的节点资源和作业完成时间，设置集群的调度器参数，从而提高资源使用率。本文介绍如何在...
离线任务调度属性配置
调度属性用于定义节点在生产环境的周期调度方式。您可以通过配置属性中调度属性，配置任务调度周期与生效日期等。本文为您介绍如何配置任务的调度属性。操作步骤 在Dataphin首页，单击顶部菜单栏的 研发。按照下图操作指引，进入离线集成...
配置离线管道调度
调度配置用于定义周期性调度类型的离线管道任务在调度过程中的调度规则。本文为您介绍如何配置周期性离线管道调度配置。背景信息 依赖关系是两个或多个节点之间的语义连接关系，同时上游节点的状态将影响其他下游节点的运行状态。配置了...
Dataphin中小时调度的任务可以依赖天调度的任务吗？
概述 本文主要介绍Dataphin中小时调度的任务能否上游依赖天调度的任务。详细信息 不建议小时调度的任务上游依赖天调度的任务，可能会出现每个小时跑的数据都一样的情况。对于这种情况，建议上游任务也是小时调度。或者上游任务中数据是定时...
调度配置
调度配置是配置节点在调度过程中的调度规则及依赖关系。本文为您介绍如何进行同步任务的调度配置。前提条件 已完成同步任务的配置，详情请参见 配置同步任务。背景信息 系统仅支持周期性节点的同步任务进行调度配置。依赖关系是两个或多个...
离线任务调度属性配置
调度属性用于定义节点在生产环境的周期调度方式。您可以通过配置属性中调度属性，配置任务调度周期与生效日期等。本文为您介绍如何配置任务的调度属性。操作步骤 在Dataphin首页，单击顶部菜单栏的 研发。按照下图操作指引，进入离线集成...
配置离线管道调度
调度配置用于定义周期性调度类型的离线管道任务在调度过程中的调度规则。本文为您介绍如何配置周期性离线管道调度配置。背景信息 依赖关系是两个或多个节点之间的语义连接关系，同时上游节点的状态将影响其他下游节点的运行状态。配置了...
- 产品推荐
- 这些文档可能帮助您