概念原理
本文介绍任务调度的概念原理。任务分步 一个简单任务可以拆分成多个执行步骤（step），由不同的执行器（handler）按顺序执行。前置步骤成功完成后才开始执行下一个步骤。例如，“对账”任务的处理步骤是：下载银行的清算文件>根据约定格式...
运维中心概述
查看并管理周期任务 周期任务运维为您展示任务提交到调度系统后的调度任务列表与调度环境产生的 周期实例。周期任务面板展示当前所有的调度节点，您可以在周期任务面板修改周期调度任务使用的资源组、责任人等信息。DataWorks每晚会根据 ...
将调度失败的Pod调度到ECI
在ACK集群中创建的Pod默认会调度到真实节点（即ECS节点）上，当ECS节点的计算资源不足时，Pod会调度失败。基于该场景，您可以在ACK集群中部署virtual-kubelet-autoscaler插件，该插件会自动将因为资源不足而调度失败的Pod二次调度到虚拟...
配置离线管道调度
调度配置用于定义周期性调度类型的离线管道任务在调度过程中的调度规则。本文为您介绍如何配置周期性离线管道调度配置。背景信息 依赖关系是两个或多个节点之间的语义连接关系，同时上游节点的状态将影响其他下游节点的运行状态。配置了...
配置离线管道调度
调度配置用于定义周期性调度类型的离线管道任务在调度过程中的调度规则。本文为您介绍如何配置周期性离线管道调度配置。背景信息 依赖关系是两个或多个节点之间的语义连接关系，同时上游节点的状态将影响其他下游节点的运行状态。配置了...
调度应用至指定节点
通过设置节点标签和nodeSelector策略，您可以将应用调度到指定节点上。前提条件 已 创建Kubernetes托管版集群 或 创建Kubernetes专有版集群。已 创建无状态工作负载Deployment 或 创建有状态工作负载StatefulSet。步骤一：设置节点标签 ...
公交出行：启迪公交
智能的实时客流系统自动化分析客流情况，实时监控北京公交2万多辆公交车的运行状态，结合车辆和机具运行状态生成调度方案，助力场站调度人员实现更加合理的调度排班方案。实时和汇总大数据分析系统，支持公交领导产生更加快速有效的业务...
调度应用至指定节点池
您可以给节点池设置标签（labels），使得应用Pod调度到对应标签节点池下的节点上。前提条件 已 创建Kubernetes托管版集群 或 创建Kubernetes专有版集群。已 创建无状态工作负载Deployment 或 创建有状态工作负载StatefulSet。操作步骤 给...
集群任务限流
任务调度提供了两种限流类型：静态限流 静态限流通过代码配置限流规则，并可通过任务调度控制台动态调整限流速率。优势是在页面没有配置限流的情况下，也可以通过限流规则的初始值进行限速，但需要您手动指定限流器。框架提供了默认的限流...
调度DLA Spark任务
DLA Serverless Spark目前支持DataWorks和DMS编排调度任务，同时也提供自定义SDK和Spark-Submit工具包供用户自定义编排调度。本文将介绍如何使用DMS来编排调度Spark任务。前提条件 您已开通DMS服务。您已开通云原生数据湖分析服务，详情请...
离线模式调度配置
调度配置用于定义节点在生产环境的周期调度方式。您可以通过配置属性中调度属性，配置任务调度周期与生效日期等。本文为您介绍如何配置流批一体任务的调度配置。操作步骤 请参见 离线模式配置入口，进入实时任务的 离线模式 配置页面。在...
离线模式调度配置
调度配置用于定义节点在生产环境的周期调度方式。您可以通过配置属性中调度属性，配置任务调度周期与生效日期等。本文为您介绍如何配置流批一体任务的调度配置。操作步骤 请参见 离线模式配置入口，进入实时任务的 离线模式 配置页面。在...
任务管理
AliOS Things操作系统内核支持两种调度策略：基于优先级的抢占式调度 该调度策略下，每个任务优先级都维护了一个FIFO模式的就绪队列（ready queue），里面包含了当前所有可运行的任务列表，此列表中的任务都处于就绪状态，当处理器可用时，...
查询流量调度策略的信息
调用ListCenInterRegionTrafficQosPolicies接口查询流量调度策略的信息。接口说明 在调用 ListCenInterRegionTrafficQosPolicies 接口过程中：TransitRouterId 或 TrafficQosPolicyId 参数至少输入一个。如果您未输入流量调度策略 ID（即未...
使用负载热点打散重调度
ack-koordinator组件提供负载热点打散重调度能力，可以感知集群内节点负载的变化，自动地优化超过负载水位安全阈值的节点，防止出现负载极端不均衡的情况。本文介绍如何使用负载热点打散重调度及其高级配置参数。使用限制 仅支持ACK Pro版...
离线任务属性配置概述
对于离线任务，若需要周期性调度运行，您需定义该任务的调度相关属性，包括调度周期、调度依赖、调度参数等。本文为您介绍离线任务属性与调度的相关内容。注意事项 系统仅支持 调度类型为周期任务 的离线计算任务进行调度配置。依赖关系是...
离线任务属性配置概述
对于离线任务，若需要周期性调度运行，您需定义该任务的调度相关属性，包括调度周期、调度依赖、调度参数等。本文为您介绍离线任务属性与调度的相关内容。注意事项 系统仅支持 调度类型为周期任务 的离线计算任务进行调度配置。依赖关系是...
离线集成任务属性配置概述
对于离线集成任务，若需要周期性调度运行，您需定义该任务的调度相关属性，包括调度周期、调度依赖、调度参数等。本文为您介绍离线任务属性与调度的相关内容。注意事项 系统仅支持 调度类型 为 周期性节点 的离线集成任务进行调度配置。...
离线集成任务属性配置概述
对于离线集成任务，若需要周期性调度运行，您需定义该任务的调度相关属性，包括调度周期、调度依赖、调度参数等。本文为您介绍离线任务属性与调度的相关内容。注意事项 系统仅支持 调度类型 为 周期性节点 的离线集成任务进行调度配置。...
高级功能：全局变量
全局变量可以减轻您在使用PAI平台配置组件时，重复...进入离线调度页面时，系统会提示配置同名参数。配置离线调度任务，使用全局参数。运行调度任务，查看结果。通过结果可以看出，调度生成实例对变量完成了替换，使用了业务日期20190519。
使用调度器自定义参数
通过修改Kube Scheduler的自定义参数，您可以根据需要自定义调度器的行为，使得Pod的调度更符合您的期望。本文介绍如何使用调度器自定义参数。前提条件 已创建v1.20及以上版本的 ACK集群Pro版、ACK Edge集群Pro版 以及 ACK灵骏集群。具体...
周期任务基本运维操作
周期任务是指在调度系统按照调度配置周期性自动调度的任务。您可以在 运维中心>周期任务 列表查看指定工作空间下的周期任务，并对任务进行运维操作，包括自动调度和手动运行周期任务、查看任务运行详情、暂停任务、下线任务等。本文为您...
调度参数
如果您在数据开发修改了调度参数并且提交发布，请在生产运维中心周期任务属性面板检查调度参数是否符合预期，如果不符合预期，请检查任务发布，发布包界面，是否发布生成功。在周期实例属性面板查看单个实例调度参数替换情况。重要 单个...
基础术语
当数据量很大时，任务调度系统支持在单个执行步骤中把数据拆分成多个分片（data chunk），把一个任务的数据分散到不同的机器上运行。一个数据分片只由一个线程执行。多个数据分片可以在多台机器上调度执行，也可以在一台机器的多个线程上...
调度至Arm虚拟节点
如果您的集群中既有Arm虚拟节点，又有非Arm虚拟节点（例如x86虚拟节点），为了确保只兼容Arm架构的工作负载调度到Arm虚拟节点，或多架构镜像优先调度到Arm虚拟节点，您可以基于Kubernetes原生调度配置来实现。前提条件 集群：已创建 ACK ...
调度至Arm虚拟节点
如果您的集群中既有Arm虚拟节点，又有非Arm虚拟节点（例如x86虚拟节点），为了确保只兼容Arm架构的工作负载调度到Arm虚拟节点，或多架构镜像优先调度到Arm虚拟节点，您可以基于Kubernetes原生调度配置来实现。前提条件 集群：已创建ACK集群...
背景信息以及准备工作
本文档主要介绍了循环调度DLA Presto任务的背景信息和准备工作。背景信息 DLA作为无服务化的大数据分析服务，通过标准的SQL语句直接对存储在阿里云对象存储服务（Object Storage Service，简称 OSS）、表格存储（Table Store）中的数据进行...
指定ECS和ECI的资源分配
通过配置调度策略，您可以在不同工作负载场景下实现对弹性资源的不同需求。相关概念 污点：ACK集群中的Virtual Node默认都会打上污点 virtual-kubelet.io/provider=alibabacloud:NoSchedule，以避免您在不知情的情况下使用ECI弹性资源。...
数据质量规则配置流程
本文为您介绍数据质量监控规则的配置流程及生效逻辑，以及...重要 如果您已经将进行了关联调度的配置，在删除质量规则时，需要先取消关联调度，再删除质量规则。如果您先删除了质量规则再取消关联调度，可能会导致已删除的质量规则仍然生效。
SwitchSchedulerRule-切换调度规则
接口说明 本接口用于修改单个流量调度规则的当前生效资源，例如，将业务流量切换到 DDoS 高防实例进行清洗、回切到联动资源。调用本接口前，您必须已经调用 CreateSchedulerRule 创建了流量调度规则。QPS 限制 本接口的单用户 QPS 限制为 ...
什么是故障演练
故障演练是一款遵循混沌工程实验原理并融合了阿里巴巴内部实践的产品，提供丰富故障场景，能够帮助分布式系统提升容错性和可恢复性。流程 故障演练建立了一套标准的演练流程，包含准备阶段、执行阶段、检查阶段和恢复阶段。通过四阶段的...
数据开发概述
DataWorks数据开发（DataStudio）模块用于定义周期调度任务的开发及调度属性，与运维中心配合使用，面向各引擎（MaxCompute、Hologres、EMR等）提供可视化开发主界面，支持智能代码开发、多引擎混编工作流、规范化任务发布等能力，帮助您...
DMS调度Spark
使用常规的Spark开发编辑器或命令行等工具进行Spark作业开发时，仅支持单次调度Spark作业，且作业间无依赖关系和执行顺序。为解决以上痛点，您可以通过 数据管理DMS 的任务编排功能，周期性、有顺序地调度Spark作业。本文介绍如何使用DMS...
PAI-TF概述
PAI-TF的作业都是基于底层的分布式调度系统动态调度至不同机器。当您提交PAI-TF作业时，无需担心是否需要提前申请GPU物理主机，PAI-TF所需要的GPU资源随作业的提交动态分配，随作业的结束动态释放。全局计算调度 当您在使用MaxCompute计算...
XxlJob任务
背景信息 XXL-JOB是一个开箱即用的轻量级分布式任务调度系统，其核心设计目标是开发迅速、学习简单、轻量级、易扩展，在开源社区广泛流行，已在多家公司投入使用。XXL-JOB开源协议采用的是GPL，因此云厂商无法直接商业化托管该产品，各大中...
查看并管理手动任务
手动任务是已提交至运维中心，且调度类型为手动节点的任务。手动任务不会自动运行，只有手动触发运行才会生成实例。本文为您介绍手动任务运维功能。手动任务页面入口 在Dataphin首页，单击顶部菜单栏的 研发。默认进入数据 开发 页面。按照...
SysOM内核层容器监控
SysOM（System Observer Monitoring）是一种在操作系统内核层进行容器监控的方法。基于SysOM操作系统层的容器监控功能，容器服务 Kubernetes 版 ACK（Container Service for Kubernetes）提供独特的操作系统内核层的容器监控可观测能力。该...
产品相关问题
分布式调度：提高系统的可用性、伸缩性，且调度与业务的分离，让研发更专注业务逻辑的开发。多种任务类型：简单任务，集群任务，消息任务，流式任务，满足不同场景需求。丰富的管理功能：包括定时触发、事件触发、手动触发、优雅停止、断点...
资源包（专业版）
背景信息 SchedulerX针对 任务调度CU 推出了一种预付费资源包模式，帮助您以更优惠的价格享受同等的任务调度CU数量，从而减少费用支出。资源包类型与定价 SchedulerX目前只提供一种类型的资源包，即任务调度CU资源包，用于抵扣SchedulerX...
OSS数据离线同步至MaxCompute
取值可以是调度系统参数，如 ds=${bizdate}，当任务运行时，会自动替换调度系统参数。其他参数保持默认即可。配置字段映射 选择数据来源和数据去向后，需要指定读取端和写入端列的映射关系。您可以选择同名映射、同行映射、取消映射或自动...
- 产品推荐
- 这些文档可能帮助您