HTTP触发器节点

其他调度系统的触发配置 在外部调度系统中进行触发配置时,您可以通过以下三种方式:Java方式、Python方式或API调用方式。Java方式 安装Java SDK,详情可参见 开始使用。其中,DataWorks的SDK请用下面的pom配置。groupId>...

任务管理

执行中:调度系统开始调度执行,反馈给到资产治理模块的状态。已终止:暂停后调度系统中反馈实际任务的状态。业务日期:当前任务对应执行元数据、日志的时间。执行日期:任务实际执行的日期。查看任务详情 在任务管理页面,单击需查看任务...

任务管理

执行中:调度系统开始调度执行,反馈给到资产治理模块的状态。已终止:暂停后调度系统中反馈实际任务的状态。业务日期:当前任务对应执行元数据、日志的时间。执行日期:任务实际执行的日期。查看任务详情 在任务管理页面,单击需查看任务...

基本概念

完成提交后,相应的代码、调度配置全部合并至调度系统中,调度系统根据相关配置进行调度操作。说明 未提交的节点任务、业务流程不会进入调度系统。脚本开发(Script)脚本开发是提供给数据分析使用的一个代码存储空间。脚本开发的代码无法...

最佳实践:集成第三方调度系统

DataWorks的开放平台为您提供OpenEvent、OpenAPI等开放能力,您可通过开放平台将第三方调度系统集成到DataWorks的调度系列中,将三方调度系统的任务嵌入DataWorks的业务流程中。本文以一个示例为您介绍集成第三方调度系统时需要进行的配置...

FTP Check节点

该节点通常作为DataWorks调度系统与其他调度系统之间传递信号使用。本文为您介绍使用FTP Check节点的流程和注意事项。前提条件 已创建FTP数据源。已创建好业务流程,详情请参见 创建业务流程。背景信息 FTP Check节点的典型应用场景:当...

什么是阿里云CDN

链路质量系统 链路质量探测系统会实时监测缓存系统中的所有节点和链路的实时负载以及健康状况,并将结果反馈给调度系统调度系统根据用户请求中携带的IP地址解析用户的运营商和区域归属,然后综合链路质量信息为用户分配一个最佳接入节点...

调度周期:小时调度

表示时间区间为[00:00,03:00],间隔为1小时,调度系统每天将生成4个实例,实例定时时间分别在0点、1点、2点和3点,即0点、1点、2点和3点是实例的定时运行时间。您可设置在每天指定的时间段内,节点按指定时间间隔运行一次;也可选择多个...

调度周期:年调度

年调度是指调度任务在每年的特定几天,在特定的时间点自动运行一次。例如,调度任务设置为每年一月的最后一天执行。注意事项 在非指定的调度时间内,为保证下游实例正常运行,年...调度详情 调度系统会自动为任务生成实例并运行,如下图所示。

DCDN节点运维下线说明

节点流量调度:阿里云DCDN节点的运维操作有一套规范的处理流程,对于需要运维的节点,阿里云DCDN的调度系统会在下线节点之前把流量调度到周边正常运行的节点上。异常情况监测:阿里云DCDN节点也可能会因为一些少量的异常情况(例如:运营商...

阿里云CDN的五大竞争力

持续更新的精准IP数据库:IP数据库的作用是在用户的DNS解析请求转发到了CDN调度系统时,调度系统会判断用户的地区和运营商归属,以此来为用户分配就近接入的同运营商CDN节点。为了确保IP数据库的数据处于最新的状态,数据库一直在持续地...

运行及排错

提交节点后,需要到第2天才能看到调度系统自动执行的结果。DataWorks为您提供测试运行、补数据和周期运行三种触发方式,帮助您确认实例运行的定时时间、相互依赖关系、数据结果产出是否符合预期。测试运行:手动触发方式。如果您仅需要确认...

离线模式调度配置

调度周期 调度周期即在生产环境调度系统中,多久会真实执行一次该任务中的代码。当一个任务被成功提交后,该任务调度将提交当天次日开始按照该任务的时间属性配置生成自动调度的周期实例,并根据上游依赖的实例运行结果和时间点运行。调度...

离线模式调度配置

调度周期 调度周期即在生产环境调度系统中,多久会真实执行一次该任务中的代码。当一个任务被成功提交后,该任务调度将提交当天次日开始按照该任务的时间属性配置生成自动调度的周期实例,并根据上游依赖的实例运行结果和时间点运行。调度...

调度周期:周调度

调度详情 调度系统会自动为任务生成实例并运行。重要 使用 补数据 功能对周调度任务执行补数据操作时,请注意补数据选择的为 业务日期,业务日期=定时调度日期-1。例如:每周一的任务在执行补数据操作时应选择业务时间为上周日。若补数据...

配置任务调度

同步任务只有提交至调度系统中,才会从第二天开始,自动根据调度属性配置的周期,在各时间点生成实例,并定时运行。说明 如果是23:30以后提交的同步任务,则调度系统从第3天开始,才会自动周期生成实例并定时运行。后续步骤 现在,您已经...

概念原理

当数据量很大时,任务调度系统支持在单个执行步骤中把数据拆分成多个分片(data chunk),把一个任务的数据分散到不同的机器上运行。一个数据分片只由一个线程执行。多个数据分片可以在多台机器上调度执行,也可以在一台机器的多个线程上...

实验介绍

步骤 操作内容 阶段性目标 数据采集 通过 DataWorks数据集成 模块,将存储在MySQL中的用户信息数据及存储在OSS中采集的用户访问日志数据同步至MaxCompute,并提交调度系统,结合DataWorks调度参数实现周期性增量同步。学习如下内容:如何将...

离线任务调度属性配置

调度周期 调度周期即在生产环境调度系统中,多久会真实执行一次该任务中的代码。当一个任务被成功提交后,该任务调度将提交当天次日开始按照该任务的时间属性配置生成自动调度的周期实例,并根据上游依赖的实例运行结果和时间点运行。调度...

离线任务调度属性配置

调度周期 调度周期即在生产环境调度系统中,多久会真实执行一次该任务中的代码。当一个任务被成功提交后,该任务调度将提交当天次日开始按照该任务的时间属性配置生成自动调度的周期实例,并根据上游依赖的实例运行结果和时间点运行。调度...

调度周期:月调度

调度详情 调度系统会自动为任务生成实例并运行,如下图所示。重要 使用 补数据 功能对月调度任务执行补数据操作时,请注意补数据选择的为 业务日期,业务日期=定时调度日期-1。例如:每月一号的任务在执行补数据操作时应选择业务时间为上个...

配置离线管道调度

调度周期 调度周期即在生产环境调度系统中,多久会真实执行一次该任务中的代码。当一个任务被成功提交后,该任务调度将提交当天次日开始该任务的时间属性配置生成自动调度的周期实例,并根据上游依赖的实例运行结果和时间点运行。调度周期 ...

配置离线管道调度

调度周期 调度周期即在生产环境调度系统中,多久会真实执行一次该任务中的代码。当一个任务被成功提交后,该任务调度将提交当天次日开始该任务的时间属性配置生成自动调度的周期实例,并根据上游依赖的实例运行结果和时间点运行。调度周期 ...

离线同步任务运维

操作 说明 运行离线同步任务 任务发布至生产环境后,您可以进入 生产运维中心>周期任务 界面查看已发布的任务,调度系统会按照调度配置自动运行任务,同时,还支持您手动触发任务执行。自动调度:任务发布后,调度系统将会根据您配置的 ...

快速体验

步骤 操作内容 阶段性目标 数据采集 通过 DataWorks数据集成 模块,将存储在MySQL中的用户信息数据及存储在OSS中采集的用户访问日志数据同步至MaxCompute,并提交调度系统,结合DataWorks调度参数实现周期性增量同步。学习如下内容:如何将...

基础术语

当数据量很大时,任务调度系统支持在单个执行步骤中把数据拆分成多个分片(data chunk),把一个任务的数据分散到不同的机器上运行。一个数据分片只由一个线程执行。多个数据分片可以在多台机器上调度执行,也可以在一台机器的多个线程上...

共享GPU调度概述

节点选卡策略Binpack和Spread 在共享GPU调度中,如果节点存在多张GPU卡,从节点中挑选GPU卡分配给Pod时,有两种策略可以考虑:Binpack:默认策略,调度系统先分配完节点的一张GPU卡后,再分配节点上另一张GPU卡,避免节点出现GPU资源碎片。...

周期任务基本运维操作

周期任务是指在调度系统按照调度配置周期性自动调度的任务。您可以在 运维中心>周期任务 列表查看指定工作空间下的周期任务,并对任务进行运维操作,包括自动调度和手动运行周期任务、查看任务运行详情、暂停任务、下线任务等。本文为您...

工作流编辑

配置工作流调度 您可以打开工作流调度配置面板,配置工作流调度参数,调度系统会按照参数定时运行相关工作流,并将作业下发到指定集群上执行。以下介绍如何配置工作流的基本属性、调度属性和告警设置。进入数据开发的项目列表页面。通过...

调度配置

例如,每天00:00~23:59的时间段内,每隔1小时会自动调度一次,因此调度系统会自动为任务生成实例并运行。分钟 调度,即每天指定的时间段内,调度任务按间隔时间数的时间间隔运行一次。您可以单击 开始 或 结束 后的 图标,指定运行的开始和...

调度配置

例如,每天00:00~23:59的时间段内,每隔1小时会自动调度一次,因此调度系统会自动为任务生成实例并运行。分钟 调度,即每天指定的时间段内,调度任务按间隔时间数的时间间隔运行一次。您可以单击 开始 或 结束 后的 图标,指定运行的开始和...

调度周期:日调度

调度详情 调度系统会自动为任务生成实例并运行,各业务数据加工时间如下图所示。说明 调度节点执行需要满足如下条件:上游任务执行成功。节点的定时运行时间已到。任何一个条件不满足,调度节点都无法执行,并且两个条件没有先后顺序。默认...

什么是故障演练

测试PaaS层是否健壮 通过模拟上层资源负载,验证调度系统的有效性;模拟依赖的分布式存储不可用,验证系统的容错能力;模拟调度节点不可用,测试调度任务是否自动迁移到可用节点;模拟主备节点故障,测试主备切换是否正常。验证监控告警的...

配置共享GPU调度节点选卡策略

策略介绍 在共享GPU调度中,如果节点存在多张GPU卡,从节点中挑选GPU卡分配给Pod时,有两种策略可以考虑:Binpack:默认策略,调度系统先分配完节点的一张GPU卡后,再分配节点上另一张GPU卡,避免节点出现GPU资源碎片。Spread:调度系统会...

OSS数据离线同步至MaxCompute

取值可以是调度系统参数,如 ds=${bizdate},当任务运行时,会自动替换调度系统参数。其他参数保持默认即可。配置字段映射 选择数据来源和数据去向后,需要指定读取端和写入端列的映射关系。您可以选择同名映射、同行映射、取消映射或自动...

OSS数据离线同步至MaxCompute

取值可以是调度系统参数,如 ds=${bizdate},当任务运行时,会自动替换调度系统参数。其他参数保持默认即可。配置字段映射 选择数据来源和数据去向后,需要指定读取端和写入端列的映射关系。您可以选择同名映射、同行映射、取消映射或自动...

调度DLA Spark任务

还提供了SDK以及Spark-Submit工具用于提交Spark作业、查询作业状态、获取作业日志等功能,详情请参见:SDK安装与使用 Spark-Submit命令行工具 您可以利用上述工具,使用第三方任务编排调度系统(例如 Apache Airflow)来打造自己的工作流。

公共调度资源组计费说明:按量付费

当任务实例满足以下条件时,DataWorks会对其计费:被提交至调度系统:所有被提交至调度系统的节点所产生的各类型实例(虚拟节点产生的实例除外),均会纳入计费范围,包括周期实例、手动实例、测试实例和补数据实例。已运行成功:只有在 运...

ack-ai-installer

ack-ai-installer是增强ACK Pro版集群和 ACK Edge集群Pro版 调度能力的Device Plugin(设备插件)的组件集合,支持结合ACK Scheduler(ACK基于Kubernetes Scheduling Framework扩展机制,针对不同任务负载、不同弹性资源的统一调度系统)...

场景:切换调度时区

由于Datatudio中业务流程运行、开发环境冒烟测试操作会进入调度系统,所以代码中时间参数将受调度时区变更影响,但Datatudio中单节点调试、临时查询等操作不走调度,所以不受调度时区变更影响。时区切换产品侧行为重点 调度时区切换后将会...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云消息队列 RocketMQ 版 文件存储 CPFS 云安全中心 负载均衡 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用