通过脚本模式创建集成任务

建议您根据提示信息解决告警或错误后,在进行提交。系统在任务提交时,解析开发环境的表和字段血缘关系;发布时,解析生产环境的表和字段血缘关系。单个任务提交或发布时支持解析不超过 10万条 血缘关系,超过则不予记录,在资产目录中无法...

MySQL节点

前提条件 MySQL节点仅支持使用独享调度资源组,独享调度资源组的使用请参考文档:新增和使用独享调度资源组。已通过连接串形式添加MySQL数据源,详情请参见 配置MySQL数据源。连接串形式创建的MySQL数据源与独享调度资源组网络已连通。标准...

提交节点报错:当前节点依赖的父节点输出名不存在

为了避免依赖关系配置错误导致数据出现问题,DataWorks会在提交节点时对表数据血缘关系的输入输出与调度配置的输入输出进行比较,如果不一致会给您提示,详情可参见 提交节点时提示:输入输出和代码血缘分析不匹配。不是DataWorks每天调度...

设置实例自定义健康检查

如果 函数计算 未能及时调度请求到其他实例,将返回健康检查失败错误信息。下一次执行健康检查时,会直接调度到新的函数实例。使用控制台为函数实例设置健康检查 本文以选择 使用自定义运行时创建 方式创建一个 运行环境 为Node.js 14,...

DataWorks权限相关

本文内容将为您介绍几个常见权限问题的解决方法。问题汇总 与DataWorks权限相关的问题及解决方法,请单击如下链接查看。工作空间配置绑定HologresDB按钮为灰色 绑定HologresDB时环境初始化失败 绑定HologresDB时报错“同名计算引擎实例已经...

云原生AI套件概述

异构计算集群概述 开启集群GPU监控 共享GPU调度概述 AI任务调度 多种调度策略支持:针对AI分布式训练等典型批量任务类型,ACK调度器扩展Kubernetes原生调度框架,支持实现多种典型批量调度策略,包括Gang Scheduling(Coscheduling)、FIFO...

调度集群管理概述

Dataphin支持连接不同调度集群,并将所有集群可用于调度的资源进行统一管理,使每个租户可以使用不同集群的资源用于创建自定义资源组,从而解决跨Region数据传输以及资源隔离等问题。使用限制 当前仅支持基于最新架构部署的客户使用调度...

新手指引

HTTPS配置 CDN加速OSS资源 常见问题 启动CDN加速服务视频讲解 反馈与建议 使用阿里云CDN产品和服务中有任何问题或建议,您可以通过以下渠道反馈,将有专人跟进解决您的问题:如果发现产品文档的问题,如链接、内容和API错误等,您可以单击...

应用场景

运力资源调度:机位智能分配、人员智能排班、车辆智能调度、船舶智能避碰、泊位智能分配、集卡车辆智能调度、龙门吊桥吊智能调度。案例说明 场景:某机场飞机滑行轨迹难以实现全链路追踪和还原;保障节点靠人工记录漏报误报情况普遍;安全...

工作原理

本文介绍文本分析功能的背景信息、功能介绍、基本概念、调度与执行场景、使用建议等信息。背景信息 服务在运行过程中会生成大量的日志,包括系统日志和业务日志等。日志被广泛地应用在系统监控和故障定位中,传统的日志分析手段以分析日志...

数据面安全性

调度服务为每用户默认提供折算总600 CPU逻辑核,1200 GB内存的计算节点,通过池化提供300核或600 GB的内存突发能力,资源池耗尽时,调度服务以不超过360核/分钟的速度为用户扩容,扩容速度超限时会产生限流错误。用户可通过加入钉钉用户群...

数据面安全性

调度服务为每用户默认提供折算总600 CPU逻辑核,1200 GB内存的计算节点,通过池化提供300核或600 GB的内存突发能力,资源池耗尽时,调度服务以不超过360核/分钟的速度为用户扩容,扩容速度超限时会产生限流错误。用户可通过加入钉钉用户群...

常见问题

Pod调度相关问题 如何调度Pod到VNode?为什么DaemonSet Pod调度到VNode后一直是Pending状态?使用配置Pod Label的方式调度Pod到VNode,为什么调度失败?存储相关问题 挂载NAS目录超时,怎么办?日志和监控相关问题 如何采集日志到阿里云...

一键MaxCompute Merge任务节点问题排查方案

出现ODPS-XXXX这种错误提示,通常是代表ODPS内部执行错误,您可查看 SQL错误码(ODPS-01CCCCX)文档查询报错以及解决办法,若文档中找不到或有其他问题,可以咨询MaxCompute技术支持人员。Request rejected by flow control.You have ...

DataWorks V2.0

DataWorks V2.0支持双工作空间开发,隔离开发和生产环境,保证数据研发规范,减少错误代码的出现。已升级DataWorks V2.0区域 目前所有区域均升级至DataWorks V2.0版本。DataWorks V2.0版本操作差异 您可参见DataWorks V2.0系列详解视频,对...

离线同步能力说明

数据集成的离线同步功能为您提供数据读取(Reader)和写入插件(Writer),方便您通过定义来源与去向数据源,并结合DataWorks调度参数使用,将源端数据库中全量或增量数据的同步至目标数据库中。本文为您介绍离线同步的相关能力。使用限制 ...

HTTPDNS调度IP的证书

问题描述 HTTPDNS调度IP的证书 解决方案 当使用HTTPS请求调度服务时,我们会提供主机名为203.107.1.1的有效证书(无论使用哪个IP请求)。适用于 HTTPDNS

数据集成

数据集成模块与同步解决方案的更多介绍,详情请参见 支持的数据源及同步方案。使用限制 您需要拥有 开发 角色权限,才可以在数据开发(DataStudio)界面创建同步任务。授权详情,请参见 添加空间成员并管理成员角色权限。离线同步任务 场景...

阿里云CDN的五大竞争力

基于内容调度,提高访问命中率:在大文件下载和视频点播这两个应用场景上经常使用302调度这种基于内容的调度技术,302调度是一种中心调度方案,用户在请求某一个资源的时候,在完成域名DNS解析之后,用户请求将会先访问到中心调度系统上,...

IoT数据自动化同步至云端解决方案

IoT设备大量的数据通常以结构化的形式存储。例如,使用OSS存储原始信息为CSV文件。但同步至大数据系统或传统数据库的数据,需要使用专业的数据同步系统。下图为您展示使用DataWorks数据集成完成OSS数据同步至大数据系统的解决方案流程。...

Dataphin补数据任务空跑调度了是什么原因

问题描述 Dataphin补数据任务空跑调度了是什么原因?问题原因 按当前的调度配置,补...解决方案 在调度周期中添加每月1日的调度日期,然后补数据时选择20220930即可正常运行,不会空跑调度。适用于 Dataphin 基于独立部署V3.4.1环境验证

ODPS-0420095

错误码:ODPS-0420095:Access Denied 错误1:You have no privilege to create external project-you have to be owner,super admin or admin of the referred project.错误信息 ODPS-0420095:Access Denied-You have no privilege to ...

历史功能发布记录(2023年)

全部 自助诊断GPU节点问题 ACK调度器支持IP感知调度和拓扑调度等功能 IP感知调度 当Pod调度到某节点上时,由于可用IP不足无法启动,该节点将被标记为缺少IP状态并被拉黑五分钟。IP感知调度可防止大量Pod由于IP不足而导致的启动失败问题。...

任务运行失败

本文汇总介绍任务运行失败的相关问题。通用参考 已配置失败重跑的...no available machine resources under the task resource group 解决方法:在 运维中心 页面的左侧导航栏,单击 周期任务运维>周期任务 修改任务执行使用的调度资源组。

组件中心

任务调度 提供分布式任务调度框架,实现任务的分布式处理,并能规范化、自动化、可视化和集中化地对金融企业不同业务系统的任务进行统一的调度和全方位的监控运维管理。消息队列 在蚂蚁集团关键链路中历经十年实战打磨,是一款具备高可靠、...

使用DMS进行数据归档

随着企业的数据资料持续积累,需要持久化地保留数据资产,但是数据的存储成本居高不下,因此DMS和 AnalyticDB PostgreSQL版 Serverless模式共同推出了数据归档功能,可以面对数据库实现灵活低价、归档管理和高分析性能的能力。功能介绍 DMS...

工作原理

本文介绍智能巡检的背景信息、工作原理、功能特性、基本概念、调度与执行场景和使用建议。背景信息 基于时间的数据(例如日志、指标)日积月累后会积累大量的数据。例如,某个服务每天产生1000万条数据,则一年大约为36亿条数据。对于这些...

在PyODPS节点中调用第三方包

如果您的PyODPS任务需要访问特殊的网络环境(如VPC网络或IDC网络中的数据源或服务等),请使用独享调度资源组,并参考 网络连通解决方案 打通独享资源组与目标环境的网络连通。PyODPS语法及更多信息请参见 PyODPS文档。PyODPS节点分为...

自定义资源组

自定义资源组在DataWorks调度体系中使用,当前DataWorks调度体系分为一级调度资源和二级运行资源:一级调度资源:进入 运维中心 页面,单击左侧导航栏中的 周期任务运维>周期实例。右键单击相应实例的DAG图,选择 查看更多详情,即可在 ...

索引

本文汇总使用SchedulerX过程中的常见问题和对应解决方法。报警常见问题 killed from server don't update progress more than 30s 任务管理常见问题 Spring应用找不到Bean怎么办?任务失败,报错“submit jobInstanceId to worker timeout...

持续架构优化

探索混合部署 为提升资源整体利用率,解决资源碎片问题并降低离线作业成本,将不同类型的在线、离线任务调度到相同资源上,通过调度和资源隔离等控制手段保障服务的能力称为在离线或离在线混部。两者区别在于是以在线业务为主还是以离线...

产品优势

一直秉承引领和拥抱业界先进标准和实践,同时亦能满足传统金融架构的平滑迁移、融合适配,以稳妥应对业务升级变更,并积极应对金融交易系统所面临的服务和数据扩展性、事务一致性、秒级容灾、弹性供给与调度等关键技术挑战。微服务平台 ...

查看运维大屏

运维大屏为您展示工作空间的运维稳定性评估、重点关注的运维指标、调度资源使用及周期任务运行概况,以及数据集成同步任务的运行详情,助力您从宏观角度快速了解空间任务的整体概况,及时发现并处理异常任务,提升运维效率。使用说明 运维...

常见问题

收集路径(Path)错误 首次在Pod中指定环境变量收集日志时,ECI会自动在日志服务中创建Logstore和Path,后续再次创建Pod时也只能使用该Path。如果使用了其他Path,则会导致日志服务收集不到日志。如果您想要更换Path,可以将Logstore一起...

索引

本文汇总使用SchedulerX过程中的常见问题和对应解决方法。报警常见问题 killed from server don't update progress more than 30s 任务管理常见问题 Spring应用找不到Bean怎么办?任务失败,报错“submit jobInstanceId to worker timeout...

ACK集群概述

调度:支持不同弹性资源的混合调度、异构资源的精细化调度、批量计算的任务调度等,提升应用的性能和集群整体资源的利用率。多集群管理:支持线下IDC和多云多区域的集群统一接入实现混合云应用管理。授权管理:支持RAM授权和RBAC权限管理。...

配置实例健康检查

如果 函数计算 未能及时调度请求到其他实例,将返回健康检查失败错误信息。下一次执行健康检查时,会直接调度到新的函数实例。使用控制台为函数实例设置健康检查 本文以选择 Web 函数 方式创建一个 运行环境 为Node.js 18的函数为例,介绍...

文档修订记录

任务调度属性配置概述 2023年2月更新记录 时间 特性 类别 描述 产品文档 2023.2.28 新增功能 数据治理中心 DataWorks支持您根据业务需要,将 治理工作台>治理项问题 页面待解决的治理项问题以通知的形式,通过系统提示、邮件、钉钉群消息等...

数据开发与运行

授权策略:允许 协议类型:自定义TCP 端口范围:8898/8898 授权对象:100.104.0.0/16 解决方法:查看EMR所在的ECS集群的安全组配置情况,补充上述安全组策略。如何在开发环境访问生产环境数据?标准模式下,如果在数据开发界面需要查询生产...

数据集成侧同步任务配置

完成数据源、网络、资源的准备配置后,您可以根据同步场景选择同步解决方案,创建并执行同步任务,将源端数据同步至目标端。本文为您介绍同步任务的通用配置流程,不同的同步方案配置流程可能存在差异,对应方案配置详情请以界面为准。前提...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
商标服务 批量计算 音视频通信 对象存储 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用