通过消费组读取文本日志进行模板发现

创建日志模板发现作业 登录 日志服务控制台。进入创建作业页面。在 日志应用 区域的 智能运维 页签中,单击 智能异常分析。在实例列表中,单击目标实例。在左侧导航栏中,选择 分析任务>文本分析>日志模板发现。在页面右上角的 日志模板...

SQL作业开发

相关的使用场景和使用方法详情如下:支持的连接器 密钥管理 管理自定义连接器 管理自定义函数(UDF)管理元数据 操作步骤 登录Flink全托管控制台,新建作业。登录 实时计算控制台。在 Flink全托管 页签,单击目标工作空间 操作 列下的 控制...

作业状态集管理

系统检查点(Checkpoint)和作业快照(Savepoint)统称为状态集。本文为您介绍如何管理作业的状态集,包括创建、查看、删除和从指定状态恢复。背景信息 概念 详情 系统检查点(对应Apache Flink中的Checkpoint)生命周期完全由Flink系统...

从Flink SQL导入

操作步骤 登录Flink全托管控制台,新建作业。登录 实时计算控制台。在 Flink全托管 页签,单击目标工作空间 操作 列下的 控制台。在 SQL开发 页面,单击 新建。单击 空白的流作业草稿。Flink全托管为您提供了丰富的SQL代码模板和数据同步...

日志实时入仓快速入门

本文为您介绍如何在Flink全托管控制台上快速构建一个从Kafka到Hologres的数据同步作业。背景信息 假设消息队列Kafka实例中有一个名称为users的Topic,其中有100条JSON数据,代表通过日志文件采集工具或者应用写入Kafka的日志数据,其数据...

查看运行事件

作业启动后,会产生运行事件。运行事件可以帮忙查看作业启动的过程中每个时间点的启动状态。本文为您介绍如何查看运行事件。操作步骤 登录 实时计算控制台。单击目标工作空间 操作 列下的 控制台。在 作业运维 页面,单击目标作业名称。在 ...

作业停止

如果您对作业进行了修改(例如更改SQL代码、增删改WITH参数、更改作业版本等),且希望修改生效,则需要先上线,然后停止再启动。另外,如果作业无法复用State,希望作业全新启动时,也需要停止后再启动作业。本文为您介绍如何停止作业。...

数据库实时入仓快速入门

步骤二:开发数据同步作业 登录Flink开发控制台,新建作业。在 SQL开发 页面,单击 新建。单击 空白的流作业草稿。Flink为您提供了丰富的代码模板和数据同步,每种代码模板都为您提供了具体的使用场景、代码示例和使用指导。您可以直接单击...

Job型资源组的优先级队列

本文介绍设置 湖仓版(3.0)Job型资源组的作业优先级和查看优先级的方法。...查看Spark Batch作业优先级 登录 云原生数据仓库AnalyticDB MySQL控制台,在 作业开发>Spark Jar开发 页面的 应用列表 页签中查看作业的优先级。

GetJobStatus

您可以登录 DLA控制台,在作业任务列表中获取作业任务ID。VcName String 是 MyCluster 执行作业的虚拟集群名称。返回数据 名称 类型 示例值 描述 RequestId String 5C3F9ADD-2350-4C21-A3A1-A906F8DF8016 请求ID。Status String success ...

查看血缘关系

Flink作业的血缘关系可以进行作业的数据溯源和追踪、帮助您更好地管理和优化作业的数据流、快速定位问题和评估影响面。本文为您介绍如何通过作业角度和元数据角度查看血缘关系。背景信息 在数据的来源和变更历史无法追踪的情况下,数据的...

使用GROMACS进行分子动力学模拟

步骤四:查看作业计算性能 说明 仅控制台支持查看作业计算性能,客户端暂不支持该功能。登录 弹性高性能计算控制台。在左侧导航栏,选择 作业与性能管理>E-HPC优化器。找到目标集群,单击 节点。在 节点性能 页签下,查看节点性能。选择...

通过消费组读取文本日志进行模板匹配

创建日志模板匹配作业 登录 日志服务控制台。进入 创建作业 页面。在 日志应用 区域的 智能运维 页签中,单击 智能异常分析。在实例列表中,单击目标实例。在左侧导航栏中,选择 分析任务>文本分析>日志模板匹配。在页面右上角的 日志模板...

GetJobLog

您可以登录 DLA控制台,在作业任务列表中获取作业任务ID。VcName String 是 MyCluster 执行作业的虚拟集群名称。返回数据 名称 类型 示例值 描述 Data String INFO SparkContext:Running Spark version 2.x 作业的日志内容。RequestId ...

基本概念

层次结构 您可以了解实时计算Flink版产品基本概念的层次结构,为后期作业开发、作业部署、作业运维和安全管理等操作提供思路。实时计算Flink版产品基本概念的层次结构如下图所示。概念说明 基本概念 说明 相关文档 工作空间(Workspace)...

使用教程(宽表模型)

步骤一:创建作业 登录 实时计算控制台。在 Flink全托管 页签,单击目标工作空间 操作 列下的 控制台。在左侧导航栏,单击 SQL开发。单击 新建。在 新建作业草稿 对话框中,单击 空白的流作业草稿。Flink全托管也为您提供了丰富的代码模板...

配置作业部署信息

作业启动前,您需要配置作业部署信息。本文为您介绍如何配置作业部署信息。前提条件 其他阿里云账号或RAM用户等访问项目空间,并进行作业资源配置等操作时,则需要为其进行授权,详情请参见 作业操作授权。已完成作业部署,详情请参见 ...

动态扩缩容与参数动态更新

动态更新Flink作业参数可以实现更快的参数配置生效,减少作业启停对业务的中断时间,方便进行TM动态扩缩容和系统检查点的排查。背景信息 传统的Flink参数更新方式需要重新启动作业,可能会出现业务中断、数据回追延迟和资源占用高峰等问题...

使用kubectl管理作业

您可以在EMR on ACK控制台管理您的作业,也可以通过Kubernetes工具或API直接管理您的作业。本文为您介绍如何通过kubectl管理Spark作业。前提条件 已在E-MapReduce on ACK控制台创建Spark集群,详情请参见 快速入门。操作步骤 通过kubectl...

配置监控告警

使用ARMS监控服务时:您可以在Flink开发控制台创建告警规则和模板,支持配置7个监控指标(包括作业失败)的告警,详情请参见 在Flink开发控制台配置。其他监控指标告警需要在ARMS控制台通过PromQL语法自定义配置,详情请参见 在ARMS控制台...

Kibana FAQ

Kibana控制台支持English和中文两种语言,通过修改 Kibana语言配置,可以在Kibana控制台使用对应的语言查看。详细操作请参见 配置Kibana语言。为什么7.16版本的Kibana私网域名解析出的IP地址不在我的VPC网络下?为避免更换HTTPS证书导致...

使用教程(时序模型)

步骤一:创建作业 登录 实时计算控制台。在 Flink全托管 页签,单击目标工作空间 操作 列下的 控制台。在左侧导航栏,单击 SQL开发。单击 新建。在 新建作业草稿 对话框中,单击 空白的流作业草稿。Flink全托管也为您提供了丰富的代码模板...

配置自动调优

Flink作业支持智能调优和定时调优两种自动调优模式。本文为您介绍如何配置智能调优和定时调优,以及配置过程中的注意事项。背景信息 通常,您需要花费大量的时间进行作业调优。例如,新上线一个作业时,需要考虑如何配置该作业的资源、并发...

Task快速重启配置

本文为您介绍,如何配置Task快速重启,从而降低Failover对作业的影响。背景信息 重要 此功能为预览功能,请在生产环境下谨慎使用,如遇问题请及时 提交工单 和技术支持部门取得联系。通常,当Flink流作业中的某个Task发生异常时,为了保证...

服务治理概述

部署和运维 EDAS多语言互通 查询多语言应用服务 为多语言应用配置故障注入 安全和可用性 使用服务鉴权实现多语言应用的访问控制 使用离群实例摘除保障多语言应用的可用性.aliware-toc-container.list-item{ white-space:normal;}

配置Alibaba Blink实时模式资源

自定义配置 即实时计算Flink配置细粒度资源的专家模式(BETA),Flink全托管引入的全新的资源配置模式,支持对作业所使用的资源进行细粒度的资源控制,以满足作业吞吐的要求。系统会自动根据您配置的资源需求,以Native K8s的模式运行作业...

配置Alibaba Blink实时模式资源

自定义配置 即实时计算Flink配置细粒度资源的专家模式(BETA),Flink全托管引入的全新的资源配置模式,支持对作业所使用的资源进行细粒度的资源控制,以满足作业吞吐的要求。系统会自动根据您配置的资源需求,以Native K8s的模式运行作业...

配置Ververica Flink实时模式资源

自定义配置 即实时计算Flink配置细粒度资源的专家模式(BETA),Flink全托管引入的全新的资源配置模式,支持对作业所使用的资源进行细粒度的资源控制,以满足作业吞吐的要求。系统会自动根据您配置的资源需求,以Native K8s的模式运行作业...

配置Ververica Flink实时模式资源

自定义配置 即实时计算Flink配置细粒度资源的专家模式(BETA),Flink全托管引入的全新的资源配置模式,支持对作业所使用的资源进行细粒度的资源控制,以满足作业吞吐的要求。系统会自动根据您配置的资源需求,以Native K8s的模式运行作业...

方案实现

本文介绍实现大数据分析方案的详细配置操作,包括在RDS MySQL中创建源表、在表格存储中创建结果表、在实时计算Flink中创建作业并启动和在表格存储中分析数据。前提条件 已了解方案背景信息和完成准备工作。更多信息,请参见 方案背景 和 ...

管理作业版本

背景信息 本文从以下方面为您介绍如何管理作业版本:对比作业版本 回滚作业版本 锁定作业版本 删除作业版本 对比作业版本 仅支持SQL代码和作业配置内容的对比,有差异的内容就会被标记出来。登录 实时计算控制台。在 Flink全托管 页签,...

迁移操作

本文为您介绍如何将Bayes上的作业迁移到 实时计算开发控制台,包括迁移步骤、使用限制和注意事项。前提条件 您已具备Bayes对应项目的Owner权限和目标Flink项目空间的Owner权限,Flink权限管理详情,请参见 权限管理。Flink工作空间和Bayes...

作业引擎版本升级

升级流程 步骤一:备份作业状态 您可以在 作业运维 页面,单击目标作业,在作业详情中的 状态集管理 页签查看作业状态集,详情请参见 查看状态生成总览。如果您的作业属于有状态计算,那么在升级版本时,首要考虑的是状态能否复用。升级前...

查看作业运行历史

本文介绍在 云原生多模数据库 Lindorm 控制台上开通History Server服务和查看历史作业信息的方法。前提条件 已开通 云原生多模数据库 Lindorm 实例的计算引擎服务,具体操作请参见 开通与变配。计费方式 按照Lindorm实例占用资源和时长计费...

准备工作

使用控制台:适合初、中级用户,使用网页可视化界面管理作业和集群,使用控制台需要对批量计算的程序包部署逻辑以及 JSON 格式有一定的了解,参考 控制台快速开始示例。使用SDK:适合高级用户,需要编程基础。官方提供Java 版和 python 版...

修改虚拟交换机

在添加虚拟交换机时,需要保证具备足够可用的IP数,因为IP数量不足会导致作业无法启动或者Flink控制台升级失败。如您的Flink作业涉及的上下游需要设置白名单,需要同步添加修改的虚拟交换机到白名单中。当您删除旧的虚拟交换机并使用新的...

后续指引

介绍:查看作业运行信息 优化器信息收集 实践:作业优化最佳实践 访问控制 用户、角色与授权 MaxCompute为用户、角色提供ACL、Package、Label等多种访问控制方式,提供完善的安全保障机制。用户规划与管理 角色规划 MaxCompute权限 Package...

查看资源组监控

查看作业的计算资源用量 作业使用统计记录了每个离线作业(包括XIHE BSP作业、Spark作业、湖仓版控制台的数据同步和迁移任务)所使用的计算资源。登录 云原生数据仓库AnalyticDB MySQL控制台,在左上角选择集群所在地域。在左侧导航栏,...

结束数据同步作业

如果不再需要数据同步,您可以结束数据同步作业,停止将源库的数据变更同步至目标库。前提条件 数据同步作业处于 同步中、已暂停、同步失败、同步初始化中 或 同步初始化失败 状态。注意事项 结束数据同步作业后,数据同步作业将处于 已...

创建MaxCompute项目

方式一(推荐):通过MaxCompute控制台创建项目 MaxCompute为您提供界面化的控制台,您可以在MaxCompute控制台上创建MaxCompute项目,后续 也可继续在MaxCompute控制台上进行分析查询,开发数据作业时可通过CMD工具等连接MaxCompute项目后...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
自然语言处理 访问控制 开源大数据平台 E-MapReduce 智能语音交互 Serverless 应用引擎 弹性公网IP
新人特惠 爆款特惠 最新活动 免费试用