DataWorks提供了与CDH(Cloudera’s Distribution Including Apache Hadoop,以下简称CDH)和CDP(Cloudera Data Platform,以下简称CDP)集群对接的能力,您可在DataWorks中注册CDH及CDP集群,进行任务开发、调度、数据地图(元数据管理)...
操作步骤 进入 数据开发 页面。登录 DataWorks控制台。在左侧导航栏,单击 工作空间列表。选择工作空间所在地域后,单击相应工作空间后的 快速进入>数据开发。鼠标悬停至 图标,单击 新建节点>自定义>Data Lake Analytics。您也可以打开...
新增和使用独享调度资源组 二、开发环境准备 您需先在DataWorks工作空间注册EMR集群,才可在数据开发(DataStudio)进行数据开发工作,并以工作空间为单位管理空间成员以便进行协同开发。类别 描述 相关文档 注册EMR集群 基于DataWorks进行...
实现动态更新 在推出新版本或紧急发布时,可以在小程序 IDE 中进行迭代开发,通过 mPaaS 控制台发布,客户端中集成的小程序 SDK 会自动将小程序更新到最新的版本。这种发布无需通过应用商店审核,可以让用户及早接收到更新。前提条件 您已...
DataWorks的EMR Kyuubi节点可进行Kyuubi任务的开发和周期性调度,以及与其他作业的集成操作。本文为您介绍使用EMR Kyuubi节点进行任务开发的主要流程。背景信息 Apache Kyuubi是一个分布式和多租户网关,为数据湖查询引擎(例如Spark、...
节点代码定义:MaxCompute语法 创建并使用MaxCompute表 开发ODPS SQL任务 引用SQL组件 开发ODPS Spark任务 开发PyODPS 2任务 开发PyODPS 3任务 开发ODPS Script任务 开发ODPS MR任务 创建并使用MaxCompute资源 创建并使用自定义函数 您可...
DataWorks数据安全治理路线 2023年12月更新记录 时间 特性 类别 描述 产品文档 2023.12.29 新增功能 数据开发 若您要在DataWorks中进行数据建模、数据开发或使用运维中心周期性调度任务,需先将已创建的数据源或集群绑定至数据开发...
数据开发(DataStudio)基于业务流程对不同开发引擎进行具体开发操作,所以您创建节点前需要先新建业务流程,操作详情请参见 创建业务流程。已创建阿里云EMR集群,并注册EMR集群至DataWorks。创建EMR相关节点并开发EMR任务前,您需要先将...
组件特点 极简接入:引入移动分析组件便可自动搜集用户行为日志、网络日志、异常日志,简单方便。全面分析:具备用户行为、终端问题、流量、电量、通讯链路、性能等多个目标的分析角度。多维度展现:可以从终端类型、终端版本、地域、网络...
容器数据库 概要介绍 WordPress 是比较流行的建站平台,这个案例就是体验在云开发平台下部署WordPress的过程,超酷!业务功能介绍 该方案部署WordPress,然后通过WordPress的建站平台能力,建立自己的站点。应用架构说明 WordPress需要的...
运行环境 3个(预览、开发、生产)/应用 3个(预览、开发、生产)/应用 3个(预览、开发、生产)/应用 3个(预览、开发、生产)/应用 3个(预览、开发、生产)/应用 应用数扩展-√页面搭建√数据建模√前后端逻辑编排√工作流编排√应用...
DataWorks具有强大的基础能力,可以为您大幅...支持复杂网络环境、常见数据源的数据同步上云以及实时、历史数据的批量与增量同步。在数据源性能不受限情况下,让您的同步速度达到万兆。支持单用户千万级别的复杂任务调度,让数据加工更流畅。
注意 自 2020 年 6 月 28 日起,mPaaS 停止维护 10.1.32 基线。请使用 10.1.68 或 10.1.60 系列基线。可以参考 mPaaS 10.1.68 升级指南 或 mPaaS 10.1.60 升级指南 进行基线版本升级。本文将引导您完成 iOS 客户端开发,包括:接入移动分析...
您可以在自己定义的专有网络中使用阿里云资源,也可以在一个专有网络中创建多个交换机来划分子网。一个专有网络内的子网默认私网互通。本文为您介绍专有网络、交换机、路由器的概念和作用以及IPv4和IPv6网段的功能和差异。专有网络和交换机...
数据开发(DataStudio)基于业务流程对不同开发引擎进行具体开发操作,所以您创建节点前需要先新建业务流程,操作详情请参见 创建业务流程。已创建阿里云EMR集群,并注册EMR集群至DataWorks。创建EMR相关节点并开发EMR任务前,您需要先将...
登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。右键单击某个业务流程,选择 新建节点>CDH>CDH Impala。说明 鼠标悬停至顶部 新增 按钮,根据界面...
前提条件 大数据开发治理平台DataWorks:购买DataWorks,详情请参见 购买指引。说明 因本示例提供的数据资源都在华东2(上海),建议购买时选择地域为华东2(上海)。对象存储OSS:已开通OSS服务,具体步骤,请参见 开通OSS服务。步骤一:...
您可以在专有网络VPC中创建网络ACL并添加入方向和出方向规则。创建网络ACL后,您可以将网络ACL与交换机绑定,实现对交换机中的网络实例流量的访问控制。前提条件 您已经创建了专有网络VPC和交换机。具体操作,请参见 创建和管理专有网络 和...
在进行客户端开发之前,您首先需要配置开发环境:配置 Windows 开发环境 配置 macOS 开发环境 配置 Linux 开发环境 配置 Windows 开发环境 参考以下说明配置 Windows 开发环境。配置 Java 8 环境 mPaaS 框架只支持 JDK 8 及以上版本。下载...
使用流程概览:参考文档:DataWorks数据建模 子模块:数据开发(DataStudio)功能说明:数据开发(DataStudio)是一站式大数据开发平台,支持在线开发MaxCompute、EMR、Hologres、CDP、ADB等多种大数据引擎的数据处理任务。它集成了强大的...
开发小助手提供的功能可分为三类:mPaaS 工具、诊断工具、常用工具。mPaaS 工具 mPaaS 工具类包含 离线包中心、环境切换、启动速度 和 埋点日志 四个功能。说明:mPaaS 工具类功能要求您将开发工程接入 mPaaS。离线包中心 在离线包中心,您...
基线是指一系列稳定功能的版本集合,是进一步开发的基础。而 mPaaS 产品是基于支付宝的某个特定版本开发的,因此对于 mPaaS 而言,基线则是所基于版本的 SDK 的集合。随着 mPaaS 产品的不断升级,已经提供了多个版本的基线。截止到目前,...
产品名词解释 名词 描述 IoT Studio 物联网应用开发(IoT Studio)是阿里云物联网平台的一部分,提供了Web可视化开发、移动可视化开发、业务逻辑开发与物联网数据分析等一系列便捷的物联网开发工具。Web可视化开发 IoT Studio提供的开发...
DataWorks的数据集成功能模块是稳定高效、弹性伸缩的数据同步平台,致力于提供复杂网络环境下、丰富的异构数据源之间高速稳定的数据移动及同步能力。功能概述 DataWorks数据集成支持离线同步、实时同步,以及离线和实时一体化的全增量同步...
移动性能监控(Application Performance Management,APM)是移动开发平台(mPaaS)提供的一款集移动应用性能数据采集、分析、监控于一体的应用性能运维产品,支持实时检测、分析并可视化展示应用各项性能指标统计数据。通过对移动客户端、...
本文为您介绍如何通过网络ACL功能限制不同交换机下ECS实例的互通。前提条件 您已经创建了专有网络和交换机。具体操作,请参见 创建和管理专有网络 和 创建和管理交换机。您已经在交换机中创建了ECS实例。具体操作,请参见 自定义购买实例。...
指标说明 热修复分析相关指标说明见下表:指标 说明 RPC 开始数 通过网络发送下载补丁文件的 RPC 请求的总次数。RPC 成功数 成功发送下载补丁文件的 RPC 请求的次数。热修复开始数 所有设备加载补丁的次数。热修复成功数 所有设备成功加载...
在该阶段,DataWorks为您提供了数据分类分级、规范数据开发流程、企业级身份认证、开源身份隔离等多个场景的最佳实践,帮助企业做好数据安全治理的相关基础防护工作。场景一:数据分级分类 无论在任何行业,数据分级分类都是监管首要检查的...
说明 DataWorks的工作空间分为 简单模式 和 标准模式:简单模式:指一个DataWorks工作空间对应一个引擎项目,无法设置开发和生产环境,只能进行简单的数据开发,无法对数据开发流程以及表权限进行强控制。标准模式:指一个DataWorks工作...
开发者在应用的开发和发布阶段,可能会遭遇消息推送失败的问题。由于 mPaaS 平台集成了不同渠道的推送功能,当遇到问题时,建议通过控制台进行消息推送的测试。如果消息状态是 Acked,则表示 mPaaS MPS 服务端后台已经把消息推送请求发送到...
DataWorks支持StarRocks数据源,通过数据源对接EMR Serverless StarRocks,可实现EMR Serverless StarRocks的数据集成、开发、分析、数据服务等功能。本文为您介绍EMR Serverless StarRocks在DataWorks上的操作流程。背景信息 了解EMR ...
调用TestNetworkConnection接口,测试目标数据源与所使用资源组的网络连通性。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选...
DataWorks提供了与CDH(Cloudera’s Distribution Including Apache Hadoop,以下简称CDH)和CDP(Cloudera Data Platform,以下简称CDP)集群对接的能力,您可在DataWorks中注册CDH及CDP集群,进行任务开发、调度、数据地图(元数据管理)...
如果您的PyODPS任务需要访问特殊的网络环境(如VPC网络或IDC网络中的数据源或服务等),请使用独享调度资源组,并参考 网络连通解决方案 打通独享资源组与目标环境的网络连通。PyODPS语法及更多信息请参见 PyODPS文档。PyODPS节点分为...
1.概要 该解决方案旨在帮助您通过 云开发平台 构建服务形态的Serverless后端服务,主要传达了几个知识点:微服务注册与服务发现的集成使用;把一个微服务架构的系统在云开发平台上部署运行起来;日常、预发、正式环境的数据库使用配置;1.1...
1.概要 该解决方案旨在帮助您通过 云开发平台 构建服务形态的Serverless后端服务,主要传达了几个知识点:微服务注册与服务发现的集成使用;把一个微服务架构的系统在云开发平台上部署运行起来;日常、预发、正式环境的数据库使用配置;1.1...
在团队协同开发任务中,管理员创建好应用之后,可以将应用的开发任务分配给不同的团队成员。为应用分配开发成员 管理员在「应用列表」找到要进行开发任务分配的应用,点击进入「应用详情页」,在左侧菜单点击「开发者管理」,点击「添加...
在将开发工程接入 mPaaS 后或基于 mPaaS 插件创建工程后,即可将开发小助手接入开发工程(点击快速了解如何使用开发小助手),使用开发小助手进行调试、帮助开发。说明 开发小助手有以下使用限制:开发小助手仅支持组件化 Portal&Bundle 接...
整体过程分为五步:注册 API 分组 创建 API 配置 API 服务 测试 API 服务 生成客户端 SDK 准备 登录控制台,在 产品与服务 中选择 移动开发平台 mPaaS 进入移动开发平台主页。切换至正确的工作空间后,单击需要接入 API 服务的 App 名称。...
IoT Studio提供了组件开发功能,便于开发者开发、发布和管理自己研发的组件,并将其发布到可视化工作台中用于可视化页面搭建。从而满足开发者的需求,提升组件丰富性,为可视化搭建提供无限可能。使用说明 组件开发功能升级中,暂停新用户...