本文介绍如何使用DataWorks数据同步功能,将 云消息队列 Kafka 版 集群上的数据迁移至阿里云大数据计算服务MaxCompute,方便您对离线数据进行分析加工。前提条件 在开始本教程前,确保您在同一地域中已完成以下操作:云消息队列 Kafka 版 ...
概述 云原生大数据计算服务(MaxCompute)是一种快速、完全托管的TB/PB级数据仓库解决方案。MaxCompute向用户提供了完善的数据导入方案以及多种经典的分布式计算模型,能够更快速地解决用户海量数据计算问题,有效降低企业成本,并保障数据...
添加云计算资源为使用数据资源平台做数据支撑。以新建ApsaraDB for RDS和MaxCompute云计算资源为例,介绍如何新建云计算资源。前提条件 您已经购买ApsaraDB for RDS云计算资源,并完成RDS快速入门,具体操作,请参见 RDS快速入门。您已经...
2023年12月28日-MaxCompute升级公共云Endpoint 尊敬的MaxCompute用户:感谢您对云原生大数据计算服务MaxCompute的支持,MaxCompute将于北京时间2024年1月4日对华北2(北京)、华东2(上海)、华东1(杭州)、华南1(深圳)、华北3(张家口...
云安全中心 部署 部署 部署 部署 Web应用防火墙 WAF 部署 部署 部署 部署 云原生大数据计算服务MaxCompute 无 部署 部署 无 大数据开发治理平台 DataWorks 无 部署 部署 无 DataV数据可视化 无 无 部署 无 机器学习PAI 无 无 部署 无 视频...
使用场景 当数据访问分布比较均匀,数据没有明显的冷热分别时,大量的访问请求在云数据库 Memcache 版无法命中,使用云数据库 Memcache 版作为数据库缓存的效果不明显。在选择缓存时,需要充分考虑到业务模式对数据访问的要求。数据删除...
云计算资源是 企业数据智能平台 中数据标准字段使用的基础,通过了解数据标准支持的云计算资源类型,并在系统设置模块添加数据标准需要使用的云计算资源类型对应资源,以备在物理化质量校验函数和物理化数据字典时使用。本文介绍数据标准...
云计算资源是 数据资源平台 中数据标准字段使用的基础,通过了解数据标准支持的云计算资源类型,并在系统设置模块添加数据标准需要使用的云计算资源类型对应资源,以备在物理化质量校验函数和物理化数据字典时使用。本文介绍数据标准设计中...
云计算资源是 企业数据智能平台 中数据建模使用的基础,通过了解数据建模支持的云计算资源类型,并在系统设置模块添加数据建模需要使用的云计算资源类型对应资源,以备在物理化逻辑表和设置对应资源的质量规则时使用。本文介绍数据建模中...
当您使用云数据库RDS MySQL并需要提升数据处理速率和降低访问延迟时,阿里云为您提供了缓存数据持久化的高效方案,该解决方案通过整合云数据库Redis与RDS、云数据库Memcache与RDS协同工作,确保数据的高速访问和持久化存储,具备高吞吐、低...
通过了解数据开发支持的云计算资源类型,并在系统设置模块添加数据开发需要使用的云计算资源类型对应资源,以备在运行离线节点或者部署运行测试场景和线上场景时使用。本文介绍数据开发中支持使用的云计算资源类型。节点模式 支持的云计算...
云数据库MongoDB版支持单节点、副本集和分片集群三种部署架构,具备安全审计、时间点备份等多项企业能力。在互联网、物联网、游戏、金融等...大数据应用:使用云数据库MongoDB作为大数据的云存储系统,随时进行数据提取分析,掌握行业动态。
角色用途:用于授权MaxCompute访问大数据计算平台其他云产品,如Hologres等。绑定的角色策略:AliyunServiceRolePolicyForMaxComputeIdentityMgmt 权限策略详情:{"Statement":[{"Effect":"Allow","Action":"odps:ActOnBehalfOfAUser",...
Flink Vvp SQL节点是流式节点,运行于Flink云计算资源之上,支持对ApsaraDB for RDS、Table Store、Hive、Kafka、Hbase、Phoenix、AnalyticDB MySQL、AnalyticDB_PostgreSQL和DataHub Service等类型的数据进行处理。本文介绍如何新建Flink ...
Flink SQL节点是流式节点,运行于Flink云计算资源之上,支持对ApsaraDB for RDS、Table Store、Hive、Kafka、Hbase、Phoenix、AnalyticDB MySQL和DataHub Service等类型的数据进行处理。本文介绍如何新建Flink SQL类型的公共节点。背景信息...
同时,物联网边缘计算可以结合阿里云的大数据、AI学习、语音、视频 等能力,打造出云边端三位一体的计算体系。视频介绍 物联网边缘计算的核心功能如下:边缘实例 边缘实例提供一种类似文件夹的管理功能,您可以通过实例的方式管理边缘端...
MaxCompute已被广泛应用于各大领域处理云上大数据,帮助众多企业解决了海量数据分析问题,同时降低企业运维成本,企业人员可更专注于业务开发。本文为您介绍MaxCompute的精选客户案例。MaxCompute的全量客户案例信息,请参见 行业客户案例...
支持新建多种类型的数据源,为使用 企业数据智能平台 做数据支撑。本文介绍如何新建云计算资源。...重要 删除云计算资源将造成数据无法访问,导致该云计算资源中存储的已授权物理表、标签、数据服务API等无法使用或加工任务异常,请谨慎操作。
了解统一服务支持的云计算资源类型,以便后续参考使用。本文介绍统一服务支持的云计算资源。数据服务API 数据服务API支持的云计算资源类型为:ApsaraDB for RDS、ApsaraDB for RDS VPC、AnalyticDB MySQL、AnalyticDB MySQL 2.0、...
后续操作 通过添加云计算资源,为使用 企业数据智能平台 做数据支撑。以RDS MySQL资源为例,更多信息,请参见 新建云计算资源。通过成员管理功能,对工作组实现账号和角色权限控制。更多信息,请参见 工作组成员管理。通过全局变量功能,可...
为保障 云数据库ClickHouse 数据库的安全稳定,系统默认禁止所有IP地址访问 云数据库ClickHouse 集群。在开始使用 云数据库ClickHouse 集群前,您需要将客户端的IP地址或IP地址段添加到 云数据库ClickHouse 的白名单中。本文介绍如何设置白...
支持新建多种类型的数据源,为使用 数据资源平台 做数据支撑。本文介绍如何新建云计算资源。...重要 删除云计算资源将造成数据无法访问,导致该云计算资源中存储的已授权物理表、标签、数据服务API等无法使用或加工任务异常,请谨慎操作。
随着大数据业务的不断扩展,新的数据使用场景在不断产生,MaxCompute计算框架也在不断演化。MaxCompute原来主要面对内部特殊格式数据的强大计算能力,正一步步地开放给不同的外部数据。现阶段MaxCompute SQL处理的主要是以 cfile 列格式...
了解数据查询支持的云计算资源类型,以便后续参考使用。本文介绍数据查询支持的云计算资源。目前支持的云计算资源类型:MaxCompute、RDS MySQL、PostgreSQL、AnalyticDB PostgreSQL、AnalyticDB MySQL 3.0、SQLServer、Oracle、Hive、...
云计算资源是 企业数据智能平台 中通用资源使用的基础,通过了解通用资源支持的云计算资源类型,并在系统设置模块添加通用资源需要使用的云计算资源类型对应资源,以备在新建函数资源、自定义函数并物理化以及新建数据基础库并物理化时使用...
为保障 云数据库ClickHouse 数据库的安全稳定,系统默认禁止所有IP地址访问 云数据库ClickHouse 集群。在开始使用 云数据库ClickHouse 集群前,您需要将客户端的IP地址或IP地址段添加到 云数据库ClickHouse 的白名单中。本文介绍如何设置白...
数据分析业务 云数据库 Memcache 版搭配大数据计算服务 MaxCompute。实现对大数据的分布式分析处理,适用于商业分析、挖掘等大数据处理场景。通过数据集成服务可自助实现数据在云数据库 Memcache 版与 MaxCompute 间的同步,简化数据操作...
数据查询为用户提供对云计算资源中物理表基本情况的概览能力,帮助用户直观了解物理表基础信息、字段内容分布等情况,建立对数据表的宏观理解,为建立数据标准、定义数据模型、定义数据加工逻辑等工作提供基础依据。数据导入 支持512 MB...
本文介绍云数据库MongoDB支持升级的数据库大版本以及如何升级数据库大版本。注意事项 升级分片集群实例的数据库大版本时,实例的协议类型需为 MongoDB协议。升级采用轮转升级的方式进行,升级过程中会自动对实例进行2~3次重启,请在业务低...
了解数据同步支持的云计算资源类型,以便后续参考使用。本文介绍数据同步支持的云计算资源。单表任务链路 目前系统支持的任务链路如下表所示。说明 对号(√)代表支持,其他则为不支持。目标端支持版本与源端一致。批量任务链路 目前系统...
在使用云数据库MongoDB前,您需要了解不同类型云数据库MongoDB实例本身存在的约束信息,使您初步了解不同类型云数据库MongoDB实例的使用限制,以帮助您选择更适合业务场景的实例。单节点实例 功能 约束 实例部署 目前不是所有地域和可用区...
设置逻辑表DDL语句 通过DDL设置,设置逻辑表在各个云计算资源下的DDL语句,方便逻辑表物理化至各个云计算资源时使用。具体操作,请参见 设置逻辑表DDL语句。物理化逻辑表 通过物理化的方式,将 企业数据智能平台 中创建的逻辑表存储到对应...
Spark Batch节点是离线节点,运行于Spark类型的云计算资源之上,可通过输入SQL语句处理Spark类型的数据源。本文介绍如何新建Spark Batch类型的公共节点。前提条件 已创建Spark On Yarn或者Spark Cluster类型的云计算资源,具体信息,请参见...
MaxCompute是适用于数据分析场景的企业级SaaS模式云数据仓库,支持在多种工具上使用MaxCompute运行大数据计算分析作业。如果您需要进行简单的查询等数据分析作业,推荐您使用SQL查询或DataWorks的临时查询等工具,高效便捷地完成数据分析...
数据服务API:数据API是一种由云计算资源中的数据通过参数配置生成API的API类型,生成API后可以方便后续调用,减少资源操作成本。上线API 通过上线API操作才能使API被调用。服务调用流程(工作组内)及说明 流程图 流程说明 流程 说明 API...
运行属性 运行属性 用于设置数据检测节点的云计算资源和所要检测的数据表,关键参数说明如下:参数 说明 云计算资源类型 节点的云计算资源类型。必须与下游节点的云计算资源类型相同。数据结构 数据模型指代您已经在云资源中创建的物理表。...
这些系统可以广泛应用于云计算、高性能计算、大数据分析、媒体处理和其他需要处理大型数据集的场景。本文介绍 云备份 大规模文件系统(除NAS以外)备份的功能概览,包括优势、工作原理、操作流程和费用等。NAS备份请使用 云备份 的阿里云...
背景信息 数据上报是指计算巢将云市场购买的计算巢服务实例中使用的资源数据推送至云市场,云市场在获取数据后,会根据云市场商品预先定义的计费信息折算服务实例的费用并扣除。对于按量付费的服务,云市场提供了11个计量维度,分别为:...
使用场景 云数据库HBase全面提供海量半结构/非结构化数据下的实时存储、高并发吞吐、轻SQL分析(参见 云原生多模数据库Lindorm)、全文检索(参见Lindorm产品)等能力,结合完备的工具服务,丰富的生态融合,一站式高效满足企业在大数据量...
使用云数据库ClickHouse产品的用户与阿里云计算有限公司(简称“阿里云”)共同遵守《云数据库服务协议》,详细协议内容请参见 云数据库ClickHouse服务等级协议。