本教程通过DataWorks,联合云原生大数据计算服务MaxCompute,使用大数据AI公共数据集(淘宝、飞猪、阿里音乐、Github、TPC等公共数据),指导您如何快速进行大数据分析,快速熟悉DataWorks的操作界面与最基础的数据分析能力。DataWorks的更...
本文介绍RDS MySQL如何结合大数据计算服务MaxCompute使用。开放数据处理服务又称为大数据计算服务(MaxCompute,原名ODPS),可服务于批量结构化数据的存储和计算,提供海量数据仓库解决方案以及针对大数据的分析建模服务。通过 数据集成 ...
当您需要将某个Prometheus实例的数据导出,进行自定义业务处理时,可以使用Prometheus数据投递功能,将Prometheus实例数据投递至大数据计算服务MaxCompute处理。MaxCompute能帮助您结合其他的数据源执行大数据计算服务,加工后用于报表分析...
100 MB 单击 添加目标,选择 目标类型 为 云原生大数据计算服务 MaxCompute,请按照表单所需填写其余信息,然后单击 确定。配置完成后,在 任务编辑 页面,单击 确定,然后单击 保存 创建投递任务。步骤三:验证数据被投递至MaxCompute 在...
类型 典型场景 OSS数据与MaxCompute数据上传 LOAD命令。外部表,湖仓一体。Hologres数据写入MaxCompute MaxCompute直读Hologres数据。OTS/RDS(MySQL)/HBase/Lindorm/Hudi/HDFS/Hive等其它数据源写入MaxCompute 无。实时数据写入(数据...
CheckClickhouseToRDS 检查与RDS连通性 调用CheckClickhouseToRDS接口检查云数据库ClickHouse社区兼容版集群与云数据库RDS MySQL的连通性。DescribeSynDbs 查看同步db 查看同步db。DescribeSynDbTables 查看同步数据库与表 查看同步数据库...
方法一(推荐):将云服务器ECS实例的网络类型切换为专有网络并且专有网络ID与云数据库MongoDB实例相同,如何切换,请参见 ECS实例从经典网络迁移到专有网络。方法二:云服务器ECS实例使用云数据库MongoDB实例的公网地址连接云数据库...
前提条件 根据客户端网络环境配置 云数据库 SelectDB 版 实例网络:客户端位于阿里云ECS服务器,且与 云数据库 SelectDB 版 实例位于同一VPC下,无需配置,获取 云数据库 SelectDB 版 实例的 VPC地址 即可。其他情况,请为 云数据库 ...
数据大小 云数据库 Memcache 版支持的单条缓存数据的 Key 最大不超过 1 KB,Value 最大不超过 1 MB,过大的数据不适合存储。事务支持 云数据库 Memcache 版不支持事务,有事务性要求的数据不适合写入,而应该直接写入数据库。使用场景 当...
调用CheckClickhouseToRDS接口检查云数据库ClickHouse社区兼容版集群与云数据库RDS MySQL的连通性。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。调试 ...
本文介绍云数据库HBase连通性检测和与云数据库HBase网络不通的可能原因。背景信息 云数据库HBase为了保障安全性,不提供Ping的ICMP协议,请不要使用Ping来访问,判断是否连通云数据库HBase,请使用Telnet。平台提供了公网访问及内网访问,...
MaxCompute是适用于数据分析场景的企业级SaaS模式云数据仓库,支持在多种工具上使用MaxCompute运行大数据计算分析作业。如果您需要进行简单的查询等数据分析作业,推荐您使用SQL查询或DataWorks的临时查询等工具,高效便捷地完成数据分析...
当您使用云数据库RDS MySQL并需要提升数据处理速率和降低访问延迟时,阿里云为您提供了缓存数据持久化的高效方案,该解决方案通过整合云数据库Redis与RDS、云数据库Memcache与RDS协同工作,确保数据的高速访问和持久化存储,具备高吞吐、低...
连接集群 创建数据库 创建表 已安装与 云数据库ClickHouse 集群版本对应的clickhouse-client工具。下载链接,请参见 clickhouse-client。操作步骤 单击 On Time Data 下载On Time数据集。解压下载的On Time数据集。unzip ontime-data(1)....
如果Quick BI与 云数据库ClickHouse 集群不在同一VPC内,请先为 云数据库ClickHouse 集群申请外网地址。具体操作,请参见 申请和释放外网地址。使用限制 仅支持空间管理员和开发者的账号添加数据源。仅专业版和高级版的群空间支持创建...
检查 ECS 客户端与云数据库 OceanBase 租户 VPC 内网连接情况下,需保证访问的客户端 VPC 与云数据库 OceanBase 集群内被访问租户的 VPC 相同,保证网络畅通。说明 此场景是指跨 VPC 之间网络访问未通过特殊手段连接的情况,内网标准访问时...
准备工作 下载并安装与云数据库MongoDB实例数据库版本相同的Mongo Shell工具至客户端(本地服务器或云服务器ECS实例),下载链接和安装方法,请参见 MongoDB Shell Download 和 The mongo Shell。如果应用部署在ECS实例,您需要确保云数据...
为了确保 云数据库ClickHouse 与MaxCompute服务之间网络通畅,您需要采用阿里云VPC网络访问方式,且MaxCompute必须与您的 云数据库ClickHouse 集群在同一地域。前提条件 已开通MaxCompute服务。如何开通,请参见 开通MaxCompute。已创建...
控制台自动关联 前提条件 LTS与云数据库HBase增强版(Lindorm)所处同一个VPC网络。如何打通网络,请参见 网络打通。操作步骤 登录 HBase管理控制台。在 集群列表 页,单击BDS目标实例。在左侧导航栏选择 数据源管理,单击 添加数据源。在 ...
准备工作 下载并安装与云数据库MongoDB实例数据库版本相同的Mongo Shell工具至客户端(本地服务器或云服务器ECS实例),下载链接和安装方法,请参见 MongoDB Shell Download 和 The mongo Shell。如果应用部署在ECS实例,您需要确保云数据...
如何理解开源与云原生的大数据技术与产品?MaxCompute作为大数据平台,对业务数据是否有好的监控手段?MaxCompute的项目发挥什么作用?如何获取MaxCompute中的Accesskey_ID和AccessKey_Secret?现有账号的AccessKey被禁用,创建一个新的...
准备工作 下载并安装与云数据库MongoDB实例数据库版本相同的MongoDB至自建MongoDB数据库所在客户端(本地服务器或云服务器ECS实例),安装方法请参见 Install MongoDB。操作步骤 登录 MongoDB管理控制台。根据实例类型,在左侧导航栏,单击...
准备工作 下载并安装与云数据库MongoDB实例数据库版本相同的MongoDB至自建MongoDB数据库所在客户端(本地服务器或云服务器ECS实例),安装方法请参见 Install MongoDB。操作步骤 登录 MongoDB管理控制台。根据实例类型,在左侧导航栏,单击...
本教程中使用阿里云大数据产品MaxCompute配合DataWorks,完成整体的数据建模和研发流程。完整的技术架构图如下图所示。其中,DataWorks的数据集成负责完成数据的采集和基本的ETL。MaxCompute作为整个大数据开发过程中的离线计算引擎。...
MaxCompute可以与多款阿里云产品组件集成使用,不同组件支持不同的数据类型。部分组件仅支持MaxCompute 1.0数据类型。组件 1.0数据类型 2.0数据类型 复杂类型 Hive兼容模式 Decimal2.0 Storage 支持 支持 支持 支持 支持 SDK 支持 支持 ...
大数据存储与计算:云原生大数据计算服务 MaxCompute(必选)、实时数仓Hologres(可选)、开源大数据平台E-MapReduce(可选),您可根据需要开通MaxCompute、Hologres或E-MapReduce。数据开发与调度:大数据开发治理平台 DataWorks数据...
本文为您介绍Hive兼容数据类型版本的定义、支持的数据类型以及与其他数据类型版本的差异。定义 项目空间选择数据类型版本为Hive兼容数据类型版本时,项目空间的数据类型属性参数定义如下。setproject odps.sql.type.system.odps2=true;打开...
资源观测提供某段时间内,数据传输服务资源组(包括共享资源组和独享资源组)与计算资源组内各类CPU、内存、并发数等资源的使用情况,您可通过观测各指标的曲线图,优化和调整作业的执行计划及资源配置,提高作业的效率和性能。开通地域 ...
说明 本功能仅诊断客户端的IP地址是否已正确配置在云数据库MongoDB实例的白名单中,若当前IP地址检查通过,但仍无法成功连接云数据库MongoDB实例,可能存在如下问题:网络异常:请通过 ping 命令测试客户端与云数据库MongoDB实例间的网络...
在使用云数据库MongoDB单节点实例前,您需要了解单节点实例本身存在的约束信息,使您初步了解单节点实例的使用限制,帮助您进一步确认单节点实例是否能够满足您的业务场景。功能 约束 实例部署 目前不是所有地域和可用区都支持部署单节点...
在使用云数据库MongoDB分片集群实例前,您需要了解分片集群实例本身存在的约束信息,使您初步了解分片集群实例的使用限制,帮助您进一步确认分片集群实例是否能够满足您的业务场景。功能 DynamoDB协议实例约束 MongoDB协议实例约束 实例...
您在构建数据仓库之前,首先需要确定构建数据仓库的目标与需求,并进行全面的业务调研。您需要了解真实的业务需求,以及确定数据仓库要解决的问题。业务调研 充分的业务调研和需求分析是数据仓库建设的基石,直接决定数据仓库能否建设成功...
为保证数据导入的性能,请确保云数据库与OSS所在Region相同,相关信息请参考 OSS访问域名使用规则。MinIO文件路径 基于 MinIO 的文件路径格式如下:mio:/<id>:<key>@[:]/path_to/file 如不指定port参数,会自动使用HTTPS端口。为保证数据...
为保证数据导入的性能,请确保云数据库与OSS所在Region相同,相关信息请参考 OSS访问域名使用规则。MinIO文件路径 基于 MinIO 的文件路径格式如下:mio:/<id>:<key>@[:]/path_to/file 如不指定port参数,会自动使用HTTPS端口。为保证数据...
DataWorks作为阿里云一站式大数据开发与治理平台,通常会与计算引擎产品联合使用,此外使用DataWorks进行数据集成时通常联合进行数据传输的数据源产品一起使用。本文为您介绍典型场景下,使用DataWorks时通常会使用到的其他云产品。计算...
数据库网关与数据管理DMS搭配可为您提供高稳定性、低成本、统一的非阿里云数据库(例如本地IDC自建、其他云厂商的云数据库、其他云厂商云服务器上自建的数据库)的通用管理方案,实现多云统一的数据库管理服务,架构图如下所示。...
数据库网关与数据管理DMS搭配可为您提供高稳定性、低成本、统一的非阿里云数据库(例如本地IDC自建、其他云厂商的云数据库、其他云厂商云服务器上自建的数据库)的通用管理方案,实现多云统一的数据库管理服务,架构图如下所示。...
本文介绍如何查看和管理云数据库专属集群MyBase MySQL的备份大小。备份大小=数据备份的大小+日志备份的大小 查看备份大小 登录 云数据库专属集群控制台。在页面左上角,选择目标地域。在左侧导航栏中,选择 实例列表>MySQL。找到目标实例,...