入湖基础操作
可以实现RDS MySQL或PolarDB数据库表数据全量同步到数据湖，选择在数据源管理中配置好的数据源，将数据源对应数据库中选定表的数据全量同步到OSS中，如果待同步表中数据量大，则所消耗的资源也会比较大，建议在业务低谷期执行此类任务，...
数据源读取时间超时的优化思路
DataV数据可视化产品主要用于动态、实时数据展示场景，需要对数据高频实时查询，对数据访问性能有一定要求。如果您的数据源访问经常超时，则...具体的优化方案要结合查询本身的技术特征、业务数据的逻辑关系以及相关技术框架等来考虑和设计。
产品架构
EMR自研能力 为让开源大数据组件和服务更好的运行在阿里云技术设施上，EMR自研了如下组件：数据应用平台，提供交互式开发、作业提交、作业调试和工作流一站式数据开发体验，详情请参见 EMR Studio概述。Shuffle Service是EMR在优化计算引擎...
配置数据校验
在数据库性能较差、规格较低或业务量较大的情况下，可能会加重数据库压力，甚至导致数据库服务不可用。增量校验任务仅支持校验增量同步或增量迁移任务中变更的数据，不支持校验手动在目标库中变更的数据。采用 按抽样比例进行HASH校验 方式...
功能简介
统一服务 提供了数据中台建设过程中的数据服务化能力，面向数据开发者提供覆盖各个加工阶段统一体验的、便捷的数据查询转服务、服务管理、服务运维能力；面向数据资产管理者提供服务的统计分析、服务用量统计分析、热门数据统计分析能力，...
功能简介
数据探索（Data Discovery）是一款面向业务人员的业务模型（智能数据与智能算子组装）编排、调试、运行及运营管理产品，旨在将“大数据”变成“人人都可用的大数据”。数据探索面向行业客户和业务人员，提供工具内容一体化的业务模型构建...
资产安全概述
应用场景 基于Dataphin实现数据安全保护的一些典型的场景：场景1：业务数据中敏感数据保护 您可以使用资产安全的敏感数据识别和保护功能，脱敏明文敏感数据，保证业务数据安全。例如，姓名张三脱敏后*三。场景2：开发环境数仓建设 敏感数据...
资产安全概述
应用场景 基于Dataphin实现数据安全保护的一些典型的场景：场景1：业务数据中敏感数据保护 您可以使用资产安全的敏感数据识别和保护功能，脱敏明文敏感数据，保证业务数据安全。例如，姓名张三脱敏后*三。场景2：开发环境数仓建设 敏感数据...
多账号统一管理
便于企业有效地执行数据安全管理任务，如自动发现敏感数据、数据分类分级、以及对潜在安全威胁的监测和报警。本文介绍如何使用多账号统一管理功能。使用须知 使用多账号统一管理功能的阿里云账号和被管理的阿里云账号必须同属于一个资源...
RDS MySQL I/O高问题
解决方案 根据业务场景重新设计缓存策略，或者升级实例规格。DDL语句导致实例I/O高 现象 DDL语句可能会重建表空间，期间会扫描全表数据、创建索引排序、刷新新表产生的脏页，这些都会导致大量的I/O吞吐。另外一种场景是删除大表造成的I/O...
上传数据
本文介绍在我的数据页面中针对三种不同类型数据，上传不同格式数据的方法。背景信息 在管理数据页面中，数据的类型分为 矢量、栅格、地理服务、三维模型、三维瓦片 和 业务数据 六种。不同类型对应可上传的数据包括：矢量：在矢量页签内，...
上传数据
本文介绍在我的数据页面中针对三种不同类型数据，上传不同格式数据的方法。背景信息 在管理数据页面中，数据的类型分为 矢量、栅格、地理服务、三维模型、三维瓦片 和 业务数据 六种。不同类型对应可上传的数据包括：矢量：在矢量页签内，...
JindoData概述
JindoData是阿里云开源大数据团队自研的数据湖存储加速套件，面向大数据和AI生态，为阿里云和业界主要数据湖存储系统提供全方位访问加速解决方案。JindoData套件基于统一架构和内核实现，主要包括JindoFS存储系统（原JindoFS Block模式）、...
我是安全管理员
解决方案 数据归档概述 数据归档功能支持定时将大表的数据归档至其他数据库，同时支持源表数据删除、表空间整理回收等。一键建仓 一键创建实时同步的数据仓库，数据在秒级的延迟下，同步至AnalyticDB MySQL版数据库中。数据库迁移 通过创建...
索引缺失
数据库自治服务DAS 为 RDS SQL Server 提供索引缺失查询功能，您可以非常方便地发现数据库实例中缺失的索引信息。前提条件 当前不支持 RDS SQL Server 2008 R2云盘版。背景信息 阿里云专家服务团队总结多年服务经验，发现CPU使用率过高、...
某中生代游戏公司广告业务HBase搬站
解决方案 从自建混部集群迁移云数据库Lindorm独立集群，平均请求RT从500～800ms下降到20ms，大幅度提升广告采集系统的吞吐量。通过和客户沟通给出业务侧优化建议，同时启用云数据库Lindorm压缩优化特性，最高可达13倍数据压缩比，最终实现...
规格及选型
多个实例间可实现数据共享，无需担心业务中台的发展和数据体系建设会造成数据孤岛；独立的实例可完全保证资源隔离；每个业务的使用情况也可以直接反映在账单上。案例八：构建数据开发平台 用户需要构建一个数据开发平台，期望减少开发过程...
数据源管理常见问题
本文介绍在DataV中连接数据源时，经常遇到的问题及相应的解决方法。DataV小课堂直播视频：数据源管理-常见问题。CSV数据源类问题 如何为组件配置CSV数据源？您可以在DataV控制台单击 我的数据>数据源管理，选择+添加数据，进入 添加数据 ...
数据源管理常见问题
本文介绍在DataV中连接数据源时，经常遇到的问题及相应的解决方法。DataV小课堂直播视频：数据源管理-常见问题。CSV数据源类问题 如何为组件配置CSV数据源？您可以在DataV控制台单击 我的数据>数据源管理，选择+添加数据，进入 添加数据 ...
DataV读取数据源超时
解决方案 执行以下操作，通过优化查询时间的方式进行解决：使用SQL查询的业务数据表数量太大 针对查询条件所使用的字段添加索引，减少扫描行数。在数据库中增加定时任务，定时计算所需要的业务指标并更新结果表。DataV组件直接查询结果表的...
数据类云产品专家服务
基于阿里云专家在传统行业和云产品行业深厚的技术积累、海量的支持经验，并依托相应的数据类云产品（数据库、大数据）的诊断日志等，帮助客户解决产品使用过程中反馈的问题，根据不同的用户业务诉求，提供定制化、高效及时的问题专家诊断与...
什么是数据资源平台
阿里云数据资源平台是数据资产定义、加工、管理、服务的全流程平台，提供数据同步、数据查询、数据标准、数据建模、数据加工、质量评估、业务模型构建、资产管理、数据服务等功能，为智能数据应用持续稳定供给全量、标准、干净、智能的数据...
2024年
将Prometheus数据投递至Kafka 将Prometheus数据投递至大数据计算服务MaxCompute 可观测监控 Prometheus 版 计费 新增 Prometheus控制台上线计费切换能力。计费变更说明 可观测监控 Prometheus 版 主机监控 新增 ECS主机监控支持进程监控。...
亿海蓝-航运大数据的可视化案例
解决方案 DLA Ganos 引擎对不同时空存储的存取进行了统一封装，降低编码难度。原始数据使用DLA Ganos进行高效预处理，降低数据提取和结果数据再落地时间。数据抽取结果存储到Ganos on Lindorm中，Lindorm的低延迟、高性能、高吞吐查询能力...
开启自治功能
DAS基于机器学习和细粒度的监控数据，实现7 x 24小时的异常检测，提供自动SQL优化，自动SQL限流、存储空间自动扩展、计算资源自动扩展等功能。从异常发现、根因分析、进行止损或优化、效果跟踪、回滚或沉淀知识库，实现诊断流程的闭环，...
产品概述
什么是E-MapReduce 开源大数据开发平台E-MapReduce（简称EMR），是运行在阿里云平台上的一种大数据处理的系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理...
我是DBA
解决方案 数据归档 数据归档功能支持定时将大表的数据归档至其他数据库，同时支持源表数据删除、表空间整理回收等。一键建仓 一键创建实时同步的数据仓库，数据在秒级的延迟下，同步至AnalyticDB MySQL版数据库中。数据库迁移 通过创建工单...
数据服务概述
数据服务（OneService）是基于Dataphin建设数据中台的最后一步。数据服务作为统一的数据服务出口，实现了数据的统一市场化管理，有效地降低数据开放门槛的同时，保障了数据开放的安全。前提条件 已购买 数据服务 增值服务，开通Dataphin ...
客户案例
百姓网为用户提供涵盖生活服务、招聘求职、房屋租售、二手车买卖、二手交易、教育培训、同城交友等一站式本地生活服务信息平台，同时为中小微商户建立全方位的精准营销解决方案。业务挑战 用户在进行数据库迁移时遇到以下困难：跨云迁移，...
产品简介
开源大数据开发平台E-MapReduce（简称EMR）是运行在阿里云平台上的一种大数据处理系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。EMR还可以与阿里云...
逻辑结构说明
项目 项目是一种物理空间上的划分，便于用户在数据中台建设过程中对物理资源及开发人员进行隔离化管理。业务对象 人们观察事物的角度，是指一种视角，是确定事物的多方位、多角度、多层次的条件和概念。业务活动 业务过程即企业的业务活动...
什么是EMR on ECS
EMR on ECS是指EMR在ECS上运行的方式。EMR on ECS将EMR的大数据处理功能与ECS的容器化部署优势相结合，使得您可以...服务 专业和资深大数据专家技术服务团队提供售后支持。社区版本无服务支持，Hadoop发行版，需额外支付License和服务费用。
用自然语言实时查看BI报表
技术实现 技术架构 本解决方案背后的技术逻辑如下：用户通过控制台界面自定义资源的规格，通过ROS资源编排将对应的资源（包括ECS实例和PolarDB集群）快速拉起。将数据集数据导入到PolarDB中。在ECS上部署相关应用程序的服务，用于执行NL2...
用户价值
数据资源平台为用户提供了一站式数据资产定义、生产、管理与服务平台，提供企业级数据资产构建能力和一致性使用体验，助力客户快速构建数据智能平台，实现数据资源统一管理，挖掘潜在规律，优化业务决策，让大数据真正的驱动客户业务。...
聚合支付方案
阿里云从业务扩展性、数据流动性、服务高可用三方面入手，通过多款云数据库产品为利楚扫呗制定聚合支付方案，解决利楚扫呗在业务扩展期遇到的数据存储空间不足、读写性能下降以及大数据分析空缺等问题。业务痛点 武汉利楚商务服务有限公司...
NL2BI：用自然语言实时查看BI报表
技术实现 技术架构 本解决方案背后的技术逻辑如下：用户通过控制台界面自定义资源的规格，通过ROS资源编排将对应的资源（包括ECS实例和PolarDB集群）快速拉起。将数据集数据导入到PolarDB中。在ECS上部署相关应用程序的服务，用于执行NL2...
从RDS MySQL迁移至自建Kafka
Kafka是应用较为广泛的分布式、高吞吐量、高可扩展性消息队列服务，普遍用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等大数据领域，是大数据生态中不可或缺的产品之一。通过数据传输服务DTS（Data Transmission Service），...
混合存储型（已停售）
实例性能 混合存储型实例的性能与实例规格以及业务中数据被访问的概率有很大的关系：实例规格越高，内存数据的访问比重越高，性能就越强。理想的场景中，所有的访问都命中内存，此时实例性能与Redis社区版实例基本一致；反之，在内存命中率...
SQL调优
解决方案：使用如下命令调大单个并发处理的数据大小。set odps.stage.mapper.split.size=;set odps.stage.reducer.num=<并发数>;Instance数量设置方法 读表的Task 方法1：通过设置参数调整并发度。设定一个map的最大数据输入量，单位MB-...
使用须知
购买图数据库GDB实例后，您不需要做数据库的基础运维（例如高可用、安全补丁等），但需要注意图数据库GDB...性能优化 如果GDB实例的CPU核数、内存、IOPS、存储空间和连接数不足时，可能会影响到数据库的性能，需要您优化数据或升级实例规格。
- 产品推荐
- 这些文档可能帮助您