Tunnel命令常见问题
使用Tunnel Upload命令上传数据时，速度太慢，如何解决？使用Tunnel Upload命令上传数据时，设置了经典网络的Endpoint，但为什么会连接到外网的Tunnel Endpoint？在DataStudio上执行Tunnel Upload命令上传分区数据时报错，如何解决？使用...
数据传输服务（上传）场景与工具
本文为您介绍如何将数据上传至MaxCompute或从MaxCompute下载数据，包括服务...如果上传数据速度太慢，可以考虑使用多线程上传方式。更多Tunnel Endpoint信息，请参见 Endpoint。相关文档 关于数据传输服务详情介绍，请参见 数据传输服务概述。
离线同步任务调优
同步任务整体速度慢可能出现在同步过程的各个阶段，本文以现象入手，为您提供各个阶段运行慢的解决方案，详情请参见：数据同步慢的场景及解决方案。在数据库性能限制的情况下，同步速度并非越快越好，考虑到速度过高可能对数据库造成过大的...
常见问题
常见原因3：从数据源中读取慢。解决方案：您可以在DataWorks输出日志中搜索totalWaitReaderTime、totalWaitWriterTime，如果发现totalWaitReaderTime明显大于totalWaitWriterTime，则表明主要耗时在读取端，而不是写入端。常见原因4：使用...
处理慢SQL问题
您可以通过DAS对数据库进行监控，及时发现并优化慢SQL，解决数据库的性能问题。操作视频 解决方案 您可以通过DAS从以下三个方面来解决慢SQL问题：查看并优化单个实例的慢SQL 查询治理所有实例上的慢SQL 开启自动SQL优化 查看并优化单个实例...
数据集成：全领域数据汇聚
支持在各类复杂网络环境下，连通数据源的网络解决方案，无论数据源在公网、IDC还是VPC内，均可使用DataWorks数据集成实现网络连通。支持安全控制与运维监控，保障数据同步的安全、可控。核心技术与架构 引擎架构 采用星形引擎架构，数据源...
处理CPU使用率高问题
CPU作为数据库最核心的资源，是日常运维中重点关注的对象。当实例CPU使用率持续较高时，很容易导致数据库访问响应慢，从而导致业务受损。操作视频 异常检测 异常检测：基于机器...自动SQL优化：及时发现并优化慢SQL，解决数据库的性能问题。
可视化页面性能优化常见问题
当您看到数据接口请求时长在8至9s时间左右时，多半是部分组件的接口响应速度太慢导致请求超时，您可以查看具体请求的response信息，根据是否提示timeout，找到对应的组件ID，在图层列表中进行搜索来判断是哪个组件接口影响了数据加载。...
可视化页面性能优化常见问题
当您看到数据接口请求时长在8至9s时间左右时，多半是部分组件的接口响应速度太慢导致请求超时，您可以查看具体请求的response信息，根据是否提示timeout，找到对应的组件ID，在图层列表中进行搜索来判断是哪个组件接口影响了数据加载。...
MySQL分库分表同步至Hologres（方案2.0）
限流：考虑到速度过高可能对数据库造成过大的压力从而影响生产，数据集成同时提供了限速选项，您可以通过限流控制同步速率，从而保护读取端数据库，避免抽取速度过大，给数据库造成太大的压力。限速最小配置为1MB/S，最高上限为30MB/s。离...
全增量实时同步至Hologres
限流：考虑到速度过高可能对数据库造成过大的压力从而影响生产，数据集成同时提供了限速选项，您可以通过限流控制同步速率，从而保护读取端数据库，避免抽取速度过大，给数据库造成太大的压力。限速最小配置为1MB/S，最高上限为30MB/s。离...
常见错误处理方法
连接异常经常发生在网络闪断，或者数据库服务重启时，您需要在应用程序中就此类异常，添加重试逻辑。如果重试多次仍无法创建连接，请及时 联系我们。数据异常 数据异常通常表现为函数参数无效，数组下标错误，除零，数据格式无效，转移字符...
JindoFS实战演示
数据迁移 文档链接 视频链接 视频发布时间 描述 高效迁移HDFS海量文件到OSS 高效迁移HDFS海量文件到OSS 2021-05-11 通过Hadoop DistCp将HDFS海量文件同步到OSS存在很多问题，例如文件数量太大造成内存溢出、同步效率慢、无法保证数据一致性...
自动SQL限流
SQL限流是限制数据库上执行SQL的并发度，通过限制问题SQL的并发度后，保障数据库正常响应业务请求，保障大部分的业务正常运转，即通过小部分业务受损，保障大部分业务正常运行。背景信息 随着技术的发展，尤其是云数据库的普及，数据库系统...
PolarDB Serverless实现了哪些突破
这些云上数据库架构使用的是传统数据库的架构，只是运行在云的基础设施上，数据库本身并没有为云做太多的改造和适配。局限于其架构，各项资源等比率的限制，其弹性范围、资源利用率都受到较大的限制，无法充分利用云的红利。以亚马逊Aurora...
常见问题
如果碰到数据倾斜严重的，则可以使用多列作为分桶键，但通常不要使用太多列作为分桶键。Tablet的最佳大小可以按下面进行评估，基于以下参数值和总数据量可以预估出Bucket的数目。原始非压缩数据，例如CSV格式，通常每个tablet设置为1 GB~10...
Quick BI仪表板新交叉表导出太慢
问题描述 Quick BI仪表板新交叉表导出太慢。问题原因 Quick BI仪表板新交叉表显示数据是一页一页的查询数据；导出是全部导出，数据库运算压力大会比较慢。解决方案 查看数据库的性能开销，可以停掉一些不重要的查询或优化数据库配置如增加...
分析实例简介
RDS MySQL提供分析实例功能，可以将RDS MySQL主实例中的数据自动同步到分析实例中，解决RDS MySQL复杂分析与查询时卡顿的问题，实现毫秒级针对万亿级数据进行即时的多维分析透视和业务探索。使用场景 随着企业业务发展，精细化实时运营诉求...
为什么要升级到MongoDB的新版本
解决了因为从节点落后太多而主节点被flowControl影响导致业务查询响应慢或者主节点异常进入ROLLBACK状态引起数据丢失的问题。对于写入性能要求比较高的场景，您依然可以将writeConcern设置为 {w:1}。更多信息，请参见 Default Write ...
功能特性
基于DLA+DTS同步RDS数据来构建实时数据湖 DLA Serverless Presto DLA Serverless Presto是云原生数据湖团队基于Presto打造的交互式分析引擎，Presto开发的初衷就是为了解决使用Hive来进行在线分析速度太慢的问题，因此它采用全内存流水线化...
Logview诊断实践
解决思路：一种情况是数据分布变化导致的，我们在写表的过程中，会对数据进行压缩，而压缩算法对于重复数据的压缩率是最高的，所以如果写表的过程中，如果相同的数据都排布在一起，就可以获得很高的压缩率。写表的数据分布情况主要取决于写...
Serverless Presto概述
Serverless Presto是云原生数据湖团队基于Presto打造的交互式分析引擎，Presto开发的初衷就是为了解决使用Hive来进行在线分析速度太慢的问题，因此它采用全内存流水线化的执行引擎，相较于其它引擎会把中间数据落盘的执行方式，Presto在...
数据传输服务概述
如果上传数据速度太慢，可以考虑使用多线程上传方式。数据传输服务共享资源组说明 下表数据为不同区域下免费共享资源（单位：Slot）Project级最多可用Slot数说明。站点 地域 Slot（个数）中国 华东1（杭州）300 中国 华东2（上海）600 中国...
常见错误码及排查方法
原因【示例2】：同一个IP地址在短时间内产生太多失败的数据库连接，从而导致连接被阻塞。解决方法：解法【示例1】：调整目标端数据库的最大连接数，并重启任务。解法【示例2】：在目标端数据库侧修复问题（比如提高 MAX_CONNECTION_ERRORS ...
某网约车公司车辆轨迹数据
随着车辆数量的快速增长，每辆车每分钟上传轨迹、位置等信息到MySQL导致MySQL库数据量过大，将全量数据写到 云原生多模数据库 Lindorm 中可以解决数据量过多和成本问题。业务挑战 目前线下有7万+辆车，车辆数量在快速增长，每辆车每分钟...
常见问题
以下为您介绍实时同步数据至Hologres操作失败的常见问题和解决方案。PolarDB数据源网络联通性测试失败怎么办？Oracle数据源网络联通性测试失败怎么办？MySQL数据源网络联通性测试失败怎么办？实时任务，运行报错：...
客户案例
客户诉求 帮助企业和开发者解决数据系统独立，无法融合分析的问题。帮助企业和开发者解决BI分析系统灵活性与业务可用性难以平衡的问题。解决方案 友盟+联合MaxCompute构建开发者数据银行，为企业提供面向分析的、实现友盟域数据与企业私域...
常见问题
以下为您介绍实时同步数据至 AnalyticDB for MySQL 3.0操作失败的常见问题和解决方案。PolarDB数据源网络联通性测试失败怎么办？MySQL数据源网络联通性测试失败怎么办？实时任务，运行报错：...
常见报错
本文介绍DBS配置备份计划、备份恢复预检查以及恢复任务运行时系统返回的报错信息（如异常信息或错误码）以及解决方法。说明 若在本文中未找到您遇到的异常或报错，或按照文中修复建议仍未解决您的问题，请到 DBS客户咨询群（钉钉群号：...
外部表概述
第二种方法通常需要申请UDF网络访问权限，还需要开发者自己控制作业并发数，解决数据如何分片的问题。因此，MaxCompute提供了外部表来解决上述问题。外部表的功能旨在提供除MaxCompute内部表格以外的其他数据的处理能力。通过一条简单的DDL...
如何处理Tair集群数据倾斜
数据倾斜的临时方案 若实例已产生数据倾斜，您可以通过如下临时方案进行过渡，但以下临时方案无法解决数据倾斜的根源问题。同时，您也可以在短时间内可降低大Key、热Key的请求量，暂缓数据倾斜问题，但大Key、热Key问题只能通过业务上的...
如何处理Redis集群数据倾斜
数据倾斜的临时方案 若实例已产生数据倾斜，您可以通过如下临时方案进行过渡，但以下临时方案无法解决数据倾斜的根源问题。同时，您也可以在短时间内可降低大Key、热Key的请求量，暂缓数据倾斜问题，但大Key、热Key问题只能通过业务上的...
离线同步常见问题
读取Loghub同步某字段有数据但是同步过来为空 读取Loghub同步少数据 读取Loghub字段映射时读到的字段不符合预期 读取kafka配置了endDateTime来指定所要同步的数据的截止范围，但是在目的数据源中发现了超过这个时间的数据 Kafka中数据量少...
解决方案与客户案例
数据层 数据层解决数据库跨地域的部署与同步问题，并在灾难发生时对流量切换动作提供相应的数据质量保护策略。针对上层业务不同的服务类型提供UNIT和COPY两种数据同步策略：UNIT类型：每个单元部署独立的数据库系统，单元之间通过DTS进行...
什么是云原生数据湖分析
云原生数据湖分析（简称DLA）是新一代大数据解决方案，采取计算与存储完全分离的架构，支持数据库（RDS\PolarDB\NoSQL）与消息实时归档建仓，提供弹性的Spark与Presto，满足在线交互式查询、流处理、批处理、机器学习等诉求，也是传统...
他云/自建数据库录入
目标数据库实例已购买网络解决方案。网络解决方案详情，请参见 连接本地IDC。注意事项 若需要通过数据管理DMS管理实例，请在创建实例时需根据实际需求设置数据库账号权限，具体授权语法可参考各数据库类型对应的官网文档。具体权限说明如下...
离线同步日志分析
定位占用该资源的任务，详情请参见 数据同步慢的场景及解决方案。您也可以找到占用该资源的任务列表及责任人，与其协调降低任务并发数。您还可以减少当前同步任务的并发数并重新提交发布任务。还支持您对任务执行资源组进行扩容。详情请...
网络连通解决方案
添加数据源时需要根据数据源所在网络环境，通过对应的网络解决方案，实现Dataphin与数据源的网络连通。本文为您介绍数据源在不同网络环境中与Dataphin的网络连通方案。网络连通方案 根据数据源所在的网络环境，在下图中选择对应的网络连通...
产品简介
大数据专家服务 大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、咨询服务及售后专家服务运维保障，帮助用户...
解决方案与客户案例
数据层：数据层解决数据库跨地域的部署与同步问题，并在灾难发生时对流量切换动作提供相应的数据质量保护策略。针对上层业务不同的服务类型提供UNIT和COPY两种数据同步策略：UNIT类型：每个单元部署独立的数据库系统，单元之间通过DTS进行...
- 产品推荐
- 这些文档可能帮助您