公交出行：启迪公交
解决方案 启迪公交采用 PolarDB-X 分布式数据库方案构建了全部业务系统，既支持海量大数据的处理能力，又支持高并发、高可用和很强的弹性伸缩能力。票务管理工作台通过用户检录数据，实时同步到阿里云AnalyticDB分析型数据库，分析出实时...
解决方案
数据资源平台中的数据标准、数据模型、数据加工场景、数据服务API、云计算资源配置等资产，经过验证最终可沉淀为一个特定的解决方案。支持通过不同的创建方式，灵活的选择解决方案中包含的内容。依托数据资源平台中管理的大量元数据，确保...
数据传输服务（上传）场景与工具
解决方案的可靠性 MaxCompute具有服务等级协议（SLA），因批量数据通道、流式数据通道默认使用免费共享资源，您还需考虑实现特定方案的可靠性。Tunnel数据通道服务依照访问的先后顺序，分配服务可用资源（Slot）。当服务的剩余可用资源为0...
新建解决方案
将工作组中已沉淀的数据标准、数据模型、数据加工场景、数据服务API配置、云计算资源配置等数据资产，进行版本化的解决方案创建及实例化，便于完成数据治理工作环境的初始化、跨平台的资产发布及迁移。本文介绍如何通过全新创建和根据已有...
客户案例
客户简介 快狗打车则一直坚持通过“连接网络化”、“运力共享化”、“过程数据化”、“匹配智能化”等数字信息化解决方案，将闲散运力统一整合到平台上，通过大数据将运力精准匹配市场需求，实现运力的节能减排，降低空驶率，有效提升行业...
数据传输作业：数据集成
MaxCompute支持通过DataWorks数据集成功能将其他数据源数据同步至MaxCompute，数据集成作业主要有三种类型：离线同步、实时同步、同步解决方案。本文为您介绍MaxCompute数据集成的实现方案。离线同步 离线（批量）的数据通道通过定义数据...
数据组织优化
解决方案 Clustering服务主要由MaxCompute内部的Storage Service来负责执行，专门解决小文件合并的问题，但它并不会改变任何数据的历史中间状态，即不会消除任何一条记录数据的中间历史状态。Clustering服务流程 Clustering服务的整体操作...
Logstash数据写入问题排查方案
管道正常启动，但无数据写入目标端 排查方案 常见错误案例 建议解决方案 参见 使用Logstash管道配置调试功能，开启Logsatsh的管道配置调试功能（需要安装logstash-output-file_extend插件），查看调试日志，判断是否有数据流入Logstash服务...
MySQL分库分表同步至MaxCompute
网络与资源配置 步骤三：分库源表设置 步骤四：设置目标表 步骤五：设置表粒度同步规则 步骤六：DDL消息处理规则 步骤七：设置任务运行资源 步骤八：执行同步任务 步骤一：选择同步方案 创建同步解决方案任务，选择需要同步的源端数据源...
MySQL分库分表同步至MaxCompute
网络与资源配置 步骤三：分库源表设置 步骤四：设置目标表 步骤五：设置表粒度同步规则 步骤六：DDL消息处理规则 步骤七：设置任务运行资源 步骤八：执行同步任务 步骤一：选择同步方案 创建同步解决方案任务，选择需要同步的源端数据源...
数据集成概述
背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效的配置大量数据表的同步任务、能够集成多种异构数据源、能够实现对数据源的数据进行轻度预处理、能够实现数据同步任务的调优（例如容错，限速，并发）等。...
离线同步常见问题
MaxCompute如何实现列筛选、重排序和补空等 MaxCompute列配置错误的处理 MaxCompute分区配置注意事项 MaxCompute任务重跑和failover 报错信息及解决方案 报错信息及解决方案 数据同步报错：[TASK_MAX_SLOT_EXCEED]:Unable to find a ...
DataWorks快速入门指引
DataWorks基于MaxCompute、Hologres、EMR、AnalyticDB、CDP等大数据引擎，为数据仓库、数据湖、湖仓一体等解决方案提供统一的全链路大数据开发治理平台，为了便于新用户快速了解DataWorks的数据开发治理操作全流程，DataWorks为您提供了...
ODPS-0123144
解决方案 如果用的PYODPS在MaxCompute UDF代码中增加日志，用于检查代码中是否有死循环问题，或者可以在日志里打印时间信息来检查MaxCompute UDF处理单条数据的时长是否符合预期。代码中需要增加如下打印日志相关信息，作业运行成功后，您...
时空栅格
Lindorm+DLA Ganos的时空栅格方案 Lindorm支持时空栅格的数据存储和检索，除此之外，对时空栅格数据的处理还包括大量时空栅格计算等复杂场景，Lindorm与DLA Ganos结合可提供一套完成的解决方案。请参考：DLA Ganos Raster
全增量实时同步至Hologres
配置区域 参数 说明 读端配置 离线任务源端最大连接数 支持您通过该参数控制当前同步方案所产生的所有离线子同步任务可占用的源端数据库连接数，即同一时间内，当前同步解决方案所产生的所有离线子同步任务读取数据库的并发数上限。...
Spark作业异常排查及处理
本文介绍Spark作业异常的排查方法和解决方案。内存问题引起的报错 Container killed by YARN for exceeding memory limits 报错原因：提交App时申请的内存量较低，但JVM启动占用了更多的内存，超过了自身的申请量，导致被YARN NodeManager...
离线同步并发和限流之间的关系
来源端读取支持最大连接数：同步解决方案的离线全量数据初始化阶段，会基于JDBC建立到数据库连接并读取全量历史数据。此连接数即用来控制数据来源端支持的最大JDBC连接数，避免大量任务同时启动打满数据库连接池，影响数据库的稳定性。请...
PolarDB-X适用场景
基于并行计算的DML以及大事务的支持能力，可以有效满足跑批处理和执行效率。高性能全局二级索引（GSI）让用户不局限于拆分规则，可根据任意维度对 PolarDB-X 进行查询。Binlog日志服务是保证事务有序性的分布式数据库统一变更日志服务，且...
2023年
新说明 使用PyODPS DataFrame编写数据应用时，同一个脚本文件中的代码会在不同位置执行，可能导致一些无法预期的问题，本文为您介绍当出现相关问题时，如何确定代码的执行环境，以及提供部分场景下的解决方案。PyODPS DataFrame的代码运行...
MySQL分库分表同步至Hologres（方案2.0）
针对以上痛点，DataWorks数据集成一键同步解决方案提供了面向业务场景的同步任务配置化方案，支持不同数据源的一键同步功能，方便业务简单快速的进行数据同步。注意事项 同步数据至Hologres时，目前仅支持将数据写入分区表子表，暂不支持...
功能更新动态（2022年之前）
2021年08月19日 华北2（北京）、华东1（杭州）网络连通解决方案 2021年08月24日 华南1（深圳）2021年08月26日 华东2（上海）数据服务：支持数据服务模块的数据查询加速、支持的数据源类型和版本拓展 为了满足对数据查询速度有要求的业务...
MySQL分库分表同步至Hologres（方案1.0）
步骤五：设置表粒度同步规则 步骤六：DDL消息处理规则 步骤七：运行资源设置 步骤一：选择同步方案 创建同步解决方案任务，选择需要同步的源端数据源MySQL，目标端数据源Hologres，并选择 一键实时同步至Hologres 方案。步骤二：配置网络...
离线同步任务调优
同步任务整体速度慢可能出现在同步过程的各个阶段，本文以现象入手，为您提供各个阶段运行慢的解决方案，详情请参见：数据同步慢的场景及解决方案。在数据库性能限制的情况下，同步速度并非越快越好，考虑到速度过高可能对数据库造成过大的...
数据开发功能索引
区域 功能描述 1 解决方案：用于将一类业务流程组合为一个解决方案，业务流程可以被多个解决方案复用。解决方案支持使用列表及图形化的方式呈现。业务流程：用于实际业务开发，业务流程为业务的抽象实体，帮助您使用业务视角来组织数据代码...
文档更新动态（2022年之前）
新功能 网络连通解决方案 2021年08月24日 数据服务：支持数据服务模块的数据查询加速、支持的数据源类型和版本拓展 为了满足对数据查询速度有要求的业务场景，Dataphin支持为项目添加加速计算源，且完成Dataphin数据源开发后，您可以手动...
什么是MaxCompute
MaxCompute提供离线和实时的数据接入，支持大规模数据计算及查询加速能力，为您提供面向多种计算场景的数据仓库解决方案及分析建模服务。MaxCompute还为您提供完善的数据导入方案以及多种经典的分布式计算模型，您可以不必关心分布式计算和...
什么是数据资源平台
阿里云数据资源平台是数据资产定义、加工、管理、服务的全流程平台，提供数据同步、数据查询、数据标准、数据建模、数据加工、质量评估、业务模型构建、资产管理、数据服务等功能，为智能数据应用持续稳定供给全量、标准、干净、智能的数据...
常见问题
非插件报错原因及解决方案 如何处理编码格式设置/乱码问题导致的脏数据报错？任务存在SSRF攻击Task have SSRF attacks如何处理？离线同步任务执行偶尔成功偶尔失败。离线同步源表有加列（修改）如何处理？如何处理表列名有关键字导致同步...
Presto FAQ
本文汇总了使用DLA Presto的常见问题及解决方案。高频问题 在哪些情况下，共享集群（Public）不计费？共享集群（Public）的算力是多大？在控制台执行SELECT语句为什么会有Limit 500的限制？能够突破这个限制吗？阿里云子账号可以在哪里执行...
Napatech案例
基于Lindorm的解决方案，用户在采用到100Gbps+流量产生的大量数据包元数据直接通过Lindorm存储，在数据的存储和索引性能方面得到极大的提升，同时也极大地降低整个系统的运维成本。客户价值 支持多个100G数据流量采集点的数据包元数据存储...
数据正确性
检查下游是否由于默认缓存机制缓存了数据 解决方案：排除作业的业务逻辑异常后，调整下游存储的 batchsize 的大小。重要 如果 batchsize 参数设置的过小，则可能会造成下游数据库 I/O 压力过大、存在性能瓶颈的风险。例如，如果将batchsize...
DataWorks On CDP/CDH使用说明
环境准备 一、资源准备 类别 描述 相关文档 版本选择 DataWorks基础版服务可满足 CDP或CDH 基本的数据上云、数据开发与调度生产、简单的数据治理工作，若需获取更专业的数据治理、数据安全解决方案，可选择相应的 标准版、专业版、企业版 ...
功能简介
数据资源平台中的数据标准、数据模型、数据加工场景、数据服务API、云计算资源配置等资产，经过验证最终可沉淀为一个特定的解决方案。支持通过不同的创建方式，灵活的选择解决方案中包含的内容。依托数据资源平台中管理的大量元数据，确保...
文档修订记录
QueryPublicModelEngine 2023.10.20 新增功能 上传与下载 DataWorks的上传与下载模块，提供了便捷的数据上传功能，支持将多种来源（例如，本地文件、OSS文件）的数据上传至MaxCompute大数据引擎中进行分析处理及相关管理操作，致力于为您...
无感数据集成（Zero-ETL）
方案概述 在大数据时代，企业面临着大量分散在不同的系统和平台上的业务数据，为了有效地管理和利用这些数据，企业往往需要依赖于ETL工具对数据进行集中式管理。ETL是将上层业务系统的数据经过提取（Extract）、转换清洗（Transform）、...
常见问题
关于其他问题，您可根据下列分类匹配问题场景和解决方案。功能特性 云数据库Redis版兼容Redis哪个版本？云数据库Redis版兼容Redis哪些命令和操作？云数据库Redis版与Redis是什么关系？云数据库Redis版是否存在CPU处理能力、带宽和连接数等...
文档更新动态（2022年）
新增说明 Dataphin出网IP地址 2022年02月18日 新增数据源测试连接报VPC_GRANT_ACCESS_API_ERROR错误的解决方案 在Dataphin中添加RDS类型数据源时，进行测试连接报VPC_GRANT_ACCESS_API_ERROR错误的解决方案。新增说明 数据源测试连接报VPC_...
数据上云工具
通过简单的配置即可完成数据的采集和传输，结合MaxCompute和StreamCompute可以轻松构建流式数据从采集到分析的一站式解决方案。LogStash的DataHub插件可以将日志数据实时上传到DataHub，并归档到MaxCompute表中。具体示例请参见 Logstash+...
数据导入常见问题
解决方案 通过 seq-w 0 n 拆分数据文件。通过 curl-XPOST http:///be_host:http_port/api/update_config?streaming_load_max_mb=<file_size>调整BE配置项中 streaming_load_max_mb 的取值来扩大文件大小上限。BE配置项的更多信息，请参见 ...
- 产品推荐
- 这些文档可能帮助您