数据库评估常见问题
ADAM 画像必须分析完整的采集数据，如果缺乏某些必要信息，请重启采集或联系 ADAM 工作人员。画像内容，如何查看兼容度？ADAM 数据库画像主要内容是围绕着源 Oracle 信息，如果想查看目标数据库兼容性，请使用数据库画像创建数据库评估项目...
应用场景
实时数据通道 1.1 接入多种异构数据并投递到下游多种大数据系统 通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的释放数据的价值。...
生成测试数据
背景信息 OceanBase 开发者中心（OceanBase Developer Center，ODC）提供模拟数据功能供用户在测试数据库性能或者验证功能等需要大量模拟数据的场景下，能够快速根据表中的字段类型生成数据。注意事项 单次模拟数据上限为 1 亿行。拥有检查...
数据集成概述
背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效的配置大量数据表的同步任务、能够集成多种异构数据源、能够实现对数据源的数据进行轻度预处理、能够实现数据同步任务的调优（例如容错，限速，并发）等。...
概述
业务挑战 大部分阿里云用户会将阿里云关系型数据库RDS、PolarDB for MySQL、MongoDB或者云服务器ECS自建数据库作为业务系统数据库，随着业务数据的增长，业务数据库存储的数据也越来越多。但RDS、PolarDB for MySQL、MongoDB或者ECS自建...
数据库监控
说明 上述各监控项的数据采集周期均为1分钟。最多支持查看7天内的监控数据。操作步骤 登录 PolarDB分布式版控制台。在页面左上角选择目标实例所在地域。在 实例列表 页，找到目标实例并单击实例ID。在左侧导航栏中，单击 监控与报警>数据库...
典型场景
构建数据湖 实时数据湖：支持DB的CDC与消息数据（如Kafka）入湖，构建大规模的可以增删改查的数据集，延迟为T+10分钟。一键建仓：支持数据库一键入湖，T+1天。文件上传：数据上传后，DLA元数据发现功能可自动发现并构建好元数据体系。数据...
应用场景
数据审计 智能解析数据库及大数据的通信流量，细粒度审计数据访问行为，通过对数据源全量行为的审计溯源、危险攻击的实时告警、风险语句的智能预警，为您最敏感的数据库资产做好最安全的监控保障。个人信息合规 可精准区分和保护个人数据，...
数据集成概述
数据集成是基于Dataphin构建的简单高效的数据同步平台，致力于提供具有强大的数据预处理能力、丰富的异构数据源之间数据高速稳定的同步能力。背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效的配置大量...
采集数据
本文为您介绍如何新建OSS和RDS数据源来访问本教程所提供的用户信息与网站日志数据，配置数据同步链路至私有OSS数据源，并通过EMR Hive节点建表去查询同步后的数据，完成数据同步的操作过程。前提条件 开始本文的操作前，请准备好需要使用的...
基本概念
一个数据库实例可以包含多个由数据库用户创建的数据库，并且可以使用相应的客户端工具和应用程序进行访问。本地IDC自建数据库：本地IDC自建数据库是部署在非云环境（如本地IDC、托管机房等）的数据库实例。阿里云ECS自建数据库：阿里云ECS...
外部表概述
随着大数据业务的不断扩展，新的数据使用场景在不断产生，MaxCompute计算框架也在不断演化。MaxCompute原来主要面对内部特殊格式数据的强大计算能力，正一步步地开放给不同的外部数据。现阶段MaxCompute SQL处理的主要是以 cfile 列格式...
数据分析概述
DataWorks提供的数据分析平台，可以流畅地进行数据处理、分析、加工及可视化操作。在数据分析板块中，您不仅可以在线洞察数据，还可以编辑和共享数据。本文为您介绍数据分析平台的优势、功能、权限等概要信息。产品优势 与本地数据分析相比...
限制说明
数据大小 云数据库 Memcache 版支持的单条缓存数据的 Key 最大不超过 1 KB，Value 最大不超过 1 MB，过大的数据不适合存储。事务支持 云数据库 Memcache 版不支持事务，有事务性要求的数据不适合写入，而应该直接写入数据库。使用场景 当...
数据迁移
本文为您介绍数据迁移的最佳实践，包含将其他业务平台的业务数据或日志数据迁移至MaxCompute，或将MaxCompute的数据迁移至其它业务平台。背景信息 传统关系型数据库不适合处理海量数据，如果您的数据存放在传统的关系型数据库且数据量庞大...
访问外部数据源
因此，只能打通同一Region下的数据源。在Databricks数据洞察控制台，进入集群详情页面。点击详情页面 数据源 标签，在 添加数据源 弹窗选择要添加的数据源类型。在所选类型的数据源列表里勾选希望绑定的数据源类型，如果是EMR集群或ECS实例...
管理数据源权限
从标准模式工作空间分享至简单模式工作空间：源工作空间的生产或开发环境下的数据源，均支持分享。分享至目标数据源后，仅保留一个数据源，且最新分享的数据源会覆盖之前的数据源。如果目标工作空间升级为标准模式工作空间，则该数据源会...
基于GitHub公开事件数据集的离线实时一体化实践
为了之后每次只读取前一个小时的文件，在上传文件时对每个文件建一个名称为‘hr=Y-%M-%D-%H’的目录作为分区，之后每次写入数据只读取最新分区下的文件。通过外部表将OSS数据导入MaxCompute 请在MaxCompute客户端或DataWorks中的ODPS SQL...
配置跨库Spark SQL节点
任务编排中的跨库Spark SQL节点，主要针对各类跨库数据同步和数据加工场景，您可以通过编写Spark SQL，完成各种复杂的数据同步或数据加工的任务开发。前提条件 支持的数据库类型：MySQL：RDS MySQL、PolarDB MySQL版、MyBase MySQL、...
Quick BI连接MaxCompute
背景信息 智能分析套件Quick BI是一个专为云上用户量身打造的易上手、性能强的大数据分析及可视化平台，可以让每个人都能成为数据分析师。Quick BI不仅是业务人员查看数据的工具，更是数据化运营的助推器。更多Quick BI信息，请参见 Quick ...
数据质量保障原则
一致性 一致性通常体现在跨度很大的数据仓库中。例如，某公司有很多业务数仓分支，对于同一份数据，在不同的数仓分支中必须保证一致性。例如，从在线业务库加工到数据仓库，再到各个数据应用节点，用户ID必须保持同一种类型，且长度也要...
数据源开发和生产环境隔离
操作 新建：如果不存在适用环境下的数据源，显示 新建 编辑 和 删除：如果存在适用环境下的数据源，则显示 编辑 和 删除 按钮。删除开发环境和生产环境的数据源：需确认是否存在生产环境关联的同步任务，操作不可逆，删除后，在开发环境...
独享资源组
独享调度资源组使用场景 如果非数据集成任务需要访问VPC环境下的数据库、有白名单访问控制的数据库时，需要使用独享调度资源组，独享调度资源组的使用详情请参见 新增和使用独享调度资源组。独享数据集成资源组使用场景 如果您需要同步VPC...
概述
从应用视角看，全密态数据库可以解决不同应用场景下的数据安全问题，几种典型场景如下：平台安全运维：该场景主要针对在不可信环境（如第三方平台）下提供的数据库服务的安全防护，保证用户数据在运维过程中的安全。例如，业务将应用数据库...
数据标准概述
核心概念 名词 说明 相关文档 标准集 标准集是规范相似或一致、业务含义相关的一组标准的合集，定义了该集合下的数据标准的管理和查看权限、发布流程的审批模板等信息，以便对数据标准进行更精准的管控。每个数据标准都必须归属唯一的一个...
数据标准概述
核心概念 名词 说明 相关文档 标准集 标准集是规范相似或一致、业务含义相关的一组标准的合集，定义了该集合下的数据标准的管理和查看权限、发布流程的审批模板等信息，以便对数据标准进行更精准的管控。每个数据标准都必须归属唯一的一个...
配置资源组与网络连通
独享数据集成资源组暂不支持经典网络环境下的数据库同步，建议您将经典网络环境下的数据库迁移至VPC环境。无法保障公网环境下的数据同步速度和任务稳定性，建议通过内网或者 云企业网 同步。背景信息 复杂网络环境下的数据源进行异构数据源...
资源组操作及网络连通
访问VPC环境下的数据库测试连通性失败，该如何处理？数据源连通性有时成功，有时失败，如何处理？资源组配置操作问题 已经购买独享资源组，但在数据源测试连通性时或任务执行时找不到该资源组怎么办？如何通过日志查看任务执行在什么资源组...
从这里开始
单击工作台页签下的 数据看板、三维城市、数据准备、资源管理 和左上角的 默认工作空间 模块处。在各个功能模块区域您可以体验产品的功能特性。功能 说明 数据看板 单击创建数据看板处，选择任意一种方式创建数据看板，创建完成后的数据...
数据地图
其他操作 数据总览 您可以在数据总览页面查看当前地域（Region）下配置了数据采集器的Hologres数据库统计信息和表信息，进入数据总览详细步骤请参见 数据总览。查找表 数据地图支持通过表名，表描述、字段名及字段描述等搜索表，同时还可以...
权限管理
数据采集 功能权限 功能权限名称 权限说明 数据采集_埋点验证访问 可以访问「数据采集-埋点验证」，使用埋点验证功能并可以查看验证报告 注意：必须要有至少一个「数据采集」的“数据权限”才能正常访问。数据权限 数据权限名称 权限说明 ...
什么是ETL
行业领先的计算时效：通过DTS强大的数据库流式数据采集能力，ETL既能保障数据的准确性，同时还具备行业领先的计算实效性。灵活的任务监控与管理：ETL提供任务列表页供您进行任务监控和管理，能够对已经搭建的任务进行启停、查看详情等操作...
流式ETL
行业领先的计算时效：通过DTS强大的数据库流式数据采集能力，ETL既能保障数据的准确性，同时还具备行业领先的计算实效性。灵活的任务监控与管理：ETL提供任务列表页供您进行任务监控和管理，能够对已经搭建的任务进行启停、查看详情等操作...
他云/自建数据库录入
具体权限说明如下：如需管理实例下的所有数据库，授权范围为整个实例的所有库。如需管理实例的单个或多个数据库，授权范围可指定具体的库。如需进行实例的增、删、改、查及表结构的修改等操作，需要给账号授予足够的DML权限。如需进行实例...
某网约车公司车辆轨迹数据
解决方案 在原有的架构上引入了阿里云数据库，并将全量数据写到 云原生多模数据库 Lindorm 中，同时增量数据通过Kafka、Spark等实时同步到 云原生多模数据库 Lindorm，这样解决了客户线下数据库数据过大的问题。客户需要存储最近3年的数据...
表设计最佳实践
流式数据写入 对于流式写入的数据，采集的通道通常较多，相关采集通道应该进行有效区分。在单个数据通道写入量较大的情况下，应该按照时间进行分区设计。在采集通道数据量较小的情况下，适合采取非分区表设计，将终端类型和采集时间设计成...
数据服务入门
DataWorks数据服务的主要目标是为个人、团队和企业构建统一的数据服务总线，帮助用户统一管理面向内外部的API服务。例如，您可以将查询数据表功能快速的生成对应的API，或将已有的API注册至数据服务平台进行统一发布和管理。本文以MySQL...
如何选取统计信息自动采集策略
同Auto analyze一致 ENABLE_STATISTIC_FEEDBACK 注意事项 在表数据量比较大的情况下，存储节点可能由于执行统计信息采集任务，在凌晨出现IOPS增高的情况。在非凌晨时间出现IOPS升高，有可能是以下两种情况：表数据量过大，导致统计信息采集...
基于Delta lake的一站式数据湖构建与分析实战
这些数据湖格式有自己的数据meta管理能力，能够支持Update、Delete等操作，以批流一体的方式解决了大数据场景下数据实时更新的问题。数据湖构建与管理 1.数据入湖 企业的原始数据存在于多种数据库或存储系统，如关系数据库MySQL、日志系统...
资产指纹调查
如果您正在使用 资产暴露分析 功能，中间件 的数据采集频率需要设置为 每1小时采集一次、每3小时采集一次、每12小时采集一次 或 每天采集一次，不能设置为 关闭 或 每7天采集一次。更多信息，请参见 资产暴露分析。完成采集频率设置后，云...
- 产品推荐
- 这些文档可能帮助您