产品简介
大数据专家服务 大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、咨询服务及售后专家服务运维保障，帮助用户...
数据建模
特征分析 在左侧组件列表，将 统计分析 下的 数据视图 组件拖入画布中。通过连线，将 数据视图-1 节点作为 data4ml 节点的下游节点。单击画布中的 数据视图-1 节点，在右侧 字段设置 页签，将 特征列 设置为 trend、xiansun 和 ...
应用场景
实时数据通道 1.1 接入多种异构数据并投递到下游多种大数据系统 通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的释放数据的价值。...
什么是DataWorks
产品架构 DataWorks十多年沉淀数百项核心能力，通过 智能数据建模、全域数据集成、高效数据生产、主动数据治理、全面数据安全、数据分析服务六大全链路数据治理的能力，帮助企业治理内部不断上涨的“数据悬河”，释放企业的数据生产力。...
数据集成概述
数据集成是基于Dataphin构建的简单高效的数据同步平台，致力于提供具有强大的数据预处理能力、丰富的异构数据源之间数据高速稳定的同步能力。背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效的配置大量...
概述
业务挑战 大部分阿里云用户会将阿里云关系型数据库RDS、PolarDB for MySQL、MongoDB或者云服务器ECS自建数据库作为业务系统数据库，随着业务数据的增长，业务数据库存储的数据也越来越多。但RDS、PolarDB for MySQL、MongoDB或者ECS自建...
受众与核心能力
产品定位 DataWorks致力于为数据开发者、数据分析师、数据资产管理者，打造一个具备开放自主开发与全栈数据研发能力的一站式、标准化、可视化、透明化的智能大数据全生命周期云研发平台。DataWorks赋予用户仅通过单一平台，即可实现数据...
应用场景
数据审计 智能解析数据库及大数据的通信流量，细粒度审计数据访问行为，通过对数据源全量行为的审计溯源、危险攻击的实时告警、风险语句的智能预警，为您最敏感的数据库资产做好最安全的监控保障。个人信息合规 可精准区分和保护个人数据，...
典型场景
基于湖构建数据平台，支持BI、挖掘等业务 对象存储OSS可以作为湖存储，DLA基于OSS构建一站式的大数据平台。具体包括构建数据湖、数据ETL、交互式查询、机器学习等功能。构建数据湖 实时数据湖：支持DB的CDC与消息数据（如Kafka）入湖，构建...
数据集成概述
通过离线单条管道构建同步任务 离线的数据管道通过定义数据来源和去向的数据源和数据集，提供一套抽象化的数据输入组件、数据输出组件及流程和转换组件，并基于此框架设计一套简化版的中间数据传输格式，从而实现数据源之间数据传输。...
探查数据集
在当前页您可以了解 高价值数据、数据明细，并可以选择不同字段，进行排序和筛选等操作。数据列表的操作，请参考以下步骤。在列表上方的统计数据部分，查看每个字段的 唯一值个数。单击 或，查看 高价值数据 和 统计数据。可选，单击复选框...
数据分析概述
DataWorks提供的数据分析平台，可以流畅地进行数据处理、分析、加工及可视化操作。在数据分析板块中，您不仅可以在线洞察数据，还可以编辑和共享数据。本文为您介绍数据分析平台的优势、功能、权限等概要信息。产品优势 与本地数据分析相比...
外部表概述
MaxCompute支持使用外部表功能查询和分析存储于OSS等外部存储系统的数据。该机制使得用户可以无需将数据导入到MaxCompute内部存储，直接对外部数据进行操作，从而提供了数据处理的灵活性和方便性。背景信息 MaxCompute SQL作为分布式数据...
限制说明
项目 限制说明 数据类型 云数据库 Memcache 版仅支持 Key-Value 格式的数据，不支持 array、map、list 等复杂类型的数据。数据可靠性 云数据库 Memcache 版的数据存储在内存中，服务并不保证缓存数据不会丢失，有强一致性要求的数据不适合...
数据迁移
本文为您介绍数据迁移的最佳实践，包含将其他业务平台的业务数据或日志数据迁移至MaxCompute，或将MaxCompute的数据迁移至其它业务平台。背景信息 传统关系型数据库不适合处理海量数据，如果您的数据存放在传统的关系型数据库且数据量庞大...
访问外部数据源
因此，只能打通同一Region下的数据源。在Databricks数据洞察控制台，进入集群详情页面。点击详情页面 数据源 标签，在 添加数据源 弹窗选择要添加的数据源类型。在所选类型的数据源列表里勾选希望绑定的数据源类型，如果是EMR集群或ECS实例...
数据源开发和生产环境隔离
操作 新建：如果不存在适用环境下的数据源，显示 新建 编辑 和 删除：如果存在适用环境下的数据源，则显示 编辑 和 删除 按钮。删除开发环境和生产环境的数据源：需确认是否存在生产环境关联的同步任务，操作不可逆，删除后，在开发环境...
事件中心
在 TOP实例 页签，查看按事件数量排序的数据库实例统计信息。您可以通过 事件级别、事件名称 或 事件类型 进行筛选，快速找到目标事件。单击实例ID或者 操作 列的 详情，跳转到数据库实例的自治中心，查看事件的详细信息。查看计划/执行中...
管理数据库资产
添加PolarDB、PolarDB-X、AnalyticDB、OceanBase或通用类型数据库 配置项 说明 类型 选择PolarDB、PolarDB-X、AnalyticDB、OceanBase或通用类型下的数据库类型和版本。名称 设置数据库名称。地址和端口 填写数据库的IP地址和端口。单击 ...
概述
从应用视角看，全密态数据库可以解决不同应用场景下的数据安全问题，几种典型场景如下：平台安全运维：该场景主要针对在不可信环境（如第三方平台）下提供的数据库服务的安全防护，保证用户数据在运维过程中的安全。例如，业务将应用数据库...
独享资源组
独享调度资源组使用场景 如果非数据集成任务需要访问VPC环境下的数据库、有白名单访问控制的数据库时，需要使用独享调度资源组，独享调度资源组的使用详情请参见 新增和使用独享调度资源组。独享数据集成资源组使用场景 如果您需要同步VPC...
数据标准概述
核心概念 名词 说明 相关文档 标准集 标准集是规范相似或一致、业务含义相关的一组标准的合集，定义了该集合下的数据标准的管理和查看权限、发布流程的审批模板等信息，以便对数据标准进行更精准的管控。每个数据标准都必须归属唯一的一个...
数据标准概述
核心概念 名词 说明 相关文档 标准集 标准集是规范相似或一致、业务含义相关的一组标准的合集，定义了该集合下的数据标准的管理和查看权限、发布流程的审批模板等信息，以便对数据标准进行更精准的管控。每个数据标准都必须归属唯一的一个...
配置资源组与网络连通
独享数据集成资源组暂不支持经典网络环境下的数据库同步，建议您将经典网络环境下的数据库迁移至VPC环境。无法保障公网环境下的数据同步速度和任务稳定性，建议通过内网或者 云企业网 同步。背景信息 复杂网络环境下的数据源进行异构数据源...
资源组操作及网络连通
访问VPC环境下的数据库测试连通性失败，该如何处理？数据源连通性有时成功，有时失败，如何处理？资源组配置操作问题 已经购买独享资源组，但在数据源测试连通性时或任务执行时找不到该资源组怎么办？如何通过日志查看任务执行在什么资源组...
从这里开始
单击工作台页签下的 数据看板、三维城市、数据准备、资源管理 和左上角的 默认工作空间 模块处。在各个功能模块区域您可以体验产品的功能特性。功能 说明 数据看板 单击创建数据看板处，选择任意一种方式创建数据看板，创建完成后的数据...
查看异常统计
如果您需要查看租户粒度下的全局异常数据统计概况，则单击 图标进行切换查看。实时实例页面展示当前时间的异常统计信息排行。离线实例页面默认展示运行日期为当天的统计数据。同时，您可以选择查看最近7天内的统计数据。鼠标悬停至 图标，...
查看异常统计
如果您需要查看租户粒度下的全局异常数据统计概况，则单击 图标进行切换查看。实时实例页面展示当前时间的异常统计信息排行。离线实例页面默认展示运行日期为当天的统计数据。同时，您可以选择查看最近7天内的统计数据。鼠标悬停至 图标，...
请求分析
前提条件 数据库实例需要满足以下条件：全局慢日志功能，目前仅支持如下数据库实例：RDS MySQL MyBase MySQL PolarDB MySQL版 重要 全局慢日志功能仅支持中国内地的数据库实例。全量请求功能：目前仅支持华东2（上海）地域的数据库实例。...
生成测试数据
背景信息 OceanBase 开发者中心（OceanBase Developer Center，ODC）提供模拟数据功能供用户在测试数据库性能或者验证功能等需要大量模拟数据的场景下，能够快速根据表中的字段类型生成数据。注意事项 单次模拟数据上限为 1 亿行。拥有检查...
表设计规范
例如，在规范化设计表的同时对数据通道中的数据采集方式进行优化，可以减少分布式系统中小文件的问题，降低表和分区的维护数量。表设计主要影响 表设计影响的操作有：创建表、导入数据、更新表、删除表及管理表。其中，导入数据场景按照...
他云/自建数据库录入
具体权限说明如下：如需管理实例下的所有数据库，授权范围为整个实例的所有库。如需管理实例的单个或多个数据库，授权范围可指定具体的库。如需进行实例的增、删、改、查及表结构的修改等操作，需要给账号授予足够的DML权限。如需进行实例...
某网约车公司车辆轨迹数据
解决方案 在原有的架构上引入了阿里云数据库，并将全量数据写到 云原生多模数据库 Lindorm 中，同时增量数据通过Kafka、Spark等实时同步到 云原生多模数据库 Lindorm，这样解决了客户线下数据库数据过大的问题。客户需要存储最近3年的数据...
云数据库 RDS MySQL 版收集表的统计信息
什么情况下需要收集统计信息 当表上有大量的数据修改时，例如从数据源加载大量数据（ETL）或者大量历史数据归档，建议手动收集表上的统计信息，以保证查询优化器可以选取最优的执行计划。如何收集统计信息 您可以 连接MySQL实例 后执行如下...
数据源管理
在 已有数据集 页签中，选择需要添加的数据库下的空间表后，单击 添加到项目。说明 您也可以在 SQL查询 页签，通过自定义SQL语句查询所需数据。在数据源页签下查看已添加的数据。查看数据引用图层 选择任一数据，单击 图标，查看当前数据的...
用户价值
通过标准化、精细化、规格化的智能数据生产流程，完成流水线式的数据生产作业，提升数据资源生产效率、消除数据供应品质差异。数据服务更便捷：能够赋予数据以业务价值，让各级用户能够直观的理解数据，并以此为基础向应用输出多样、便捷的...
数据处理
本文为您详细介绍GDB Automl数据导入的方法。...解析后的数据帧，可以选择切分工具，按照自定义比例进行数据切分。帮助您自动划分训练集、验证集和测试集，划分时按照种子随机切分。单击 切分。单击 创建，得到拆分后的数据帧文件。
升级数据库大版本
本文介绍云数据库MongoDB支持升级的数据库大版本以及如何升级数据库大版本。注意事项 升级分片集群实例的数据库大版本时，实例的协议类型需为 MongoDB协议。升级采用轮转升级的方式进行，升级过程中会自动对实例进行2~3次重启，请在业务低...
pg_profile
pg_profile 是 PolarDB PostgreSQL版 支持的一款第三方插件，能够统计目标数据库中资源密集型活动，来分析和优化数据库。此扩展基于PostgreSQL的统计视图和部分社区插件，完全由PL/pgSQL编写，无需任何外部库或软件。配合 pg_cron 插件可以...
添加宜搭数据源
在 我的数据 页签中选择 数据源管理，单击 添加数据。在 添加数据 对话框中，类型 选择 宜搭数据源。填写宜搭数据源相关信息。参数 说明 自定义数据源名称（必填）数据源的显示名称。应用编码（必填）宜搭应用平台中已创建表单的应用编码。...
- 产品推荐
- 这些文档可能帮助您