非结构化分析
AnalyticDB PostgreSQL版 的向量分析旨在帮助您实现非结构化数据的近似检索和分析，具备丰富...低成本 向量数据占用空间非常大，1条512维float向量，占用2k存储空间，AnalyticDB PostgreSQL版 向量支持FP32数据压缩成FP16，降低一半存储成本。
创建并管理工作空间
管理工作空间引擎 DataWorks支持绑定MaxCompute、E-MapReduce和实时计算等多种类型的计算引擎，并将其作为工作空间的引擎实例用于在DataWorks执行该引擎类型的计算任务，并管理引擎中存储的数据。管理中心 查看及修改工作空间配置信息 工作...
场景：工作空间模式升级（简单模式升级标准模式）
若简单模式工作空间数据源（即生产环境数据源）的 默认访问身份 为 任务责任人，则升级之后，生产环境数据源的 默认访问身份 更新为 阿里云主账号。数据源已绑定至数据开发 复制一份生产环境的数据源至开发环境，并且开发环境数据源的...
从自建MySQL迁移至RDS实例
说明 由于全量数据迁移会并发INSERT导致目标实例的表存在碎片，全量迁移完成后目标库的表空间会比源库的表空间大。增量数据迁移 在全量迁移的基础上，DTS会读取自建MySQL数据库的binlog信息，将自建MySQL数据库的增量更新数据同步到目标RDS...
从自建TiDB增量迁移至RDS MySQL
说明 由于全量数据迁移会并发INSERT导致目标实例的表存在碎片，全量迁移完成后目标库的表空间会比源库的表空间大。增量数据迁移 DTS从Kafka集群中获取TiDB产生的Binlog数据，然后将对应的增量更新实时迁移至到目标库中。增量数据迁移阶段...
查看工作空间信息
您可通过数据地图查看当前租户下的工作空间列表以及工作空间的详细信息，并对工作空间的项目或数据库执行相关管理操作。进入工作空间 登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据治理>数据地图，在右侧页面中单击 进入...
附录：预设角色权限列表（空间级）
DataWorks提供项目所有者、空间管理员、数据分析师、开发、运维、部署、访客、安全管理员、模型设计师这几种角色，本文将为您介绍具体角色的权限说明。DataWorks提供的空间预设角色默认拥有所有空间级模块的可读权限，但不同空间预设角色所...
CreateProject
ProjectIdentifier String 是 test 工作空间的名称，只能包含大小写字母、数字和下划线，且首字母必须是字母或数字。ResourceManagerResourceGroupId String 否 rg-acfmzbn7pti3*资源组ID。Tags Array 否 标签。Key String 是 Env 标签键。...
UpdateProject
请求UpdateProject接口，更新DataWorks工作空间。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String ...
什么是备份数据量
概念 说明 数据库磁盘空间 数据库磁盘空间由数据库的数据文件空间、数据库的日志文件空间、操作系统文件空间和空闲空间组成。对于RDS来说，是购买时选择的存储空间；对于ECS来说，是购买时选择的系统盘和数据盘存储空间。数据文件空间 数据...
工作空间概述
后续：开始数据开发 创建工作空间并分配空间成员角色权限后，您可根据各角色定义的权限前往数据开发DataStudio模块开始数据开发工作，数据开发模块的入门教程详情请参见：数据开发：开发者。相关文档 在阅读工作空间的概述后，若您想创建...
ListProjectMembers
调用ListProjectMembers查询DataWorks工作空间中已存在成员的列表。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 ...
空间分析
数据空间 您可查看每个数据空间和单个表空间的使用情况，单击表名可查看对应表的字段、索引、拆分方式、物理表空间等信息。异常列表 实例的空间使用率检查：检查实例空间使用率是否大于90%。实例的剩余空间检查：检查实例空间剩余可用天数...
SETPROJECT
部分UDF在内存计算、排序的数据量比较大时，会报内存溢出错误，这时候可以调大该参数，但该方法只能暂时缓解，您需要从业务上去优化UDF代码。取值范围：256 MiB~12288 MiB。默认值为1024 MiB。UDF SQL Session odps.sql.udf.timeout 设置...
产品简介
大数据专家服务 大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、咨询服务及售后专家服务运维保障，帮助用户...
GetProject
调用GetProject查询一个DataWorks工作空间的信息。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String...
ListProjects
调用ListProjects，分页列出用户所在租户下的DataWorks工作空间列表。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 ...
应用场景
实时数据通道 1.1 接入多种异构数据并投递到下游多种大数据系统 通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的释放数据的价值。...
什么是DataWorks
DataWorks基于MaxCompute、Hologres、EMR、AnalyticDB、CDP等大数据引擎，为数据仓库、数据湖、湖仓一体等解决方案提供统一的全链路大数据开发治理平台。从2009年起，DataWorks不断沉淀阿里巴巴大数据建设方法论，支撑数据中台建设，同时与...
发展历程
关键性里程碑 2009年9月，ODPS（即现在的MaxCompute）大数据平台飞天项目正式启动。2010年10月，阿里巴巴集团自主研发的第一代云计算平台稳定运行。2013年8月，平台的单集群规模已达到5000台。2014年7月，平台开始对外提供服务，完全替换...
敏感数据概况
您在配置规则后，数据发现页面可以帮助您有效识别工作空间内的敏感数据。前提条件 阿里云主账号已授权阿里云主账号开通数据保护伞，详情请参见 数据保护伞概述。背景信息 您可以在完成敏感数据规则配置的第二天，查看数据分布情况。说明 ...
空间分析
PolarDB MySQL版 的一键诊断融合了DAS部分功能，您可以通过空间分析，来查看目标集群的空间使用概况、空间剩余可用天数，以及数据库...单击 数据空间 页签，您可以查看每个数据库和单个表的空间使用情况。单击表名可查看对应表的字段和索引。
配置治理单元
登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据治理>数据治理中心，在下拉框中选择对应工作空间后单击 进入数据治理中心。单击顶部菜单栏的 配置管理，在 配置管理 页面的左侧导航栏单击 治理单元，进入 治理单元 页面。...
GetOpSensitiveData
调用GetOpSensitiveData，获取租户下所有DataWorks工作空间指定日期的敏感数据访问记录。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 ...
开通备份恢复
云原生多模数据库 Lindorm 宽表引擎支持数据备份恢复功能，该功能基于数据生态服务中的数据迁移，将数据存储至阿里云对象存储服务OSS（Object Storage Service，简称OSS）中，定期全量备份数据，实时增量同步数据，来满足对数据备份和数据...
大数据安全治理的难点
存储 众所周知，大数据系统以数据类型多（结构化、非结构化、半结构化）、数据量大（动辄PB级别）著称，某些巨头组织一天就能新增数十万甚至数百万张表，如此体量给数据分级分类带来了极大挑战，通过人工进行数据分级分类显然是不现实的，...
构建数据仓库
DataWorks具有通过可视化方式实现数据开发、治理全流程相关的核心能力，本文将为您介绍DataWorks在构建云上大数据仓库和构建智能实时数据仓库两个典型应用场景下的应用示例。构建云上大数据仓库 本场景推荐的架构如下。适用行业：全行业...
客户案例
价值体现 从大数据平台上云整体“降本增效”的方案快速切入，迁移到大数据MaxCompute、实时计算、DataWorks后，部分任务有10倍以上的性能提升，存储从自建Hadoop 3PB降到900T，利用Flink实时数据处理能力，将宝宝树现有的场景实时化（...
通用数据开发
通常数据开发的总体流程包括数据产生、数据收集与存储、数据分析与处理、数据提取和数据展现与分享。说明 上图中，虚线框内的开发流程均可基于阿里云大数据平台完成。数据开发的流程如下所示：数据产生：业务系统每天会产生大量结构化的...
数据分析整体趋势
大数据与数据库一体化：早期大数据技术以牺牲一定程度一致性为基础提供分布式能力，解决了传统单机数据库的扩展性不足问题，在MapReduce基础上提供了标准SQL接口，架构上也逐步采用了部分MPP数据库技术；另一方面，分布式数据库也快速发展...
数据标准
数据是由特定的环境产生的，这些环境因素包括生产者、时间、系统等，从而造成了同一个语义的数据，有...说明 目前使用DDM进行数据建模可以进行逻辑建模和物理建模，但物理建模仅支持MaxCompute和Hive两种大数据引擎，不支持自定义数据源类型。
什么是RDS PostgreSQL
Ganos时空引擎：Ganos时空引擎提供一系列的数据类型、函数和存储过程，用于在阿里云RDS PostgreSQL中对空间/时空数据进行高效的存储、索引、查询和分析计算。RDS PostgreSQL支持的功能请参见 PostgreSQL功能概览。说明 如果业务复杂，您也...
管理数据树
您可以查看当前表的数据条数、空间大小、项目引用和数据表。若当前表为空间表，可以查看地图数据。说明 非空间表不支持地图预览。若当前数据为栅格数据，您还可以做以下操作。查看栅格元数据：在数据表 操作 栏单击 图标，查看栅格元数据。...
开启和使用冷数据分层存储
数据冷存的几种模式 数据冷存是指将数据表/索引/物化视图转存入OSS，转存后不再占用或者极少量占用数据库云盘存储空间，从而大大降低数据库的存储成本。数据冷存后，所有的增删改查SQL都透明，无需做任何修改。普通表/索引/物化视图冷存 将...
开启和使用冷数据分层存储
数据冷存的几种模式 数据冷存是指将数据表/索引/物化视图转存入OSS，转存后不再占用或者极少量占用数据库云盘存储空间，从而大大降低数据库的存储成本。数据冷存后，所有的增删改查SQL都透明，无需做任何修改。普通表/索引/物化视图冷存 将...
开启和使用冷数据分层存储
数据冷存的几种模式 数据冷存是指将数据表/索引/物化视图转存入OSS，转存后不再占用或者极少量占用数据库云盘存储空间，从而大大降低数据库的存储成本。数据冷存后，所有的增删改查SQL都透明，无需做任何修改。普通表/索引/物化视图冷存 将...
云产品集成
常见云产品如下：大数据开发治理平台 DataWorks 实时计算 Flink 版 数据库管理 DMS DataV 数据可视化 Quick BI 数据分析与展现 前提条件 已获取 OceanBase 数据库的基本连接信息，详细步骤请参见 获取连接参数。大数据开发治理平台 ...
空间数据（邀测中）
空间数据支持单文件、多文件、数据库等多种形态，矢量、栅格、倾斜摄影等多种类型，不同格式的多源异构空间数据的接入和管理；支持本地上传、从OSS导入等多种方式添加数据；添加数据的同时支持各类型空间数据的元信息自动解析，支持按空间...
DataWorks模块使用说明
使用流程概览：参考文档：DataWorks数据建模 子模块：数据开发（DataStudio）功能说明：数据开发（DataStudio）是一站式大数据开发平台，支持在线开发MaxCompute、EMR、Hologres、CDP、ADB等多种大数据引擎的数据处理任务。它集成了强大的...
功能简介
空间数据支持单文件、多文件、数据库等多种形态，矢量、栅格、瓦片、倾斜摄影等多种类型，不同格式的多源异构空间数据的接入和管理；支持本地上传、从OSS导入等多种方式添加数据；添加数据的同时支持各类型空间数据的元信息自动解析，支持...
- 产品推荐
- 这些文档可能帮助您