数据模型概述
DDM目前支持逻辑模型和物理模型建模，其中物理模型又分为关系型数据模型和非关系型数据模型，支持的大数据引擎为MaxCompute、Hive。说明 Hadoop的MR调优参数属于底层，DDM是数据建模工具，支持设置表、字段等物理属性。
使用简介
Ganos Geometry Pyramid可以用于二维空间几何大数据的快速显示。数据要求 类型为Point、Line、Polygon、MultiPoint、MultiLine或MultiPolygon的空间数据表。每条记录必须包含一个唯一的正整数类型的ID字段（uint4/uint8）。必须已经为几何...
使用简介
Ganos Geometry Pyramid可以用于二维空间几何大数据的快速显示。数据要求 类型为Point、Line、Polygon、MultiPoint、MultiLine或MultiPolygon的空间数据表。每条记录必须包含一个唯一的正整数类型的ID字段（uint4/uint8）。必须已经为几何...
使用简介
Ganos Geometry Pyramid可以用于二维空间几何大数据的快速显示。数据要求 类型为Point、Line、Polygon、MultiPoint、MultiLine或MultiPolygon的空间数据表。每条记录必须包含一个唯一的正整数类型的ID字段（uint4/uint8）。必须已经为几何...
技术发展趋势
规模爆炸性增长 随着8K、5G、IoT、大数据、AI等系列技术的发展，数据量迎来了爆发式增长。IDC在《Data Age 2025》的报告中预测，从2018年到2025年，全球数据将从33ZB急速增长到175ZB，比2016年产生的数据量增加了十倍。这表明注重数据价值...
东软案例
如下图所示，阿里Lindorm数据库在赋能政企数字运维团队更强大的运维大数据分析能力的同时，大幅度提升了政府、企业数字系统性能和在线服务的客户数字体验，降低了低价值密度监控数据存储管理成本。图 1.阿里云Lindorm数据库驱动的IT运维...
云产品集成
常见云产品如下：大数据开发治理平台 DataWorks 实时计算 Flink 版 数据库管理 DMS DataV 数据可视化 Quick BI 数据分析与展现 前提条件 已获取 OceanBase 数据库的基本连接信息，详细步骤请参见 获取连接参数。大数据开发治理平台 ...
使用简介
地理网格是一种再现地球表面的多边形网格单元集合，可以用于表示地物在地理空间中的位置信息，融合其他各类时空数据。每个网格单元都会进行编码，网格与编码是一一对应的。三维地理网格不光考虑经纬度，还把高度维纳入剖分和编码范围。...
使用简介
地理网格是一种再现地球表面的多边形网格单元集合，可以用于表示地物在地理空间中的位置信息，融合其他各类时空数据。每个网格单元都会进行编码，网格与编码是一一对应的。三维地理网格不光考虑经纬度，还把高度维纳入剖分和编码范围。...
使用简介
地理网格是一种再现地球表面的多边形网格单元集合，可以用于表示地物在地理空间中的位置信息，融合其他各类时空数据。每个网格单元都会进行编码，网格与编码是一一对应的。三维地理网格不光考虑经纬度，还把高度维纳入剖分和编码范围。...
创建索引表
Ganos内置了多个空间索引，用户只需在前端输入时空数据，并指定要建立的索引即可，不用再关心HBase的KV如何设计与构建，使用较为方便。在数据写入之前，需要先定义好索引表结构。Ganos目前支持四类索引，适应于不同的查询场景。这些索引...
DataWorks模块使用说明
使用流程概览：参考文档：DataWorks数据建模 子模块：数据开发（DataStudio）功能说明：数据开发（DataStudio）是一站式大数据开发平台，支持在线开发MaxCompute、EMR、Hologres、CDP、ADB等多种大数据引擎的数据处理任务。它集成了强大的...
概述
解决方案 T+1全量同步一键建仓是指通过DLA控制台配置数据源（RDS、PolarDB for MySQL、MongoDB数据源、ECS自建数据库数据）和目标OSS数据仓库，系统按照您设定的数据同步时间自动、无缝的帮您把数据源中的数据同步到目标数据仓库OSS中，...
轨迹服务
解决方案 时空数据的在线查询与低成本存储 Lindorm Ganos时空数据类型为Lindorm宽表引擎的原生数据类型，因此您可以直接使用Lindorm宽表引擎的SQL语法进行在线时空范围查询和在线周边查询。Lindorm Ganos时空引擎提供高性能的时空在线查询...
大数据AI公共数据集分析
本教程通过DataWorks，联合云原生大数据计算服务MaxCompute，使用大数据AI公共数据集（淘宝、飞猪、阿里音乐、Github、TPC等公共数据），指导您如何快速进行大数据分析，快速熟悉DataWorks的操作界面与最基础的数据分析能力。DataWorks的更...
受众与核心能力
产品定位 DataWorks致力于为数据开发者、数据分析师、数据资产管理者，打造一个具备开放自主开发与全栈数据研发能力的一站式、标准化、可视化、透明化的智能大数据全生命周期云研发平台。DataWorks赋予用户仅通过单一平台，即可实现数据...
客户案例
MaxCompute已被广泛应用于各大领域处理云上大数据，帮助众多企业解决了海量数据分析问题，同时降低企业运维成本，企业人员可更专注于业务开发。本文为您介绍MaxCompute的精选客户案例。MaxCompute的全量客户案例信息，请参见 行业客户案例...
数据集成支持的数据源
离线集成支持的数据源 数据源 读取 写入 大数据存储型数据源 MaxCompute 支持 支持 Hologres 支持 支持 IMPALA 支持 支持 TDH Inceptor 支持 支持 StarRocks 支持 支持 Hudi 支持 支持 Doris 支持 支持 GreenPlum 支持 支持 TDengine 不...
典型场景
基于湖构建数据平台，支持BI、挖掘等业务 对象存储OSS可以作为湖存储，DLA基于OSS构建一站式的大数据平台。具体包括构建数据湖、数据ETL、交互式查询、机器学习等功能。构建数据湖 实时数据湖：支持DB的CDC与消息数据（如Kafka）入湖，构建...
使用限制
由于Lindorm Ganos SQL在Lindorm宽表引擎的基础上支持Ganos时空数据服务，所以宽表SQL的使用限制也适用于Lindorm Ganos SQL，具体请参见 使用限制。Lindorm Ganos SQL的使用限制还包括以下几点：WHERE语句中，除了 ST_Contains、ST_DWithin...
JindoFS介绍和使用
JindoFS是基于阿里云对象存储OSS，为开源大数据生态构建的Hadoop兼容文件系统（Hadoop Compatible File System，HCFS）。JindoFS提供兼容对象存储的纯客户端模式（SDK）和缓存模式（Cache），以支持与优化Hadoop和Spark生态大数据计算对OSS...
数据仓库研发规范概述
在大数据时代，规范地进行数据资产管理已成为推动互联网、大数据、人工智能和实体经济深度融合的必要条件。贴近业务属性、兼顾研发各阶段要点的研发规范，可以切实提高研发效率，保障数据研发工作有条不紊地运作。而不完善的研发流程，会...
减灾与应急时空解决方案与案例
在数据与系统上云过程前，遇到了如下挑战：长期积累的时空数据类型多、数据量巨大，包括中国和全球地震、地质、台风、洪水、高温、低温、暴雨、雪灾、森林和草原火灾等灾种中高精度风险地图数据，台风、地震、滑坡、森林草原火灾等全球准...
将时空数据写入宽表引擎
本文介绍将流引擎中的时空数据写入宽表的具体方法。前提条件 已安装Java环境，要求安装JDK 1.8及以上版本。如果客户端没有部署在ECS，需要将客户端IP地址添加至Lindorm实例的白名单中，具体操作请参见 设置白名单。如果应用部署在ECS，您...
应用场景
大数据场景 云数据库HBase支持海量全量数据的低成本存储、快速批量导入和实时访问，具备高效的增量及全量数据通道，可轻松与Spark、MaxCompute等大数据平台集成，完成数据的大规模离线分析。优势如下：低成本：高压缩比，数据冷热分离，...
核心能力
数据资源平台提供了一站式数据资产定义、生产、管理与服务平台，提供企业级数据资产构建能力和一致性使用体验，助力客户快速构建数据智能平台，实现数据资源统一管理，挖掘潜在规律，优化业务决策，让大数据真正的驱动客户业务。...
EMR+DLF数据湖解决方案
通过EMR+DLF数据湖方案，可以为企业提供数据湖内的统一的元数据管理，统一的权限管理，支持数据湖的多种管理如数据生命周期，湖格式自动优化，存储分析等。同时支持多源数据入湖以及一站式数据探索的能力。本文为您介绍EMR+DLF数据湖方案...
创建索引表
Ganos内置了多个空间索引，用户只需在前端输入时空数据，并指定要建立的索引即可，不用再关心HBase的KV如何设计与构建，使用较为方便。因此，在数据写入之前，需要先定义好索引表结构。Ganos目前支持五类索引，适应于不同的查询场景。这些...
PostGIS
classOf[GanosSparkKryoRegistrator].getName).getOrCreate()import spark.implicits._/SparkSession加载JTS包用于处理时空数据 spark.withJTS val sc=spark.sparkContext 加载数据：/配置链接参数 val dsParams:JMap[String,String]=Map(...
应用场景
云数据库MongoDB版支持单节点、副本集和分片集群三种部署架构，具备安全审计、时间点备份等多项企业能力。在互联网、物联网、游戏、金融等...大数据应用：使用云数据库MongoDB作为大数据的云存储系统，随时进行数据提取分析，掌握行业动态。
实验介绍
涉及产品 本案例涉及以下产品：一站式大数据开发治理DataWorks 本案例通过DataWorks实现数据采集，加工，质量监控，与数据可视化展现，您需提前开通该服务。详情请参见 开通DataWorks服务。云原生大数据计算服务MaxCompute 实现底层加工...
数据集成支持的数据源
离线集成支持的数据源 数据源 读取 写入 大数据存储型数据源 MaxCompute 支持 支持 Hive 支持 支持 Hologres 支持 支持 IMPALA 支持 支持 TDH Inceptor 支持 支持 Kudu 支持 支持 StarRocks 支持 支持 Hudi 支持 支持 Doris 支持 支持 ...
数据导入概览
使用DataWorks数据集成同步数据到GDB DataWorks 是阿里云上的一站式大数据智能云研发平台，其中数据集成服务支持导出数据到GDB，您也可以使用平台完成数据计算、筛选、转换等处理再同步到GDB。DataWorks的GDB数据源底层由GdbWriter插件提供...
时空函数
时空函数用于分析和计算时空数据，适用于有时空范围查询、地理围栏判断和时空数据挖掘等需求的场景，例如网约车、城市交通规划、导航等。本文介绍Lindorm流引擎支持的时空函数。函数分类 相关文档 描述 输出函数 ST_AsText 返回指定...
GeoJson格式说明
HBase Ganos的REST接口采用GeoJson形式来描述时空数据，本文对GeoJson形式进行描述说明。一个典型的时空“点”数据（可理解为轨迹点）格式如下：{"type":"Feature","geometry":{"type":"Point","coordinates":[125.6,10.1]},"properties":{...
空间数据类型
创建时空数据表时指定空间列的数据类型。Point 表示点类型数据，由坐标经度x和纬度y组成。说明 不支持三维点坐标的计算，存储的三维点在计算时会被转为二维点。车辆、船舶接收到的GPS坐标信息。LineString 表示线类型数据，由两个或多个点...
概述
DataWorks的安全中心作为云上大数据体系的安全门户，致力于向您提供面向数据安全生命周期全过程的安全能力，同时在符合安全规范要求的前提下，提供各类安全诊断的最佳实践。其核心功能如下：数据权限管理 安全中心为您提供精细化的数据权限...
DataWorks产品安全能力介绍
数据列级别多级审批：基于底层大数据引擎的访问控制列表与数据分级分类，DataWorks支持按项目与数据分级分类，定义数据列的权限申请及审批策略。说明 仅DataWorks企业版支持您根据业务需要自定义审批流程。数据质量规则：支持管理员配置...
创建GreenPlum数据源
通过创建GreenPlum数据源能够实现Dataphin读取GreenPlum的业务数据或向GreenPlum写入数据。本文为您介绍如何创建GreenPlum数据源。背景信息 Greenplum是一款大数据分析引擎，作用于分析、机器学习和AI等领域。其架构主要针对管理大规模分析...
Ganos并行创建空间索引
PolarDB PostgreSQL版（兼容Oracle）提供了Ganos并行创建空间索引功能，本功能采用空间排序（GiST Sort）的方法，可将索引构建过程并行化，并大幅减少磁盘的读写操作，实现索引构建加速，您可通过本章节的内容体验千万级时空数据创建空间...
- 产品推荐
- 这些文档可能帮助您