构建数据仓库
用户的应用场景复杂，对非结构化的语音、自然语言文本进行语音识别、语义分析、情感分析等，同时融合结构化数据搭建企业级的数据管理平台，并且计算和存储成本最低。平台支撑多种形式的应用，包括使用机器学习算法进行复杂数据分析、使用BI...
集成与开发概览
功能简介 数据集成与开发功能模块支持多种计算、存储引擎，支持结构化、半结构化、非结构化数据的实时集成、离线集成、开发、服务，能够满足企业各类数据加工、集成、开发、服务需求。您可以通过流批一体的数据集成对在线数据进行入仓、...
产品概述
数据总线 DataHub 同时支持强Schema的结构化数据（创建Tuple类型的Topic）和无类型的非结构化数据（创建Blob类型的Topic），您可以自由选择。高可用 服务可用性不低于99.9%。规模自动扩展，不影响对外服务；数据持久性不低于99.999%。数据...
应用场景
该场景可实现：实时多源数据同步 支持多业务数据源，结构化非结构化数据的实时同步。营销效果实时反馈 支持对海量日志数据和业务进行即时的复杂关联计算，提高营销效果反馈及时性。商业智能报表 该场景要求支持海量数据实时入库和计算，...
引擎类型
面向海量半结构化、结构化数据设计的分布式宽表引擎，具备全局二级索引、多维检索、动态列、TTL等能力，支持千万级高并发吞吐，支持百PB级存储，吞吐性能是开源HBase的3-7倍，P99时延为开源HBase的1/10，支持冷热分离，压缩率比开源HBase...
大数据安全治理的难点
存储 众所周知，大数据系统以数据类型多（结构化、非结构化、半结构化）、数据量大（动辄PB级别）著称，某些巨头组织一天就能新增数十万甚至数百万张表，如此体量给数据分级分类带来了极大挑战，通过人工进行数据分级分类显然是不现实的，...
数据分析整体趋势
技术发展趋势 商业数据库起步于二十世纪八十年代，主要代表为Oracle，SQL Server，DB2等结构化数据在线处理的关系型数据库，而以MySQL，PostgreSQL为代表的开源关系型数据库也在二十世纪九十年代得到了发展。近些年来，随着业务数据量的...
功能特性
Spark访问湖仓一体外部数据源 基于External Volume处理非结构化数据 通过创建External Volume挂载OSS的路径，利用MaxCompute权限管理系统对用户访问External Volume做细粒度的权限控制，同时利用 MaxCompute引擎处理External Volume内部的...
功能特性
通过Kafka导入数据 通过Flink导入数据 云数据库 SelectDB 版支持通过SelectDB提供的Flink连接器（SelectDB Connector for Apache Flink），将Kafka中的非结构化数据以及MySQL等上游业务数据库中的变更数据，实时同步到云数据库 SelectDB 版...
创建数仓分层
将原始的非结构化数据（例如，日志信息）进行结构化处理，并存储至MaxCompute。根据实际业务需求，记录原始数据的历史变化或对原始数据进行简单的清洗。ODS层的数据表，命名必须以 ods 开头，并且生命周期为 366 天。明细数据层 DWD（Data ...
Schema约束
无论是在APM领域，还是IoT领域，或者是更偏传统的工业领域，时序数据所表现出的数据模型更像是一个半结构化数据——有其遵循结构化定义的一面、也有可灵活扩展的一面，而不是完全等同于关系型数据库的纯结构化。而在实际应用中，随着设备的...
离线同步数据质量排查
在半结构化数据同步时往往涉及多个文件同步，您需要确认数据读取、写出的文件集合是否完整。依赖产出未完成 如果是周期产出的数据（周期的数据同步任务、周期的全增量数据融合Merge任务等），需要检查下对应的数据产出任务是否正常执行并...
对象命名
与传统文件系统中的层级结构不同，OSS内部使用扁平结构存储数据。即所有数据均以对象（Object）的形式保存在存储空间（Bucket）中。对象（Object）是OSS存储数据的基本单元，也被称为OSS的文件。OSS通过键名（Key）唯一标识存储的Object。...
RDS搭配异构数据库实现数据多样化存储
多结构数据存储 OSS是阿里云对外提供的海量、安全、低成本、高可靠的云存储服务。RDS可以和OSS搭配使用，组成多类型数据存储解决方案。例如，当业务应用为论坛时，RDS搭配OSS使用，论坛用户的图像、帖子内的图像等资源可以存储在OSS中，以...
访问列存数据
Lindorm计算引擎支持将半结构化、结构化数据以列存方式进行存储，相较于行式存储，列式存储的查询响应时间更短，消耗IO更少。本文介绍如何通过计算引擎访问Lindorm列存数据。背景信息 Lindorm列存是面向海量半结构化、结构化数据设计的列...
数据扫描和识别
DSC 对非结构化数据源中存储的内容进行扫描，根据扫描结果判断是否为敏感数据。首次扫描：完成授权后，DSC 会对授权的OSS存储桶（Bucket）中的文件进行全量扫描。增量扫描：如果OSS文件有新增或修改时，DSC 会扫描该新增或修改的文件。是否...
敏感数据安全防护方案
在 授权管理 页签，单击非结构化数据OSS，然后单击 资产授权管理。在 资产授权管理 对话框，选中需要授权的OSS Bucket，然后单击 批量授权。您也可以单击目标Bucket右侧 授权，为单个Bucket授权。完成资产授权后，将会对开启授权的OSS存储...
数据导入方式介绍
通过JDBC使用程序导入数据 在数据清洗或复杂非结构化数据场景下，当外表和DataWorks导入无法满足定制化导入需求时，可以编写程序通过JDBC导入数据。常见使用场景 数据预处理后导入 业务端实时产生日志文件，需要对日志文件进行自动化解析并...
产品优势
特性对比 Lindorm VS 开源HBase VS 开源Cassandra Lindorm宽表引擎是面向海量半结构化、结构化数据设计的分布式存储，兼容HBase、Phoenix(SQL)、Cassandra等开源标准接口，下表介绍Lindorm与开源HBase和开源Cassandra的区别。特性 云原生多...
规格及选型
支持JSON等半结构化数据分析；支持数据湖分析，可实现最大程度的数据分析灵活性。案例五：互联网游戏企业 用户为互联网游戏企业，需要构建数据中台，对行为数据进行分析。平台通过清洗业务日志和数据关联分析，实时支持运营工具。存在工作...
2022年
2022-03-17 全部地域 OSS外部表 MaxCompute增加半结构化数据（JSON）新解析方式 MaxCompute支持用户JSON数据键值中带特殊字符点（.），可以用['']来读取带点作为键值的数据。2022-03-17 全部地域 GET_JSON_OBJECT_TUPLE 和 JSON_TUPLE ...
东软案例
客户价值 一体化指标、日志、代码链路、网络包等结构化、半结构化、无结构数据存储、检索、分析能力，降低开发部署复杂度。云端低成本海量运维数据存储，TCO大幅降低。高性能、高通量监控数据入库，轻松搞定大日活量应用系统监控。实时日志...
通用数据开发
数据开发的流程如下所示：数据产生：业务系统每天会产生大量结构化的数据，存储在业务系统所对应的数据库中，包括MySQL、Oracle和RDS等类型。数据收集与存储：您需要同步不同业务系统的数据至MaxCompute中，方可通过MaxCompute的海量数据...
索引介绍
适合存储半结构化的数据。业务在运行过程中，可以进行任意的属性列变更。支持数据自动过期清理和数据多版本。每列都可以存储多个版本的值，每个值会有一个版本号，同时也是一个时间戳，如果设置了数据自动过期，则会按照这个时间戳来判断...
数据存储目录结构说明
本章介绍文件引擎(LindormDFS)默认的数据存储目录结构。目录 说明/${实例ID}-global/${实例ID}_xxx 宽表引擎数据存储目录/solr 搜索引擎数据存储目录/tsdb 时序引擎数据存储目录 说明${实例ID}：lindorm实例ID。xxx：实例所在的区域，如...
玄武分析型存储
玄武分析存储引擎为用户提供高可靠、高可用、高性能、低成本的企业级数据存储能力，是AnalyticDB实现高吞吐实时写入、高性能实时查询的基础支撑。高吞吐实时写入 AnalyticDB通过三层并行架构实现了极强的吞吐能力，从接入层、到存储节点层...
图扑案例
原存储方案中采用了ElasticSearch、Prometheus、Hbase分别存储从现场传感器、第三方系统和用户终端设备采集的时序指标、日志、用户体验、网络流量等数据，随着数据量增加，可视化展示界面场景复杂化，数据存储和运维成本激增，检索难度快速...
表格存储建表注意事项
建议在使用表格存储时打破传统思想，使用大表的概念将同类型海量结构化及半结构化数据存在一张表上。表格存储服务本身的考虑 基于表格存储分布式的实现，表的个数也成为了表格存储本身的一个资源属性。可以理解为在表格存储集群规模一定的...
面临的业务挑战
数据散乱不一致 传统企业的数据具有多样性，包括结构化、半结构化以及非结构化的数据。数据来源上包含数据库数据、日志数据、对象数据以及已有数仓上的存量数据等。这些不同来源、不同格式的数据，各自又有不同的访问和分析方式，而大量...
产品架构
EMR Serverless StarRocks架构 EMR Serverless StarRocks的产品架构主要由以下三个层次构成：存储层：存算一体版：StarRocks内表使用云盘或本地盘作为数据存储的介质，使用StarRocks Table Format存储格式。存算分离版：StarRocks内表使用...
名词解释
术语 宽表引擎 时序引擎 说明 DATABASE 〇 〇 Database（数据库）是一个结构化的、用于存储和管理相关数据的集合。TABLE 〇 〇 Table（表）是一种结构化的数据对象，用于存储和组织相关的数据记录。构建表时需要定义表的Schema结构，包括表...
引擎简介
产品架构 云原生多模数据库 Lindorm 流引擎的架构图如下：云原生多模数据库 Lindorm提供了一体化的数据存储、计算和查询能力。流引擎面向流式数据，实现了流存储和流计算的融合一体化，提供高效的实时数据处理能力。同时，在元数据、SQL...
数据服务系统配置
当您修改时长小于之前设置的时长（例如：之前设置的是30天，现在修改变成20天），保存时需再次确认是否删除统计数据存储周期变小的时间段，如下图对话框中所示的时间区间。单次查询跨度小于等于：默认是31天，维度仅支持天，支持最大数值不...
创建Kudu数据源
背景信息 Kudu提供接近于关系数据库管理系统（RDBMS）的功能和数据模型，提供类似于关系型数据库的存储结构来存储数据，允许用户以和关系型数据库相同的方式插入、更新、删除数据。Kudu仅仅是一个存储层，并不存储数据，因此需要依赖外部的...
概述
数据集是数据的结构化形态，一切逻辑、权限、服务等都是从数据集展开。仪表盘是数据分析和数据展示的画布，在仪表盘中可以做实时的数据分析，也可以将数据制作为报表进行展示或分享。大屏是针对大屏幕的特殊数据展示画布，支持灵活自定义的...
数据可视化概览
数据集是数据的结构化形态，一切逻辑、权限、服务等都是从数据集展开。图表是数据的可视化形态，一切展示、交互、引导等都是从图表展开。说明 作为数据的两种不同形态，二者相辅相成，让您拥有一致的体验和认识。仪表盘和大屏是图表的组合...
应用场景
场景二：Redis作为存储数据库使用 游戏部署架构相对简单，主程序部署在ECS上，所有业务数据存储在Redis中，作为持久化数据库。云数据库Redis版 支持持久化功能，主备双机冗余数据存储。Redis的服务可靠性至关重要，一旦Redis服务不可用，将...
数据存储
时序数据存储 时序数据库对时序数据的写入、聚合以及检索都做了特定优化，AnalyticDB采集到的时序数据主要存在时序数据库中。目前每个AnalyticDB实例有一个独立的时序数据库进行服务，只保存当前AnalyticDB实例的时序数据。日志数据存储 ...
冷热分离介绍
冷热分离功能支持将冷热数据存储在不同的介质上，冷存储的存储类型为容量型存储，热存储的存储类型为标准型云存储、性能型云存储、本地SSD盘或本地HDD盘。冷存储的价格仅为标准型存储的20%，大大降低了存储成本。原理简介 在功能实现上，...
概述
本章节以搭建 碧玺绿地球通用模板 数据看板为例，为您演示如何使用DataV提供的模板来开发可视化数据看板。操作步骤 创建数据看板 配置组件样式 适配组件数据 预览并发布数据看板
- 产品推荐
- 这些文档可能帮助您