JSON数据列展开
数据库中常常需要处理JSON数据，例如，将JSON数据中的某些属性字段进行展开转换，转成行、列的关系型形式。JSON数据的展开方式灵活多变，本文通过详细的SQL示例，介绍如何展开JSON数据列。基本思路 使用 JSON函数，对JSON字符串进行解析和...
使用Kafka（离线与实时）
MaxCompute与Kafka的集成能够提供高效、可靠的数据处理和分析能力，适用于需要实时处理、大规模数据流和复杂数据分析的场景。本文介绍消息队列Kafka版和自建Kafka数据的写入流程，以及自建Kafka数据的写入示例。Kafka数据写入MaxCompute...
脚本和输出语法
脚本的解析能力包括获取消息内容、转换数据格式、处理字符串、组装JSON格式数据和处理二进制数据等。输出文件是使用固定的JSON数组格式，将设备上报数据或脚本解析后的数据，映射到数字孪生节点中。本文介绍如何编写脚本和输出文件。背景...
JSON_PARSE
将STRING类型转成JSON类型，非JSON格式的字符串转换会报错。命令格式 json json_parse()参数说明 ...相关函数 JSON_PARSE函数属于复杂类型函数，更多对复杂类型数据（例如ARRAY、MAP、STRUCT、JSON数据）的处理函数请参见 复杂类型函数。
功能优势
云数据库 数据存储服务是基于MongoDB托管在云端的数据库，数据以JSON格式存储。数据库中的每条记录都是一个JSON格式的对象。一个数据库可以有多个集合（相当于关系型数据中的表）。云存储 文件存储服务支持文本、图片和其他由用户生成的...
JSON_OBJECT
生成JSON OBJECT，要求key和value成对出现。...返回结果：+-+|_c0|+-+|{"a":123,"b":"hello"}|+-+相关函数 JSON_OBJECT函数属于复杂类型函数，更多对复杂类型数据（例如ARRAY、MAP、STRUCT、JSON数据）的处理函数请参见 复杂类型函数。
JSON数据从OSS迁移至MaxCompute
本文为您介绍如何通过DataWorks数据集成，将JSON数据从OSS迁移至MaxCompute，并使用MaxCompute内置字符串函数GET_JSON_OBJECT提取JSON信息。前提条件 开通MaxCompute和DataWorks。新增MaxCompute数据源。详情请参见 创建MaxCompute数据源。...
JSON数据从OSS迁移至MaxCompute
本文为您介绍如何通过DataWorks数据集成，将JSON数据从OSS迁移至MaxCompute，并使用MaxCompute内置字符串函数GET_JSON_OBJECT提取JSON信息。前提条件 开通MaxCompute。在DataWorks上完成创建业务流程，本例使用DataWorks简单模式。详情请...
离线同步数据质量排查
如果写出数据和目标存储已有数据发生数据约束（主键冲突、唯一键约束、外键约束等），数据库则使用来源数据update更新目标表已有数据行，在目标表存在多个数据约束的情况下，数据替换可能会失败并产生脏数据 如果写出数据和目标存储已有...
JSON_EXISTS
查看json_path对应的JSON值是否存在。命令格式 boolean json_exists...返回结果：+-+|_c0|+-+|false|+-+相关函数 JSON_EXISTS函数属于复杂类型函数，更多对复杂类型数据（例如ARRAY、MAP、STRUCT、JSON数据）的处理函数请参见 复杂类型函数。
设备影子概览
什么是设备影子 设备影子是一个JSON文档，用于存储设备上报状态数据和应用程序期望状态信息。JSON数据格式的详细说明，请参见 设备影子JSON详解。每个设备有且只有一个设备影子，设备可以通过MQTT获取和设置设备影子来同步状态，该同步可以...
复杂类型函数
您可以在MaxCompute SQL中使用复杂类型函数处理复杂数据类型，例如ARRAY、MAP、STRUCT、JSON。本文为您提供MaxCompute SQL支持的复杂类型函数的命令格式、参数说明及示例，指导您使用复杂类型函数完成开发。MaxCompute SQL支持的复杂类型...
基础折线图
图表样式 基础折线图是移动端组件中折线图的一种，与双轴折线图相比，基础折线图的一个类目只对应一个值，主要通过多系列数据配置的方式，展示同一类目下不同数据的变化，能够以折线和区域相结合的方式，智能地展示多维的数据变化趋势。...
基于GitHub公开事件数据集的离线实时一体化实践
阿里云OSS（Object Storage Service）是阿里云提供的云存储服务，可以用于存储各类数据，本次实践引用的原始数据是JSON格式，OSS可以提供方便、安全、低成本、可靠的存储能力。MaxCompute是适用于数据分析场景的企业级SaaS（Software as a ...
调试实时任务
说明 Kafka中支持json、csv、canal-json、maxwell-json、debezium-json数据格式的自动抽样。Kafka自动抽样仅支持 无认证 和 用户名+密码认证 方式，不支持SSL。Kafka自动抽样时，支持选择读取数据范围，最大抽样条数为 100 条。完成所有...
使用Android SDK请求OSS资源时出现No value for ...
由以上代码可知，使用OSSAuthCredentialsProvider方式的初始化，对于STS服务端返回的JSON数据是有要求的，如下为正确的JSON数据。说明 必须有字段StatusCode，且注意大小写区分。{"StatusCode":200,"AccessKeyId":"STS.NTH8...
TO_JSON
将给定的复杂类型 expr，以JSON字符串格式输出。命令格式 string to_json()参数说明 expr：必填。说明 如果输入为STRUCT类型（struct,key2:value2）：转换为JSON字符串时，Key会全部转为小写。value 如果为NULL，则不输出 value 本组的数据...
TairDoc性能白皮书
TairDoc是一种文档类型的数据结构，类似RedisJSON模块，支持JSON标准。本文介绍TairDoc的性能测试方法及测试结果。TairDoc的主要特性如下：完整地支持JSON标准。部分兼容 JSONPath RFC draft-4标准。说明 仅JSON.GET命令支持。完整地支持 ...
基于DLF、RDS或Flink、OSS支持Delta Lake或Hudi存储...
数据湖存储与管理 对象存储OSS 数据湖构建DLF 将在线数据库中的源数据引入数据湖时，OSS会作为数据湖的统一存储，存储机制包含Delta Lake和Hudi两种。同时，DLF采用元数据管理功能管理元数据库和元数据表。数据湖探索与分析 MaxCompute ...
数据类型
您在创建索引时，可将字段的数据类型设置为text、long、double或JSON。本文介绍各个数据类型的配置示例及注意事项。text类型 如果您要查询和分析字符串类型的字段，需在配置索引时，将字段的数据类型设置为text，并开启统计功能。说明 开启...
文件分析
云数据库 SelectDB 版 支持表函数功能（Table-Value-Function或TVF），可以将S3、HDFS等常见远端存储中的文件数据，映射成 云数据库 SelectDB 版 中的表，从而对这些文件数据进行分析。S3表函数 S3表函数可以让您像访问关系型数据库一样，...
调试实时任务
Session集群调试方式：即通过Session集群进行调试，调试的数据为 线上的真实数据 且为 流式数据（即来源表中写入数据时，将直接输出该条数据的计算结果，与真实线上运行任务的结果一致）。该方式下，Session集群提供Flink任务状态、日志和...
列式JSONB
为了提升JSONB数据的查询效率，Hologres从 V1.3版本开始支持对于JSONB类型开启列式存储优化，能够降低JSONB数据的存储大小并加速查询。本文将会为您介绍Hologres中列式JSONB的使用。列式JSONB原理介绍 如下图所示开启JSONB列式存储优化后，...
Delta Lake 快速开始一
该Notebook展示了如何将JSON数据转换为Delta Lake格式，创建Delta表，在Delta表中Append数据，最后使用Delta Lake元数据命令来显示表的历史记录、格式和详细信息。前提条件 通过主账号登录 阿里云 Databricks控制台。已创建集群，具体请...
SQL表达式
创建数据流转规则时，需编写SQL来解析和处理设备上报的JSON数据。二进制格式的数据不做解析，直接透传。本文主要介绍如何编写数据流转规则的SQL表达式。SQL表达式 重要 若物模型标识符以数字开头，不支持使用SQL表达式访问该物模型，即旧版...
2023年
2023-06 功能名称 功能描述 发布时间 发布地域 相关文档 新增JSON数据类型 新增JSON数据类型，MaxCompute支持写入JSON数据类型时，自动优化存储，提高JSON数据计算分析性能。2023-06-27 全部地域 MaxCompute JSON类型使用指南（试用Beta...
ElasticSearch
spark/读取oss数据 val path="oss:/your bucket/data/es_case.json"val data=spark.read.option("header","true").option("inferSchema","true").json(path)/数据处理展示 data.na.drop.show(10)/写入数据到ES data.write.format("org....
Delta Lake 快速入门
此快速入门演示如何生成管道，以便将JSON数据读入Delta表、修改表、读取表、显示表历史记录，以及优化表。有关演示这些功能的Databricks笔记本，请参阅 入门笔记本。创建表 若要创建一个delta表，可以使用现有的Apache Spark SQL代码，也...
CREATE INDEX
Lindorm提供了 三种 高效易用的索引：二级索引、搜索索引和列存索引，分别适用于非主键匹配场景、多维查询场景 和列存储数据查询场景。在使用CREATE INDEX语法创建索引时，您可以指定索引类型并添加索引属性。引擎与版本 CREATE INDEX语法...
脚本语法
脚本解析器的能力包括获取消息内容、转换数据格式、处理字符串、组装JSON格式数据、处理二进制数据和流转数据等。本文介绍如何编写解析脚本。背景信息 物联网平台是基于Topic中的数据格式来处理和传递数据的，数据格式的具体内容，请参见 ...
基于GitHub公开事件数据集的离线实时一体化实践
阿里云OSS（Object Storage Service）是阿里云提供的云存储服务，可以用于存储各类数据，本次实践引用的原始数据是JSON格式，OSS可以提供方便、安全、低成本、可靠的存储能力。MaxCompute是适用于数据分析场景的企业级SaaS（Software as a ...
配置API输出组件
配置API输出组件，可以将外部数据库中读取的数据写入到API，或从大数据平台对接的存储系统中将数据复制推送至API，进行数据整合和再加工。本文为您介绍如何配置API输出组件。前提条件 在开始执行操作前，请确认您已完成以下操作：已创建API...
配置API输出组件
配置API输出组件，可以将外部数据库中读取的数据写入到API，或从大数据平台对接的存储系统中将数据复制推送至API，进行数据整合和再加工。本文为您介绍如何配置API输出组件。前提条件 在开始执行操作前，请确认您已完成以下操作：已创建API...
JSON日志
本视频向您展示数据加工结构化数据JSON格式日志的解析。简单JSON解析 复杂JSON解析
计费常见问题
存储在MaxCompute的数据，例如表（Table）、资源（Resource），会占用存储空间，产生存储费用，MaxCompute会按照其数据量的大小计算费用，计费周期为天。更多存储计费信息，请参见 存储费用。删除MaxCompute项目中的几张大表后，显示的存储...
通过数据同步功能同步Kafka至湖仓版（推荐）
JSON字段 值 目标字段名_value_{"name":"zhangle","age":18,"device":{"os":{"test":lag,"member":{"fa":zhangsan,"mo":limei }},"brand":"none","version":"11.4.2"}}_value_1层解析 解析JSON的第一层字段。JSON字段 值 目标字段名 name ...
RestAPI（HTTP形式）数据源
RestAPI数据源为您提供读取和写入RestAPI双向通道的功能，本文为您介绍DataWorks的RestAPI数据同步的能力支持情况。使用限制 目前该数据源仅支持 独享数据集成资源组。目前不支持设置超时参数，当前DataWorks内置的请求超时时间是60s,如果...
快速入门
作为学院派关系型数据库管理系统的鼻祖，它的优点主要集中在对SQL规范的完整实现以及丰富多样的数据类型支持，包括JSON数据、IP数据和几何数据等，而大部分商业数据库都不支持这些数据类型。除了完美支持事务、子查询、多版本控制（MVCC）...
添加并配置组件
单点柱状层数据json文件[{"lat":40.12590042607967,"lng":116.67138384491768,"name":"label1","sizeField":170,"colorField":170 },{"lat":40.664972998299504,"lng":116.36282589914232,"name":"label2","sizeField":70,"colorField":70 ...
2023年
JSON_VALID JSON_PARSE JSON_FORMAT JSON_TYPE JSON_PRETTY JSON_EXTRACT JSON_ARRAY JSON_OBJECT JSON_EXISTS 2023-06-29 新增MaxCompute JSON类型使用指南（试用Beta版本）新说明 MaxCompute当前支持了JSON数据类型，提高了表中带有JSON...
- 产品推荐
- 这些文档可能帮助您