TairDoc性能白皮书
文档作为二进制树存储，可以快速访问JSON数据的子元素。支持JSON到XML或YAML格式的转换。更多信息请参见 TairDoc。测试说明 数据库测试环境 测试环境信息 说明 地域和可用区 华北3（张家口）地域，可用区A。存储介质 内存型（兼容Redis 6.0...
Delta Lake 快速开始一
该Notebook展示了如何将JSON数据转换为Delta Lake格式，创建Delta表，在Delta表中Append数据，最后使用Delta Lake元数据命令来显示表的历史记录、格式和详细信息。前提条件 通过主账号登录 阿里云 Databricks控制台。已创建集群，具体请...
JSON与XML解析库
请求参数 参数 必选 类型 说明 property_value 是 string JSON 格式数据 property_type 是 int 解析类型，0 表示 JSON，1 表示 XML 返回值 参数 必选 类型 说明 result 是 uint 处理 JSON 数据解析的标识符 property_destroy 删除 JSON 与 ...
什么是消息解析
对于低配置且资源受限或者对网络流量有要求的设备，不适合直接构造JSON数据与物联网平台通信，可将原数据透传到物联网平台。物联网平台提供消息解析功能，可以根据您提交的脚本，将消息数据在设备自定义格式和JSON格式之间转换。背景信息 ...
JSON
背景信息 JSON 格式能基于JSON结构读写JSON数据。当前，JSON结构是从表结构自动推导而得的。支持JSON格式的连接器有：消息队列Kafka、Upsert Kafka、Elasticsearch、对象存储OSS，云数据库MongoDB 和 StarRocks 等。使用示例 利用Kafka以及...
数据存储
根据采集到的不同数据类型，AnalyticDB采用不同的后台存储系统来进行监控数据的存储。时序数据存储 时序数据库对时序数据的写入、聚合以及检索都做了特定优化，AnalyticDB采集到的时序数据主要存在时序数据库中。目前每个AnalyticDB实例有...
文件分析
云数据库 SelectDB 版 支持表函数功能（Table-Value-Function或TVF），可以将S3、HDFS等常见远端存储中的文件数据，映射成 云数据库 SelectDB 版 中的表，从而对这些文件数据进行分析。S3表函数 S3表函数可以让您像访问关系型数据库一样，...
内建函数概述
如果表存在其他引擎读取情况，比如Hologres等，目前不支持读取JSON数据类型。暂不支持对一张表新增JSON列。暂不支持对JSON类型的比较操作，也不支持对JSON类型进行 ORDER BY、GROUP BY 或作为 JOIN 的key等。目前JSON NUMBER的整数和小数...
调试实时任务
说明 Kafka中支持json、csv、canal-json、maxwell-json、debezium-json数据格式的自动抽样。Kafka自动抽样仅支持 无认证 和 用户名+密码认证 方式，不支持SSL。Kafka自动抽样时，支持选择读取数据范围，最大抽样条数为 100 条。完成所有...
脚本和输出语法
数据服务中数据解析的数据源：物联网平台是基于数据解析后的JSON数据格式来处理和传递数据的。数据格式示例为：{"payload":{"key1":"value1","key2":"value2"},"ts":1623516625000 } payload：固定系统字段，其下字段（例如：key1、key2）...
2023年
2023-06 功能名称 功能描述 发布时间 发布地域 相关文档 新增JSON数据类型 新增JSON数据类型，MaxCompute支持写入JSON数据类型时，自动优化存储，提高JSON数据计算分析性能。2023-06-27 全部地域 MaxCompute JSON类型使用指南（试用Beta...
通过数据同步功能同步Kafka至湖仓版（推荐）
{"name":"zhangle","age":18,"device":{"os":{"test":lag,"member":{"fa":zhangsan,"mo":limei } },"brand":"none","version":"11.4.2"} } JSON数据解析后，对应0~4层的效果如下。0层解析 不做任何解析，直接输出原始JSON数据。JSON字段 值...
调试实时任务
说明 Kafka中支持json、csv、canal-json、maxwell-json、debezium-json数据格式的自动抽样。Kafka自动抽样仅支持 无认证 和 用户名+密码认证 方式，不支持SSL。Kafka自动抽样时，支持选择读取数据范围，最大抽样条数为 100 条。完成所有...
SQL表达式
创建数据流转规则时，需编写SQL来解析和处理设备上报的JSON数据。二进制格式的数据不做解析，直接透传。本文主要介绍如何编写数据流转规则的SQL表达式。SQL表达式 重要 若物模型标识符以数字开头，不支持使用SQL表达式访问该物模型，即旧版...
设备使用物模型通信
物联网平台提供物模型功能定义能力，设备可通过物模型通信Topic按照Alink JSON数据格式，实现与物联网平台交互通信。本文介绍设备与物联网平台之间，如何通过物模型实现多场景消息通信。背景信息 物联网平台提供的物模型功能定义和使用说明...
应用场景
表格存储 有互联网应用架构（包括数据库分层架构和分布式结构化数据存储架构）、数据湖架构和物联网架构三种典型应用架构。本文结合 表格存储 的典型应用架构介绍了不同应用架构下的应用场景。互联网应用 目前互联网已在日常生活中广泛应用...
基于GitHub公开事件数据集的离线实时一体化实践
已开通对象存储OSS并在ECS中安装ossutil工具，用于存储 GH Archive 提供的JSON数据文件，详情请参见 开通OSS服务 和 安装ossutil。已开通大数据计算服务MaxCompute并创建Project，详情请参见 创建MaxCompute项目。已开通大数据开发治理平台...
数据湖投递概述
表格存储 数据湖投递可以全量备份或实时投递数据到数据湖OSS中存储，以满足更低成本的历史数据存储，以及更大规模的离线和准实时数据分析需求。应用场景 利用数据湖投递可以实现如下场景需求：冷热数据分层 数据湖投递结合 表格存储 的 ...
使用ROS模板选择和设置对象
资源编排支持通过新增对象数组、元素数组和参数对象对JSON数据进行扩展，增强JSON对象的校验逻辑。对象数组 对象数组为单一对象，数组元素支持所有的ROS模板参数类型。模板示例 ROSTemplateFormatVersion:'2015-09-01' Parameters:...
RestAPI（HTTP形式）数据源
是 无 column 生成JSON数据对应的字段路径列表，type指定源数据的类型，name指定当前column数据放置的JSON路径。您可以指定column字段信息，配置如下。column":[{"type":"long","name":"a.b"/放置column数据到路径a.b},{"type":"string",...
使用Kafka（离线与实时）
FLATTEN：消息格式为JSON数据类型的字符串，JSON中的Key和Value会被解析，写入到对应的MaxCompute表中，其中JSON数据中的Key和需要与MaxCompute的表列名对应。关于不同格式消息导入的案例，详情请参见 使用示例。mode 否 消息同步到...
脚本语法
重要 待处理的数据源必须转换为JSON格式数据，即数组或者嵌套的JSON数据。定义字段，然后筛选设备上报的字段数据，并赋值给定义的字段。定义字段标识符和数据类型的规则，请参见本文下方的“标识符”和“数据类型”。脚本文件中支持使用...
提交物模型消息解析脚本
背景信息 数据格式为 ICA标准数据格式，设备按照物联网平台定义的标准数据格式生成消息上报，标准Alink JSON数据格式说明，请参见 设备属性、事件、服务。数据格式为 透传/自定义，设备通信时，需要物联网平台调用您提交的消息解析脚本，将...
时序分析存储概述
使用分析存储（Analytical Store）功能，您可以低成本存储时序数据以及快速查询和分析时序数据。分析存储功能主要用于时序数据长期存储和分析场景。背景信息 分析存储是 表格存储 针对时序场景进行定制优化的低成本存储引擎。分析存储不仅...
复杂类型函数
JSON_FORMAT 将JSON数据转换成STRING类型，默认不自动进行美化。JSON_PARSE 将STRING类型转成JSON类型，非JSON格式转换为字符串会报错。JSON_VALID 检查字符串是否为合法的JSON格式。CAST 支持基本类型与JSON类型的转换。说明 以下函数示例...
数据类型
针对非完全合法的JSON数据，日志服务支持解析合法部分。例如以下为非完整的JSON日志，日志服务可正确解析 content.remote_addr 字段、content.request.request_length 字段和 content.request.request_method 字段。content:{ remote_addr:...
JSON函数和操作符
本文描述了用于处理和创建JSON数据的函数和运算器，以及SQL/JSON路径语言。处理和创建JSON数据 json和jsonb操作符表展示了可以用于JSON数据类型的操作符。此外，比较操作符表所示的常用比较操作符也适用于 jsonb，但不适用于 json。比较...
安全隧道通信协议
表 1.Tunnel Header的JSON数据 参数 数据类型 说明 frame_type Integer 隧道帧类型。可取值为：1：common_response，响应数据。2：session_create，创建Session。3：session_release，关闭Session。4：data_transport，创建Session内的数据...
产品优势
本文介绍了 表格存储 的优势，包括多模型数据存储、多元化数据索引、多计算生态接入、访问安全性等。多模型数据存储 表格存储 支持宽表（WideColumn）模型、时序（TimeSeries）模型、消息（Timeline）等多种数据存储模型，能实现多种类型...
配置API输出组件
请求的数据结构 请求传递的JSON数据的格式。单条数据：一次请求只传递一条数据，有几条数据就进行几次请求。多条数据：一次请求以数组形式传递一批数据，每次传递的数据量为批量条数的值。URL路径 非必填，输入URL中的路径，此处的路径会被...
Delta Lake 快速入门
此快速入门演示如何生成管道，以便将JSON数据读入Delta表、修改表、读取表、显示表历史记录，以及优化表。有关演示这些功能的Databricks笔记本，请参阅 入门笔记本。创建表 若要创建一个delta表，可以使用现有的Apache Spark SQL代码，也...
配置API输出组件
请求的数据结构 请求传递的JSON数据的格式。单条数据：一次请求只传递一条数据，有几条数据就进行几次请求。多条数据：一次请求以数组形式传递一批数据，每次传递的数据量为批量条数的值。URL路径 非必填，输入URL中的路径，此处的路径会被...
外部表常见问题
在MaxCompute中使用OSS外部表读取JSON数据的操作，请参见 在MaxCompute中使用OSS外部表读取JSON数据。如何通过OSS外部表将多个小文件输出为一个文件？通过Logview日志，查看SQL的执行计划中最后一个是Reducer还是Joiner。如果是Reducer，则...
范围选择器功能介绍
选择数据格式 在选中地图中的区域范围后，可自定义选择所需的范围数据格式内容，可选数据格式内容包括如下几种：JSON API：单击链接右侧的 图标，即可复制JSON数据的API链接。JEOJEON API：单击链接右侧的 图标，即可复制JEOJEON数据的API...
范围选择器功能介绍
选择数据格式 在选中地图中的区域范围后，可自定义选择所需的范围数据格式内容，可选数据格式内容包括如下几种：JSON API：单击链接右侧的 图标，即可复制JSON数据的API链接。GeoJSON API：单击链接右侧的 图标，即可复制GeoJSON数据的API...
创建数据源
JSON 数据：无需手动输入，系统会根据所选的 文件模板 自动匹配 JSON 数据。文件编码：文件编码类型，支持 UTF-8 和 GBK。文件协议：文件协议定义了文件的解析方式，目前支持 SP、DE 和 FUND 三种类型。详情请参见下表。协议类型 说明 适用...
ElasticSearch
spark.conf spark.jars.packages org.elasticsearch:elasticsearch-spark-30_2.12:8.2.0 读取JSON数据，并将数据写入到ElasticSearch。spark/读取oss数据 val path="oss:/your bucket/data/es_case.json"val data=spark.read.option(...
JSON函数
您可以通过如下方式构造JSON数据：直接使用JSON数据。例如 json '{"a":1,"b":{"c":30}}'。通过CAST函数将字符串进行显式转换为JSON数据。例如 CAST('{"a":1,"b":{"c":30}}' AS json)。返回值类型：JSON ARRAY。示例：返回$.b 路径下的所有...
设置 AP 数据
setAPDataStorage 接口用于保存一个字符串到客户端统一存储，字符串...JSON 数据需要先字符串化。Y“”出参 回调函数带入的参数 result:{success}。属性 类型 描述 success bool 是否保存成功。错误码 错误码 描述 11 字符串长度超出限制。
JSON数据从MongoDB迁移至MaxCompute
db.userlog.find().limit(10)通过DataWorks将JSON数据从MongoDB迁移至MaxCompute 登录 DataWorks控制台。在DataWorks上创建目标表。用以接收从MongoDB迁移的数据。右键单击已创建的 业务流程，选择 新建表>MaxCompute>表。在 新建表 页面，...
- 产品推荐
- 这些文档可能帮助您