通过脚本模式创建集成任务
创建离线脚本模式后，可以通过直接编写数据同步的JSON脚本来完成数据同步开发，为数据同步开发提供了更灵活的能力和更精细化的配置管理。本文为您介绍如何创建离线脚本模式。前提条件 已完成数据源配置。您需要在配置集成任务前，配置好您...
云数据库的导入与导出
JSON 数据每个键值对的键名首尾不能是英文句号（.），并且不能包含多个连续的英文句号（.）。键名不能重复。CSV文件格式要求首行作为导入后的键名，用英文逗号（,）分隔，其余为键值记录，与首行键名一一对应。导入支持两种 冲突处理模式。...
支持的文件格式
JSON EsriJsonSerDe DLA支持Esri ArcGIS的地理JSON数据文件的SerDe处理，关于这种地理JSON数据格式说明，可以参考：https://github.com/Esri/spatial-framework-for-hadoop/wiki/JSON-FormatsCREATE EXTERNAL TABLE IF NOT EXISTS ...
配置API输出组件
请求的数据结构 请求传递的JSON数据的格式。单条数据：一次请求只传递一条数据，有几条数据就进行几次请求。多条数据：一次请求以数组形式传递一批数据，每次传递的数据量为批量条数的值。URL路径 非必填，输入URL中的路径，此处的路径会被...
配置API输出组件
请求的数据结构 请求传递的JSON数据的格式。单条数据：一次请求只传递一条数据，有几条数据就进行几次请求。多条数据：一次请求以数组形式传递一批数据，每次传递的数据量为批量条数的值。URL路径 非必填，输入URL中的路径，此处的路径会被...
Kafka实时入湖
get_json_object(cast(value as string),'$.id')as id,get_json_object(cast(value as string),'$.eventType')as eventType,get_json_object(cast(value as string),'$.bizCode')as bizCode 过滤ID字段值大于1000的数据。通过一个filter算...
JSON日志
本视频向您展示数据加工结构化数据JSON格式日志的解析。简单JSON解析 复杂JSON解析
复杂JSON数据加工
本文档主要为您介绍如何使用日志服务数据加工功能对复杂的JSON数据进行加工。多子键为数组的复杂JSON数据加工 程序构建的日志会以一种统计性质的JSON格式写入，通常包含一个基础信息以及多个子键为数组的数据形式。例如一个服务器每隔1分钟...
逻辑解码（wal2json）
通过SQL获取JSON对象 通过DMS登录RDS数据库。执行如下命令建表及初始化插件。CREATE TABLE table2_with_pk(a SERIAL,b VARCHAR(30),c TIMESTAMP NOT NULL,PRIMARY KEY(a,c));CREATE TABLE table2_without_pk(a SERIAL,b NUMERIC(5,2),c ...
背景信息以及准备工作
在使用DLA对OSS中的历史数据按天进行清洗时，由于数据清洗的SQL是固定的，只是每次执行的时候需要传入不同的日期，因此我们可以通过DataWorks来循环调度DLA数据清洗任务。针对上述场景，我们需要在DataWorks中完成以下工作：部署一个赋值...
添加并配置组件
在 数据源 页签将文中的 od飞线层数据json文件 数据复制粘贴到数据源编辑框中。单击 单点柱状层 子组件，在样式页签自定义修改 柱子高度 和 填充颜色 等柱子样式。在 数据源 页签将文中的 单点柱状层数据json文件 数据复制粘贴到数据源编辑...
2021年
2021-03-16 全部地域 支持压缩格式数据 MaxCompute SQL支持FROM_JSON/TO_JSON函数 FROM_JSON函数可以将JSON转换成MaxCompute的数据类型，或提取JSON中的信息，根据JSON字符串jsonStr和schema信息，返回ARRAY、MAP或STRUCT类型。TO_JSON函数...
概述
输出文件 使用规定的JSON数据格式，将数据源或通过脚本处理后的数据，映射到指定孪生节点的物模型属性上。文件大小不超过256 KB。脚本和输出文件编辑方法，请参见 脚本和输出语法。应用场景 数据映射使用场景如下：数据源为物模型属性Topic...
区域下钻热力层（v1.x版本）
由于获取的JSON数据量比较大，不支持静态数据等配置，只能通过 URL 链接来访问。下载完整 示例JSON文件。发布area_json数据文件，并获取URL。通过在线静态数据服务，将area_json发布成相应的文件，并获取URL，推荐您使用阿里云的OSS在线...
MongoDB数据源
最佳实践 JSON数据从MongoDB迁移至MaxCompute 离线同步读取MongoDB数据 离线同步写入MongoDB数据 常见问题 MongoDB Reader是否大小写敏感？怎么配置MongoDB Reader超时时长？报错：no such cmd splitVector 报错：After applying the ...
区域下钻热力层（v2.x版本）
由于获取的JSON数据量比较大，不支持静态数据等配置，只能通过 URL 链接来访问。可下载上图中的完整 示例JSON文件。发布area_json数据文件，并获取URL。通过在线静态数据服务，将area_json发布成相应的文件，并获取URL，推荐您使用阿里云的...
JSON数据列展开
JSON数据的展开方式灵活多变，本文通过详细的SQL示例，介绍如何展开JSON数据列。基本思路 使用 JSON函数，对JSON字符串进行解析和数据提取；提取、转换为ARRAY或者MAP的数据结构，也可以使用Lambda函数式表达式进行转换处理；使用UNNEST...
数据操作
创建数据表后，您可以通过命令行工具在数据表中插入新数据、更新一行数据、读取数据、删除一行数据、扫描数据以及导入导出数据。插入新数据 在表中插入新数据。您也可以通过导入JSON格式的配置文件来插入新数据到表中。命令格式 put-pk '...
使用Kafka（离线与实时）
FLATTEN：消息格式为JSON数据类型的字符串，JSON中的Key和Value会被解析，写入到对应的MaxCompute表中，其中JSON数据中的Key和需要与MaxCompute的表列名对应。关于不同格式消息导入的案例，详情请参见 使用示例。mode 否 消息同步到...
从OSS导入JSON数据文件
HybridDB for MySQL可以方便地通过外部表将存储在OSS中的JSON数据导入到HybridDB for MySQL数据库中。前提条件 资源和环境准备，执行操作前需提前准备OSS和HybridDB for MySQL的相关资源。包括：阿里云RAM账户，提前获取RAM账户的...
JSON函数
0|JSON_REMOVE 命令格式 json_remove(json_string,json_path_string)json_remove(json_string,array[json_path_string])命令说明 返回 json_string 中去除 json_path_string 之后的数据，可以通过 array[json_path_string]一次性指定多个 ...
JSON索引
为降低处理半结构化数据的难度，提升查询效率，AnalyticDB for MySQL 提供了半结构化数据检索功能，即JSON索引。本文主要介绍如何创建JSON索引。JSON索引介绍 AnalyticDB for MySQL 支持创建...相关文档 如何检索JSON数据，请参见 JSON函数。
RestAPI（HTTP形式）数据源
是 无 column 生成JSON数据对应的字段路径列表，type指定源数据的类型，name指定当前column数据放置的JSON路径。您可以指定column字段信息，配置如下。column":[{"type":"long","name":"a.b"/放置column数据到路径a.b},{"type":"string",...
数据表操作
write_cu 否 0-i，-input 否/tmp/create_table_meta.json 通过JSON格式的配置文件创建数据表。您也可以通过配置文件创建表，命令格式如下：Windows平台 create-i D:\\localpath\\filename.json Linux和Mac平台 create-i/localpath/filename...
设备使用物模型通信
物联网平台提供物模型功能定义能力，设备可通过物模型通信Topic按照Alink JSON数据格式，实现与物联网平台交互通信。本文介绍设备与物联网平台之间，如何通过物模型实现多场景消息通信。背景信息 物联网平台提供的物模型功能定义和使用说明...
脚本语法
重要 解析处理的数据源必须转换为JSON格式数据，即数组或者嵌套的JSON数据。定义字段，然后获取payload中属性值，并赋值给该字段。定义字段标识符和数据类型的规则，请参见本文下方的“标识符”和“数据类型”。脚本文件中支持使用JSONPath...
脚本语法
重要 待处理的数据源必须转换为JSON格式数据，即数组或者嵌套的JSON数据。定义字段，然后筛选设备上报的字段数据，并赋值给定义的字段。定义字段标识符和数据类型的规则，请参见本文下方的“标识符”和“数据类型”。脚本文件中支持使用...
特定格式文本数据加工
首先将dict数据转成JSON数据，再使用 e_json 函数进行展开即可。原始日志 content:{ 'referer':'-','request':'GET/phpMyAdmin','status':404,'data-1':{ 'aaa':'Mozilla','bbb':'asde' },'data-2':{ 'up_adde':'-','up_host':'-' } } LOG ...
基于GitHub公开事件数据集的离线实时一体化实践
本文为您介绍如何基于GitHub实时事件数据通过MaxCompute构建离线数仓、通过Flink和Hologres构建实时数仓，然后通过Hologres和MaxCompute分别进行实时与离线数据分析，从而实现实时离线一体化解决方案。背景信息 随着社会数字化发展，企业对...
2021年
新功能 MaxCompute提供湖仓一体方案，该方案可以打破数据湖与数据仓库割裂的体系，并将数据湖的灵活性、生态丰富能力与数据仓库的企业级部署能力进行融合，助力构建数据湖和数据仓库相融合的数据管理平台。MaxCompute湖仓一体概述 2021年2...
基于GitHub公开事件数据集的离线实时一体化实践
本文为您介绍如何基于GitHub实时事件数据通过MaxCompute构建离线数仓、通过Flink和Hologres构建实时数仓，然后通过Hologres和MaxCompute分别进行实时与离线数据分析，从而实现实时离线一体化解决方案。背景信息 随着社会数字化发展，企业对...
表达式函数概览
jwt_encoding 基于JSON Web Token（JWT）标准，对JSON数据进行编码。jwt_decoding 基于JSON Web Token（JWT）标准，将数据解码为原始JSON。hashids_encoding 使用Hashids库对数据进行编码。hashids_decoding 对已使用Hashids库编码的数据...
2023年
JSON_VALID JSON_PARSE JSON_FORMAT JSON_TYPE JSON_PRETTY JSON_EXTRACT JSON_ARRAY JSON_OBJECT JSON_EXISTS 2023-06-29 新增MaxCompute JSON类型使用指南（试用Beta版本）新说明 MaxCompute当前支持了JSON数据类型，提高了表中带有JSON...
RestAPI Reader最佳实践
数据集成RestAPI Reader插件提供了读取RESTful接口数据的能力，通过配置HTTP请求地址，可获取RestAPI类型的数据源数据（例如获取时间范围内的数据、获取分页数据、循环请求参数获取数据等），并转换为数据集成支持的数据类型，传递给下游...
内建函数概述
复杂类型函数 支持处理MAP、ARRAY、STRUCT及JSON类型数据，实现去重元素、聚合元素、元素排序、合并元素等业务处理能力。加密函数 支持处理STRING、BINARY类型的表数据，实现加密、解密等业务处理能力。其他函数 除上述函数之外，提供支持...
do-while节点最佳实践
本文为您介绍通过循环的方式依次处理一组数据的每一行的复杂场景。前提条件 请在操作前，先了解do-while节点逻辑，详情请参见 do-while节点逻辑原理介绍。背景信息 循环节点循环输出赋值节点结果集。需要部署一个上游节点，能够把查询出的...
拓展组件
数据绑定 单击 数据编辑器，打开数据编辑面板。单击 新增行，增加需要添加的参数字段。确认无误后，单击 保存。查看当前对象的数据绑定结果。变量绑定 单击 变量编辑器，打开变量编辑面板。单击 新增行，增加需要添加的变量名称、变量类型...
场景管理器
数据源 单击 配置数据源，可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果，详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...
函数总览
jwt_encoding 基于JSON Web Token（JWT）标准，对JSON数据进行编码。jwt_decoding 基于JSON Web Token（JWT）标准，将数据解码为原始JSON。hashids_encoding 使用Hashids库对数据进行编码。hashids_decoding 对已使用Hashids库编码的数据...
透传/编辑脚本
如果设备无法直接和云端传输JSON格式的数据，则需要设备通过二进制格式将数据透传到云端，由云端运行解析脚本将透传的数据转换成标准ICA格式的JSON数据。前提条件 已创建产品，且产品的 数据格式 设置为 透传/自定义。否则在 产品-设备调试...
- 产品推荐
- 这些文档可能帮助您