创建API数据源
通过创建API数据源能够实现Dataphin向API请求业务数据或向API请求写入数据。本文为您介绍如何创建API数据源。使用限制 Dataphin仅支持超级管理员、数据源管理员、板块架构师、项目管理员角色创建数据源。超级管理员、数据源管理员角色添加...
2023年
2023-08-01 华东1（杭州）、华东2（上海）、华北2（北京）、华北3（张家口）、华南1（深圳）、西南1（成都）按量付费闲时版 2023-06 功能名称 功能描述 发布时间 发布地域 相关文档 新增JSON数据类型 新增JSON数据类型，MaxCompute支持写入...
使用ROS模板选择和设置对象
资源编排支持通过新增对象数组、元素数组和参数对象对JSON数据进行扩展，增强JSON对象的校验逻辑。对象数组 对象数组为单一对象，数组元素支持所有的ROS模板参数类型。模板示例 ROSTemplateFormatVersion:'2015-09-01' Parameters:...
数据服务概述
相关概念 API（Application Programming Interface，应用程序编程接口）：API是让应用、软件、系统能够面向数据源进行数据交互的接口，数据服务API支持“读数据”的操作，可以从数据库、数据表中不断地进行数据查询。函数：作为API过滤器，...
SQL表达式
创建数据流转规则时，需编写SQL来解析和处理设备上报的JSON数据。二进制格式的数据不做解析，直接透传。本文主要介绍如何编写数据流转规则的SQL表达式。SQL表达式 重要 若物模型标识符以数字开头，不支持使用SQL表达式访问该物模型，即旧版...
Delta Lake 快速入门
此快速入门演示如何生成管道，以便将JSON数据读入Delta表、修改表、读取表、显示表历史记录，以及优化表。有关演示这些功能的Databricks笔记本，请参阅 入门笔记本。创建表 若要创建一个delta表，可以使用现有的Apache Spark SQL代码，也...
JSON函数和操作符
本文描述了用于处理和创建JSON数据的函数和运算器，以及SQL/JSON路径语言。处理和创建JSON数据 json和jsonb操作符表展示了可以用于JSON数据类型的操作符。此外，比较操作符表所示的常用比较操作符也适用于 jsonb，但不适用于 json。比较...
复杂类型函数
JSON_FORMAT 将JSON数据转换成STRING类型，默认不自动进行美化。JSON_PARSE 将STRING类型转成JSON类型，非JSON格式转换为字符串会报错。JSON_VALID 检查字符串是否为合法的JSON格式。CAST 支持基本类型与JSON类型的转换。说明 以下函数示例...
ElasticSearch
spark.conf spark.jars.packages org.elasticsearch:elasticsearch-spark-30_2.12:8.2.0 读取JSON数据，并将数据写入到ElasticSearch。spark/读取oss数据 val path="oss:/your bucket/data/es_case.json"val data=spark.read.option(...
调用API
调用方式 调用方式 适用场景 说明 安全级别 加密签名身份认证 应用程序开发、数据采集等。该方式需要在SDK中使用数据服务中的AppKey和AppSecret。具体操作，请参见 使用SDK调用API。高 简单身份认证 一般用于可视化场景，如DataV调用。该...
新建数据服务API-向导模式
数据服务API是一种API类型，由云计算资源中的数据通过参数配置生成，生成的API便于后续调用，可减少资源操作成本。本文介绍如何通过向导模式新建API。对原始数据层表“ys_xyk_bkxx”封装API 前提条件 工作组管理员账号登录。已创建“信息...
JSON&JSONB 数据类型操作
JSON 类型几乎已成为互联网及物联网（IoT）的基础数据类型，AnalyticDB PostgreSQL 数据库对JSON数据类型做了完善的支持。并且 AnalyticDB PostgreSQL 6.0版 支持JSONB类型。这部分介绍对JSON&JSONB数据类型的操作，包括：JSON&JSONB的异同...
生成数据API
数据服务解决从数仓到应用的“最后一公里”，将数据源中的数据表快速生成数据API，在API网关进行统一管理和发布。实现低成本、易上手、安全稳定的数据共享与开放。背景信息 为了将最终分析的结果加速查询后开放出API接口对接三方服务，本次...
JSON函数
您可以通过如下方式构造JSON数据：直接使用JSON数据。例如 json '{"a":1,"b":{"c":30}}'。通过CAST函数将字符串进行显式转换为JSON数据。例如 CAST('{"a":1,"b":{"c":30}}' AS json)。返回值类型：JSON ARRAY。示例：返回$.b 路径下的所有...
特定格式文本数据加工
首先将dict数据转成JSON数据，再使用 e_json 函数进行展开即可。原始日志 content:{ 'referer':'-','request':'GET/phpMyAdmin','status':404,'data-1':{ 'aaa':'Mozilla','bbb':'asde' },'data-2':{ 'up_adde':'-','up_host':'-' } } LOG ...
配置数据源
使用数据服务创建API前，需先将您的数据库或数据仓库添加为DataWorks数据源，以此作为数据服务API的数据来源。开发数据服务API时，数据服务将访问该数据源获取数据表的Schema信息，帮助您进一步设置请求和返回参数。本文为您介绍如何配置...
云数据库的导入与导出
JSON 数据每个键值对的键名首尾不能是英文句号（.），并且不能包含多个连续的英文句号（.）。键名不能重复。CSV文件格式要求首行作为导入后的键名，用英文逗号（,）分隔，其余为键值记录，与首行键名一一对应。导入支持两种 冲突处理模式。...
JSON数据从MongoDB迁移至MaxCompute
db.userlog.find().limit(10)通过DataWorks将JSON数据从MongoDB迁移至MaxCompute 登录 DataWorks控制台。在DataWorks上创建目标表。用以接收从MongoDB迁移的数据。右键单击已创建的 业务流程，选择 新建表>MaxCompute>表。在 新建表 页面，...
数据服务
数据服务旨在为企业搭建统一的数据服务总线，帮助企业提升数据资产的价值，同时保证了数据的可靠性、安全性和有效性。使用场景包括：最小粒度的数据输出：当企业需要对外提供数据时，相较于直接对外提供表数据，使用API的方式可以控制到...
JSON数据从MongoDB迁移至MaxCompute
db.userlog.find().limit(10)通过DataWorks将JSON数据从MongoDB迁移至MaxCompute 登录 DataWorks控制台。在DataWorks上创建目标表。用以接收从MongoDB迁移的数据。右键单击已创建的 业务流程，选择 新建表>MaxCompute>表。在 新建表 页面，...
支持的文件格式
JSON EsriJsonSerDe DLA支持Esri ArcGIS的地理JSON数据文件的SerDe处理，关于这种地理JSON数据格式说明，可以参考：https://github.com/Esri/spatial-framework-for-hadoop/wiki/JSON-FormatsCREATE EXTERNAL TABLE IF NOT EXISTS ...
JSON和JSONB类型
JSON和JSONB介绍 近年来随着移动端应用的普及，应用埋点、用户标签计算等场景开始诞生，为了更好的支撑这类场景，越来越多的大数据系统开始使用半结构化格式来存储此类数据，以获得更加灵活的开发和处理。常用的半结构化类型为JSON和JSONB...
CAST
返回：+-+|_c0|+-+|NULL|+-+相关函数 CAST函数属于复杂类型函数，更多对复杂类型数据（例如ARRAY、MAP、STRUCT、JSON数据）的处理函数请参见 复杂类型函数。同时，CAST函数也属于其他函数，更多其他业务场景的函数请参见 其他函数。
JSON日志
本视频向您展示数据加工结构化数据JSON格式日志的解析。简单JSON解析 复杂JSON解析
JMES语法
JMES是一个增强型的JSON查询计算语言，不仅可以对JSON数据进行提取，还可以做计算与转换。关于JMES语法的详细介绍请参见 JMES Tutorial。数据加工中的 json_select、e_json、e_split 函数支持通过JMES提取字段或JSON表达式的值，或者通过...
概述
输出文件 使用规定的JSON数据格式，将数据源或通过脚本处理后的数据，映射到指定孪生节点的物模型属性上。文件大小不超过256 KB。脚本和输出文件编辑方法，请参见 脚本和输出语法。应用场景 数据映射使用场景如下：数据源为物模型属性Topic...
自定义函数（邀测中）
数据发送和返回的数据格式 数据发送的格式 {"rowCount":3,"compressed":true,"data":[[1,"a","2023-08-22 11:30:00"],[2,"b","2023-08-22 12:30:00"],[3,"c",null]]} JSON数据结构说明：rowCount：数据的行数。compressed：传输的数据是否...
管理服务
对于JSON数据会全量覆盖调用方传递过来的数据，默认为 importRequest=exportRequest。在 响应脚本 中，目前仅支持JSON，数据会全量覆盖源服务的响应数据，默认为 exportResponse=importResponse。脚本映射的结果会作为界面映射的输入，建议...
脚本语法
重要 待处理的数据源必须转换为JSON格式数据，即数组或者嵌套的JSON数据。定义字段，然后筛选设备上报的字段数据，并赋值给定义的字段。定义字段标识符和数据类型的规则，请参见本文下方的“标识符”和“数据类型”。脚本文件中支持使用...
通过DataX导入数据
column 是 无 目的表需要写入数据的字段，这些字段将作为生成的JSON数据的字段名。字段之间用英文逗号分隔。示例："column":["id","name","age"]。preSql 否 无 写入数据到目的表前，会先执行这里的标准语句。postSql 否 无 写入数据到目的...
数据服务
数据服务访问RDS实例情况说明 为了更好地保障用户通过DataWorks数据服务访问RDS实例的安全性，新增数据源 时，选择的数据源类型不同（实例模式、连接串模式），在DataWorks数据服务中封装API时将会有不同的提示和建议，详情如下：数据源...
列式JSONB
原因在于底层已经将JSONB数据转成了列式存储，所以当需要查询出完整JSON数据的时候，就需要将那些已经列式存储的数据再重新拼装成原来的JSONB格式：这个步骤就会产生大量的IO以及转换开销，如果涉及到的数据量很大，列数又很多，甚至可能...
字符串函数
当您需要对存储在表中的字符串数据进行截取、拼接、转化、比较、搜索等操作，您可以使用MaxCompute支持的字符串函数对指定字符串进行灵活处理。本文为您介绍MaxCompute支持的字符串函数的命令格式、参数说明及示例。MaxCompute SQL支持的...
如何对JSON类型进行高效分析
PolarDB IMCI采用精简二进制方式存储JSON列存数据，且使用RapidJSON库解析JSON数据，处理过程中按需读取数据且利用列存压缩技术等有效减少IO量，同时充分利用SIMD和向量化及并行等加速运算。以实际测试数据为例展示列存中JSON用法及其行列...
SET
关于JSON数据类型的更多信息，请参见 MaxCompute JSON类型使用指南。True：打开。False：关闭。odps.ext.oss.orc.native 读表时是否使用Native ORC Reader。True：使用。False：不使用。odps.sql.job.max.time.hours 单作业最大执行时间。...
缓存数据持久化
当您使用云数据库RDS MySQL并需要提升数据处理速率和降低访问延迟时，阿里云为您提供了缓存数据持久化的高效方案，该解决方案通过整合云数据库Redis与RDS、云数据库Memcache与RDS协同工作，确保数据的高速访问和持久化存储，具备高吞吐、低...
复杂JSON数据加工
多子键为数组的复杂JSON数据加工 程序构建的日志会以一种统计性质的JSON格式写入，通常包含一个基础信息以及多个子键为数组的数据形式。例如一个服务器每隔1分钟写入一条日志，包含当前信息状态，以及相关服务器和客户端节点的统计状态信息...
内建函数概述
MaxCompute自身预置了诸多函数，可以满足大部分业务场景的数据处理需求。本文为您介绍MaxCompute提供的函数类型及函数使用相关说明。背景信息 使用MaxCompute内建函数过程中，需要注意的事项请参见 注意事项。MaxCompute预置的函数类型如下...
JSON格式导入
假设JSON数据为：{"id":123,"city":"beijing"} 如果JSON Path错误的写为（或者不指定JSON Path时，表中的列不包含 id 和 city）：["$.ad","$.infa"]则会导致完全匹配失败，则该行会标记为错误行，而不是产出 null,null。JSON Path和Columns...
将时空数据写入宽表引擎
本文介绍将流引擎中的时空数据写入宽表的具体方法。前提条件 已安装Java环境，要求安装JDK 1.8及以上版本。如果客户端没有部署在ECS，需要将客户端IP地址添加至Lindorm实例的白名单中，具体操作请参见 设置白名单。如果应用部署在ECS，您...
- 产品推荐
- 这些文档可能帮助您