RestAPI Reader最佳实践
数据存储json路径：本示例接口获取的数据存储于data下，此处配置为 data。请求参数：请求参数与调度参数搭配使用，实现每天同步当天数据的。请求参数配置为 startTime=${extract_day}${start_time}&endTime=${extract_day}${end_time} 后续...
伪类型
伪类型 名字 描述 any 表示一个函数可以接受任意输入数据类型 anyelement 表示一个函数可以接受任意数据类型 anyarray 表示一个函数可以接受任意数组数据类型 anynonarray 表示一个函数可以接受任意非数组数据类型 anyenum 表示一个函数...
数据格式描述文件
键 格式 描述 是否必须 dimensions JSON数组 数据包含的维度。每个维度可以只是个字符串，或者可以额外指明维度的属性。例如“dimensions”:[“dimenssion1”,“dimenssion2”,“{“type”:“long”,“name”:“dimenssion3”}]，默认是...
smlar
float4 smlar(anyarray a,anyarray b,text formula)计算两个相同数据类型数组的相似度，数组通过formula指定，数组的数据类型需要一致。formula的预定义变量说明如下：N.i：两个数组中的相同元素个数（交集）。N.a：第一个数组中的唯一元素...
smlar
float4 smlar(anyarray a,anyarray b,text formula)计算两个相同数据类型数组的相似度，数组通过formula指定，数组的数据类型需要一致。formula的预定义变量说明如下：N.i：两个数组中的相同元素个数（交集）。N.a：第一个数组中的唯一元素...
smlar
float4 smlar(anyarray a,anyarray b,text formula)计算两个相同数据类型数组的相似度，数组通过formula指定，数组的数据类型需要一致。formula的预定义变量说明如下：N.i：两个数组中的相同元素个数（交集）。N.a：第一个数组中的唯一元素...
smlar
float4 smlar(anyarray a,anyarray b,text formula)计算两个相同数据类型数组的相似度，数组通过formula指定，数组的数据类型需要一致。formula的预定义变量说明如下：N.i：两个数组中的相同元素个数（交集）。N.a：第一个数组中的唯一元素...
迭代器功能说明
在区块编辑器面板中可先添加一个或多个组件组成的单元模板（即成组），再通过迭代器的数据驱动，生成一个列表，列表项的数量与迭代器数据中数组的长度一致。本文介绍迭代器的功能及操作说明。迭代器即列表生成器，列表中每一项称为一个迭代...
pg_type
目录 pg_type 存储有关数据类型的信息。基类和枚举类型（标度类型）使用CREATE TYPE创建，而域使用CREATE DOMAIN创建。数据库中的每一个表都会有一个自动创建的组合类型，用于表示表的行结构。也可以使用 CREATE TYPE AS 创建组合类型。列...
导出全量数据到MaxCompute
当Tablestore数据存储发生热点，且使用Tablestore Reader自动切分的策略不能生效时，建议使用自定义的切分规则。切分指定的是在主键起始和结束区间内的切分点，仅配置切分键，无需指定全部的主键。格式为JSON数组。数据去向配置 参数 说明 ...
导出全量数据到OSS
如果所用的数据存储模型是时序模型（即使用时序表存储数据），则需要同步时序表中的数据，请按照 同步时序表数据的任务配置 进行配置。同步数据表数据的任务配置 在 数据集成 节点下，双击打开新建的离线同步任务节点。配置同步网络链接。...
ARRAY_EXCEPT
找出在ARRAY数组 a 中，但不在ARRAY数组 b 中的元素，并去掉重复的元素后，返回新的ARRAY数组。命令格式 array<T>array_except(array<T><a>,array<T><b>)参数说明 a、b：必填。ARRAY数组。array中的 T 指代ARRAY数组元素的数据类型，数组中...
ARRAY_MAX
计算ARRAY数组 a 中的最大元素。命令格式 T array_max(array<T><a>)参数说明 a：必填。ARRAY数组。array中的 T 指代ARRAY数组元素的数据类型。数组中的元素可以为如下类型：TINYINT、SMALLINT、INT、BIGINT FLOAT、DOUBLE BOOLEAN DECIMAL...
ARRAYS_OVERLAP
array中的 T 指代ARRAY数组元素的数据类型，数组中的元素可以为任意类型。a 和 b 中元素的数据类型必须一致。数组中的元素可以为如下类型：TINYINT、SMALLINT、INT、BIGINT FLOAT、DOUBLE BOOLEAN DECIMAL、DECIMALVAL DATE、DATETIME、...
ZIP_WITH
将ARRAY数组 a 和 b 的元素按照位置，使用 combiner 进行元素级别的合并，返回一个新的ARRAY数组。命令格式 array<R>zip_with(array<T><a>,array<S><b>,function,S,R>)参数说明 a、b：必填。ARRAY数组。array、array中的 T、S 指代ARRAY数...
ALL_MATCH
array中的 T 指代ARRAY数组元素的数据类型，数组中的元素可以为任意类型。predicate：必填。用于对ARRAY数组 a 中的元素进行判断的函数（内建函数或自定义函数）或表达式。输入参数的数据类型必须与ARRAY数组 a 中元素的数据类型一致。返回...
ANY_MATCH
array中的 T 指代ARRAY数组元素的数据类型，数组中的元素可以为任意类型。predicate：必填。用于对ARRAY数组 a 中的元素进行判断的函数（内建函数或自定义函数）或表达式。输入参数的数据类型必须与ARRAY数组 a 中元素的数据类型一致。返回...
ARRAY_INTERSECT
MaxCompute ARRAY_INTERSECT函数用于计算两个ARRAY数组之间的交集，并返回一个包含两个数组中都存在的相同值的新数组。本文为您介绍ARRAY_INTERSECT函数的命令格式、参数说明以及使用示例。命令格式 array<T>array_intersect(array<T><a>,...
FILTER
将ARRAY数组 a 中的元素利用 func 进行过滤，返回一个新的ARRAY数组。命令格式 array<T>filter(array<T><a>,function,boolean>)参数说明 a：必填。ARRAY数组。array中的 T 指代ARRAY数组元素的数据类型，数组中的元素可以为任意类型。func...
ARRAY_REMOVE
在ARRAY数组 a 中删除与 element 相等的元素。命令格式 array<T>array_remove(array<T><a>,T)参数说明 a：必填。ARRAY数组。array中的 T 指代ARRAY数组元素的数据类型。支持的数据类型如下：TINYINT、SMALLINT、INT、BIGINT FLOAT、DOUBLE ...
ARRAY_POSITION
计算元素 element 在ARRAY数组 a 中第一次出现的位置。ARRAY数组元素位置编号自左往右，从1开始计数。命令格式 bigint array_position(array<T><a>,T)参数说明 a：必填。ARRAY数组。array中的 T 指代ARRAY数组元素的数据类型。支持的数据...
读API
说明 从返回值中提取的数据必须是数组类型。以下是返回值和映射关系配置的示例：{"code":"SUCCESS","data":{"pageSize":20,"pageNum":1,"list":[/需要提取的数组 {"name":{"firstName":"Alice","lastName":"Brown"},"age":22,"email":...
数据集成服务
数据导入的迁移方案包括同步MySQL数据到表格存储、同步Oracle数据到表格存储、同步Kafka数据到表格存储、同步HBase数据到表格存储、同步MaxCompute数据到表格存储、同步表格存储数据表中数据到另一个数据表和同步表格存储时序表中数据到另...
概述
Flume最终会将数据落地到实时计算平台（例如Flink、Spark Streaming和Storm）、离线计算平台上（例如MR、Hive和Presto），也可仅落地到数据存储系统中（例如HDFS、OSS、Kafka和Elasticsearch），为后续分析数据和清洗数据做准备。...
应用场景
您可以将模式固定的结构化数据存储在 RDS（Relational Database Service）中，模式灵活的业务存储在MongoDB中，高热数据存储在 云数据库Redis 或 云数据库Memcache 中，实现对业务数据高效存取，降低存储数据的投入成本。移动应用 云数据库...
SQL查询介绍
物联网存储IoTstore是表格存储基于物联网场景中多源异构数据存储、高并发吞吐、海量数据高性价比存储、多维度数据处理与分析等需求推出的一站式物联网解决方案，可为物联网设备元数据、消息数据、时序轨迹等海量数据提供存储、查询、检索、...
多元索引数组类型
数据类型映射 数据表中数据类型 多元索引中数据类型 SQL数据类型 字符串 数组元素的实际类型，同时开启该列的数组属性（即在控制台打开对应列的数组选项或使用SDK将对应列的IsArray设置为true）VARCHAR（主键）MEDIUMTEXT（预定义列）创建...
离线同步常见问题
源端数据为string"[1,2,3,4,5]"，如何以数组形式同步至ES中存储？自建的索引中nested的属性类型type为keyword，为什么自动生成之后类型会变成 keyword？（自动生成是指配置cleanup=true执行同步任务）向ES写入数据时，会做一次无用户名的...
Trino概述
支持丰富的数据源：Hive Cassandra Kafka MongoDB MySQL PostgreSQL SQL Server Redis Redshift 本地文件 支持高级数据结构，具体如下：数组和Map数据 JSON数据 GIS数据 颜色数据 功能扩展能力强，提供了多种扩展机制：扩展数据连接器 ...
表格存储是否支持存储JSON数据？
当前表格存储未直接支持存储JSON格式的数据。但是您可以通过字符串方式存储JSON数据，然后通过多元索引中的数组和嵌套类型实现JSON数据的灵活查询。更多信息，请参见 数组和嵌套类型。
MongoDB数据源
数据集成本身不支持数组类型，但MongoDB支持数组类型，并且数组类型具有强大的索引功能。您可以通过参数的特殊配置，将字符串转换为MongoDB中的数组。转换类型后，即可并行写入MongoDB。自建MongonDB数据库不支持公网访问，仅支持阿里云...
创建逻辑模型：明细表
可以指定明细表后续在数据建模分析使用时，明细表的数据存储于数仓中的哪个数据分层，一般情况下明细表可存储于数据明细层（DWD层）。明细表创建后，您可以为明细表添加字段，且可以对明细表进行关联和分区的设置，并且可使用统一的数据...
创建投递任务
您可以选择任意字段以任意顺序、名称写入列存文件，OSS的列存数据会按Schema数组中的数据列先后顺序分布。注意 投递数据的字段类型必须与数据源的字段类型匹配，否则会作为脏数据丢弃。字段类型映射详情请参见 数据格式映射。TaskType 投递...
创建投递任务
您可以选择任意字段以任意顺序、名称写入列存文件，OSS的列存数据会按Schema数组中的数据列先后顺序分布。注意 投递数据的字段类型必须与数据源的字段类型匹配，否则会作为脏数据丢弃。字段类型映射详情请参见 数据格式映射。taskType 投递...
创建逻辑模型：维度表
可以指定维度表后续在数据建模分析使用时，维度表的数据存储于数仓中的哪个数据分层，一般情况下维度表可存储于公共维度层（DIM层）。维度表创建后，您可以将维度的属性添加为维度表的字段，并对维度表进行关联和分区的设置，使用统一的...
通过控制台投递数据到OSS
通过表格存储控制台创建投递任务，将表格存储数据表中的数据投递到OSS Bucket中存储。前提条件 已开通OSS服务且在表格存储实例所在地域创建Bucket，详情请参见 开通OSS服务。说明 数据湖投递支持投递到和表格存储相同地域的任意OSS Bucket...
概述
解决方案 T+1全量同步一键建仓是指通过DLA控制台配置数据源（RDS、PolarDB for MySQL、MongoDB数据源、ECS自建数据库数据）和目标OSS数据仓库，系统按照您设定的数据同步时间自动、无缝的帮您把数据源中的数据同步到目标数据仓库OSS中，...
异构数据源访问
提供以下功能：多种数据存储访问：支持多种数据存储系统，允许 AnalyticDB PostgreSQL版 数据库直接访问存储在HDFS、Hive、MySQL，PostgreSQL，PolarDB MySQL等多种外部系统中的数据。数据格式透明：支持常见的数据格式，如CSV、ORC、...
离线同步并发和限流之间的关系
限制和最佳实践：分布式执行模式下，配置较大任务并发度可能会对您的数据存储产生较大的访问压力，请评估数据存储的访问负载。如果您的独享资源组机器台数为1，不建议使用分布式执行模式，因为执行进程仍然分布在一台Worker节点上，无法...
基于AnalyticDB构建企业数仓
参数 描述 任务期望最大并发数 数据同步任务内，可以从源并行读取或并行写入数据存储端的最大线程数。向导模式通过界面化配置并发数，指定任务所使用的并行度。同步速率 设置同步速率可以保护读取端数据库，以避免抽取速度过大，给源库造成...
- 产品推荐
- 这些文档可能帮助您