Dataphin管道任务从本地CSV文件读取汉字显示乱码
产品名称 Dataphin 产品模块 数据集成 概述 本文描述管道任务中从本地CSV文件读取汉字乱码的原因及应对方法。问题描述 数据集成CSV(UTF-8)文件导入HIVE，预览时中文出现乱码。问题原因 因为CSV文件格式是UTF-8。解决方案 需要将CSV文件格式...
Flume消费
日志服务支持通过aliyun-log-flume插件与Flume进行对接，实现日志数据的写入和消费。背景信息 aliyun-log-flume是一个实现日志服务与Flume对接的插件，与Flume对接后，日志服务可以通过Flume与其它数据系统如HDFS、Kafka等对接。aliyun-log...
将数据写入OSS
背景信息 与读取OSS数据类似，MaxCompute支持将内部表数据或处理外部表得到的数据写入OSS：通过内置文本或开源数据解析器将数据写入OSS 当需要将数据以CSV、TSV、开源格式或MaxCompute支持的压缩格式写入OSS时，您可以通过基于MaxCompute...
准备数据源和计算源
重要 确定业务数据源类型后，在Dataphin创建对应类型的数据源之前，您需确保数据源与Dataphin间网络连通，以实现Dataphin读取该数据源的原始数据及向该数据源写入Dataphin加工后的数据。详情请参见 网络连通解决方案。准备计算源 在创建...
准备数据源和计算源
重要 确定业务数据源类型后，在Dataphin创建对应类型的数据源之前，您需确保数据源与Dataphin间网络连通，以实现Dataphin读取该数据源的原始数据及向该数据源写入Dataphin加工后的数据。详情请参见 网络连通解决方案。准备计算源 在创建...
使用说明
自动归档冷数据功能Data Lifecycle Management（简称DLM）支持将低频使用的冷数据定期自动地从PolarStore转存到低成本的OSS存储介质上，以达到降本增效的效果。前提条件 集群版本需满足以下条件之一：PolarDB MySQL版 8.0.1版本且Revision ...
工业分析建模
本文为您介绍如何使用智能制造平台AICS工业分析建模模块。工业分析建模流程 新建工业分析建模。算法流程搭建。算法运行。模型结果查看与发布。模型使用。新建工业分析建模 登录 工业大脑智能制造平台AICS。在左侧导航栏选择 模型开发与训练...
通过ASM实现gRPC链路追踪
metadata=call.metadata.getMap()metadata.add(key,headers[key])使用Python语言通过客户端发送Headers实现基本方法。metadata_dict={} 变量填充 metadata_dict[c.key]=c.value，最终转为 list tuple 类型 list(metadata_dict.items())。...
通过ASM实现gRPC链路追踪
metadata=call.metadata.getMap()metadata.add(key,headers[key])使用Python语言通过客户端发送Headers实现基本方法。metadata_dict={} 变量填充 metadata_dict[c.key]=c.value，最终转为 list tuple 类型 list(metadata_dict.items())。...
数据集成
功能介绍 功能描述 相关文档 数据集成离线同步，通过读取插件与写入插件实现数据的读取与写入，并且支持在DataWorks新建数据源，通过数据源名称决定同步数据的来源与去向。支持的数据源与读写插件 离线同步能力说明 在DataWorks新建数据源...
数据集成概述
离线（批量）的数据通道通过定义数据来源和去向的数据源和数据集，提供一套抽象化的数据抽取插件（Reader）、数据写入插件（Writer），并基于此框架设计一套简化版的中间数据传输格式，从而实现任意结构化、半结构化数据源之间数据传输。...
Tablestore数据源
使用限制 Tablestore Reader和Writer插件实现了从Tablestore读取和写入数据，包含 行模式、列模式 两种数据读取与写入方式，可针对宽表与时序表进行数据读取与写入。列模式：在Tablestore多版本模型下，表中的数据组织为 行>列>版本 三级的...
简介
日志服务提供外部存储功能，可用于日志服务...外部存储名称 从外部数据源读取 写入外部数据源 创建方式 地域 MySQL 支持 支持 API、SDK、CLI 所有地域 OSS 支持 支持 SQL create table 所有地域 托管的CSV文件 支持 不支持 SDK 华东2（上海）
JMeter使用CSV参数文件
在PTS原生压测中，如果您需要构造动态变化的业务请求，可以通过参数化实现。在使用JMeter压测时，如果有同样的动态压测需求，建议您在JMeter脚本中添加Config Element：CSV Data Set Config，从CSV文件中读取参数。同时，PTS支持切分CSV...
JMeter使用CSV参数文件
在PTS原生压测中，如果您需要构造动态变化的业务请求，可以通过参数化实现。在使用JMeter压测时，如果有同样的动态压测需求，建议您在JMeter脚本中添加Config Element：CSV Data Set Config，从CSV文件中读取参数。同时，PTS支持切分CSV...
通过向导模式配置离线同步任务
背景信息 数据集成离线同步，为您提供数据读取（Reader）和写入插件（Writer）实现数据的读取与写入，您可通过向导模式和脚本模式配置离线同步任务，实现源端单表同步至目标端单表、源端分库分表同步至目标端单表两类数据同步场景。...
Flink数据导入
sink.buffer-flush.interval Flink批量写入数据至 AnalyticDB MySQL版 的最大间隔时间，即执行下一次批量写入数据前的最大等待时间，可选取值如下：0：时间间隔为0时，批量写入数据功能仅考虑 sink.buffer-flush.max-rows 配置，即只要...
UDAF概述
MaxCompute支持您通过Java、Python语言编写代码创建UDAF，扩展MaxCompute的函数能力，满足个性化业务需求。本文为您介绍UDAF类型、使用限制、注意事项、开发流程及使用说明等信息。背景信息 UDAF为用户自定义聚合函数，适用于多进一出业务...
表版本控制
较低版本的Databricks Runtime可能无法读取和写入由较高版本的Databricks Runtime写入的数据。如果您尝试使用太低的Databricks Runtime版本来读取和写入表，则会收到一条错误消息，提示您需要升级。创建表时，Delta Lake将根据表特征（例如...
通过脚本模式配置离线同步任务
背景信息 数据集成离线同步，为您提供数据读取（Reader）和写入插件（Writer）实现数据的读取与写入，您可通过向导模式和脚本模式配置离线同步任务，实现源端单表同步至目标端单表、源端分库分表同步至目标端单表两类数据同步场景。...
创建Redis表并读取数据
本文介绍如何创建Redis的CSV和JSON格式表并读取相关数据。创建CSV格式表 针对Redis中CSV格式的数据，本示例在 DMS for Data Lake Analytics 中创建表dla_person_csv。CREATE EXTERNAL TABLE dla_person_csv(id int,name varchar,age int)...
CSV
本文为您介绍CSV格式的使用方法和类型映射。背景信息 CSV格式允许基于CSV结构读写CSV数据。当前，CSV结构是基于表结构推导而来的。支持CSV格式的连接器包括：消息队列Kafka、Upsert Kafka、消息队列RocketMQ、StarRocks 和 对象存储OSS。...
整库离线同步至OSS
您需要在数据集成同步任务配置前，配置好您需要同步的源端和目标端数据库，以便在同步任务配置过程中，可通过选择数据源名称来控制同步任务的读取和写入数据库。同步解决方案支持的数据源及其配置详情请参见 支持的数据源与读写能力。说明 ...
数据源概述
说明 数据同步基于数据源控制任务读写端数据库，您需要在数据集成同步任务配置前，配置好您需要同步的源端和目标端数据库或数据仓库的相关信息，以便在同步过程中，可通过选择数据源名称来控制同步读取和写入的数据库或数据仓库。数据源...
Upsert Kafka
背景信息 Upsert Kafka连接器支持以upsert方式从Kafka topic中读取数据并将数据写入Kafka topic。作为源表，此连接器可以将Kafka中存储的数据转换为changelog流，其中每条数据记录代表一个更新或删除事件。更准确地说，数据记录中的value被...
使用DataWorks
MaxCompute支持通过DataWorks的数据集成功能将MaxCompute中的数据以离线方式导出至其他数据源。当您需要将MaxCompute中的数据导出至其他数据源执行后续数据处理操作时，您可以使用数据集成功能导出数据。本文为您介绍如何将MaxCompute的...
Hive数据源
Hive数据源为您提供读取和写入Hive双向通道的功能，本文为您介绍DataWorks的Hive数据同步的能力支持情况。背景信息 Hive是基于Hadoop的数据仓库工具，用于解决海量结构化日志的数据统计。Hive可以将结构化的数据文件映射为一张表，并提供...
使用Kafka（离线与实时）
MaxCompute与Kafka的集成能够提供高效、可靠的数据处理和分析能力，适用于需要实时处理、大规模数据流和复杂数据分析的场景。本文介绍消息队列Kafka版和自建Kafka数据的写入流程，以及自建Kafka数据的写入示例。Kafka数据写入MaxCompute...
数据写入
Lindorm时序引擎支持六种数据写入方法：Native SDK写入、行协议写入、标准SQL写入、时间序列数据库TSDB接口写入、remote write数据写入、Flink数据写入。本文介绍数据写入的六种方法。Native SDK写入 Native SDK适用于Java开发者，Native ...
概述
使用Python语言开发产品时，您可使用物联网平台提供的Python SDK，简化开发过程，使设备快速接入物联网平台。本文简要介绍Python SDK的使用说明和功能介绍。使用说明 Python SDK分为Paho-SDK和Link SDK两个系列。Paho-MQTT Python 基于开源...
OSS数据源
OSS数据源为您提供读取和写入OSS的双向通道，本文为您介绍DataWorks的OSS数据同步的能力支持情况。支持的字段类型与使用限制 离线读 OSS Reader实现了从OSS读取数据并转为数据集成协议的功能，OSS本身是无结构化数据存储。对于数据集成而言...
模型及数据常见问题
本文为您介绍模型/数据的相关问题。点击模型部署-模型在线服务EAS，提示无模型可部署？每次运行是否可自动更新EAS模型服务？如何上传本地数据进行训练？Designer/Studio中的数据展示出现“blob”字符 点击模型部署-模型在线服务EAS，提示无...
UDTF概述
MaxCompute支持您通过Java、Python语言编写代码创建UDTF，扩展MaxCompute的函数能力，满足个性化业务需求。本文为您介绍UDTF类型、使用限制、注意事项、开发流程及使用说明等信息。背景信息 UDTF为用户自定义表值函数，适用于一进多出业务...
Database外表联邦分析
云原生数据仓库AnalyticDB PostgreSQL（简称ADB PG）支持通过JDBC的方式访问Oracle、PostgreSQL、MySQL外部数据源。说明 本特性只支持存储弹性模式实例，且需要 云原生数据仓库 AnalyticDB PostgreSQL 版 实例和目标访问的外部数据源处于同...
读取OSS数据
在成功创建了OSS外部表后，您可以访问和查询存储在OSS指定目录下的数据文件，实现高效的数据读取操作。背景信息 完成OSS外部表创建后，您可以根据需要选择如下方式之一对OSS外部表进行操作：（推荐）方式一：将OSS的开源格式数据导入...
冷数据归档
本文介绍时序引擎的冷数据归档功能的使用方法。功能概要 在时序数据库持续写入的场景下，早先写入的时序数据会随着时间推移，查询频度逐渐降低。这样的数据通常被称为“冷数据”，与之相对的概念被称为“热数据”。随着冷数据体量的不断变...
PAI-TF数据IO方式介绍
PAI-TensorFlow支持读取OSS对象存储数据和MaxCompute表数据。警告 公共云GPU服务器即将过保下线，您可以继续提交CPU版本的TensorFlow任务。如需使用GPU进行模型训练，请前往DLC提交任务，具体操作请参见 创建训练任务。读取OSS数据 主流程 ...
FTP数据源
FTP数据源为您提供读取和写入FTP双向通道的功能，本文为您介绍DataWorks的FTP数据同步的能力支持情况。使用限制 FTP Reader实现了从远程FTP文件读取数据并转为数据同步协议的功能，远程FTP文件本身是无结构化数据存储。对于数据同步而言，...
配置并管理实时同步任务
同步时默认将源端数据表写入DataHub同名Topic中，同时，您可以通过添加映射规则定义最终写入目的端的Topic名称，实现将多张表数据写入到同一个Topic中，或统一将源端某固定前缀的表名在写入目标Topic时更新为其他前缀。支持通过正则表达式...
使用数据镜像保护尚未写入完整的数据
通过阿里云提供的数据镜像操作命令，可实现数据自动同步生效（秒级别同步）。数据同步期间不影响正常数据读取操作。副本集实例操作方法 通过mongo shell连接到需要操作的节点（Primary节点或Secondary节点），连接方法请参见 mongo shell ...
- 产品推荐
- 这些文档可能帮助您