技术发展趋势
这表明注重数据价值的时代已经来临，并逐渐取代了从模拟数据向数字化转变的时期；产生、使用和管理对生活产生重要影响的数据信息，对于消费者、政府和企业的正常生活和运转必不可少。消费者和企业将持续在不同设备和云之间产生、分享和访问...
添加Lindorm宽表数据源
参数 说明 名称 自定义名称，支持字母与数字。数据源类型 选择 LQL。数据源参数 {"clusterKey":"x.hbaseue.rds.aliyuncs.com:30020:$username:$password"} x.hbaseue.rds.aliyuncs.com:30020 ：填写Lindorm宽表引擎中 使用HBase Java API ...
设备模拟器
您可使用模拟数据，测试物联网平台与设备端之间的通信功能，并定位问题。本文介绍设备模拟接入物联网平台并进行通信的具体操作。功能说明 通过设备模拟器，可调试设备通信功能。具体功能如下：功能项 说明 上行指令调试 设备上报消息到物...
连接方式概述
OceanBase Connector/J 驱动程序属于 JDBC Type 4 驱动类型，可以通过本地协议直接与数据库引擎通信。Connector/J 驱动程序兼容 OB2.0 协议。OceanBase 数据库支持 OceanBase Connector/J 驱动，可以自动识别 OceanBase 数据库的运行模式是...
概述
背景信息 Flink核心是一个流式的数据流执行引擎，其针对数据流的分布式计算提供了数据分布、数据通信以及容错机制等功能。基于流执行引擎，Flink提供了更高抽象层的API以便您编写分布式任务。Flink（VVR）完全兼容开源Flink，相关内容请...
功能特性
设备模拟器 模拟真实设备与物联网平台建立连接，使用模拟数据，测试物联网平台与设备端之间的通信功能，并定位问题。设备影子 提供设备影子缓存机制，将设备与应用解耦，解决不稳定无线网络下的通信不可靠痛点。文件管理 提供 将文件上传至...
QPS限制
通过阅读本文，您可以了解音视频通信数据服务单用户的API QPS限制。单用户QPS限制 单用户的API QPS限制是指以阿里云账号为基准，该账号及其RAM用户每秒或每分钟调用某API的频率上限。例如：某阿里云账号及其对应5个RAM用户同时调用接口 ...
异常数据告警
阿里云音视频通信已接入云监控服务。您可以监控用户入会异常占比、推（拉）流成功率、卡顿率、模糊率等指标，同时您还可以配置报警规则实时监控并上报异常指标。注意事项 云监控服务仅提供指标的异常监控和报警功能。如果您需要实时查看全...
他云/自建数据库录入
SSL（Secure Sockets Layer）能在传输层对网络连接进行加密，提升通信数据的安全性和完整性，但会增加网络连接响应时间。实例DBA 选择一个DBA角色进行后续权限申请等流程。查询超时时间（s）设定安全策略，当达到设定的时间后，SQL窗口执行...
云数据库录入
SSL（Secure Sockets Layer）能在传输层对网络连接进行加密，提升通信数据的安全性和完整性，但会增加网络连接响应时间。实例DBA 选择一个DBA角色进行后续权限申请等流程。查询超时时间（s）设定安全策略，当达到设定的时间后，SQL窗口执行...
离线同步常见问题
数据同步原则：来源端数据源的数据要能写入目的端数据源（来源端和目的端类型需要匹配，字段定义的大小需要匹配），即源端数据类型需要与写端数据类型匹配，源端是VARCHAR类型的数据不可写到INT类型的目标列中；目标端的数据类型定义的大小...
自建数据库与RDS性能对比的注意事项
网络环境 应用和自建数据库都需要部署于ECS实例，且与RDS实例位于同一地域，使得应用与RDS之间，以及应用与自建数据库之间都是通过内网进行通信。说明 应用与自建数据库需要部署于两台不同的ECS实例。如果部署于同一台ECS实例，则应用到自...
自建数据库与RDS性能对比的注意事项
网络环境 应用和自建数据库都需要部署于ECS实例，且与RDS实例位于同一地域，使得应用与RDS之间，以及应用与自建数据库之间都是通过内网进行通信。说明 应用与自建数据库需要部署于两台不同的ECS实例。如果部署于同一台ECS实例，则应用到自...
自建数据库与RDS性能对比的注意事项
网络环境 应用和自建数据库都需要部署于ECS实例，且与RDS实例位于同一地域，使得应用与RDS之间，以及应用与自建数据库之间都是通过内网进行通信。说明 应用与自建数据库需要部署于两台不同的ECS实例。如果部署于同一台ECS实例，则应用到自...
安全隧道通信协议
设备端与访问端之间的通信、安全隧道内部的会话（Session）管理及Session内的数据通信，都基于通信协议中隧道帧实现。隧道帧为WebSocket中二进制类型数据帧的Payload。您需在访问端应用程序和设备端目标应用中，自行设计和开发应用层通信...
使用场景
包含但不限于如下场景：数据迁移与同步 使用DMS任务编排配置和管理数据迁移或数据同步任务，将数据从一个数据源迁移到另一个数据源，或实现同数据源、不同数据源之间的数据实时同步。数据清洗与加工 DMS任务编排可以用于数据清洗和加工任务...
数据迁移与同步FAQ
本文为您列出数据迁移与数据同步的常见问题和相关解答。什么是数据迁移、数据同步？DTS的数据迁移与数据同步工作原理是什么？DTS的数据迁移与数据同步有什么区别？使用DTS遇到预检查报错，如何解决？什么是数据迁移、数据同步？数据迁移：...
表数据管理
模拟数据 创建模拟数据。具体操作步骤，请参见 生成测试数据。回到开始 跳转至第一页。上一页 向上翻页。下一页 向下翻页。跳至底部 跳转至最后一页。展示数据量 设置在页面中展示的行数。搜索 通过关键字搜索表数据。列管理 筛选在页面中...
DataWorks on EMR Serverless StarRocks最佳实践
DataWorks支持StarRocks数据源，通过数据源对接EMR Serverless StarRocks，可实现EMR Serverless StarRocks的数据集成、开发、分析、数据服务等功能。本文为您介绍EMR Serverless StarRocks在DataWorks上的操作流程。背景信息 了解EMR ...
提交物模型消息解析脚本
步骤四：使用真实设备调试 正式使用脚本之前，请使用真实设备与物联网平台进行上下行消息通信，以验证物联网平台能顺利调用脚本，解析上下行数据。您可使用物联网平台提供的Link SDK开发设备接入物联网平台。详细内容，请参见 Link SDK。...
数据查询与分析管控
背景信息 数据查询与分析管控支持对数据源查询和查询结果可执行的展示、复制、下载、分享等操作进行权限管控，具体如下：数据源查询权限管控 用于对数据源的查询权限进行管控。DataWorks的数据源分为绑定引擎时默认创建的引擎数据源，及在...
数据集成概述
您需要确保数据集成用于执行数据同步的资源组与您将同步的数据来源端与目标端网络环境的连通，数据集成支持您根据数据源所在网络环境，选择对应的网络同步任务，关于网络连通方案选择与配置资源组与数据源的网络连通，详情请参见：配置资源...
数仓规划概述
使用DataWorks进行数据建模时，数仓架构师或者模型小组成员可以在数仓规划页面对数据分层、业务分类、数据域、业务过程、数据集市、主题域进行设计。完成设计后，模型设计师在建模过程中可以依赖数仓规划中的数据分层、业务分类、数据域、...
连接方式概述
OceanBase Connector/C 也称为 LibOBClient，用于应用程序作为独立的服务器进程通过网络连接与数据库服务器 OBServer 节点进行通信。客户端程序在编译时会引用 C API 头文件，同时可以连接到 C API 库文件。说明 LibOBClient 生成的 so ...
使用Topic通信
设备与云端基于Alink协议进行物模型数据通信，包括设备上报属性或事件消息到云端，从云端下发设置属性或调用服务消息到设备，demo示例请参见 物模型通信。设备接入、物模型使用的入门视频，请参见 设备接入。不同协议、不同类型设备接入物...
Flink_SQL任务开发方式
以下示例代码实现了模拟数据的输入输出（从t1表中读数据写到t2表中）。说明 使用原生DDL+DML开发语句创建表，您需关闭Dataphin 编码规范 中的 禁止使用Flink原生DDL语句 设置。具体操作，请参见 编码规范。create temporary table t1(id ...
创建同步任务
本文为您介绍如何通过创建同步任务，导出MaxCompute中的数据至MySQL数据源中。前提条件 已通过RDS创建MySQL实例，获取RDS实例ID，并在RDS控制台添加白名单。详情请参见 快速创建RDS MySQL实例 和 添加白名单。说明 如果是通过自定义资源组...
应用场景
数据库网关（DatabaseGateway，简称DG）具有广泛的应用场景，用户可以使用云服务访问并管理本地IDC或其他云厂商的数据库，同时也可以与其他阿里云服务集成提供丰富的解决方案。多云数据库统一管理 数据管理 DMS 是一种集数据管理、结构管理...
应用场景
数据库网关（DatabaseGateway，简称DG）具有广泛的应用场景，用户可以使用云服务访问并管理本地IDC或其他云厂商的数据库，同时也可以与其他阿里云服务集成提供丰富的解决方案。多云数据库统一管理 数据管理 DMS 是一种集数据管理、结构管理...
快速体验
DataWorks为您提供智能建模、数据清洗、周期调度运维、数据治理等一站式大数据开发管理能力，本文以一个零售电商行业的数仓搭建实验为例，为您介绍DataWorks在数仓搭建过程中的技术选型、技术流程以及流程实现，帮助您深入了解阿里云...
DataWorks On Hologres使用说明
二、数据建模与开发 模块 描述 相关文档 数据建模 数据建模是全链路数据治理的第一步，沉淀阿里巴巴数据中台建模方法论，从数仓规划、数据标准、维度建模、数据指标四个方面，以业务视角对业务的数据进行诠释，让企业内部实现“数同文”的...
DataWorks On MaxCompute使用说明
二、数据建模与开发 模块 描述 相关文档 数据建模 数据建模是全链路数据治理的第一步，沉淀阿里巴巴数据中台建模方法论，从数仓规划、数据标准、维度建模、数据指标四个方面，以业务视角对业务的数据进行诠释，让企业内部实现“数同文”的...
数据上传
DataWorks的数据上传功能支持将本地文件、数据分析的电子表格、OSS文件等数据上传至MaxCompute、EMR Hive、Hologres等引擎进行分析及管理，为您提供便捷的数据传输服务，助力您快速实现数据驱动业务。本文为您介绍如何使用数据上传功能上传...
创建ClickHouse数据源
后续操作 数据源创建完成后，您可根据需要执行如下操作：计算任务开发与调度：DataWorks的数据开发与运维中心模块，为您提供ClickHouse任务的开发与调度能力，若您需要基于该ClickHouse数据源进行ClickHouse任务开发，或周期性调度...
DataWorks On CDP/CDH使用说明
一、数据集成 DataWorks的数据集成模块为您提供读取和写入数据至CDP/CDH Hive、CDP/CDH HBase的能力，您需要将Hive或HBase组件创建为 DataWorks的 Hive或HBase数据源，实现将其他数据源的数据同步至Hive或HBase数据源，或将Hive或HBase数据...
数据量
在数据库备份场景下，有4个概念：数据库磁盘空间、数据文件空间、备份数据量、存储数据量。数据量 说明 数据库磁盘空间 由数据库的数据文件空间、数据库的日志文件空间、操作系统文件空间和空闲空间组成。说明 RDS中为：购买时选择的存储...
实验介绍
数据采集 数据加工 配置数据质量监控 数据可视化展现 目标人群 开发工程师、数据分析师、产品运营等存在数仓数据获取与数据分析洞察人员。涉及产品 本案例涉及以下产品：一站式大数据开发治理DataWorks 本案例通过DataWorks实现数据采集，...
DataWorks模块使用说明
使用流程概览：参考文档：数据集成概述 数据建模与开发 子模块：数据建模 功能说明：数据建模是全链路数据治理的第一步，沉淀阿里巴巴数据中台建模方法论，从数仓规划、数据标准、维度建模、数据指标四个方面，以业务视角对业务的数据进行...
什么是备份数据量
与备份数据量不同，存储数据量取决于备份数据量、备份数据存储格式、压缩算法等因素。空间大小 在单次全量备份情况下，数据库磁盘空间（RDS/ECS）>数据文件空间（实际使用）>备份数据量（DBS）>存储数据量（OSS）。综上所述，您可通过调整...
功能特性
功能集 功能 功能描述 参考文档 安全 备份与恢复 MaxCompute提供数据备份与恢复功能，系统会自动备份数据的历史版本（例如被删除或修改前的数据）并保留一定时间，可以对保留周期内的数据进行快速恢复，避免因误操作丢失数据。备份与恢复 ...
- 产品推荐
- 这些文档可能帮助您