产品概述
什么是E-MapReduce 开源大数据开发平台E-MapReduce（简称EMR），是运行在阿里云平台上的一种大数据处理的系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理...
术语表
数据采集 术语 说明 Logtail Logtail是日志服务提供的日志采集工具。更多信息，请参见 Logtail采集概述。Logtail配置 Logtail配置是Logtail进行日志采集的策略集合，包括日志文件的位置、采集方式等。更多信息，请参见 Logtail配置。机器组...
物联网设备数据上云存储
本文介绍如何使用阿里云物联网平台和 TSDB 进行数据打通，实现物联网设备系统的开发和管理、数据采集、数据上报、数据存储和分析的一体化方案，构建智能物联网平台。架构参考“物联网平台+TSDB”方案的实现架构如下：物联网设备通过 IoT ...
表设计规范
例如，在规范化设计表的同时对数据通道中的数据采集方式进行优化，可以减少分布式系统中小文件的问题，降低表和分区的维护数量。表设计主要影响 表设计影响的操作有：创建表、导入数据、更新表、删除表及管理表。其中，导入数据场景按照...
常见问题
售前常见问题 产品计费常见问题 数据采集常见问题 数据存储常见问题 查询与分析常见问题 数据加工常见问题 消费与投递常见问题 售前常见问题 什么是日志服务？日志服务可以做什么？日志服务能为用户带来哪些价值？日志服务支持采集哪些数据...
Logtail限制说明
宕机时的处理 由于CheckPoint是定期保存，因此宕机恢复时将从上一个完整保存的CheckPoint开始恢复，可能导致数据采集重复。调整Checkpoint保存策略以减少数据被重复采集。Logtail采集配置 限制项 限制说明 配置更新生效的延时 从通过控制台...
Android
第三方美颜接口调用 RTC SDK YUV裸数据人脸识别接入接口，人脸识别接入时，需要订阅采集之后的前处理buffer数据，所以在startPreview之后需要调用RegisterPreprocessVideoObserver接口获取采集前处理数据并处理。brief register preprocess...
Presto概述
具体如下：数组和Map数据 JSON数据 GIS（Geographic Information System）数据 颜色数据 功能扩展能力强，提供了多种扩展机制：扩展数据连接器 自定义数据类型 自定义SQL函数 流水线：基于Pipeline处理模型数据在处理过程中实时返回给用户...
Logtail
宕机时的处理 由于CheckPoint是定期保存，因此宕机恢复时将从上一个完整保存的CheckPoint开始恢复，可能导致数据采集重复。调整Checkpoint保存策略以减少数据被重复采集。Logtail采集配置 限制项 限制说明 配置更新生效的延时 从通过控制台...
采集-IoT/嵌入式日志
日志服务团队结合IoT设备的特点，为IoT设备量身定制一套日志数据采集方案：C Producer。嵌入式开发需求 作为IoT/嵌入式工程师，除了需要深厚的开发功底外，面对海量的设备，如何有能力管理、监控、诊断黑盒设备至关重要。嵌入式开发需求...
PolarDB PostgreSQL版间的迁移
通过数据传输服务DTS（Data Transmission Service），可以实现 PolarDB PostgreSQL版 集群间的迁移。前提条件 已创建源和目标 PolarDB PostgreSQL版 数据库集群，详情请参见 创建PolarDB PostgreSQL版数据库集群。已将源和目标 PolarDB ...
Pod诊断
重要 使用故障诊断功能时，系统将在您的集群执行数据采集程序并收集检查结果。采集的信息包括系统版本，以及负载、容器组件等运行状态及系统日志中关键错误信息。数据采集程序不会采集您的业务信息及敏感数据。诊断支持的异常场景 Pod诊断...
客户案例
迁移完成后，飞天大数据平台覆盖数据采集>存储&计算>实时/离线分析等游戏数据运营全链路。游戏行业：37手游重构数据体系建设 客户简介 37手游致力于手机游戏发行业务，在中国大陆地区，存在近10%的市场占有率。迄今为止，成功发行二十余款...
Pod诊断
重要 使用故障诊断功能时，系统将在您的集群执行数据采集程序并收集检查结果。采集的信息包括系统版本，以及负载、Docker、Kubelet等运行状态及系统日志中关键错误信息。数据采集程序不会采集您的业务信息及敏感数据。诊断支持的异常场景 ...
使用阿里云ES监控RabbitMQ
重要 该ECS实例用来安装Beats和RabbitMQ，由于Beats目前仅支持 Alibaba Cloud Linux(Alinux）、RedHat和CentOS这三种操作系统，因此在创建时请选择其中一种操作系统。本文以CentOS为例。在目标ECS实例上安装云助手和Docker服务。具体操作...
核心概念
数据板块内的数据是完整的，即一个板块内可以独立完成从数据采集到最后的数据加工。例如，某多元化经营的企业，有地产、金融、建筑三个经营方向，这样业务板块可以划分为地产、金融和建筑。主题域 主题域是用于存放同一数据板块内不同意义...
功能性测试
在 功能性测试 Android/功能性测试 iOS 页面的 测试数据准备 中输入 任务名称、选择 待测应用、选择 执行用例、设置 自定义性能数据采集。任务名称：标记当前测试任务，方便后续搜索测试任务。待测应用：可选本地上传或选择已上传的包。...
兼容性测试
在 兼容性测试 Android/兼容性测试 iOS 页面的 测试数据准备 中输入 任务名称、选择 待测应用、选择 执行用例、设置 自定义性能数据采集。任务名称：标记当前测试任务，方便后续搜索测试任务。待测应用：可选本地上传或选择已上传的包。...
热点行优化
具体方案如下：串行处理变流水线处理 为了提升数据库系统的性能，最直接的方法是使用并行处理，但是对同一热点行的更新操作很难做到完全并行，PolarDB 创新性地使用了流水线处理方式，最大限度地将热点行更新操作并行化。热点行更新操作所...
PolarDB PostgreSQL版（兼容Oracle）间的迁移
通过数据传输服务DTS（Data Transmission Service），可以实现 PolarDB PostgreSQL版（兼容Oracle）集群间的迁移。背景信息 PolarDB PostgreSQL版（兼容Oracle）作为一款企业级关系型数据库管理系统，具有广泛的应用和强大的社区支持。每个...
大数据安全治理的难点
通常，大数据系统中的工作流涉及多部门、多责任人且跨系统的数据，如何才能协调好这些业务系统准时、保质保量地产出数据，避免出现因业务系统宕机/脏数据导致数据延时产出、产出脏数据，关乎到企业数据业务的连续性问题甚至高层的信任问题...
算子
AnalyticDB for MySQL 中的一个算子负责完成一个基本的数据处理逻辑，合理地组合算子、优化算子的顺序和执行方式，可以提升数据的处理效率。本文介绍 AnalyticDB for MySQL 中的常用算子及算子所对应的属性。背景信息 AnalyticDB MySQL版 ...
概述
我们提供了一种数据类型 tsvector 来存储预处理后的文档，还提供了一种类型 tsquery 来表示处理过的查询。有很多函数和操作符可以用于这些数据类型，其中最重要的是匹配操作符@。全文搜索可以使用索引来加速。什么是一个文档 一个document...
RDS for MySQL查看增量数据的方法
SQL洞察 SQL洞察 会统计所有的DML和DDL操作的信息，这些信息是采集系统对网络上的包进行采集得到的。SQL洞察并不会解析实际的参数的值，并且在SQL查询量较大的时候会丢失少量的记录。因此通过这种方式来统计准确的增量数据是不精确的。...
RDS MySQL查看增量数据的方法
SQL洞察 SQL洞察 会统计所有的DML和DDL操作的信息，这些信息是采集系统对网络上的包进行采集得到的。SQL洞察并不会解析实际的参数的值，并且在SQL查询量较大的时候会丢失少量的记录。因此通过这种方式来统计准确的增量数据是不精确的。...
飞线层
图表样式 飞线层是3D地球的子组件，支持独立的样式和数据配置，包括飞线的半径、弧度、类型以及起始点经纬度等，适用于OD数据的线型表达，通常表示两地之间的关联，如物流、交易等。样式面板 搜索配置：单击 样式 面板右上角的搜索配置项...
LogHub（SLS）实时ETL同步至Hologres
在 数据输出预览 窗口，您可以根据需要修改输入数据，或单击 手工构造数据 按钮自定义输入数据，再单击 预览 按钮，查看当前数据处理节点对数据的处理结果，当数据处理节点对输入数据处理异常，或产生脏数据时，也会反馈出异常信息，能够...
功能特性
数据安全中心 功能集 功能 功能描述 参考文档 数据分类分级 数据资产接入 支持自动发现并接入阿里云上的数据资产。支持通过一键连接或账密连接方式连接数据库，一键接入支持：RDS、PolarDB、PolarDB-X（原DRDS）、Redis、OSS、TableStore、...
什么是Dataphin
Dataphin是阿里巴巴集团OneData数据治理方法论内部实践的云化输出，一站式提供数据采、建、管、用全生命周期的大数据能力，以助力企业显著提升数据治理水平，构建质量可靠、消费便捷、生产安全经济的企业级数据中台。Dataphin兼容多种计算...
核心自治技术案例解析
性能采集负责对实例进行实时性能数据采集，涉及数据库的多项性能指标信息、规格配置信息、实例运行会话信息等。决策中心模块则会根据当前性能数据、实例会话列表数据等信息进行全局判断，以基于根因的全局自治，例如可通过SQL限流来解决...
SparkSQL自适应执行
阿里云E-MapReduce 3.13.0及后续版本的SparkSQL支持自适应执行功能，可以用来解决Reduce个数的动态调整、数据倾斜和执行计划的动态优化问题。使用限制 本文针对SparkSQL自适应执行涉及到的参数适用于Spark 2.x。如果您使用的是Spark 3.x，...
云原生可观测服务内容说明
1.服务概述 1.1 服务说明 云原生可观测服务是在客户系统上云、用云过程中，提供以阿里云产品体系为主，开源生态组件为辅的统一可观测方案设计、验证与落地的专家服务。该服务基于客户现实情况，以及可观测治理目标，为客户提供统一可观测...
功能特性
Spark访问湖仓一体外部数据源 基于External Volume处理非结构化数据 通过创建External Volume挂载OSS的路径，利用MaxCompute权限管理系统对用户访问External Volume做细粒度的权限控制，同时利用 MaxCompute引擎处理External Volume内部的...
SQL洞察和审计
SQL洞察与Binlog日志的区别 RDS MySQL的增量数据可以通过SQL洞察或Binlog日志来查看，但是两者又有区别：SQL洞察：可以记录所有DQL、DML和DDL操作信息，这些信息是通过数据库内核输出，对系统CPU消耗极低。但当实例负载非常高时，会丢失...
场景管理器
事件 事件 说明 当场景管理器请求完成时 场景管理器数据接口请求返回并经过过滤器处理后抛出的事件，同时抛出处理后的JSON格式的数据。具体数据示例请参见画布编辑器中组件右侧配置面板 数据源 页签的 数据响应结果 区域。轮播完成触发 当...
SQL洞察和审计
SQL洞察与Binlog日志的区别 RDS MySQL的增量数据可以通过SQL洞察或Binlog日志来查看，但是两者又有区别：SQL洞察：可以记录所有DQL、DML和DDL操作信息，这些信息是通过数据库内核输出，对系统CPU消耗极低。但当实例负载非常高时，会丢失...
新功能发布记录
全部地域 数据采集概述 2023年12月 功能名称 功能描述 支持地域 相关文档 企业云监控日志 采集企业云监控的日志。全部地域 开通企业云监控日志转储功能 Alibaba CloudLens Copilot for OSS 基于日志服务的CloudLens for OSS功能为您提供...
什么是ETL
行业领先的计算时效：通过DTS强大的数据库流式数据采集能力，ETL既能保障数据的准确性，同时还具备行业领先的计算实效性。灵活的任务监控与管理：ETL提供任务列表页供您进行任务监控和管理，能够对已经搭建的任务进行启停、查看详情等操作...
流式ETL
行业领先的计算时效：通过DTS强大的数据库流式数据采集能力，ETL既能保障数据的准确性，同时还具备行业领先的计算实效性。灵活的任务监控与管理：ETL提供任务列表页供您进行任务监控和管理，能够对已经搭建的任务进行启停、查看详情等操作...
可观测概述
在Service Mesh中实现可观测性，涉及了日志、监控指标、链路追踪这些可观测性数据的生成规则配置和采集配置，以及如何将这些可观测数据采集到云托管服务或者自建服务中。同时，还需要考虑如何支持针对网格代理与网关Pod分别定义采集配置，...
- 产品推荐
- 这些文档可能帮助您