集群管理常见问题
采集使用异步方式，不会阻塞任务主进程，当采集造成的压力过大时，会自动丢弃采集数据，并且您可以根据参数调整采集频率等。TPC-DS部分测试的数据如下表所示。SQL及使用引擎 使用EMR Doctor采集时间（10次平均）不使用EMR Doctor采集时间...
JDBC
本文将介绍如何在Java应用中使用JDBC连接 PolarDB PostgreSQL版（兼容Oracle）数据库。前提条件 支持的 PolarDB PostgreSQL版（兼容Oracle）的内核小版本包括：Oracle语法兼容1.0 版本和 Oracle语法兼容2.0 版本。已经在 PolarDB 集群创建...
Logtail采集详情
采集过程 Logtail采集数据的过程如下：监听日志 读取日志 处理日志 过滤日志 聚合日志 发送日志 说明 更多关于Logtail采集原理的介绍，请参见 Logtail技术分享。监听日志 在服务器上安装Logtail及在日志服务控制台上创建Logtail采集配置后...
审计配置
流量采集（Agent）RDS、PolarDB、自建数据库 通过在应用服务器或数据库服务器中部署Agent，并配置网络连接来打通数据采集链路。Agent将日志流量转发给 DSC 审计服务器完成日志采集。重要 该审计模式会消耗服务器的一些CPU、内存、网络带宽...
应用开发向导
连接云原生数据仓库MySQL版推荐的方式是 druid-jdbc 或...用户在进行MPP下DUMP的时候，通过MySQL客户端连接无法正常DUMP，hint没有被识别。使用MySQL客户端连接云原生数据仓库MySQL版，需要指定-c 参数进行连接，否则后续查询的hint可能无效。
查看或申请连接地址
在连接 PolarDB 集群时，您需要填写 PolarDB 集群的连接地址。PolarDB 为集群地址和主地址分别提供了私网和公网的连接地址，本文将介绍如何在控制台查看和申请连接地址。集群地址和主地址 地址类型 地址说明 支持的网络类型 集群地址（推荐...
查看或申请连接地址
在连接 PolarDB 集群时，您需要填写 PolarDB 集群的连接地址。PolarDB 为集群地址和主地址分别提供了私网和公网的连接地址，本文将介绍如何在控制台查看和申请连接地址。集群地址和主地址 地址类型 地址说明 支持的网络类型 集群地址（推荐...
通过代理连接地址连接数据库
连接RDS MySQL实例 在获取数据库代理连接地址和端口后，支持使用数据库代理连接地址通过以下三种方式连接RDS MySQL实例：通过客户端、命令行连接RDS MySQL实例 通过DMS登录RDS数据库 通过应用程序访问数据库 相关文档 连接数据库 配置数据...
连接诊断
若客户端无法正常连接云数据库MongoDB实例，您可以通过连接诊断功能诊断客户端的IP地址是否已正确配置在云数据库MongoDB实例的白名单中。使用限制 云数据库MongoDB仅单节点、副本集和分片集群实例支持连接诊断功能。操作步骤 登录 MongoDB...
入门概述
Beats是轻量型的数据采集工具，阿里云Elasticsearch支持Filebeat、Metricbeat、Auditbeat和Heartbeat采集器。本文介绍如何通过使用场景选择对应的采集器，并完成数据采集。数据采集器使用 Filebeat 轻量型日志采集器，用于转发和汇总日志与...
新建数据采集接口
通过 Quick Tracking 使用数据采集服务的流程如下：配置数据采集渠道（App、小程序、Web）接口，并获取AccessKey，具体操作请参见下文。获取 Quick Tracking 的SDK，并使用上一步中获得的AccessKey进行数据采集程序的开发与部署。SDK和程序...
连接地址介绍
RDS PostgreSQL根据不同场景，提供三种连接地址，包括实例连接地址、数据库代理连接地址和Babelfish连接地址。本文介绍它们区别和适用场景。连接地址对比说明 地址类型 地址说明 适用场景 实例连接地址 创建RDS PostgreSQL时会默认生成一个...
设备协议
设备协议模块可创建的协议以及各协议的功能如下：设备采集协议：将设备数据自动推送到云控平台数据采集端口。数据转化协议：将数据采集协议推动上来的设备数据转化为交通云控平台的标准格式。数据（控制）下发协议：使交通云控平台下发的...
管理问题数据
问题数据采集最终将基于您的规则生成数据采集SQL，并在MaxCompute引擎侧执行，此过程将产生MaxCompute计算引擎费用。问题数据采集结果将存储与MaxCompute临时表中，此过程将产生MaxCompute计算引擎存储费用。保留问题数据配置入口 您可在按...
什么是智能众包
人工智能众包（AI Crowdsourcing）基于共享人力资源模式，为人工智能算法提供数据采集、清洗、标注等服务，帮助企业快速构建算法数据集。人工智能众包（AI Crowdsourcing）基于共享人力资源模式，为人工智能算法提供数据采集、清洗、标注等...
数据采集
时序数据采集 进程时序数据 计算资源包括：CPU使用率。存储资源包括：IO吞吐、IOUtil、IOPS、存储空间使用量、存储空间使用率。服务时序数据 在服务级别根据进程的角色不同，对各类时序数据进行了采集。业务相关的时序数据主要包括：QPS、...
常见错误处理方法
连接异常 连接异常即应用程序或者客户端与数据库的连接出现异常，例如已经创建的连接，提示连接不存在或连接超时，无法与数据库实例建立连接等。连接异常经常发生在网络闪断，或者数据库服务重启时，您需要在应用程序中就此类异常，添加重...
教程概述
数据采集：通过阿里云DTS的数据同步功能，将RDS中的数据同步到DataHub中，完成数据采集。数据订阅：通过阿里云实时计算Flink，订阅DataHub数据进行实时计算，插入到RDS实例的目标表中。数据展示：通过DataV大屏，对数据进行处理并展示。
服务器数据采集方案概述
针对这些数据，可以根据业务的需求和环境，选择对应的方案进行数据采集并传输到Elasticsearch服务。本文对服务器数据采集方案进行了汇总。相关文档 方案描述 阿里云Elasticsearch数据采集解决方案 本文提供Beats、Logstash、语言客户端和...
设置连接池
如果您的应用连接创建频繁（例如短连接场景）或者连接数量很大（大于MySQL数据库的连接数限制），您可以参考本文使用合适的RDS MySQL数据库代理连接池，降低应用与数据库建立连接的频率来减少MySQL数据库主线程的开销，减少数据库上的总...
iOS SDK概述
日志服务iOS SDK封装了日志服务的日志采集相关API接口。您可以通过日志服务iOS SDK方便地采集iOS日志。...采集Unity3D游戏引擎插件数据 Unity4SLS.unitypackage Unity3D游戏引擎数据采集插件。更多信息，请参见 通过Unity Plugin接入数据。
CDH Hive数据抽样采集器
您可以通过DataWorks的数据抽样采集器功能，从CDH Hive表中随机抽取表的部分数据用于数据保护伞的敏感数据识别。如果您在数据保护伞中配置了脱敏规则，那么在数据地图表详情页面进行数据预览时，命中的敏感字段将会被脱敏。本文为您介绍...
快速体验
注意事项 本案例中，数据采集和数据加工的部分任务可以通过ETL工作流模板一键导入。在导入模板后，您可以前往目标空间，并自行完成后续的数据质量监控和数据可视化操作。仅 空间管理员 角色可导入ETL模板至目标工作空间，为账号授权空间...
Android SDK概述
日志服务Android SDK封装了日志服务的日志采集相关API接口。您可以通过日志服务Android SDK方便地采集...采集Unity3D游戏引擎插件数据 Unity4SLS.unitypackage Unity3D游戏引擎数据采集插件。更多信息，请参见 通过Unity Plugin接入数据。
设置数据库代理连接地址
开通RDS MySQL数据库代理后，客户端需要通过数据库代理连接地址访问数据库。本文介绍RDS MySQL数据库代理地址类型以及如何设置整个数据库代理连接地址、内网连接地址和外网连接地址。前提条件 已开通数据库代理。代理地址类型说明 代理地址...
服务端埋点验证
1 打开埋点验证 打开产品首页，点击顶部导航“数据采集”进入数据采集模块，点击顶部导航“埋点验证”在埋点验证模块内，选择“服务端验证”2 生成DebugKey 3 将DebugKey设置在代码中 将第2步生成的DebugKey配置在上报的日志中，注意代码...
如何处理RDS MySQL连接数被打满的情况
问题描述 连接数满会导致客户端无法连接到RDS MySQL数据库。问题原因 空闲连接过多。活动连接过多。解决方案 说明 如果对实例或数据有修改、变更等风险操作，务必注意实例的容灾、容错能力，确保数据安全。如果对实例（包括但不限于ECS、...
实验介绍
数据采集 数据加工 配置数据质量监控 数据可视化展现 目标人群 开发工程师、数据分析师、产品运营等存在数仓数据获取与数据分析洞察人员。涉及产品 本案例涉及以下产品：一站式大数据开发治理DataWorks 本案例通过DataWorks实现数据采集，...
Logtail最佳实践
分类 文档链接 安装部署 使用OOS批量安装或升级Logtail 采集 通过Logtail跨阿里云账号采集日志 通过Logtail跨阿里云账号采集容器日志 通过Logtail采集Zabbix数据 采集企业内网服务器日志 主机场景下如何使用Logtail采集超大规模文件 ...
目标数据库连接性检查
为保障数据迁移任务的顺利执行，在预检查阶段检查DTS服务器是否能够连通要迁移的目标数据库。本文将介绍目标数据库连接性检查...网络互通问题 经过上述排查后仍然无法通过目标数据库连接性检查，可能是DTS服务器与目标数据库网络互通问题。
开启数据采集功能
CloudLens for ALB支持一键开启数据采集功能，用于采集ALB访问日志。本文介绍开启数据采集功能的操作步骤及相关操作。前提条件 已创建应用型负载均衡实例。具体操作，请参见 创建应用型负载均衡。已创建日志服务Project和Logstore。具体...
开启数据采集功能
CloudLens for PolarDB支持一键开启数据采集功能，用于采集PolarDB MySQL集群的审计日志、慢查询日志、错误日志和性能指标。本文介绍开启数据采集功能的操作步骤及相关操作。前提条件 已创建PolarDB MySQL集群。具体操作，请参见 购买按量...
通过Filebeat采集Apache日志数据
操作流程 步骤一：准备工作 步骤二：配置并安装Filebeat采集器 步骤三：配置Logstash管道过滤并同步数据 步骤四：查看数据采集结果 步骤一：准备工作 创建阿里云Elasticsearch实例和Logstash实例，两者版本相同，并且在同一专有网络VPC...
数据采集常见问题
本文列举日志服务数据采集常见问题。Logtail基本问题 Logtail采集日志失败的排查思路 如何使用Logtail自动诊断工具 Logtail机器组问题排查思路（主机场景）ECS经典网络切换为VPC后，如何更新Logtail配置 Logtail服务的app_info.json文件中...
执行在线评估
背景信息 在线评估是直接连接目标数据库，采集源端数据库的对象、SQL 语句和数据库负载等信息，与 OceanBase 数据库的现有能力进行兼容性对标，查找其不兼容点并提供修复方法。操作步骤 新建在线评估任务。登录 OceanBase 管理控制台。在...
产品概述
产品为客户提供资产建模、数据采集、数据分析、设备监控和数据分析五大产品能力：资产建模：定义设备资产标准模型，管理设备资产数据 提供设备资产全维度数据建模工具 快速构建实体资产数据模型 对设备资产进行全生命周期管理 为数据应用...
迁移评估概述
目前支持进行对象评估的数据库类型及版本如下：Oracle 数据库：11g/12c/18c/19c MySQL 数据库：5.6/5.7/8.0 DB2 LUW 数据库（仅支持采集文件上传评估）云数据库 RDS PolarDB MySQL 引擎 支持对 Oracle 和 MySQL 数据库的 DDL 语句进行兼容...
开启数据采集功能
CloudLens for CLB 支持一键开启数据采集功能，用于采集CLB访问日志、配置审计日志和云监控事件。本文介绍开启数据采集功能的操作步骤及相关操作。前提条件 已创建CLB实例。具体操作，请参见 创建实例。已为CLB实例配置7层监听，即配置HTTP...
采集公网数据
应用场景 公网数据采集包含移动端、外部服务器、网页和设备数据的采集，采集完成后需要进行实时计算、数据仓库等数据应用。方案1：前端服务器+Kafka 由于Kafka不提供RESTful协议，更多是在集群内使用，因此一般需要Nginx服务器做公网代理，...
数据库采集
下载采集器：如果源库不能对外使用公网，或者无法从云上去访问，可以通过ADAM数据采集器采集数据库。更多信息，请参见 采集器采集。在线采集 登录 数据管理DMS 5.0。在顶部菜单栏中，选择 集成与开发（DTS）>异构数据库迁移（ADAM）>数据库...
- 产品推荐
- 这些文档可能帮助您