米连科技
但是随着业务发展、架构的升级、数据量的增长，伊对需要寻找更强大的数据采集、处理和分析平台来满足运营团队日益增长的数据分析需求，保持伊对高速的用户增长率。业务痛点 伊对面临的主要挑战如下：数据来源分散 客户使用不同的计算存储...
数据库采集器问题
采集对数据库压力大吗？采集过程全部都是读取操作，唯一消耗CPU资源的操作来自于getddl操作，一般压力都很小。但为了采集顺利进行，建议在业务低峰期执行，否则容易出现Socket Timeout的超时错误（采集sql无法执行完成），导致必须重新采集...
通过接入中心接入数据
云服务环境：对于常规云服务数据采集，通常按地域划分，为每个地域创建各自的云服务环境。每一个环境默认关联一个Prometheus实例的存储指标数据。对于应用监控和链路追踪等组件，目前数据存储不严格对齐指标数据的存储划分。组件 接入中心...
接入Go程序性能数据
您可以通过 日志服务 全栈可观测中的Golang拉取功能采集Go Pprof性能数据，以及在全栈可观测中分析及可视化展示数据。前提条件 已创建全栈可观测实例。具体操作，请参见 创建实例。使用限制 Logtail为Linux Logtail 1.7及以上版本。工作...
接入Kubernetes Go程序性能数据
依托于日志采集组件多维度Kubernetes资源选择能力，采集Go程序的性能指标数据时，也支持通过环境变量、Kubernetes Labels、Namespace、Pod名称、容器名称过滤数据。更多信息，请参见 日志采集组件多维度Kubernetes资源选择能力。另外，Go...
资产指纹调查
如果您正在使用 资产暴露分析 功能，中间件 的数据采集频率需要设置为 每1小时采集一次、每3小时采集一次、每12小时采集一次 或 每天采集一次，不能设置为 关闭 或 每7天采集一次。更多信息，请参见 资产暴露分析。完成采集频率设置后，云...
采集数据
本文为您介绍如何新建OSS和RDS数据源来访问本教程所提供的用户信息与网站日志数据，配置数据同步链路至私有OSS数据源，并通过EMR Hive节点建表去查询同步后的数据，完成数据同步的操作过程。前提条件 开始本文的操作前，请准备好需要使用的...
基于GitHub公开事件数据集的离线实时一体化实践
本文为您介绍如何基于GitHub实时事件数据通过MaxCompute构建离线数仓、通过Flink和Hologres构建实时数仓，然后通过Hologres和MaxCompute分别进行实时与离线数据分析，从而实现实时离线一体化解决方案。背景信息 随着社会数字化发展，企业对...
CDH Hive数据抽样采集器
您可以通过DataWorks的数据抽样采集器功能，从CDH Hive表中随机抽取表的部分数据用于数据保护伞的敏感数据识别。如果您在数据保护伞中配置了脱敏规则，那么在数据地图表详情页面进行数据预览时，命中的敏感字段将会被脱敏。本文为您介绍...
通过接入中心接入数据
ECS（VPC）环境：对于ECS主机下的各类数据采集，由于大多数情况下需要通过网络进行数据拉取，因此一个VPC对应一个环境。ARMS优先通过网络的形式采集数据，尽可能降低安装到ECS中的探针数量。云服务环境：对于常规云服务数据的采集，云服务...
数据管理DMS中服务器监控数据的采集频率
本文对数据管理控制台中...关闭、退出服务器管理界面，会自动停止“实时监控”数据的采集。数据管理控制台页面，显示的服务器监控数据，是每隔30秒获取一次数据，如下图所示。关闭数据管理控制台的页面，会自动停止控制台监控数据的采集。
导入云监控数据
如果您有更大的使用需求，请提 工单 申请。性能限制 限制项 说明 并发子任务数量 您在导入配置中打开 采用企业云监控接口 开关后，日志服务会为每个待导入的数据命名空间（NameSpace）创建一个子任务，例如您在导入配置指定了3个NameSpace...
数据库评估概览
单击 在线数据库采集 或 下载采集器，采集源库数据。具体操作，请参见 数据库采集。数据库采集完成后，单击 下一步查看源库画像，单击 新建画像 上传采集的数据包进行数据库分析。具体操作，请参见 数据库画像。在 源库画像 页签，选中目标...
数据库评估常见问题
ADAM 画像必须分析完整的采集数据，如果缺乏某些必要信息，请重启采集或联系 ADAM 工作人员。画像内容，如何查看兼容度？ADAM 数据库画像主要内容是围绕着源 Oracle 信息，如果想查看目标数据库兼容性，请使用数据库画像创建数据库评估项目...
管理问题数据
问题数据采集最终将基于您的规则生成数据采集SQL，并在MaxCompute引擎侧执行，此过程将产生MaxCompute计算引擎费用。问题数据采集结果将存储与MaxCompute临时表中，此过程将产生MaxCompute计算引擎存储费用。保留问题数据配置入口 您可在按...
Transaction Table2.0概述
现状分析 当前典型的数据处理业务场景中，对于时效性要求低的大规模数据全量批处理的单一场景，直接使用MaxCompute足以很好的满足业务需求，对于时效性要求很高的秒级实时数据处理或者流处理，则需要使用实时系统或流系统来满足需求。...
入门概述
本文介绍如何通过使用场景选择对应的采集器，并完成数据采集。数据采集器使用 Filebeat 轻量型日志采集器，用于转发和汇总日志与文件。参见以下文档，快速使用Filebeat。通过Filebeat采集Apache日志数据 Metricbeat 轻量型指标采集器，输送...
元数据采集
周期采集：在配置目标数据源的元数据采集器后，您无需手动触发，系统会按照配置的采集计划周期性进行元数据的采集和更新。移除元数据采集器 支持您在 已采集列表 页面找到目标数据源单击 操作 列的 移除，移除当前数据源的元数据采集器。...
基本概念
DBGateway：DBGateway是部署在用户环境中的守护进程，负责数据库性能数据的采集和计算。但它不读取业务数据，且数据传输会进行加密压缩。更多关于DBGateway的信息，请参见 DBGateway简介。索引：索引是数据库管理系统对数据库表中一个或多...
修改监控频率
本文介绍了修改性能监控频率的操作步骤。操作步骤 登录 PolarDB控制台。在控制台左上角，选择集群所在地域。找到目标集群，单击集群ID。...相关API API 描述 ModifyDBClusterMonitor 修改 PolarDB 集群监控数据的采集频率。
DescribeDBClusterMonitor
调用DescribeDBClusterMonitor接口查询PolarDB集群的监控数据采集频率。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例...
DescribeDBClusterMonitor
调用DescribeDBClusterMonitor接口查询PolarDB集群的监控数据采集频率。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例...
新建数据采集接口
通过 Quick Tracking 使用数据采集服务的流程如下：配置数据采集渠道（App、小程序、Web）接口，并获取AccessKey，具体操作请参见下文。获取 Quick Tracking 的SDK，并使用上一步中获得的AccessKey进行数据采集程序的开发与部署。SDK和程序...
应用场景
实时数据通道 1.1 接入多种异构数据并投递到下游多种大数据系统 通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的释放数据的价值。...
DescribeDBClusterMonitor-查询集群监控数据采集频率
查询PolarDB集群的监控数据采集频率。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 下表是API对应的授权信息，可以在RAM权限策略语句的 ...
名词解释
例如，每秒一个温度数据的采集频度，每 5 分钟一个CPU使用率的采集频度。数据组（Data Group）：如果需要对比不同监测对象（由标签定义）的同一指标（由度量定义）的数据，可以按标签这些数据分成不同的数据组。例如，将温度指标数据按照...
接入MongoDB监控数据
本文介绍如何通过日志服务来完成MongoDB监控数据的采集和可视化。前提条件 已创建Project和MetricStore。具体操作，请参见 创建Project 和 创建MetricStore。使用限制 只有Linux Logtail 0.16.50及以上版本的Logtail支持采集MongoDB监控...
接入Clickhouse监控数据
本文介绍如何通过日志服务来完成Clickhouse监控数据的采集和可视化。前提条件 Telegraf所在的服务器可通过内网连接ClickHouse服务器。已创建Project和MetricStore。具体操作，请参见 创建项目Project 和 创建MetricStore。使用限制 只有...
接入Redis监控数据
本文介绍如何通过日志服务来完成Redis监控数据的采集和可视化。前提条件 Telegraf所在的服务器可通过内网连接Redis服务器。已创建Project和MetricStore。具体操作，请参见 创建Project 和 创建MetricStore。使用限制 只有Linux Logtail 0....
接入MySQL监控数据
本文介绍如何通过日志服务来完成MySQL监控数据的采集和可视化。前提条件 Telegraf所在的服务器可通过内网连接MySQL服务器。已创建Project和MetricStore。具体操作，请参见 创建Project 和 创建MetricStore。使用限制 仅支持MySQL 5.5及以上...
接入Elasticsearch监控数据
本文介绍如何通过日志服务来完成Elasticsearch监控数据的采集和可视化。前提条件 Telegraf所在的服务器可通过内网连接Elasticsearch服务器。已创建Project和MetricStore。具体操作，请参见 创建Project 和 创建MetricStore。使用限制 只有...
接入Nginx监控数据
本文介绍如何通过日志服务来完成Nginx监控数据的采集和可视化。前提条件 已创建Project和MetricStore。具体操作，请参见 创建Project 和 创建MetricStore。已配置Nginx Status模块。具体操作，请参见 配置Nginx Status模块。使用限制 只有...
接入NVIDIA GPU监控数据
本文介绍如何通过日志服务来完成NVIDIA GPU监控数据的采集和可视化。前提条件 已创建Project和MetricStore。具体操作，请参见 创建Project 和 创建MetricStore。使用限制 只有Linux Logtail 0.16.50及以上版本的Logtail支持采集NVIDIA GPU...
典型场景
基于湖构建数据平台，支持BI、挖掘等业务 对象存储OSS可以作为湖存储，DLA基于OSS构建一站式的大数据平台。具体包括构建数据湖、数据ETL、交互式查询、机器学习等功能。构建数据湖 实时数据湖：支持DB的CDC与消息数据（如Kafka）入湖，构建...
看板概述
功能概述 看板是日常监控产品大盘数据的工具，为了方便用户直接查看关键的产品数据，系统会预置部分产品的核心指标看板，以便于用户对核心指标进行监控。功能介绍 针对不同类型的应用，系统预置的看板会有所区别，详情如下：APP 系统预置...
概述
解决方案 T+1全量同步一键建仓是指通过DLA控制台配置数据源（RDS、PolarDB for MySQL、MongoDB数据源、ECS自建数据库数据）和目标OSS数据仓库，系统按照您设定的数据同步时间自动、无缝的帮您把数据源中的数据同步到目标数据仓库OSS中，...
日志同步分析概述
针对这些数据，可以根据业务的需求和环境，选择对应的方案采集数据并传输到Elasticsearch服务中进行查询分析。本文对日志同步分析的方案进行了汇总。相关文档 方案描述 通过Filebeat采集Apache日志数据 典型的ELK日志采集模式。使用阿里云...
实例监控
说明 上述各 资源监控 项的数据采集周期均为1分钟，各 引擎监控 项的数据采集周期均为5秒钟。最多支持查看7天内的监控数据。操作步骤 登录 PolarDB分布式版控制台。在页面左上角选择目标实例所在地域。在 实例列表 页，找到目标实例并单击...
数据库监控
说明 上述各监控项的数据采集周期均为1分钟。最多支持查看7天内的监控数据。操作步骤 登录 PolarDB分布式版控制台。在页面左上角选择目标实例所在地域。在 实例列表 页，找到目标实例并单击实例ID。在左侧导航栏中，单击 监控与报警>数据库...
数据地图概述
数据地图是在元数据基础上提供的企业数据目录管理模块，涵盖全局数据检索、元数据详情查看、数据预览、数据血缘和数据类目管理等功能。数据地图可以帮助您更好地查找、理解和使用数据。元数据采集与接入 MaxCompute数据 如果您使用了...
- 产品推荐
- 这些文档可能帮助您