通过迁移评估采集器采集数据库对象
您可以自行采集数据库对象定义，也可以下载迁移评估采集器完成数据库对象的采集。本文为您介绍如何通过迁移评估采集器采集数据库对象。背景信息 迁移评估采集器是用于在公有云环境采集用户 Schema 数据的工具。您在公有云环境下不可以使用...
入门概述
数据采集器使用 Filebeat 轻量型日志采集器，用于转发和汇总日志与文件。参见以下文档，快速使用Filebeat。通过Filebeat采集Apache日志数据 Metricbeat 轻量型指标采集器，输送各种系统和服务统计数据。参见以下文档，快速使用Metricbeat。...
产品架构
分布式链路跟踪产品总体架构如下图所示：Trace 数据采集通道 目前支持 3 种数据的采集通道，分别是阿里云底座的 SLS 通道，Antstack 底座的 ALS 通道，以及应用主动上报的通道。前两种是基于 Trace 日志收集的方式，后一种是 Trace 数据...
概述
Telegraf是InfluxData开发的数据采集器，支持众多的输入输出插件（例如MySQL、Redis、Elasticsearch等），在开源领域被广泛使用。本文介绍Telegraf的工作机制、安装步骤及采集方式。工作机制 日志服务基于Telegraf开发的监控模板，支持将...
元数据采集
数据源视角为您展示当前账号所属工作空间中已配置的数据源，您可基于数据源维度管理数据采集器。工作空间视角下，您可基于当前账号所属工作空间维度，对工作空间下已配置的各数据源的元数据采集器进行管理。对于工作空间下无数据源的情况，...
概述
方案设计 传感器数据采集上云解决方案如下图所示。数据链路为：测温器将物理信号转换成数字信息，组装成结构化数据，通过无线网络传输，采用MQTT协议接入阿里云物联网平台。物联网平台的规则引擎模块对原始数据进行过滤、富化、转换，实时...
数据库采集
下载采集器：如果源库不能对外使用公网，或者无法从云上去访问，可以通过ADAM数据采集器采集数据库。更多信息，请参见 采集器采集。在线采集 登录 数据管理DMS 5.0。在顶部菜单栏中，选择 集成与开发（DTS）>异构数据库迁移（ADAM）>数据库...
SQL周期性采集
说明 数据库采集器运行环境要求：数据库采集器所在的机器网络可连接Oracle源数据库即可，无需安装在源数据库物理机上。内存需达到6 GB以上，同时硬盘空间需满足50 GB以上。源库结构采集时，对收集结果数据自动进行参数脱敏。源库结构采集时...
数据库评估常见问题
请使用 ADAM 数据库采集器采集的 ZIP 包进行上传并创建画像。画像报错，采集数据中缺乏某信息？ADAM 画像必须分析完整的采集数据，如果缺乏某些必要信息，请重启采集或联系 ADAM 工作人员。画像内容，如何查看兼容度？ADAM 数据库画像主要...
DataCollection
字段 类型 描述 id String 数据采集ID name String 数据采集名称 type String 数据采集端的类型-server-web-app注：目前只支持 server status Integer 状态-0 未开通-1 开通中-2 开通成功-3 开通失败 dataCollectionType String 数据采集的...
DataCollection
字段 类型 描述 id String 数据采集ID name String 数据采集名称 type String 数据采集端的类型-server-web-app注：目前只支持 server status Integer 状态-0 未开通-1 开通中-2 开通成功-3 开通失败 dataCollectionType String 数据采集的...
管理问题数据
问题数据采集最终将基于您的规则生成数据采集SQL，并在MaxCompute引擎侧执行，此过程将产生MaxCompute计算引擎费用。问题数据采集结果将存储与MaxCompute临时表中，此过程将产生MaxCompute计算引擎存储费用。保留问题数据配置入口 您可在按...
新建数据采集接口
通过 Quick Tracking 使用数据采集服务的流程如下：配置数据采集渠道（App、小程序、Web）接口，并获取AccessKey，具体操作请参见下文。获取 Quick Tracking 的SDK，并使用上一步中获得的AccessKey进行数据采集程序的开发与部署。SDK和程序...
数据采集
时序数据采集 进程时序数据 计算资源包括：CPU使用率。存储资源包括：IO吞吐、IOUtil、IOPS、存储空间使用量、存储空间使用率。服务时序数据 在服务级别根据进程的角色不同，对各类时序数据进行了采集。业务相关的时序数据主要包括：QPS、...
服务端埋点验证
1 打开埋点验证 打开产品首页，点击顶部导航“数据采集”进入数据采集模块，点击顶部导航“埋点验证”在埋点验证模块内，选择“服务端验证”2 生成DebugKey 3 将DebugKey设置在代码中 将第2步生成的DebugKey配置在上报的日志中，注意代码...
通过Metricbeat收集系统数据及Nginx服务数据
本文介绍如何通过阿里云Metricbeat采集器收集系统数据（CPU使用率、内存、磁盘IO和网络IO统计数据）和Nginx服务数据，并生成可视化图表。前提条件 您已完成以下操作：创建阿里云Elasticsearch（简称ES）实例。详情请参见 创建阿里云...
快速体验
注意事项 本案例中，数据采集和数据加工的部分任务可以通过ETL工作流模板一键导入。在导入模板后，您可以前往目标空间，并自行完成后续的数据质量监控和数据可视化操作。仅 空间管理员 角色可导入ETL模板至目标工作空间，为账号授权空间...
教程概述
数据采集：通过阿里云DTS的数据同步功能，将RDS中的数据同步到DataHub中，完成数据采集。数据订阅：通过阿里云实时计算Flink，订阅DataHub数据进行实时计算，插入到RDS实例的目标表中。数据展示：通过DataV大屏，对数据进行处理并展示。
实验介绍
数据采集 数据加工 配置数据质量监控 数据可视化展现 目标人群 开发工程师、数据分析师、产品运营等存在数仓数据获取与数据分析洞察人员。涉及产品 本案例涉及以下产品：一站式大数据开发治理DataWorks 本案例通过DataWorks实现数据采集，...
上海新能源汽车车辆基础数据
客户简介 上海市新能源汽车公共数据采集与监测研究中心（以下简称“数据中心”）是2014年底由上海市社会团体管理局批准注册成立，由上海市经济和信息化委员会负责业务指导，是上海市的新能源汽车市级监管平台，其主要职责是对上海市推广的...
通过Pod环境变量配置应用日志采集
特殊场景1：将多个应用数据采集到同一Logstore 如果您需要将多个应用数据采集到同一Logstore，可以设置 aliyun_logs_{key}_logstore 参数，例如以下配置将2个应用的stdout采集到stdout-logstore中。示例中应用1的 {key} 为 app1-stdout，...
通过日志服务采集Kubernetes容器日志
定制需求1：将多个应用数据采集到同一Logstore 如果您需要将多个应用数据采集到同一Logstore，可以设置 aliyun_logs_{key}_logstore 参数，例如以下配置将2个应用的stdout采集到stdout-logstore中。示例中应用1的 {key} 为 app1-stdout，...
CDH Hive数据抽样采集器
您可以通过DataWorks的数据抽样采集器功能，从CDH Hive表中随机抽取表的部分数据用于数据保护伞的敏感数据识别。如果您在数据保护伞中配置了脱敏规则，那么在数据地图表详情页面进行数据预览时，命中的敏感字段将会被脱敏。本文为您介绍...
表设计最佳实践
源数据采集客户端太多时，如果源数据通过Tunnel直接进入到一个分区，则每个源数据采集客户端提交一次数据，都会在同一分区下产生一个独立的文件，从而导致大量小文件的出现。当SLS触发FunctionCompute持续高频地向MaxCompute中传入文件时，...
Logtail最佳实践
分类 文档链接 安装部署 使用OOS批量安装或升级Logtail 采集 通过Logtail跨阿里云账号采集日志 通过Logtail跨阿里云账号采集容器日志 通过Logtail采集Zabbix数据 采集企业内网服务器日志 主机场景下如何使用Logtail采集超大规模文件 ...
服务器数据采集方案概述
针对这些数据，可以根据业务的需求和环境，选择对应的方案进行数据采集并传输到Elasticsearch服务。本文对服务器数据采集方案进行了汇总。相关文档 方案描述 阿里云Elasticsearch数据采集解决方案 本文提供Beats、Logstash、语言客户端和...
V3.2.8版本说明
发布时间 2020年9月8日 核心功能 一、数据采集功能包 支持采集埋点事件、研发规范和SDK获取。支持将日志采集数据加工为行为数据集，并同步至ADB3.0数据源中进行进一步的筛选分析，实现再运营。二、媒体回流功能包 支持创建广告监测任务生成...
集群配置
本文介绍 可观测链路 OpenTelemetry 版 的集群配置，您可以在该页面进行数据采集启停、存储周期调整等操作。采集配置 您可以启停 可观测链路 OpenTelemetry 版 链路实例，配置后将影响所选地域所有数据的采集上报。全部开启：接收该地区...
数据采集常见问题
本文列举日志服务数据采集常见问题。Logtail基本问题 Logtail采集日志失败的排查思路 如何使用Logtail自动诊断工具 Logtail机器组问题排查思路（主机场景）ECS经典网络切换为VPC后，如何更新Logtail配置 Logtail服务的app_info.json文件中...
权限管理
数据采集 功能权限 功能权限名称 权限说明 数据采集_埋点验证访问 可以访问「数据采集-埋点验证」，使用埋点验证功能并可以查看验证报告 注意：必须要有至少一个「数据采集」的“数据权限”才能正常访问。数据权限 数据权限名称 权限说明 ...
Quick Tracking基本概念
为了能够快速上手Quick Tracking，建议先了解和学习下采集SDK和流量分析产品的基本概念，这些基本概念会贯穿数据采集到数据分析的全流程。行为采集 在行为采集中，有如下四个基本概念需要了解：系统事件 系统事件是指由采集SDK发出，用来...
ADAM概览
敏感数据保护：为保证数据库的敏感信息不被泄漏，数据采集器会对采集到的数据进行脱敏。兼容性分析：源库特性匹配：识别对象使用了哪些特性，并给出在目标库上的解决方案。源库使用场景匹配：针对一些特定的使用场景（通常可能会影响性能）...
稳定性测试
在 通用稳定性测试&Android/通用稳定性测试&iOS 页面的 测试数据准备 中输入 任务名称、选择 待测应用、输入 运行时间、设置 自定义性能数据采集。任务名称：标记当前测试任务，方便后续搜索测试任务。待测应用：可选本地上传或选择已上传...
代码模板
使用代码模板生成埋点代码的位置在「数据采集-埋点管理-事件/属性/方案管理」中。1）默认模板 该模块进入后，默认会提供7类基础模板：模板名称 技术栈 模板描述 Android PX系列预置模板 Android NATIVE 针对Android PX系列 SDK（版本号以PX...
可视分析创作间和传统BI软件差异比较
对比项 可视分析创作间 传统BI软件 数据源 数据连接类型：支持Excel上传，支持数据库连接 数据连接类型：支持Excel上传，支持数据库连接 支持临时业务数据，也支持建模后的数据内容 通常需要前期IT人员完成数据建模 数据采集和准备 零代码...
性能体验定价及计费说明
产品定价 App端 日志量使用有效时间为一年，日志定义请见消耗说明 日志量上限 价格 1000万 1500 5000万 5000 小程序/Web端 日志量使用有效时间为一年，日志定义请见消耗说明 日志量上限 价格 1000万 500 5000万 2500 消耗说明 App端 App端...
DataWorks快速入门指引
30分钟 简单用户画像分析（MaxCompute版）DataWorks、MaxCompute、RDS、OSS 以用户画像分析为例，进行数据采集、清洗加工、质量监控、可视化展示的全流程操作。60分钟 零售电商数据建模 DataWorks、MaxCompute 以电商场景为例，进行数据...
构建数据仓库
产品组合：DataHub+实时计算Flink+交互式分析+MaxCompute+DataWorks+Quick BI/DataV 场景说明：数据采集：通过DataWorks（批量）、DataHub（实时）进行统一数据采集接入。数据开发：基于DataWorks进行数据全链路研发，包括数据集成、数据...
推送采集数据
方法 POST URI/v3/openapi/app-groups/{appName}/data-collections/{dataCollectionName}/data-collection-type/{dataCollectionType}/actions/bulk appName 指的是 opensearch 应⽤名称 dataCollectionName 指的是数据采集名称，...
渠道分析
管理渠道属性 在「数据采集」-「渠道管理」-「渠道属性」进行属性新建与管理 步骤4.创建/批量创建渠道链接 可基于手工创建或批量创建渠道模板进行本次投放链接的生成，由于要分析的是618活动小红书渠道的PV、UV分析，所以在配置渠道参数中...
- 产品推荐
- 这些文档可能帮助您