SQL审计（数据库审计）
说明 系统是从数据库内采集csvlog文件内容，然后保存到日志服务器后提供给您查看，如果需要调整数据库内csvlog文件的最大保留个数，您可以调整实例参数 rds_max_log_files。关闭SQL审计 为节约成本，您可以在不需要审计SQL时关闭SQL审计...
阿里云Elasticsearch数据采集解决方案
本文提供了将数据采集到阿里云Elasticsearch服务中的几种解决方案。背景信息 对于数据搜索和分析来说，Elasticsearch无处不在。开发人员和社区可使用Elasticsearch寻找各种各样的使用场景，从 应用程序搜索 和 网站搜索，到日志、基础架构...
渠道分析
管理渠道属性 在「数据采集」-「渠道管理」-「渠道属性」进行属性新建与管理 步骤4.创建/批量创建渠道链接 可基于手工创建或批量创建渠道模板进行本次投放链接的生成，由于要分析的是618活动小红书渠道的PV、UV分析，所以在配置渠道参数中...
性能体验定价及计费说明
新功能会设置开关，如果您在开关与采样配置中或者在新功能的功能页面中开启新功能，并造成数据采集上报，则会将新功能的日志量也统计到您的总日志量中。以下为当前App端套餐的功能表 功能类 功能 功能说明 查询 查询时间范围 90天 管理 ...
数据预处理函数
物联网设备数据采集的原始数据中，大都含有各种各样的噪声影响。通过滑动平均函数，采集相邻数据的信息，对数据曲线进行平滑，便于进行数据分析。加权平均函数 针对输入的时序曲线进行滤波，从而发现时序曲线形态。物联网设备数据采集的...
查看数据指标
数据采集有一定延迟。数据指标说明 数据指标 页签展示的统计数据指标说明见下表。数据类 说明 实时在线设备 与物联网平台建立长连接的设备数量。按设备与物联网平台的通信协议类型进行区分显示。发送到平台的消息量 设备发送到物联网平台的...
组织系统配置
组织系统配置包含获取组织的AccessKey，设置 数据采集服务，设置AES密钥。单击页面右上角，选择 组织管理>组织系统配置。AccessKey：查看组织的AccessKey ID和AccessKey Secret，如上图所示。采集服务设置：若您通过阿里云 Quick Tracking ...
计费项
数据同步实例 链路配置费用 按量付费（含Serverless）在 增量数据采集 模块启动后开始计费（包含增量数据同步暂停期间）。重要 在增量数据同步失败期间，不会计费。Serverless实例的计费详情，请参见 Serverless实例计费方式。欠费前1个...
设备协议
一个数据采集协议可以有多个数据转化协议，一个数据转化协议只有一个数据采集协议。您可根据您的设备及型号选择相关协议，实现设备数据的自动化处理。设备协议界面如下图所示，包括“我的协议”和“协议市场”两部分内容，界面上方为您介绍...
管理应用和标签
示例：显示机器的名称 针对一个应用，如需停止对其计费，关闭数据采集即可。在 应用设置 页面上，您也可以设置是否为当前应用使用特定的标签，以及管理账号下的全部标签。当不再需要一个应用时，您可以删除应用。功能入口 登录 可观测链路 ...
数据模型概述
数据模型（Data Model）是数据特征的抽象，它从抽象层次上描述了系统的静态特征、动态行为和约束条件，为数据库系统的信息表示与操作提供一个抽象的框架。DDM目前支持逻辑模型和物理模型建模，其中物理模型又分为关系型数据模型和非关系型...
管理应用和标签
示例：显示机器的名称 针对一个应用，如需停止对其计费，关闭数据采集即可。在 应用设置 页面上，您也可以设置是否为当前应用使用特定的标签，以及管理账号下的全部标签。当不再需要一个应用时，您可以删除应用。功能入口 登录 ARMS控制台...
概述
Alluxio为数据驱动型应用和存储系统构建了桥梁，将数据从存储层移动到距离数据驱动型应用更近的位置，从而能够更容易被访问，同时使得应用程序能够通过一个公共接口连接到许多存储系统。背景信息 在大数据生态系统中，Alluxio位于数据驱动...
应用场景
该方案优势如下：全托管免运维 弹性扩展能力 开放数据湖架构 一站式的数据开发平台 数据查询与分析场景 在传统数据平台下，数据仓库工程师和数据分析师通常面临两个不同的环境，甚至使用不同的引擎和语法，导致数据指标和算子行为存在差异...
采集加速
本文介绍如何开启网络全球加速服务加速日志服务数据采集。步骤一：开启全球加速 全球加速采集功能处于公测阶段，提交 工单 联系日志服务技术支持人员为Project开启全球加速服务。步骤二：配置Logtail采集加速 您可以通过如下方式配置...
通过日志服务导入至数仓版
具体操作，请参见 数据采集。在AnalyticDB MySQL中已完成以下准备工作。在日志服务Project所在地域，创建AnalyticDB MySQL集群。具体操作，请参见 创建集群。说明 目前日志服务仅支持同地域投递。创建数据库账号。具体操作，请参见 创建...
快速入门
Logstash快速入门 Beats Beats是轻量级的数据采集工具，支持一键部署采集器，可视化采集与配置日志文件、网络数据、容器指标等多种类型数据，并集中管理多个采集器。Beats快速入门 高级监控报警 基于Elasticsearch开发的，具备采集、监控、...
产品架构
更多信息，请参见 数据采集概述。数据加工：日志服务提供可托管、可扩展、高可用的数据加工服务。数据加工服务可用于数据的规整、富化、流转、脱敏和过滤。更多信息，请参见 数据加工概述。查询与分析：日志服务支持PB级数据实时查询与分析...
基本概念
Prometheus实例 阿里云 可观测监控 Prometheus 版 提供的管理 可观测监控 Prometheus 版 数据采集和数据存储分析的逻辑单元。Prometheus探针 部署在用户侧或者云产品侧Kubernetes集群。负责自动发现采集目标、采集指标和远程写到其他库。...
通过Telegraf写入时序引擎
Telegraf 是一款开源的数据采集代理。其设计目标是通过插件来构建各种服务和第三方组件的 metrics 收集。Telegraf的内置插件支持将采集的数据上报给OpenTSDB，Lindorm时序引擎100%兼容OpenTSDB，用户可以使用Telegraf来对接时序引擎。本文...
基本概念
Prometheus实例 阿里云 可观测监控 Prometheus 版 提供的管理 可观测监控 Prometheus 版 数据采集和数据存储分析的逻辑单元。Prometheus探针 部署在用户侧或者云产品侧Kubernetes集群。负责自动发现采集目标、采集指标和远程写到其他库。...
日志同步分析概述
应用系统在提供服务过程中，会产生各种各样的日志数据。针对这些数据，可以根据业务的需求和环境，选择对应的方案采集数据并传输到Elasticsearch服务中进行查询分析。本文对日志同步分析的方案进行了汇总。相关文档 方案描述 通过Filebeat...
SLS Indexing Service
背景介绍 SLS Indexing Service优点如下：极为便捷的数据采集，可以利用SLS的多种数据采集方式实时将数据导入SLS。无需额外维护一个Kafka集群，省去了数据流的一个环节。支持Exactly-Once语义。因为SLS Indexing Service消费原理与Kafka ...
分析业务过程
您可以参考业务规划设计文档以及业务运行（开发、设计、变更等）相关文档，全面分析数据仓库涉及的源系统及业务管理系统：每个业务会生成哪些数据，存在于什么数据库中。对业务过程进行分解，了解过程中的每一个环节会产生哪些数据，数据的...
EMR Doctor常见问题
采集使用异步方式，不会阻塞任务主进程，当采集造成的压力过大时，会自动丢弃采集数据，并且您可以根据参数调整采集频率等。TPC-DS部分测试的数据如下表所示。SQL及使用引擎 使用EMR Doctor采集时间（10次平均）不使用EMR Doctor采集时间...
新建数据服务API-向导模式
数据服务API是一种API类型，由云计算资源中的数据通过参数配置生成，生成的API便于后续调用，可减少资源操作成本。本文介绍如何通过向导模式新建API。对原始数据层表“ys_xyk_bkxx”封装API 前提条件 工作组管理员账号登录。已创建“信息...
通过迁移评估采集器采集数据库对象
您可以自行采集数据库对象定义，也可以下载迁移评估采集器完成数据库对象的采集。本文为您介绍如何通过迁移评估采集器采集数据库对象。背景信息 迁移评估采集器是用于在公有云环境采集用户 Schema 数据的工具。您在公有云环境下不可以使用...
iOS SDK概述
日志服务iOS SDK封装了日志服务的日志采集相关API接口。您可以通过日志服务iOS SDK方便地采集iOS日志。...采集Unity3D游戏引擎插件数据 Unity4SLS.unitypackage Unity3D游戏引擎数据采集插件。更多信息，请参见 通过Unity Plugin接入数据。
监控任务性能
增量同步性能 可查看增量数据采集性能、日志缓存模块性能、增量同步性能。例如增量同步的同步流量、同步性能和同步延迟等信息。常见问题 一键诊断功能在哪里？一键诊断 功能已从 性能监控 页面移至 任务管理 页面。您可以在 任务管理 页面...
使用流程
ADAM（数据库与应用迁移）使用主要分为数据库评估，数据改造迁移，应用评估改造三个流程。整体迁移流程简介 数据库评估：帮助用户了解源库现状、提供目标库的选型建议，根据评估结果为用户迁移到目标库提供可行性参考。数据改造迁移：帮助...
01创建解决方案
将应用、服务、数据源等资源生成整体解决方案包，便于在其他系统或工作组中快速部署。本文以按应用关联为例，介绍如何创建解决方案。前提条件 已创建“信息中心（xxzx）”工作组，具体操作，请参见 新建工作组并添加成员。线上场景已上线，...
数据分析概述
DataWorks提供的数据分析平台，可以流畅地进行数据处理、分析、加工及可视化操作。在数据分析板块中，您不仅可以在线洞察数据，还可以编辑和共享数据。本文为您介绍数据分析平台的优势、功能、权限等概要信息。产品优势 与本地数据分析相比...
在Knative上实现日志采集
您无需开发就能快捷完成日志数据采集、消费、投递以及查询分析等功能。在Knative中结合日志服务，能有效提升对Serverless应用的运维能力。本文介绍如何在Knative中使用日志服务收集Serverless应用容器日志，采用日志服务收集、分析业务日志...
接入Logstash
在实际业务中，数据往往以各种各样的形式分散或集中地存储在多个系统中，Logstash支持多种数据输入方式，可以在同一时间从多种数据源采集数据。Logstash能够以连续的流式传输方式从日志、Web应用、数据存储等采集数据。过滤：实时解析和...
Android SDK概述
日志服务Android SDK封装了日志服务的日志采集相关API接口。您可以通过日志服务Android SDK方便地采集...采集Unity3D游戏引擎插件数据 Unity4SLS.unitypackage Unity3D游戏引擎数据采集插件。更多信息，请参见 通过Unity Plugin接入数据。
什么是EMR Serverless StarRocks
EMR Serverless StarRocks是开源StarRocks在阿里云上的全托管服务，您可以通过EMR Serverless StarRocks灵活的创建和管理StarRocks实例以及数据。StarRocks作为一款兼容MySQL协议的OLAP分析引擎，提供了极致的性能和丰富的OLAP场景模型，...
元数据采集的数据源有白名单访问控制时需要配置的白...
为保证您能正常使用数据地图的元数据采集和类目管理功能，您需要提前配置好白名单，将使用的DataWorks所在地域的IP网段添加至目标项目或数据库中，并为所使用的账号配置类目管理权限。本文为您介绍如何配置白名单及类目管理权限。背景信息 ...
数仓分层
在阿里巴巴的数据体系中，我们建议将数据仓库分为三层，自下而上为：数据引入层（ODS，Operation Data Store）、数据公共层（CDM，Common Data Model）和数据应用层（ADS，Application Data Service）。数据仓库的分层和各层级用途如下图所...
数据传输与迁移概述
MaxCompute提供多种渠道，以便您从业务系统或外部数据源写入数据到MaxCompute，或者从MaxCompute写出数据到外部系统或外部数据源。数据传输渠道 SDK-Tunnel渠道 外表（湖仓一体）JDBC渠道 场景数据写入MaxCompute 离线数据批量写入（数据...
通过Pod环境变量采集应用日志
阿里云日志服务SLS（Log Service）是针对日志数据的一站式服务，让您无需开发就能快捷完成日志数据采集、消费、投递以及查询分析等功能。ACK Serverless集群 提供了日志服务托管功能。您可以在 ACK Serverless集群 中使用SLS环境变量，将...
- 产品推荐
- 这些文档可能帮助您