数据聚合分析
AnalyticDB的智能分析系统对采集的数据进行了多种分析，从而洞察实例运行状态。实例查询行为画像分析 对单独实例的查询行为进行了统计分析，主要统计指标包括：用户在某段时间内的查询次数；用户查询是否包含join、agg或者sort等；用户第一...
数据分析整体趋势
Hadoop也在早期的MapReduce接口基础上增加了SQL接口，SQL语法逐渐成为大数据分析系统的标准配置。随着AWS，Azure，Alibaba，Google等云厂商的出现，云原生分布式数据仓库成为目前数据分析技术的主要解决方案，代表性云服务包括Amazon ...
公交出行：启迪公交
PolarDB-X 专注解决海量数据存储、超高并发吞吐、大表瓶颈以及复杂计算效率等数据库瓶颈问题，历经各届天猫双十一及阿里云各行业客户业务的考验，助力企业加速完成业务...实时和汇总大数据分析系统，支持公交领导产生更加快速有效的业务决策。
日志同步分析概述
使用Filebeat+Kafka+Logstash+Elasticsearch构建日志分析系统 使用Filebeat采集日志数据，将Kafka作为Filebeat的输出端。Kafka实时接收到Filebeat采集的数据后，输出到Logstash中进行过滤处理，最终将满足需求的数据输出到Elasticsearch中...
应用场景
日志服务的典型应用场景包括：数据采集与消费、数据清洗与流计算（ETL/Stream Processing）、数据仓库对接（Data Warehouse）、日志实时查询与分析。数据采集与消费 通过日志服务LogHub功能，可以大规模低成本接入各种实时日志数据（包括...
集群管理常见问题
对于存储分析：EMR Doctor默认不启用存储采集分析，您可以手动开启存储采集。开启采集后，通常是上午10点左右进行采集，等待所有采集结束后第二天凌晨才会进行分析并生成报告。如果是当天下午才开启采集，则需要第三天才能看到结果。可以给...
什么是阿里云Elasticsearch
Beats数据采集中心 Beats是轻量级的数据采集工具，集合了多种单一用途的数据采集器。它们从成百上千或成千上万台机器和系统向Logstash或Elasticsearch发送数据。阿里云Elasticsearch的Beats采集中心支持Filebeat、Metricbeat、Auditbeat和...
日志同步报警
若您购买了数据采集功能包，并在 组织系统配置 中配置了采集数据同步服务，系统将采集的日志数据加工成可用于分析筛选的行为数据，并将加工好的数据自动同步到用户指定的ADB3.0数据源中。若未成功同步数据到用户指定的数据源，则将在消息...
应用场景
报表产出效率低，维护难 后台分析系统的数据报表变更，编码研发周期长，维护困难。图表效果设计不佳，人力成本高 使用HighChart等工具做报表，界面效果不佳，人力维护成本高。推荐搭配使用 RDS+Quick BI 报表与自有系统集成 某运输公司期望...
快速接入
产品准备-创建组织和应用 在使用Quick Tracking产品时，首先需要创建一个组织和应用，后续的SDK集成、用户行为日志采集和数据分析都需在此基础之上。组织管理 应用管理 角色授权 埋点方案录入 将业务准备中梳理好的埋点方案内容录入到Quick...
采集-通过WebTracking采集日志
开发难度大/成本高：为完成一次数据采集、分析需求，首先需要购买云主机、公网IP、开发数据接收服务器、消息中间件等，并且通过互备保障服务高可用。接下来需要开发服务端并进行测试。使用不易：数据达到服务端后，还需要工程师先清洗结果...
非结构化分析
支持数据实时更新 传统的向量分析系统中数据只能按照T+1更新，不支持数据实时写入。云原生数据仓库PostgreSQL版向量分析支持数据实时更新和查询。支持向量分析碰撞 AnalyticDB PostgreSQL版 向量分析支持KNN-Join，即比较一堆向量与另外一...
系统管理
上传数据至EMR Hive、Hologres引擎：仅支持使用独享资源组（即 数据分析>系统管理 相应引擎必须配置为独享调度资源组和独享数据集成资源组）。所选资源组需绑定至待接收数据的表所在的DataWorks工作空间，且需确保数据上传任务使用的数据源...
面临的业务挑战
数据来源上包含数据库数据、日志数据、对象数据以及已有数仓上的存量数据等。这些不同来源、不同格式的数据，各自又有不同的访问和分析方式，而大量传统企业基于关系数据库构建自己的业务系统，已经非常熟悉按SQL的方式去使用数据，这无疑...
什么是可观测监控 Prometheus 版
什么是Prometheus实例 Prometheus实例是阿里云 可观测监控 Prometheus 版 服务提供的管理Prometheus数据采集和数据存储分析的逻辑单元，每个 Prometheus实例 提供对应的Prometheus数据采集配置、时序数据库实例、Dashboard监控大盘和报警...
什么是可观测监控 Prometheus 版
什么是Prometheus实例 可观测监控 Prometheus 版 是阿里云 可观测监控 Prometheus 版 服务提供的管理Prometheus数据采集和数据存储分析的逻辑单元，每个 Prometheus实例 提供对应的Prometheus数据采集配置、时序数据库实例、Dashboard监控...
快速入门
Logstash快速入门 Beats Beats是轻量级的数据采集工具，支持一键部署采集器，可视化采集与配置日志文件、网络数据、容器指标等多种类型数据，并集中管理多个采集器。Beats快速入门 高级监控报警 基于Elasticsearch开发的，具备采集、监控、...
应用场景
物联网 物联网有着数据采集点多、数据总量大、并发高的应用特点。在基于 MySQL 数据库的系统架构下，存放着设备信息的库表，往往需要使用分库分表和相应的数据分发技术才能承担业务流量。分库分表的设计不仅增加了数据库运维人员的管理难度...
功能优势
支持数据实时更新 传统的向量分析系统中数据只能按照T+1更新，不支持数据实时写入。分析型数据库MySQL版向量分析支持数据实时更新和查询。支持向量分析碰撞 分析型数据库MySQL版向量分析支持KNN-Join SQL，即比较一批向量与另外一批向量的...
服务器数据采集方案概述
针对这些数据，可以根据业务的需求和环境，选择对应的方案进行数据采集并传输到Elasticsearch服务。本文对服务器数据采集方案进行了汇总。相关文档 方案描述 阿里云Elasticsearch数据采集解决方案 本文提供Beats、Logstash、语言客户端和...
日志审计服务概述
应用场景 日志服务与审计场景 日志服务提供一站式数据采集、清洗、分析、可视化和告警功能。支持日志服务相关场景：DevOps、运营、安全、审计。典型日志审计场景 日志审计一般分成如下4层需求。基础需求：大部分中小企业客户需要自动化采集...
iOS SDK
设置后在产品后台会同展示用户账号 第四步 初始化 查看文档[第四步初始化」必选 第五步 功能开关 查看文档「第五步配置功能开关」可选 可以关闭崩溃分析、卡顿分析、启动分析、网络分析、内存分析、应用内H5页面分析、OOM异常的采集；...
什么是阿里云Logstash
在阿里云ELK（Elasticsearch、Logstash、Kibana）生态下，Elasticsearch作为实时分布式搜索和分析引擎，Logstash提供了数据采集、转换、优化和输出的能力，Kibana提供了强大的可视化界面，可以被广泛应用于实时日志处理、全文搜索和数据...
采集-IoT/嵌入式日志
日志服务团队结合IoT设备的特点，为IoT设备量身定制一套日志数据采集方案：C Producer。嵌入式开发需求 作为IoT/嵌入式工程师，除了需要深厚的开发功底外，面对海量的设备，如何有能力管理、监控、诊断黑盒设备至关重要。嵌入式开发需求...
图扑案例
面向上层数据可视化、分析系统，Lindorm提供更为便捷的开发期SDK和REST API数据对接方案，同时兼容OpenTSDB、Prometheus、Hbase等原生接口，无缝对接主流生态，进一步简化了图扑软件集成部署成本。适用场景 实时场景监控大屏展现。态势感知...
基于MaxCompute进行大数据BI分析
DataWorks：可实现ETL功能，对复杂数据集进行采集、加工及分析处理，详情请参见 什么是DataWorks。Quick BI：对处理后的数据进行报表制作，实现数据可视化展示及分析，详情请参见 什么是Quick BI。应用场景 互联网行业、电商、游戏行业等...
常见问题
售前常见问题 产品计费常见问题 数据采集常见问题 数据存储常见问题 查询与分析常见问题 数据加工常见问题 消费与投递常见问题 售前常见问题 什么是日志服务？日志服务可以做什么？日志服务能为用户带来哪些价值？日志服务支持采集哪些数据...
使用SDK示例代码消费订阅数据
持久化存储消费位点 如果增量数据采集模块触发容灾机制（特别是SUBSCRIBE模式），新建的增量数据采集模块将无法保存客户端上次的消费位点信息，可能会导致客户端从一个较旧的位点开始消费订阅数据，从而造成历史数据的重复消费。...
最佳实践概览
查询分析RocketMQ客户端日志 通过Elasticsearch和rsbeat实时分析Redis slowlog 服务器数据采集 服务器数据采集方案概述 阿里云Elasticsearch数据采集解决方案 通过自建Metricbeat收集系统指标信息 使用SkyWalking和Elasticsearch实现全链路...
使用SDK示例代码消费订阅数据
持久化存储消费位点 如果增量数据采集模块触发容灾机制（特别是SUBSCRIBE模式），新建的增量数据采集模块将无法保存客户端上次的消费位点信息，可能会导致客户端从一个较旧的位点开始消费订阅数据，从而造成历史数据的重复消费。...
C100售后支持相关问题
购买数据库审计实例后，您可以通过以下操作配置数据库审计服务：启用数据库审计实例 配置数据库审计实例 登录数据库审计系统 管理数据库资产 安装Agent 如果您想配置审计规则和告警通知，更多信息，请参见 C100快速入门。如何将跨地域、跨...
采集ACK服务日志
阿里云Filebeat支持采集容器服务Kubernetes版ACK（Container Service for Kubernetes）日志，并将采集的日志输出到阿里云Elasticsearch中，进行分析展示。本文介绍如何配置ACK服务日志采集，以及如何查看ACK集群中的采集器资源。前提条件 ...
亿海蓝-航运大数据的可视化案例
其中，航运数据可视化分析系统的核心功能，是对用户关心的航运数据进行分析和报告输出。输出形式主要是热力图和统计指标。示例使用场景如下：大宗航线繁忙度分析 铁矿石LNG等货种航线分布 港口业务强度分析 内河横向截面的多航道通行量研究...
物联网设备数据上云存储
本文介绍如何使用阿里云物联网平台和 TSDB 进行数据打通，实现物联网设备系统的开发和管理、数据采集、数据上报、数据存储和分析的一体化方案，构建智能物联网平台。架构参考“物联网平台+TSDB”方案的实现架构如下：物联网设备通过 IoT ...
使用Web Tracking采集日志
什么是Web Tracking采集？日志服务Web Tracking功能用于在Web应用程序中跟踪用户行为并将行为数据上传到日志服务中，便于您分析用户行为等。您可以通过Web Tracking采集各种浏览器、iOS App或Android App的用户信息，例如：用户使用的浏览...
数据投递概述
数据投递 数据投递是指将日志服务采集的数据通过控制台投递至其他阿里云产品，便于您存储数据或联合其他系统消费数据。启用数据投递后，日志服务将定时将采集到的数据投递至对应的云产品。应用场景 数据投递适用于数据存储、离线分析等场景...
东软案例
目前，东软在物联网、互联网等新场景下面临的IT系统运维主要问题与挑战有：多模型数据融合分析困难，面向海量数据采集终端同时写入数据的并发能力弱，数据量大且价值密度低导致存储成本高，基于开源软件自建数据存储集群稳定性低运维成本...
采集-多渠道数据
数据采集一般有两种方式，区别如下。本文档主要讨论通过LogHub流式导入（实时）采集数据。方式 优势 劣势 例子 批量导入 吞吐率大，面向历史存量数据 实时性较差 FTP、OSS上传、邮寄硬盘、SQL 数据导出 流式导入 实时，所见即所得，面向...
通过Metricbeat收集系统数据及Nginx服务数据
本文介绍如何通过阿里云Metricbeat采集器收集系统数据（CPU使用率、内存、磁盘IO和网络IO统计数据）和Nginx服务数据，并生成可视化图表。前提条件 您已完成以下操作：创建阿里云Elasticsearch（简称ES）实例。详情请参见 创建阿里云...
常见问题
日志服务一站式提供数据采集、加工、查询与分析、可视化、告警、消费与投递等功能，全面提升您在研发、运维、运营、安全等场景的数字化能力。日志服务可以做什么？存储与分析：存储与分析基础设施日志、应用日志、网站访问日志、容器日志、...
- 产品推荐
- 这些文档可能帮助您