采集主机文本日志
采集数据常见的错误类型请参见 日志服务采集数据常见的错误类型。默认情况下，一个日志文件只能匹配一个Logtail配置。如果同一份日志需要被采集多份，请参见 如何实现文件中的日志被采集多份。将企业内网服务器日志采集到日志服务，请参见 ...
应用场景
方案优势：使用便捷：提供50+实时数据采集方式，让您快速搭建平台；强大配置管理能力，减轻运维负担。弹性伸缩：无论是流量高峰还是业务增长都能轻松应对。图 1.数据采集与消费 数据清洗与流计算（ETL/Stream Processing）日志中枢（LogHub...
Logtail诊断
具体操作，请参见 数据采集。已开通目标Logtail配置所在Project的重要日志采集功能。具体操作，请参见 开通服务日志。背景信息 Logtail诊断包括高级版诊断和基础版诊断，具体说明如下：高级版诊断（推荐）：提供异常诊断仪表盘，清晰展示...
Logtail常见问题
分类 文档链接 基本概念说明 Logtail基本问题 日志采集Agent对比 心跳问题 Logtail机器组问题排查思路（主机场景）采集问题 通用场景 查询本地采集状态 如何查看Logtail采集错误信息 Logtail采集日志失败的排查思路 日志服务采集数据常见的...
典型使用场景
而接合LindormStreams+Blink/Spark，可以构建出一套完整的实时数据系统：应用解耦-实时同步到消息队列 通常业务发生之后，应用系统产生的数据需要被其他应用使用或根据这个事件驱动其他应用的业务逻辑，应用之间一般通过消息队列进行消息...
如何查看Logtail采集错误信息
更多信息，请参见 日志服务采集数据常见的错误类型。高级版诊断 在 Logtail异常监控 页面，查看 活跃Logtail数、全量错误信息 等信息。Logtail异常监控 仪表盘的更多信息，请参见 查看数据报表。错误码的更多信息，请参见 日志服务采集数据...
产品概述
数据采集：采集设备实时数据，集成信息系统业务数据 提供标准化设备数据接入流程，快速采集设备数据 广泛设备协议接入能力，支持OPC、Modbus和多种三方驱动协议 支持API、WebService、消息队列、FTP文件多种业务数据集成方式 根据业务规则...
监控服务概览
OSS监控服务为您提供系统基本运行状态、性能以及计量等方面的监控数据指标，并且提供自定义报警服务，帮助您跟踪请求、分析使用情况、统计业务趋势，及时发现以及诊断系统的相关问题。OSS监控指标主要分为基础服务指标、性能指标和计量指标...
监控报警概述
实时监控提供终端用户登录云电脑的实时数据（例如用户在线数量、在线时长的前十用户、平均登录时间和云电脑网络延迟分布情况）以及相关故障预警信息，以便快速准确定位，迅速处理故障，避免因资源、网络问题或者外部操作原因造成不必要的...
DataWorks快速入门指引
15分钟 Github实时数据同步与分析 DataWorks、Hologres、DataV 基于GitHub Archive公开数据集实时采集并分析展示数据。30分钟 简单用户画像分析（MaxCompute版）DataWorks、MaxCompute、RDS、OSS 以用户画像分析为例，进行数据采集、清洗...
监控分析平台对比
Kafka+Flink 对于数据清洗、风控等需求，需要构建一套实时数据通道和流式系统，支撑数据的全量实时消费，一般使用Kafka和Flink组合。ClickHouse、Presto、Druid 在运营分析、报表等场景中，为了追求更高的实时响应性，通常还会将数据导入...
执行演练
在执行故障演练过程中，您可以实时查看演练进度、每个演练活动的运行状态及结果，同时也能够随时结束演练，进行恢复阶段的活动，清除故障演练影响。背景信息 一次完整的故障演练包括以下四个阶段：安装故障演练探针 创建演练 执行演练 停止...
实时数据API
在实时数据业务场景中，最常见的链路是将实时采集的数据，通过实时计算初步清洗，实时写入数据至数据库，再对接BI工具实现数据的可视化分析。数据处理流程如下图所示。实时数据业务痛点。处理实时数据业务的整个链路中，要求数据库提供高...
创建集群
拥有分布式、高吞吐量和高可扩展性的消息系统Kafka和基于Apache Flink官方产品Ververica提供的Flink商业内核两大组件，专注于解决实时计算端到端的各类问题，广泛应用于实时数据ETL和日志采集分析等场景，您也可以单独使用其中任一组件。...
如何使用Prometheus监控SNMP
在当前版本中，我们支持 if_mib module的指标数据采集。这里以常见的思科16口交换机为例，列举SNMP的主要指标：指标名称 指标描述 OID ifAdminStatus 接口状态 1.3.6.1.2.1.2.2.1.7 ifHCOutOctets 接口发出的字节数总计 1.3.6.1.2.1.31.1.1...
V3.3.41版本说明
V3.3.41中，自动化营销支持通过 阿里云Quick Tracking 数据采集获取实时行为事件，智能实验室的品牌高潜预测、商品匹配推荐分别成为独立模块并更名为复购预测、货品推荐，此外，还对功能、交互进行了多项优化升级。发布时间 2021年12月16日...
如何使用Prometheus监控SNMP
在当前版本中，我们支持 if_mib module的指标数据采集。这里以常见的思科16口交换机为例，列举SNMP的主要指标：指标名称 指标描述 OID ifAdminStatus 接口状态 1.3.6.1.2.1.2.2.1.7 ifHCOutOctets 接口发出的字节数总计 1.3.6.1.2.1.31.1.1...
上海新能源汽车车辆基础数据
客户简介 上海市新能源汽车公共数据采集与监测研究中心（以下简称“数据中心”）是2014年底由上海市社会团体管理局批准注册成立，由上海市经济和信息化委员会负责业务指导，是上海市的新能源汽车市级监管平台，其主要职责是对上海市推广的...
常见问题
表格存储 支持对接MaxCompute、Spark等批计算以及通过实时数据通道对接Flink流计算。访问安全性 表格存储 提供多种权限管理机制，并对每一次请求都进行身份认证和鉴权，以防止未授权的数据访问，确保数据访问的安全性。支持数据访问权限...
什么是应用实时监控服务ARMS？
友邦人寿 我们采用ARMS搭建根据业务价值自上而下设计的可观测系统，在采集层使用ARMS Agent采集调用链路/性能数据、Prometheus Exporter采集容器集群数据，在存储层使用阿里云Prometheus存储容器集群和应用监控数据、SLS存储日志和调用链...
附录：SOFAStack 产品目录
数据访问代理 数据访问代理（Open Database Proxy，简称 ODP）能够解决海量请求下的数据访问瓶颈和数据库的容灾问题，提供水平拆分、平滑扩缩容、读写分离的在线分布式数据库服务，为海量数据访问提供低消耗、高性能、高可用的轻量级解决...
文档修订记录
新说明 Hologres基于创新的HSAP架构，可以将您原先数仓架构中的OLAP系统（Greenplum、Presto、Impala、ClickHouse）、KV数据库或Serving系统（HBase、Redis）统一在一个大数据计算引擎中，并提供快速的离线实时一体化分析能力。新用户免费...
存储资源
磁盘性能下降，读写速度变慢，任务执行时间增加，系统的实时性降低，当磁盘IO负载过大无法承受时，可能导致磁盘故障、系统崩溃或数据丢失。常见的容错策略如下：数据缓存：将数据暂时存储在内存中，减少对磁盘IO的频繁访问。可以利用内存...
哈啰出行
业务痛点 哈啰出行原有架构是将数据采集到Kafka，然后将日志写入ELK做查询，同时写入ClickHouse做分析。由于每天增量数据在TB级别，对ES稳定性压力比较大。当查询数据操作，会影响ES的写入延时。由于写入量大，查询基本处于不可用状态。...
SQL洞察和审计
当您在安全合规审计、性能分析、故障排除等场景下需要监控和管理RDS MySQL实例中执行的SQL语句时，可以利用SQL洞察和审计功能对SQL语句的执行情况进行记录和聚合分析。开启该功能后会自动记录来自数据库内核的SQL语句，以及SQL语句的执行...
SQL洞察和审计
当您在安全合规审计、性能分析、故障排除等场景下需要监控和管理RDS MySQL实例中执行的SQL语句时，可以利用SQL洞察和审计功能对SQL语句的执行情况进行记录和聚合分析。开启该功能后会自动记录来自数据库内核的SQL语句，以及SQL语句的执行...
网络诊断
重要 使用故障诊断功能时，系统将在您的集群节点上执行数据采集程序并收集检查结果。采集的信息包括系统版本、负载、Docker、Kubelet等运行状态及系统日志中关键错误信息。数据采集程序不会采集您的业务信息及敏感数据。前提条件 已创建ACK...
图扑案例
对于需要实时采集海量数据的生产线、风电厂和智能交通态势感知数据的场景，为了实现实时数据采集、存储、索引和聚合，原存储方案中采用了ElasticSearch、Prometheus、Hbase分别存储从现场传感器、第三方系统和用户终端设备采集的时序指标、...
常见问题
售前常见问题 产品计费常见问题 数据采集常见问题 数据存储常见问题 查询与分析常见问题 数据加工常见问题 消费与投递常见问题 售前常见问题 什么是日志服务？日志服务可以做什么？日志服务能为用户带来哪些价值？日志服务支持采集哪些数据...
应用场景
实时数据通道 1.1 接入多种异构数据并投递到下游多种大数据系统 通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的释放数据的价值。...
实时同步常见问题
如果选择忽略TRUNCATE，可能会导致进行实时数据同步时出现多的数据。如何提高实时同步的速度和性能？如果同步写入速度较慢，可以适当增加写入端并发数，调整JVM参数，JVM参数与同步库数量无关，和变更频率有关。在当前资源组机器允许情况下...
使用集群诊断
配置故障诊断 重要 使用故障诊断功能时，系统将在您的集群节点上执行数据采集程序并收集检查结果。采集的信息包括系统版本、负载、Docker、kubelet等运行状态以及系统日志中的关键错误信息。数据采集程序不会采集您的业务信息及敏感数据。...
应用场景
背景信息 设备将原始数据通过 MQTT 协议发送到物联网平台，经由物联网平台将数据转发到消息服务系统，继而通过流计算系统对这些数据进行实时计算处理后写入到 TSDB 中存储，或者经由物联网平台直接将原始数据写入 TSDB 中存储。前端的监控...
东软案例
建设效果 目前系统已经在阿里云端支撑某行业车企存储、检索从全球客户终端采集的用户数字足迹和客户体验数据，应对日活量上万客户访问监控数据采集，日均实时监控指标数据采集1.2亿元组，节约数据存储和系统维护成本达4成，建设效果如下图...
Service诊断
重要 使用故障诊断功能时，系统将在您的集群节点上执行数据采集程序并收集检查结果。采集的信息包括系统版本，负载、容器组件等运行状态及系统日志中关键错误信息。数据采集程序不会采集您的业务信息及敏感数据。Service诊断对应的检查项 ...
Service诊断
重要 使用故障诊断功能时，系统将在您的集群节点上执行数据采集程序并收集检查结果。采集的信息包括系统版本，负载、Docker、kubelet等运行状态及系统日志中关键错误信息。数据采集程序不会采集您的业务信息及敏感数据。Service诊断对应的...
数据采集
AnalyticDB MySQL版 集群内部对多种数据进行了采集，服务于监控告警系统，确保对故障问题可追溯和可排查。时序数据采集 进程时序数据 计算资源包括：CPU使用率。存储资源包括：IO吞吐、IOUtil、IOPS、存储空间使用量、存储空间使用率。服务...
什么是Quick Tracking
产品简介 全域采集与增长分析(Quick Tracking)是阿里云推出的企业级流量统计分析产品，提供APP/小程序/H5/Web/IoT等数字应用终端的行为采集分析、私域标签画像、性能体验监控、隐私采集授权管理等数据采集与洞察服务，助力企业实现全域数据...
如何选取统计信息自动采集策略
数据发生剧烈变化的场景，常见于数据导入过长，会触发实时的统计信息采集。建议 如果不希望在凌晨执行采集，可以在控制台 参数设置 页面，将 ENABLE_BACKGROUND_STATISTIC_COLLECTION 和 ENABLE_STATISTIC_FEEDBACK 参数的值设置为False，...
阿里云Elasticsearch数据采集解决方案
本文提供了将数据采集到阿里云Elasticsearch服务中的几种解决方案。背景信息 对于数据搜索和分析来说，Elasticsearch无处不在。开发人员和社区可使用Elasticsearch寻找各种各样的使用场景，从 应用程序搜索 和 网站搜索，到日志、基础架构...
- 产品推荐
- 这些文档可能帮助您