使用前须知
支持自定义查询与分析已采集到的数据。工作原理 您需要在CloudTrail中创建Trail，并且在SQS中创建队列后，才能通过本应用导入CloudTrail日志。资产说明 本应用资产都在您选择的Project下，详细说明如下：Logstore 导入CloudTrail日志后，...
数据聚合分析
AnalyticDB的智能分析系统对采集的数据进行了多种分析，从而洞察实例运行状态。实例查询行为画像分析 对单独实例的查询行为进行了统计分析，主要统计指标包括：用户在某段时间内的查询次数；用户查询是否包含join、agg或者sort等；用户第一...
数据分析整体趋势
Hadoop也在早期的MapReduce接口基础上增加了SQL接口，SQL语法逐渐成为大数据分析系统的标准配置。随着AWS，Azure，Alibaba，Google等云厂商的出现，云原生分布式数据仓库成为目前数据分析技术的主要解决方案，代表性云服务包括Amazon ...
云产品集成
配置数据库白名单 添加OceanBase for MySQL数据源 Quick BI 数据分析与展现 Quick BI 是一款全场景数据消费式的BI平台，秉承全场景消费数据，让业务决策触手可及的使命，通过智能的数据分析和可视化能力帮助企业构建数据分析系统。...
Serverless Presto概述
因此它采用全内存流水线化的执行引擎，相较于其它引擎会把中间数据落盘的执行方式，Presto在执行速度上有很大的优势，特别适合用来做Adhoc查询、BI分析、轻量级ETL等数据分析工作。阿里云数据湖分析团队在Presto之上又进行了很多的优化，...
基因分析应用
基因数据分析工作，需要用户使用不同的生物信息学工具软件，进行一系列复杂的计算过程，才能得到最终的分析结果。以遗传病的数据分析举例，需要进行数据质控、序列比对、变异检测和变异注释等多个步骤。图1：基因数据分析流程（来源/《中华...
日志同步分析概述
使用Filebeat+Kafka+Logstash+Elasticsearch构建日志分析系统 使用Filebeat采集日志数据，将Kafka作为Filebeat的输出端。Kafka实时接收到Filebeat采集的数据后，输出到Logstash中进行过滤处理，最终将满足需求的数据输出到Elasticsearch中...
什么是威胁分析与响应
功能介绍 工作原理 威胁分析与响应是一款云原生安全信息和事件管理解决方案，主要提供日志采集、告警生成、聚合分析、事件响应编排等能力。威胁分析与响应通过集成多云、多账号和多产品的日志，利用预定义和自定义的安全检测规则，深入分析...
网络诊断
重要 使用故障诊断功能时，系统将在您的集群节点上执行数据采集程序并收集检查结果。采集的信息包括系统版本、负载、Docker、Kubelet等运行状态及系统日志中关键错误信息。数据采集程序不会采集您的业务信息及敏感数据。前提条件 已创建ACK...
接入Go程序性能数据
工作原理 Go语言已内置Pprof性能数据暴露机制。在Go程序中启动内置的Pprof性能数据暴露机制后，Logtail会通过HTTP接口获取Pprof数据。准备工作 在接入Go Pprof性能数据前，您需要先启动Go程序性能数据的暴露机制。您可以通过如下方式启动...
审计配置
审计模式介绍 审计模式 适用产品 工作原理 模式特点 原生日志采集 阿里云原生数据库（不支持自建数据库、PolarDB）DSC 自动建立与对应产品的数据采集链路，采集日志。警告 该审计模式下，云产品的优先级策略为业务优先于审计，在业务负载...
应用场景
日志服务的典型应用场景包括：数据采集与消费、数据清洗与流计算（ETL/Stream Processing）、数据仓库对接（Data Warehouse）、日志实时查询与分析。数据采集与消费 通过日志服务LogHub功能，可以大规模低成本接入各种实时日志数据（包括...
工作原理
取值：运行中（RUNNING）重试中（STARTING）成功（SUCCEEDED）失败（FAILED）数据特征 数据特征包含以下配置：观测间隔：数据观测采集的时间间隔，也是算法执行分析的时间间隔。由任务规则生成，不会受到上一个实例执行超时、延迟、补运行...
DataWorks On Hologres使用说明
DataWorks基于 实时数仓Hologres 轻松构建实时数仓与即席分析系统。Hologres可通过DataWorks提供的可视化方式配置任务工作流、周期性调度执行任务及元数据管理，保障数据生产及管理的高效稳定。本文为您介绍在DataWorks上开发Hologres任务...
DataWorks On MaxCompute使用说明
DataWorks基于 云原生大数据计算服务MaxCompute 轻松构建离线数仓分析系统。MaxCompute可通过DataWorks提供的可视化方式配置任务工作流、周期性调度执行任务及元数据管理，保障数据生产及管理的高效稳定。本文为您介绍在DataWorks上开发...
无侵入观测概述
采集原理 Logtail无侵入监控的采集程序工作空间包括Kernel Space与User Space。Kernel Space用于抓取和预处理数据。抓取：Kernel Hook模块会根据KProbe的定义，拦截网络数据。用于拦截的KProbe内核函数包括connect、accept、write等。预...
加工数据
注意事项 本案例中，数据采集和数据加工的部分任务可以通过ETL工作流模板一键导入。在导入模板后，您可以前往目标空间，并自行完成后续的数据质量监控和数据可视化操作。仅 空间管理员 角色可导入ETL模板至目标工作空间，为账号授权空间...
通过DaemonSet方式采集Kubernetes容器文本日志
本文介绍DaemonSet方式采集容器文本日志的工作原理、使用限制、前提条件、操作步骤等信息。工作原理 DaemonSet模式 在DaemonSet模式中，Kubernetes集群确保每个节点（Node）只运行一个Logtail容器，用于采集当前节点内所有容器（Containers...
文档修订记录
订阅成功后，账单数据会定时同步至MaxCompute，您可使用DataWorks的数据分析功能查询并分析账单数据，将分析结果生成可视化图表卡片及报告，同时，也可将您的阿里云消费分析报告分享给其他用户。账单数据订阅及查询分析 2024.2.21 新增功能...
通过Sidecar方式采集Kubernetes容器文本日志
本文介绍Sidecar方式采集容器文本日志的工作原理、使用限制、前提条件、操作步骤等信息。工作原理 Sidecar模式 在Sidecar模式中，每个容器组（Pod）运行一个Logtail容器，用于采集当前容器组（Pod）所有容器（Containers）的日志。不同Pod...
DataWorks On EMR使用说明
EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。阿里云EMR提供了on ECS、on ACK和Serverless形态，以满足不同用户的需求。详情请参见：E-MapReduce产品概述。支持的...
DataWorks On CDP/CDH使用说明
一、数据集成 DataWorks的数据集成模块为您提供读取和写入数据至CDP/CDH Hive、CDP/CDH HBase的能力，您需要将Hive或HBase组件创建为 DataWorks的 Hive或HBase数据源，实现将其他数据源的数据同步至Hive或HBase数据源，或将Hive或HBase数据...
日志同步报警
若您购买了数据采集功能包，并在 组织系统配置 中配置了采集数据同步服务，系统将采集的日志数据加工成可用于分析筛选的行为数据，并将加工好的数据自动同步到用户指定的ADB3.0数据源中。若未成功同步数据到用户指定的数据源，则将在消息...
应用场景
报表产出效率低，维护难 后台分析系统的数据报表变更，编码研发周期长，维护困难。图表效果设计不佳，人力成本高 使用HighChart等工具做报表，界面效果不佳，人力维护成本高。推荐搭配使用 RDS+Quick BI 报表与自有系统集成 某运输公司期望...
应用场景
例如，当应用日志用于离线日志分析时，搜索单个日志记录同样不可或缺，而构建各自独立的工作流来采集每种类型的数据再导入到各自的专用系统显然不切实际，利用 云消息队列 Kafka 版 作为数据中转枢纽，同份数据可以被导入到不同专用系统中...
快速接入
产品准备-创建组织和应用 在使用Quick Tracking产品时，首先需要创建一个组织和应用，后续的SDK集成、用户行为日志采集和数据分析都需在此基础之上。组织管理 应用管理 角色授权 埋点方案录入 将业务准备中梳理好的埋点方案内容录入到Quick...
基础功能
1 SDK原理概述 1.1 原理 SDK提供两种API调用方式 通过aplus环境变量直接调用API的方式 向SDK的指令队列aplus_queue发送API指令的方式 注：两种方式任选其一，可以混用 1.1.1 通过aplus环境变量直接调用API API直接调用的方式代码书写上更为...
采集-通过WebTracking采集日志
开发难度大/成本高：为完成一次数据采集、分析需求，首先需要购买云主机、公网IP、开发数据接收服务器、消息中间件等，并且通过互备保障服务高可用。接下来需要开发服务端并进行测试。使用不易：数据达到服务端后，还需要工程师先清洗结果...
东软案例
目前，东软在物联网、互联网等新场景下面临的IT系统运维主要问题与挑战有：多模型数据融合分析困难，面向海量数据采集终端同时写入数据的并发能力弱，数据量大且价值密度低导致存储成本高，基于开源软件自建数据存储集群稳定性低运维成本...
快速体验
注意事项 本案例中，数据采集和数据加工的部分任务可以通过ETL工作流模板一键导入。在导入模板后，您可以前往目标空间，并自行完成后续的数据质量监控和数据可视化操作。仅 空间管理员 角色可导入ETL模板至目标工作空间，为账号授权空间...
功能概述
实现原理 分析型数据库MySQL版的向量分析旨在帮助您实现非结构化数据的近似检索和分析，其实现原理是通过AI算法提取非结构化数据的特征，然后利用特征向量唯一标识非结构化数据，向量间的距离用于衡量非结构化数据之间的相似度。...
实验介绍
数据采集 数据加工 配置数据质量监控 数据可视化展现 目标人群 开发工程师、数据分析师、产品运营等存在数仓数据获取与数据分析洞察人员。涉及产品 本案例涉及以下产品：一站式大数据开发治理DataWorks 本案例通过DataWorks实现数据采集，...
数据查询与分析管控
附录：查看数据源的访问身份 工作空间模式差异 数据源环境介绍 自建数据源 默认创建自建数据源时，配置的访问该数据源的账号，拥有该自建数据源的访问权限。该功能仅对数据源查询权限进行管控，若要对数据源的读写操作进行权限管控，请参考...
阿里云风险识别和检测最佳实践
阿里云全面风险评估和识别服务 阿里云为企业客户提供云上 全面的风险评估和识别检测服务，具体包括如下内容：资产识别和分析：对信息系统业务及其关键资产进行识别，需要详细识别核心资产的安全属性，分析关键资产在遭受泄密、中断、损害等...
从Oracle迁移应用至阿里云PolarDB全流程指南
应用画像：ADAM根据单个应用采集的数据，通过智能分析算法，向用户直观提供应用系统客观分析内容。应用评估：ADAM应用评估功能可以帮助用户智能分析出应用改造工作量，应用SQL兼容性，应用与数据库集群的架构情况等迁移痛点，可靠快速去地...
应用场景
大数据存储与分析 传统的数据分析场景下，用户需要把数据从在线数据库（Operational Database）复制到离线数据仓库（Data Warehouse）上之后再进行数据分析，这需要海量数据的多次复制、传输、加载和存储等多方面工作。HybridDB for MySQL...
功能概览
2.2 数据投递 提供DataConnector模块，稍作配置即可把接入的数据实时同步到下游MaxCompute、OSS、TableStore等存储分析系统，极大减轻了数据链路的工作量。2.3 数据缓存 灵活的缓存时间，下游可重复消费，自动多备份，保障数据高可靠性。2....
基本概念
如果需要10~100人协同配合完成数据分析的工作，建议您购买Quick BI高级版。可以满足如下的需求：不同的部门可以看到不同的报表 同一份报表不同角色的员工看到的内容不一样 如果使用人数在100人以上，建议您使用Quick BI专业版。组织用户 ...
功能优势
支持数据实时更新 传统的向量分析系统中数据只能按照T+1更新，不支持数据实时写入。分析型数据库MySQL版向量分析支持数据实时更新和查询。支持向量分析碰撞 分析型数据库MySQL版向量分析支持KNN-Join SQL，即比较一批向量与另外一批向量的...
日志审计服务概述
应用场景 日志服务与审计场景 日志服务提供一站式数据采集、清洗、分析、可视化和告警功能。支持日志服务相关场景：DevOps、运营、安全、审计。典型日志审计场景 日志审计一般分成如下4层需求。基础需求：大部分中小企业客户需要自动化采集...
- 产品推荐
- 这些文档可能帮助您