互联网教育：尚学博志（上海）教育科技有限公司
业务挑战 尚学数字化教学解决方案基于移动终端和各类物联网设备进行广泛的数据采集，数据类型也不断扩展，涵盖了教学、学习、生活等不同方面。现有的数据库系统采用的是基于MySQL Share Nothing的部署方案，即依赖主备部署的方式提供高可用...
ADAM概览
敏感数据保护：为保证数据库的敏感信息不被泄漏，数据采集器会对采集到的数据进行脱敏。兼容性分析：源库特性匹配：识别对象使用了哪些特性，并给出在目标库上的解决方案。源库使用场景匹配：针对一些特定的使用场景（通常可能会影响性能）...
采集ECS服务日志
可选：首次进入 Beats数据采集中心 页面，需要在服务授权对话框中查看提示信息，无误后单击 确认，授权系统创建服务关联角色。说明 Beats采集不同数据源中的数据时，依赖于服务关联角色以及角色规则。使用过程中请勿删除服务关联角色，否则...
政务舆情分析系统的数据库解决方案
实时计算（Blink）和 大数据计算服务·MaxCompute：网页数据采集入库后，增量采集数据的计算机元数据抽取可以选用Blink和MaxCompute。当有新增页面需要提取时触发Blink进行网页元数据抽取。抽取后的结果进入TableStore存储后，同时推送至...
数据上云工具
它提供了数据迁移、实时数据订阅及数据实时同步等多种数据传输功能。DTS可以支持RDS、MySQL实例的数据实时同步到MaxCompute表中，暂不支持其他数据源类型。详情请参见 创建RDS到MaxCompute数据实时同步作业。开源产品 Sqoop（Tunnel通道...
对接DataV
具体操作，请参见 数据采集。已创建索引。具体操作，请参见 创建索引。背景信息 实时大屏广泛应用于大型在线促销活动。实时大屏基于流式计算架构，该架构包含以下模块：数据采集：将来自各源头数据实时采集。中间存储：利用类Kafka Queue...
添加Modbus协议设备
数据上报方式 有两种数据上报方式：按时上报：选择按时上报后，根据步骤10中为子设备设置的数据采集间隔，采集数据并上报。变更上报：采集后的值发生变化后才会上报。返回 边缘计算控制台 的 节点管理>终端设备管理 页面。在 添加设备 ...
通过SLS完成日志数据入湖OSS
如果您在SLS中未采集数据：选择 数据采集并投递OSS，完成数据采集后再将数据投递到OSS。关于采集数据的更多信息，请参见 数据采集概述。选择是否对数据进行加工。如果选择 投递OSS，则跳过步骤二，直接执行 步骤三。如果选择 加工后投递OSS...
Logtail发布历史
修复 修复Logtail使用历史数据采集之后进程无法优雅退出的问题。1.8.6 发布时间：2024.01.30 优化 Golang插件指标数据和上报逻辑优化，指标统一通过C++指标模块上报 修复 修复开启高精度时间戳开关后Golang模块误加载问题 1.8.5 发布时间：...
Kafka实时ETL同步至Hologres
在 数据输出预览 窗口，您可以根据需要修改输入数据，或者单击 手工构造数据 按钮自定义输入数据，然后单击 预览 按钮，查看当前数据处理节点对数据的处理结果，当数据处理节点处理异常，或者产生脏数据时，也会实时反馈异常信息，能够帮助...
搜索（审计）
数据库自治服务DAS 提供搜索（审计）功能，查询并导出SQL语句对应的各种信息，本文介绍如何在SQL洞察和审计中使用搜索功能。重要 如果您开通了DAS企业版 V3，搜索功能将更名为审计功能。前提条件 已在DAS中接入对应的数据库实例，并且接入...
采集器YML配置
通过采集器YML配置，您可以根据需求修改对应的配置，并启用该配置，完成数据采集任务。本文介绍采集器YML文件的配置方法和配置参数详情。前提条件 创建阿里云Elasticsearch实例，并开启实例的 自动创建索引 功能。创建实例的具体步骤请参见...
Elastic Agent采集自定义日志数据
Fleet主要分为Fleet Server和Fleet Agent两部分，Fleet Agent是一个轻量级的数据采集代理，负责在源端收集数据。Fleet Server是Fleet的中心节点，负责管理和监控所有Fleet Agent，并将数据传输到Elasticsearch。名词解释 名词 说明 Fleet ...
查询分析RocketMQ客户端日志
单击 前往采集中心查看，返回 Beats数据采集中心 页面，在 采集器管理 区域中，查看启动成功的Filebeat采集器。等待 采集器状态 变为 已生效1/1 后，单击右侧 操作 栏下的 查看运行实例。在 查看运行实例 页面，查看 采集器安装情况，当...
采集MySQL查询结果
当下次执行SELECT语句时，会将上一次保存的CheckPoint带入到SELECT语句中，以此实现增量数据采集。重要 开启CheckPoint时，需要在SELECT语句中对CheckPoint字段进行排序，否则会造成数据重复或其他问题。功能 支持MySQL数据库的查询结果。...
基于GitHub公开事件数据集的离线实时一体化实践
其优势在于：提高数据处理效率：将实时数据和离线数据整合在同一平台上，大大提高了数据处理效率，降低数据传输和转换成本。提高数据分析精度：将实时数据和离线数据进行混合分析，从而提高数据分析精度和准确性。降低系统复杂度：减少数据...
调用链采样配置最佳实践
对于绝大多数分布式系统，不是每一条调用链都值得被可观测平台记录，因为其中包含大量重复、低关注度信息。调整采样是目前解决这类问题最高效且主流的方式，但具体配置什么样的采样策略，能够在可控的资源开销和费用成本内，最大程度保证错...
监控与日志
文件系统资源数据监控 通过文件存储NAS控制台支持对文件系统实例的性能和容量进行数据监控。关于监控更多信息，请参见 监控项。性能监控数据 在 性能监控 页面，选择文件系统类型和目标文件系统ID，查看该文件系统的读写IOPS、读写延迟、...
日志同步分析概述
Kafka实时接收到Filebeat采集的数据后，输出到Logstash中进行过滤处理，最终将满足需求的数据输出到Elasticsearch中进行分布式检索，并通过Kibana进行分析与展示。查询分析RocketMQ客户端日志 使用Beats、Elasticsearch、Logstash和Kibana...
大数据安全治理的难点
通常，大数据系统中的工作流涉及多部门、多责任人且跨系统的数据，如何才能协调好这些业务系统准时、保质保量地产出数据，避免出现因业务系统宕机/脏数据导致数据延时产出、产出脏数据，关乎到企业数据业务的连续性问题甚至高层的信任问题...
常见问题
日志服务一站式提供数据采集、加工、查询与分析、可视化、告警、消费与投递等功能，全面提升您在研发、运维、运营、安全等场景的数字化能力。日志服务可以做什么？存储与分析：存储与分析基础设施日志、应用日志、网站访问日志、容器日志、...
区域热力层
无值：系统在获取区域热力边界数据时，如果缺少了某个区域的数据（当区域热力图数据中没有对应的地理边界数据中的adcode值时），这个区域的颜色就会展示为无值的颜色。面透明度：区域面的透明度。边线颜色：区域边界线的颜色，请参见 颜色...
系统函数分类
函数分类 数据探索系统函数的类型包含分为以下几种：函数类型 说明 时间函数 处理日期、时间类型数据，实现加减日期、提取日期字段、获取当前时间、转换日期格式等业务处理能力。字符串函数 处理字符串类型数据，实现截取字符串、替换字符...
如何对JSON类型进行高效分析
PolarDB 列存索引（In Memory Column Index，IMCI）功能推出了完备的虚拟列与列式JSON功能等，可以快速处理大数据和多种数据类型（包括结构化数据与半结构化数据等），并提供高效的数据分析、查询与流计算能力，适用于数据分析、数据仓库与...
表设计规范
例如，在规范化设计表的同时对数据通道中的数据采集方式进行优化，可以减少分布式系统中小文件的问题，降低表和分区的维护数量。表设计主要影响 表设计影响的操作有：创建表、导入数据、更新表、删除表及管理表。其中，导入数据场景按照...
功能特性
混合事务和分析处理（Hybrid Transaction and Analytical Process，HTAP）OceanBase 数据库独创的分布式计算引擎，能够让系统中多个计算节点同时运行 OLTP 类型的应用和复杂的 OLAP 类型的应用，让数据库利用率最大化的同时利用多个节点的...
客户案例
迁移完成后，飞天大数据平台覆盖数据采集>存储&计算>实时/离线分析等游戏数据运营全链路。游戏行业：37手游重构数据体系建设 客户简介 37手游致力于手机游戏发行业务，在中国大陆地区，存在近10%的市场占有率。迄今为止，成功发行二十余款...
简介
系统兼容开源GeoMesa、GeoServer等生态，内置了高效的时空索引算法、空间拓扑几何算法、遥感影像处理算法等，结合云数据库HBase强大的分布式存储能力以及Spark分析平台能力，广泛应用于空间、时空、遥感大数据存储、查询、分析与数据挖掘...
通过Logtail采集Zabbix数据
日志服务支持将Zabbix中的监控数据采集到Logstore中。本文介绍将Zabbix数据采集到日志服务的操作步骤。前提条件 已下载及安装Zabbix。具体操作，请参见 下载与安装Zabbix。本教程中，将Zabbix安装在阿里云ECS上为例。已创建Project和...
采集MySQL Binlog（计划弃用）
重要 日志服务后续计划不再支持MySQL Binlog采集插件，当前已不支持新用户新建采集配置，原有的采集配置仍能正常使用，建议您使用DataWorks或Flink进行采集。具体操作，请参见 MySQL、MySQL数据源。原理 Logtail内部实现了MySQL Slave节点...
通过Logstash导入数仓版
Logstash是开源的服务器端数据处理管道，能够同时从多个数据源采集数据，然后对数据进行转换，并将数据写入指定的存储中。AnalyticDB MySQL 完全兼容MySQL，您可以将Logstash Input插件支持的任一数据源中的数据写入 AnalyticDB MySQL。...
采集SQL Server查询结果
当下次执行SELECT语句时，会将上一次保存的CheckPoint带入到SELECT语句中，以此实现增量数据采集。重要 开启CheckPoint时，需要在SELECT语句中对CheckPoint字段进行排序，否则会造成数据重复或其他问题。功能 支持采集SQL Server数据库的...
采集PostgreSQL查询结果
当下次执行SELECT语句时，会将上一次保存的CheckPoint带入到SELECT语句中，以此实现增量数据采集。重要 开启CheckPoint时，需要在SELECT语句中对CheckPoint字段进行排序，否则会造成数据重复或其他问题。功能 支持采集PostgreSQL数据库的...
SQL洞察和审计
由于信息采集处理时会增加前缀标注，实际记录的SQL语句最大长度略小于参数设定值。当参数取值大于8192字节时，SQL语句最大长度为8192字节，超过部分不再记录。由于信息采集处理时会增加前缀标注，实际记录的SQL语句最大长度略小于8192字节...
SQL洞察和审计
由于信息采集处理时会增加前缀标注，实际记录的SQL语句最大长度略小于参数设定值。当参数取值大于8192字节时，SQL语句最大长度为8192字节，超过部分不再记录。由于信息采集处理时会增加前缀标注，实际记录的SQL语句最大长度略小于8192字节...
产品安全能力
既有效保证了数据的实时性，又实现了数据脱敏，保障了数据访问安全。更多关于动态脱敏的信息和配置介绍，请参见 动态脱敏。安全审计 PolarDB 提供了 SQL洞察和审计 功能，通过采集和分析SQL原始日志，帮助您洞察数据库的安全和性能风险。
新功能发布记录
全部地域 数据采集概述 2023年12月 功能名称 功能描述 支持地域 相关文档 企业云监控日志 采集企业云监控的日志。全部地域 开通企业云监控日志转储功能 Alibaba CloudLens Copilot for OSS 基于日志服务的CloudLens for OSS功能为您提供...
云产品侧额外费用须知
本文介绍在日志审计服务中开启云产品日志采集后，部分云产品侧额外的费用说明。VPC 费用说明 自2022年09月01日起，阿里云流日志功能结束公测，正式商业化并开始收费。更多信息，请参见【变更】流日志商业化公告。流日志的总费用=流日志生成...
核心概念
数据板块内的数据是完整的，即一个板块内可以独立完成从数据采集到最后的数据加工。例如，某多元化经营的企业，有地产、金融、建筑三个经营方向，这样业务板块可以划分为地产、金融和建筑。主题域 主题域是用于存放同一数据板块内不同意义...
什么是Dataphin
数据模型提交发布后，Dataphin自动化地生成代码与调度任务，大大提升了数据研发效率。规范建模 编码研发 基于通用的代码编辑页面，灵活地进行个性化的数据编码研发，完成任务发布。编码研发 资源及函数管理 支持管理各种资源包（例如JAR、...
- 产品推荐
- 这些文档可能帮助您