产品简介
开源大数据开发平台E-MapReduce（简称EMR）是运行在阿里云平台上的一种大数据处理系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。EMR还可以与阿里云...
产品概述
什么是E-MapReduce 开源大数据开发平台E-MapReduce（简称EMR），是运行在阿里云平台上的一种大数据处理的系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理...
应用场景
与传统架构不同，云消息队列 Kafka 版 以及Storm、Samza、Spark等数据处理引擎的出现，就是为了更好地解决这类数据在处理过程中遇到的问题，数据处理模型能实现在数据流动的过程中对数据进行实时地捕捉和处理，并根据业务需求进行计算分析...
什么是块存储数据洞察
自动化数据采集能力 CloudLens for EBS针对块存储资源提供了自动化数据采集能力，提升您对块存储资源运维管理的效率。计费 您可以免费使用CloudLens for EBS的相关功能。应用场景 适用于需要多维度监控存储性能、对数据安全有严格要求的...
米连科技
但是随着业务发展、架构的升级、数据量的增长，伊对需要寻找更强大的数据采集、处理和分析平台来满足运营团队日益增长的数据分析需求，保持伊对高速的用户增长率。业务痛点 伊对面临的主要挑战如下：数据来源分散 客户使用不同的计算存储...
采集-IoT/嵌入式日志
C Producer 日志服务量身定制的日志数据采集解决方案。日志服务客户端Logtail在X86服务器上有百万级部署，可以参见文章：Logtail技术分享：多租户隔离技术+双十一实战效果，Polling+Inotify 组合下的日志保序采集方案。除此之外，日志服务...
监控分析平台对比
稳定性保障 依赖系统：数据在多套系统中流转，系统之间又存在依赖关系，当某系统出现问题时，对其他系统造成影响。例如下游ES系统写入变慢后，用于缓存数据的Kafka集群存储水位变高，可能导致集群写满。Burst问题：在互联网环境下，流量...
Logtail发布历史
修复 修复Logtail使用历史数据采集之后进程无法优雅退出的问题。1.8.6 发布时间：2024.01.30 优化 Golang插件指标数据和上报逻辑优化，指标统一通过C++指标模块上报 修复 修复开启高精度时间戳开关后Golang模块误加载问题 1.8.5 发布时间：...
调用链采样配置最佳实践
基于重保角度考虑，特定时间段全采样 运维过程中也经常会面临重大事件保障的场景，比如大促、新版本压测等，需要针对某一类标签的数据甚至全部应用开启全量数据采集和存储，以便出现问题或者故障时，可以快速定位，甚至影响审计和定责。...
采集ECS服务日志
当出现问题时，您可以在 logs 目录下查看Beats日志来定位问题。在目标ECS实例上安装云助手和Docker服务。具体操作，请参见 安装云助手Agent 和 部署并使用Docker。重要 请使用社区版Docker（docker-ce），使用其他版本Docker（例如podman-...
节点诊断
节点系统出现AUFS mount hung问题，请收集节点日志并 提交工单 处理。关于收集节点日志操作，请参见 一键采集节点的诊断日志。节点内核BufferIOError情况 检查节点内核是否出现BufferIOError。节点内核出现BufferIOError情况，请收集节点...
Pod诊断
节点系统出现AUFS mount hung问题，请收集节点日志并 提交工单 处理。关于收集节点日志操作，请参见 一键采集节点的诊断日志。节点内核BufferIOError情况 检查节点内核是否出现BufferIOError。节点内核出现BufferIOError情况，请收集节点...
功能发布记录（2023年）
2023.3.15 所有地域 所有DataWorks用户 处理治理项问题 数据服务的加速服务启动商业化 加速服务面向MaxCompute数据源生成在线API服务，无需导出MaxCompute数据，即可提供良好的查询性能与效率，满足在线查询需求。2023.3.1 华东2（上海）、...
采集MySQL查询结果
当下次执行SELECT语句时，会将上一次保存的CheckPoint带入到SELECT语句中，以此实现增量数据采集。重要 开启CheckPoint时，需要在SELECT语句中对CheckPoint字段进行排序，否则会造成数据重复或其他问题。功能 支持MySQL数据库的查询结果。...
快速入门
Elasticsearch作为实时分布式搜索和分析引擎，Logstash采集、转换、优化和输出数据，Beats从各个机器和系统采集数据，高级监控报警服务提供Elasticsearch集群各类指标信息的监控，帮助您及时定位并解决问题。通过各个组件 及服务 的结合，...
查询分析RocketMQ客户端日志
本文使用Beats、Elasticsearch、Logstash和Kibana，在分布式环境下采集、汇聚、解析阿里云RocketMQ客户端SDK日志，帮助您在消息队列开发场景中快速定位并解决应用开发问题。背景信息 阿里云Elasticsearch（简称ES）已具备Elastic Stack全栈...
畅捷通
高效消息采集和传输 畅捷通利用日志服务的强大数据接入能力，将其混合云架构中网络、服务器、移动端、容器的各类访问类、系统类、应用类、消息类等各类日志统一汇入日志服务，实现每天TB级数据的快速处理。灵活的数据处理和存储 针对内部...
PolarDB PostgreSQL版间的迁移
通过数据传输服务DTS（Data Transmission Service），可以实现 PolarDB PostgreSQL版 集群间的迁移。前提条件 已创建源和目标 PolarDB PostgreSQL版 数据库集群，详情请参见 创建PolarDB PostgreSQL版数据库集群。已将源和目标 PolarDB ...
采集Systemd Journal日志
Logtail支持从原始的二进制文件中采集Linux系统的Systemd Journal日志。本文介绍如何通过日志服务控制台创建Logtail采集配置采集Systemd Journal日志。前提条件 已在服务器上安装Linux Logtail 0.16.18及以上版本。具体操作，请参见 安装...
PolarDB PostgreSQL版（兼容Oracle）间的迁移
升级到2.0版本还意味着您可以与PostgreSQL社区保持同步，提供更多的资源和支持，帮助您解决问题并学习数据库的最佳实践。强烈建议您升级到 PolarDB PostgreSQL版（兼容Oracle）2.0版本，充分利用其优势。迁移评估 在您考虑进行系统迁移之前...
日志服务采集数据常见的错误类型
本文介绍日志服务采集数据常见的错误类型及对应的解决方法。如果您遇到其他问题，请提交 工单 处理。错误类型 错误说明 解决方法 LOG_GROUP_WAIT_TOO_LONG_ALARM 数据包从产生到发送的过程中等待的时间较长。检查发送是否正常，或者是否...
采集SQL Server查询结果
当下次执行SELECT语句时，会将上一次保存的CheckPoint带入到SELECT语句中，以此实现增量数据采集。重要 开启CheckPoint时，需要在SELECT语句中对CheckPoint字段进行排序，否则会造成数据重复或其他问题。功能 支持采集SQL Server数据库的...
自动SQL限流
SQL限流是限制数据库上执行SQL的并发度，通过限制问题SQL的并发度后，保障数据库正常响应业务请求，保障大部分的业务正常运转，即通过小部分业务受损，保障大部分业务正常运行。背景信息 随着技术的发展，尤其是云数据库的普及，数据库系统...
采集PostgreSQL查询结果
当下次执行SELECT语句时，会将上一次保存的CheckPoint带入到SELECT语句中，以此实现增量数据采集。重要 开启CheckPoint时，需要在SELECT语句中对CheckPoint字段进行排序，否则会造成数据重复或其他问题。功能 支持采集PostgreSQL数据库的...
客户案例
DataWorks在多个行业中均有典型的案例落地，帮助多个行业的企业解决数据痛点，挖掘数据价值，本文为您介绍典型行业中已落地的客户案例。新零售行业：大润发云上数据中台建设 客户架构如下。客户简介 为了快速数字化转型，拥抱新零售，...
ARMS统一告警管理最佳实践
这些代码虽然是连接不同模块和系统的重要纽带，但一旦出现问题，由于分散在不同的地方，很难立即发现和处理。这就使得企业难以保证系统的高可用性和稳定性。如何灵活地低成本地接入这部分代码产生的告警也成为企业应用运维的痛点之一。统一...
常见问题
企业出现重大敏感数据泄露事件时，需要进行全面的事件还原和追责处理，但是由于数据访问者较多，泄密途径不确定，导致定责模糊。数据水印将标记信息嵌入原始数据，在不影响数据使用的前提下，生成水印和添加数据标记，可对泄露数据溯源，...
常见问题
网站访问问题 网站无法访问或无法正常显示 网站无法访问的常见问题及解决方法 访问网站不能正常显示图片或显示不完整的原因 访问网站提示“该页面暂时无法访问”访问网站出现乱码的现象 Linux系统云虚拟主机通过网站后台上传文件异常 访问...
RDS MySQL只读实例同步延迟原因与处理
延迟会导致只读实例与主实例的数据出现不一致，从而导致业务出现问题。另外，延迟也有可能引起日志堆积，导致只读实例空间被迅速消耗。说明 若主实例正产生大量的日志，有可能会使只读实例被锁定。日志复制延迟是通过 show slave status \G...
RDS MySQL只读实例同步延迟原因与处理
延迟会导致只读实例与主实例的数据出现不一致，从而导致业务出现问题。另外，延迟也有可能引起日志堆积，导致只读实例空间被迅速消耗。说明 若主实例正产生大量的日志，有可能会使只读实例被锁定。日志复制延迟是通过 show slave status \G...
可观测概述
从实际应用的角度来看，在系统中需要重视其稳定性，需要理解什么时候系统运行良好或出现问题，从而可以更快地识别错误，并实施正确的自动化及手动控制来维护系统的可用性。Service Mesh的数据平面代理位于服务之间的网络请求路径中，通过...
版本发布说明
修复高频执行DDL时，偶发系统表死锁报错的问题。修复因大小写问题可能导致的InformationSchema的table_details查询报NPE的问题。修复部分场景下子查询转semi-join的优化，可能导致查询报错的问题。发布日期：2023-09-22 大版本：V5.4.17 小...
内核发布记录
【问题修复】修复了存算分离模式下主键表和明细表schema change操作后可能出现的short key排序异常问题。解决了Kafka中存在的CVE-2023-25194安全漏洞。修复了在Kubernetes环境中Follower节点进行Stream Load操作失败的问题。解决了存算分离...
如何通过阿里云注册集群和Prometheus实现多云容器集群...
开源Prometheus采集能力存在一定的瓶颈，且为单点运行无法做到弹性伸缩，业务高峰时可能出现监控数据采集性能瓶颈。方案二：采用云厂商提供的Prometheus产品 使用该方案您将面临以下几点挑战：跨云厂商：不同云厂商提供的Prometheus产品...
如何通过阿里云注册集群和Prometheus实现多云容器集群...
开源Prometheus采集能力存在一定的瓶颈，且为单点运行无法做到弹性伸缩，业务高峰时可能出现监控数据采集性能瓶颈。方案二：采用云厂商提供的Prometheus产品 使用该方案您将面临以下几点挑战：跨云厂商：不同云厂商提供的Prometheus产品...
文档修订记录
时间 特性 类别 描述 产品文档 2023.2.28 新增功能 数据治理中心 DataWorks支持您根据业务需要，将 治理工作台>治理项问题 页面待解决的治理项问题以通知的形式，通过系统提示、邮件、钉钉群消息等发送给指定人员，方便及时查看并处理。...
常见问题
数据库连接问题 数据同步问题 数据迁移问题 数据订阅问题 其他问题 说明 若您有其他疑问或需求，可以 通过钉钉（钉钉通讯客户端下载地址）进入到DTS客户交流钉钉群（群号：68325004196或68640008972），进行咨询。计费问题 DTS如何计费？...
2023年
Github公开事件数据 2023年7月更新记录 时间 特性 类别 描述 产品文档 2023-07-31 新增简单用户画像分析（MaxCompute版）新说明 本文以网站用户画像分析为背景，通过使用DataWorks完成数据采集、数据加工、配置数据质量监控、数据可视化...
App端性能体验功能说明
核心功能 错误捕获能力强，类型丰富 提供Java崩溃、Native崩溃、Swift崩溃、Objective-C崩溃、ANR、自定义异常的捕捉 快速定位错误根源 提供行为日志、详细日志、内存快照、设备信息、自定义字段，帮您快速发现问题原因，提升问题解决效率 ...
如何使用Prometheus监控Windows
如果使用这些非分页池内存的组件出现问题可能会对系统造成致命影响。例如，使用非分页池的驱动程序中的内存泄露可能会导致系统完全挂死，因为用户模式进程的内存要求被转储到磁盘。页错误（次/秒）Critical WMI（PageFaultsPersec）当进程...
- 产品推荐
- 这些文档可能帮助您