调用链采样配置最佳实践
调整采样是目前解决这类问题最高效且主流的方式，但具体配置什么样的采样策略，能够在可控的资源开销和费用成本内，最大程度保证错、慢、异常等链路被采集，从而最大限度保障性能监控和问题排查的使用需求。本文将重点围绕不同业务场景下...
从Oracle迁移应用至阿里云PolarDB全流程指南
数据库和应用采集 登录阿里云官方网站，在 ADAM官网 下载 数据库采集器 和 应用采集器，按照 数据库采集 进行Oracle数据库采集，应用采集 进行Oracle应用采集，生成相应的zip格式的数据压缩包，便于后续上传到阿里云ADAM官网进行分析使用。...
服务器数据采集方案概述
针对这些数据，可以根据业务的需求和环境，选择对应的方案进行数据采集并传输到Elasticsearch服务。本文对服务器数据采集方案进行了汇总。相关文档 方案描述 阿里云Elasticsearch数据采集解决方案 本文提供Beats、Logstash、语言客户端和...
PolarDB PostgreSQL版间的迁移
通过数据传输服务DTS（Data Transmission Service），可以实现 PolarDB PostgreSQL版 集群间的迁移。前提条件 已创建源和目标 PolarDB PostgreSQL版 数据库集群，详情请参见 创建PolarDB PostgreSQL版数据库集群。已将源和目标 PolarDB ...
PolarDB PostgreSQL版（兼容Oracle）间的迁移
通过数据传输服务DTS（Data Transmission Service），可以实现 PolarDB PostgreSQL版（兼容Oracle）集群间的迁移。背景信息 PolarDB PostgreSQL版（兼容Oracle）作为一款企业级关系型数据库管理系统，具有广泛的应用和强大的社区支持。每个...
Tunnel命令常见问题
导入数据的最后一列为什么会多出\r符号？使用Tunnel Upload命令上传数据时，默认用逗号进行列分割，但是数据中有逗号，这种情况如何分割？使用Tunnel Upload命令上传数据时，如果数据使用空格作为列分隔符，或需要对数据做正则表达式过滤时...
文档修订记录
DataWorks数据安全治理路线 2023年12月更新记录 时间 特性 类别 描述 产品文档 2023.12.29 新增功能 数据开发 若您要在DataWorks中进行数据建模、数据开发或使用运维中心周期性调度任务，需先将已创建的数据源或集群绑定至数据开发...
新功能发布记录
开启安全访问代理 接入达梦数据库 新增 全面直接接入达梦数据库（DM），包括数据导入、数据查询、数据变更、数据导出、数据服务与数据可视化等功能。支持的数据库类型与功能 数据类目 新增 对表进行分类，便于管理人员、开发人员及运维人员...
工作负载安全保护
云上的工作负载是一套支撑IT业务系统运行的相关功能或一些原子能力，诸如服务器、VM、容器、网络、数据库等。通常情况下企业在云上使用最多的工作负载环境就是VM和容器。针对VM和容器的防护要做到以下几点：有效的识别工作负载，梳理清楚在...
阿里云Elasticsearch数据采集解决方案
本文提供了将数据采集到阿里云Elasticsearch服务中的几种解决方案。背景信息 对于数据搜索和分析来说，Elasticsearch无处不在。开发人员和社区可使用Elasticsearch寻找各种各样的使用场景，从 应用程序搜索 和 网站搜索，到日志、基础架构...
可观测概述
从实际应用的角度来看，在系统中需要重视其稳定性，需要理解什么时候系统运行良好或出现问题，从而可以更快地识别错误，并实施正确的自动化及手动控制来维护系统的可用性。Service Mesh的数据平面代理位于服务之间的网络请求路径中，通过...
使用SDK示例代码消费订阅数据
持久化存储消费位点 如果增量数据采集模块触发容灾机制（特别是SUBSCRIBE模式），新建的增量数据采集模块将无法保存客户端上次的消费位点信息，可能会导致客户端从一个较旧的位点开始消费订阅数据，从而造成历史数据的重复消费。...
使用SDK示例代码消费订阅数据
持久化存储消费位点 如果增量数据采集模块触发容灾机制（特别是SUBSCRIBE模式），新建的增量数据采集模块将无法保存客户端上次的消费位点信息，可能会导致客户端从一个较旧的位点开始消费订阅数据，从而造成历史数据的重复消费。...
采集-IoT/嵌入式日志
日志服务团队结合IoT设备的特点，为IoT设备量身定制一套日志数据采集方案：C Producer。嵌入式开发需求 作为IoT/嵌入式工程师，除了需要深厚的开发功底外，面对海量的设备，如何有能力管理、监控、诊断黑盒设备至关重要。嵌入式开发需求...
Pod诊断
发起诊断后，诊断会按照异常识别、数据采集、检查项评估以及根因分析四个阶段，完成后给出诊断结果。异常识别：采集基本数据，例如Pod状态、集群Event事件流等，并快速分析当前的异常。数据采集：根据异常识别结果采集和诊断上下文相关的...
Pod诊断
发起诊断后，诊断会按照异常识别、数据采集、检查项评估以及根因分析四个阶段，完成后给出诊断结果。异常识别：采集基本数据，例如Pod状态、集群Event事件流等，并快速分析当前的异常。数据采集：根据异常识别结果采集和诊断上下文相关的...
Logtail发布历史
修复 修复Logtail使用历史数据采集之后进程无法优雅退出的问题。1.8.6 发布时间：2024.01.30 优化 Golang插件指标数据和上报逻辑优化，指标统一通过C++指标模块上报 修复 修复开启高精度时间戳开关后Golang模块误加载问题 1.8.5 发布时间：...
小文件优化及作业诊断常见问题
问题类别 常见问题 小文件优化 MaxCompute什么情况下会产生小文件？如何解决小文件问题？作业诊断 执行并发插入操作报错，如何处理？运行作业时，报错ODPS-0130121，如何解决？创建的Shell任务执行失败，在ECS服务器执行显示成功，运维中心...
查询分析RocketMQ客户端日志
本文使用Beats、Elasticsearch、Logstash和Kibana，在分布式环境下采集、汇聚、解析阿里云RocketMQ客户端SDK日志，帮助您在消息队列开发场景中快速定位并解决应用开发问题。背景信息 阿里云Elasticsearch（简称ES）已具备Elastic Stack全栈...
服务器软件漏洞修复建议
仿真测试环境要求：仿真测试环境中系统环境（操作系统、数据库系统）与在线业务系统完全一致。仿真测试环境中应用系统与在线业务系统完全一致。测试数据建议采用在线业务系统最近一次的全备份数据。进行系统备份 对整个业务系统进行完全...
大数据安全治理的难点
通常，大数据系统中的工作流涉及多部门、多责任人且跨系统的数据，如何才能协调好这些业务系统准时、保质保量地产出数据，避免出现因业务系统宕机/脏数据导致数据延时产出、产出脏数据，关乎到企业数据业务的连续性问题甚至高层的信任问题...
大数据上云及巡检服务内容说明
对集群资源使用异常、服务异常等情况进行诊断 产出报告 产出报告 1）从环境配置、运行性能、存储合理、安全等多维度评估巡检产出，形成报告文档 2）针对高频可优先、或使用风险场景给出问题诊断和优化建议，如大数据集群配置任务消耗资源度...
Modbus驱动
Link IoT Edge提供Modbus官方驱动，用于支持工业领域广泛应用的Modbus通信协议设备。本文主要介绍Modbus驱动及其用法。...例如，1个Modbus设备有100个属性，数据采集间隔为5秒，那么Modbus驱动每5秒上报云端1条消息（因为是1个设备）。
Pod诊断
发起诊断后，诊断会按照异常识别、数据采集、检查项评估以及根因分析四个阶段，完成后给出诊断结果。异常识别：采集基本数据，例如 Node状态、Pod状态、集群Event事件流等，并快速分析当前的异常。数据采集：根据异常识别结果采集和诊断上...
数据开发与运行
本文为您介绍数据开发的相关问题。资源 如何在pyodps调用第三方包？如何在节点内使用资源？如何下载上传到DataWorks的资源？超过30M的资源如何上传？通过odpscmd上传的资源如何在DataWorks上使用？在DataWorks如何上传自己本地编写的jar并...
常见问题
数据安全中心DSC根据为不同行业预先定义的敏感数据关键字段，扫描MaxCompute、OSS、阿里云数据库服务（RDS、PolarDB-X、PolarDB、OceanBase、表格存储等）和自建数据库中的数据，通过敏感数据规则，判断和打标敏感数据，为数据安全审计、...
监控分析平台对比
在完成数据采集后，还需要有一套合适的系统进行转换、存储、处理、分析，满足多样的需求。数据问题主要包括：数据多样 各类系统数据：cpu、mem、net、disk等通用硬件指标，系统日志。业务黄金指标：延时、流量、错误、饱和度。业务访问日志...
性能测试技术指南
数据量 分析 数据量主要包括基础数据量（或者叫历史数据量、垫底数据量、数据库中已有的数据量）和参数化数据量，数据量在性能测试中起到非常重要的作用。对于在数据库中只有几条记录和有几亿条记录里面查询信息，那么结果肯定相差非常大的...
Elastic Agent采集Nginx日志数据
Fleet Agent 轻量级数据采集代理，负责采集源端数据。Fleet Agent可以在多个操作系统上运行，并且可以收集多种类型的数据。Fleet Server 负责将Agent采集的源端数据传输到Elasticsearch。准备环境 创建阿里云Elasticsearch实例。具体操作，...
DAS Auto Scaling弹性能力
DAS Auto Scaling实现了一套完整的数据闭环，如下图所示：在该数据闭环中，包含性能采集模块、决策中心、算法模型、规格建议模块、管控执行模块和任务跟踪模块，各模块的具体功能如下：性能采集模块负责对实例进行实时性能数据采集，涉及...
事件管理
适用于APP、小程序、网页：Quick Audience支持对接阿里云用户行为洞察分析平台 什么是Quick Tracking，一方应用可以利用Quick Tracking提供的SDK实现事件采集上报，具体方法请参见 数据采集接口。系统默认事件：系统已预定义社交互动等部分...
使用plprofiler插件
通常情况下，上述性能问题只能采取人工分析（分析Schema、统计信息、SQL语句）或断点（pldebugger）的形式进行排查，排查时间长且不直观、性能问题时隐时现（对于上述的第一个问题，甚至无法排查出原因），因此您需要有一个更好的排查方式...
测试与验证
功能测试及联调测试 在应用上云割接前，需要进行充分的功能测试与联调测试，验证云上环境应用运行情况。功能测试及联调测试依赖企业自己的测试团队及流程工作，不作过多描述，仅在此建议，对应用功能点进行分级，优先测试验证核心功能点，...
离线同步并发和限流之间的关系
在不限流的情况下，数据集成会提供现有任务配置（并发、内存）、硬件环境（数据源规格、网络、）下最大的传输性能。同步速率（限流）是指按照用户配置的作业整体速度限制、以及任务最大并发数来运行任务。数据集成在编排执行计划时，每个...
管理问题数据
背景信息 问题数据表 数据质量支持在部分规则校验不通过的情况下，系统自动创建 问题数据表 存储质量规则校验过程中发现的问题数据。问题数据表名生成规则：{监控数据表原表名}_dirtydata_dw_system_dqc。问题数据表所属空间：根据当前表所...
客户案例
而 OceanBase 提供的丰富的分区方式及 OLAP 能力有效地解决了不同场景下，业务指标的构建问题，这对于我们业务开发工作者来说可以更多的关注我需要什么样的指标，而不用考虑如何从存储系统中得到这些数据。大数据处理能力：随着阿里巴巴...
设备风险SDK Android接入
增加隐私数据采集开关，不采集NO_IDENTIFY_DEVICE_DATA类型数据，多选使用｜进行拼接。Map,String>options=new HashMap();options.put("DataType",String.valueOf(NO_IDENTIFY_DEVICE_DATA));通过设备风险SDK采集信息，信息采集接口需要在...
RDS MySQL只读实例同步延迟原因与处理
问题描述 由于阿里云云数据库RDS只读实例采用MySQL原生的基于日志复制技术（异步复制或半异步复制），必然会有同步延迟。延迟会导致只读实例与主实例的数据出现不一致，从而导致业务出现问题。另外，延迟也有可能引起日志堆积，导致只读...
RDS MySQL只读实例同步延迟原因与处理
问题描述 由于阿里云云数据库RDS只读实例采用MySQL原生的基于日志复制技术（异步复制或半异步复制），必然会有同步延迟。延迟会导致只读实例与主实例的数据出现不一致，从而导致业务出现问题。另外，延迟也有可能引起日志堆积，导致只读...
离线同步任务运维
后续：离线同步数据质量问题与同步任务调优 离线同步任务调优 离线同步数据质量排查 离线同步任务运维常见问题 为什么数据源测试连通性成功，但是离线同步任务执行失败？如何切换数据集成任务执行资源组？脏数据如何排查和定位？如何排查离...
- 产品推荐
- 这些文档可能帮助您