管理问题数据
数据质量支持您保留数据质量监控过程中从数据表中发现的非预期数据，帮助您快速排查、定位问题，提升数据质量。本文为您介绍如何管理数据质量监控过程中从数据表中发现的非预期数据。背景信息 问题数据表 数据质量支持在部分规则校验不通过...
离线同步常见问题
非插件报错原因及解决方案 如何处理编码格式设置/乱码问题导致的脏数据报错？任务存在SSRF攻击Task have SSRF attacts如何处理？离线同步任务执行偶尔成功偶尔失败 离线同步源表有加列（修改）如何处理？如何处理表列名有关键字导致同步...
确定需求
您需要了解真实的业务需求，以及确定数据仓库要解决的问题。业务调研 充分的业务调研和需求分析是数据仓库建设的基石，直接决定数据仓库能否建设成功。在数仓建设项目启动前，您需要请相关的业务人员介绍具体的业务，以便明确各个团队的...
确定需求
您需要了解真实的业务需求，以及确定数据仓库要解决的问题。业务调研 充分的业务调研和需求分析是数据仓库建设的基石，直接决定数据仓库能否建设成功。在数仓建设项目启动前，您需要请相关的业务人员介绍具体的业务，以便明确各个团队的...
服务支持
发布记录 DataV-Board 数据看板 DataV-TwinFabric 孪生仿真 DataV-Atlas 可视分析地图 DataV-Card 可视分析创作间 常见问题 DataV-Board 数据看板 配置项常见问题 组件使用常见问题 账号配置常见问题 视频流接入常见问题 数据源配置常见...
如何处理Tair集群数据倾斜
在 Tair 集群中，若个别数据分片节点（Data Node）的内存使用率或CPU使用率、带宽使用率、延时等性能指标远远高于其他数据分片，该 Tair 集群可能已产生数据倾斜。数据倾斜严重时，会导致实例在整体内存使用率不高的情况下，发生内存逐出...
如何处理Redis集群数据倾斜
在 Redis 集群中，若个别数据分片节点（Data Node）的内存使用率或CPU使用率、带宽使用率、延时等性能指标远远高于其他数据分片，该 Redis 集群可能已产生数据倾斜。数据倾斜严重时，会导致实例在整体内存使用率不高的情况下，发生内存逐出...
处理慢SQL问题
您可以通过DAS对数据库进行监控，及时发现并优化慢SQL，解决数据库的性能问题。操作视频 解决方案 您可以通过DAS从以下三个方面来解决慢SQL问题：查看并优化单个实例的慢SQL 查询治理所有实例上的慢SQL 开启自动SQL优化 查看并优化单个实例...
SDK概述
解决添加OSS数据源时部分hadoop命令不可用问题。解决“java.text.ParseException:Unparseable date”问题。优化emr-core支持本地调试运行。兼容老版本的产生的“_$folder$”文件，解释成目录，不再当作普通文件处理。Hadoop和Spark读写OSS...
2022年
2022年9月 修复 ST_BuildPyramid 函数，解决超大数据构建矢量金字塔时的内存占用问题。2022年9月 V1.1.25 内核小版本 类别 名称 描述 相关文档 发布时间 新增 pgAudit插件 支持pgAudit插件，提供生成审计日志的能力。pgAudit 2022年8月 V1....
单波段拉伸
说明 Gamma校正是一种用于调整图像亮度和对比度的非线性变换技术，可以纠正由于显示设备的不一致性而导致的图像亮度失真问题。后期效果 辉光 强度：设置辉光的强度值，范围为0~5。半径：设置辉光的半径大小，范围为0~1。阈值：设置辉光的...
高效数据治理实施指南
背景信息 在多人协作的数据团队中，数据治理是重要且繁琐的工作，在解决“如何制定客观的数据治理目标”、“如何高效推动团队达成治理目标”的过程中，通常包含以下挑战：问题难定位：传统数据治理方式难以快速、完整、精准地定位潜在问题...
任务运行失败
MySQL节点报错：暂不支持MySQL节点驱动 问题描述添加MySQL数据源时，选择了非连接串模式创建的数据源，导致运行任务时失败，报错信息为 sql execute failed!暂不支持的jdbc驱动。问题原因出现上述报错通常都是选择了非连接串模式创建的...
MySQL节点
常见问题：任务执行报错 暂不支持的jdbc驱动 问题描述 添加MySQL数据源时，选择了非连接串模式创建的数据源，导致运行任务时失败，报错信息为 sql execute failed!暂不支持的jdbc驱动。问题原因 出现上述报错通常都是选择了非连接串模式...
RGB色彩
说明 Gamma校正是一种非线性变换技术，用于调整图像的亮度和对比度。它可以纠正由于显示设备的不一致性而导致的图像亮度失真问题。后期效果 辉光 强度：设置辉光的强度值，范围为0~5。半径：设置辉光的半径大小，范围为0~1。阈值：设置辉光...
基本概念
数学规划求解常见的子问题类别还有混合整数规划（Mixed Integer Programing,MIP)、非线性规划（Nonlinear Programing，NLP）等。除此外，当前还有 仿真优化 和 在线优化 类别能力，可联系我们获取。本地运行版 本地运行版，简称本地版，是...
大数据用户画像解决方案
进入互联网，特别是移动互联网时代，用户随时随地都会在...多维度&复杂查询：原生全局二级索引、Lindorm Search满足多维度查询需求 方案详情&专家服务 解决方案详情参见：基于Lindorm的大数据用户画像解决方案 任何问题，欢迎联系 技术支持。
配置项常见问题
本文介绍组件配置项的常见问题及解决方法。数据系列与配置项系列有什么关系？数据系列 很多基础二维组件（如折线图、柱状图等）都支持多个不同系列的系列展示，您只需在配置面板的 数据 页签中配置不同的 s 字段即可。配置项系列 支持多...
配置项常见问题
本文介绍组件配置项的常见问题及解决方法。数据系列与配置项系列有什么关系？数据系列 很多基础二维组件（如折线图、柱状图等）都支持多个不同系列的系列展示，您只需在配置面板的 数据 页签中配置不同的 s 字段即可。配置项系列 支持多...
如何基于LSM-tree架构实现一写多读
B+tree并发回放有它自身的复杂性，比如需要解决系统页回放与普通数据页回放先后顺序问题，并且还需要解决同一个mtr中多个数据页并发回放可能导致的物理视图不一致问题。LSM-tree需要解决多个节点在同样位置SwitchMemtable，以及2PC事务回放...
岭回归训练
算法原理 岭回归是一种专用于共线性数据分析的有偏估计回归方法，实质上是一种改良的最小二乘估计法，通过放弃最小二乘法的无偏性，以损失部分信息、降低精度为代价获得回归系数更为符合实际、更可靠的回归方法，对病态数据的拟合要强于...
概览
为了更好地指导您使用数据管理DMS（Data Management），DMS推出解决方案系列文档，旨在通过最佳实践（Step by Step）的形式向您介绍DMS研发流程、数据安全、数据开发的解决方案。研发流程解决方案 DMS为在线流程化系统，可统一管理企业内...
数据扫描和识别
本文介绍敏感数据扫描和识别的常见问题及解决方法。数据扫描会影响我的数据库性能吗？DSC支持扫描的数据源有哪些？数据源授权完成后需要多长时间完成扫描？DSC对于非结构化数据源（OSS）的扫描机制是怎样的？是否支持对已扫描过的OSS文件...
写入与查询
本文介绍 AnalyticDB MySQL 中写入与查询的常见问题及解决方法。说明 当常见问题场景中未明确产品系列时，表明该问题仅适用于 AnalyticDB MySQL 数仓版（3.0）。常见问题概览 湖仓版（3.0）集群是否支持通过JDBC方式查询Hudi表的数据？湖仓...
云数据库录入
本文介绍如何将阿里云数据库录入至数据管理DMS中。前提条件 支持录入的云数据库类型，请参见 支持的云数据库。系统角色为DBA或管理员。查看系统角色的操作，请参见 查看我的系统角色。已在云数据库的白名单中添加DMS的服务器访问地址。详细...
分段多项式回归
参数说明 IN端口 参数名 参数描述 是否必填 输入数据类型 数据源类型 特征变量 配置模型特征列 是 整数或浮点数 说明 若存在非数值数据，则会抛出异常。CSV组件。IGateOffline组件。平台上其他数据处理组件。按照平台组件开发的自定义组件...
恢复数据库
数据库备份DBS 提供数据恢复能力，通过创建恢复任务将已完成备份的数据恢复到云数据库、本地数据库或DBS沙箱中，可用于误操作后恢复以及分析历史数据等场景。前提条件 DBS备份计划的运行状态为 运行中。已完成数据库备份。相关操作，请参见...
云数据库录入
本文介绍如何通过数据管理DMS录入阿里云数据库。前提条件 支持录入的云数据库类型，请参见 支持的云数据库。系统角色为DBA或管理员。查看系统角色的操作，请参见 查看我的系统角色。已在云数据库的白名单中添加DMS的服务器访问地址。详细...
某网约车公司车辆轨迹数据
随着车辆数量的快速增长，每辆车每分钟上传轨迹、位置等信息到MySQL导致MySQL库数据量过大，将全量数据写到 云原生多模数据库 Lindorm 中可以解决数据量过多和成本问题。业务挑战 目前线下有7万+辆车，车辆数量在快速增长，每辆车每分钟...
应用场景
本节主要介绍 OceanBase 数据库的主要应用场景。交易支付透明拆分 交易支付是蚂蚁集团最核心的一个业务，最初...由于 OceanBase 数据库的原生分布式数据库特点，可以完美地解决传统数据库的单点性能瓶颈问题，而且还可以节省扩容带来的成本。
高斯过程回归
功能说明 高斯过程回归是使用高斯过程先验对数据进行回归分析的非参数模型。计算逻辑原理 高斯过程回归中支持三种核函数：高斯核：，其中尺度因子，尺度 是高斯核函数的参数。线性核：，其中偏移 和尺度因子，是线性核函数的参数。二次有理...
某历史养成类游戏开发公司实时计算和数据仓库方案
解决方案 客户选择云数据库Lindorm SQL（Phoenix）服务+数据湖Spark服务构建实时计算和数据仓库解决方案。Lindorm SQL提供在线查询能力、Spark提供流式处理、复杂分析等能力来满足业务需求；梳理业务数据，对数据进行分层存储在Lindorm SQL...
新建自定义数据源
完成自定义数据源类型后，您可将该类型的数据源接入到Dataphin中，为后续进行集成开发做准备。前提条件 已有自定义数据源类型。具体操作，请参见：新建离线自定义源类型。新建实时自定义源类型。操作步骤 请参见 数据源管理入口，进入 数据...
Quick BI连接MaxCompute
数据源权限控制问题请参见 Quick BI关于业务分析人员连接MaxCompute数据源权限控制问题解决方案及常见报错解析。测试成功后，单击 确定，完成数据源的添加。此时您可以在数据源列表中，看到您创建的数据源。说明 Quick BI添加MaxCompute云...
数据分析整体趋势
大数据与数据库一体化：早期大数据技术以牺牲一定程度一致性为基础提供分布式能力，解决了传统单机数据库的扩展性不足问题，在MapReduce基础上提供了标准SQL接口，架构上也逐步采用了部分MPP数据库技术；另一方面，分布式数据库也快速发展...
账单数据订阅及查询分析
您可在用户中心订阅不同类型的账单数据，例如，计费项明细账单、计费项账单按天汇总等。订阅成功后，账单数据将会定时同步至MaxCompute，您...相关文档 大数据分析工具的常见问题和解决方法，详情请参见 大数据分析工具的常见问题和解决方法。
外部表概述
外部表示例 您可以通过以下示例，深入了解通过MaxCompute外部表功能处理各种非结构化数据的方法：访问OSS和TableStore（OTS）非结构化数据，请参见 访问OSS非结构化数据 和 访问OTS非结构化数据。外部表访问OSS的账号，在RAM中自定义授权...
概述
从应用视角看，全密态数据库可以解决不同应用场景下的数据安全问题，几种典型场景如下：平台安全运维：该场景主要针对在不可信环境（如第三方平台）下提供的数据库服务的安全防护，保证用户数据在运维过程中的安全。例如，业务将应用数据库...
LightGBM
功能说明 LightGBM组件支持使用lightgbm算法对分类或回归问题进行建模。lightgbm是一个梯度Boosting框架，使用基于决策树的学习算法。它可以说是分布式的，高效的，有以下优势：更快的训练效率 低内存使用 更高的准确率 支持并行化学习 ...
RDS连接失败的排查方法
概述 本文主要介绍如何排查无法连接RDS实例的问题。详细信息 您可以从以下五个方面排查问题：...ECS实例无法通过内网访问RDS实例 若是ECS实例无法通过内网访问RDS实例，您可以参见 解决无法连接RDS实例的问题 解决问题。适用于 云数据库RDS
- 产品推荐
- 这些文档可能帮助您