Python读取MaxCompute表无法获取UDF信息
问题描述 Python读取MaxCompute表无法获取UDF信息，并提示以下错误。FAILED：ODPS-0130071：[1,8]Semantic analysis exception-failed to get Udf info form maxpt.py，error output is:Traceback（most recent call last）:系统显示类似...
读取二级索引时报错OTSErrorMsg:Disallow read index ...
问题现象 读取正在构造存量数据的索引表时出现如下报错：OTSErrorMsg:Disallow read index table in building base state 问题分析 二级索引的存量构造需要对表中的存量数据进行读取，然后同步到索引表。在存量数据同步完成之前，不允许读...
MySQL
每个chunk包含的行数越少，则表中的chunk的总数量越大，尽管这会降低故障恢复的粒度，但可能导致内存OOM和整体的吞吐量降低。因此，您需要进行权衡，并设置合理的chunk大小。scan.snapshot.fetch.size 当读取表的全量数据时，每次最多拉取...
CDC问题
为了解决数据库压力过大的问题，可以考虑通过将表同步到Kafka消息队列中，再通过消费Kafka中数据进行解耦。详情请参见 MySQL整库同步Kafka。如果是通过CTAS方式同步数据导致的数据库压力过大，可以将多个CTAS作业合并为一个作业运行。在...
读取数据
数据表中的行按主键从小到大排序，读取范围是一个左闭右开的区间，正序读取时，返回的是大于等于起始主键且小于结束主键的所有的行。exclusiveEndPrimaryKey limit 数据的最大返回行数，此值必须大于0。表格存储 按照正序或者逆序返回指定...
UDAF概述
MaxCompute支持您通过Java、Python语言编写代码创建UDAF，扩展MaxCompute的函数能力，满足个性化业务需求。本文为您介绍UDAF类型、使用限制、注意事项、开发流程及使用说明等信息。背景信息 UDAF为用户自定义聚合函数，适用于多进一出业务...
读取数据
数据表中的行按主键从小到大排序，读取范围是一个左闭右开的区间，正序读取时，返回的是大于等于起始主键且小于结束主键的所有的行。EndPrimaryKey Limit 数据的最大返回行数，此值必须大于 0。表格存储 按照正序或者逆序返回指定的最大...
读取数据
数据表中的行按主键从小到大排序，读取范围是一个左闭右开的区间，正序读取时，返回的是大于等于起始主键且小于结束主键的所有的行。exclusiveEndPrimaryKey limit 数据的最大返回行数，此值必须大于 0。表格存储 按照正序或者逆序返回指定...
高级配置：内存缓存本地目录
在大部分模型推理场景中，业务进程通过OSS或NAS将模型文件挂载到本地目录，进行模型读取、模型切换以及容器的扩缩容等操作时，会受网络带宽的影响，存在较大的延时问题。为了解决这个问题，EAS 提供了本地目录内存缓存加速的功能。通过将...
读取数据
表格存储 提供了GetRow接口用于读取单行数据以及BatchGetRow、GetRange等接口用于读取多行数据。如果需要了解表格存储各场景的应用案例，请参见 快速玩转Tablestore入门与实战。查询方式 表格存储 提供的数据读取接口包括GetRow、...
UDTF概述
MaxCompute支持您通过Java、Python语言编写代码创建UDTF，扩展MaxCompute的函数能力，满足个性化业务需求。本文为您介绍UDTF类型、使用限制、注意事项、开发流程及使用说明等信息。背景信息 UDTF为用户自定义表值函数，适用于一进多出业务...
数据源读取时间超时的优化思路
使用SQL查询的业务数据表数量太大，查询超时 针对查询条件所使用的字段添加索引，减少扫描行数。在数据库中增加定时任务，定时计算所需要的业务指标并更新结果表。DataV组件直接查询结果表的数据，不需要在每次组件获取数据时，再次执行SQL...
数据源读取时间超时的优化思路
使用SQL查询的业务数据表数量太大，查询超时 针对查询条件所使用的字段添加索引，减少扫描行数。在数据库中增加定时任务，定时计算所需要的业务指标并更新结果表。DataV组件直接查询结果表的数据，不需要在每次组件获取数据时，再次执行SQL...
PAI-TF数据IO方式介绍
PAI-TensorFlow支持读取OSS对象存储数据和MaxCompute表数据。警告 公共云GPU服务器即将过保下线，您可以继续提交CPU版本的TensorFlow任务。如需使用GPU进行模型训练，请前往DLC提交任务，具体操作请参见 创建训练任务。读取OSS数据 主流程 ...
排查Redis实例内存使用率高的问题
如果发现Redis内存占满或收到内存告警，可参考本文判断内存占用是否长期过高、内存占用是否突然上升、是否发生内存倾斜，并通过拆分大Key，设置过期策略，升级规格等方法解决问题。内存使用率高的现象分类 内存使用率高，通常分为以下三种...
使用SysOM定位容器内存问题
为解决因容器引擎层的不透明性而导致的故障排查困难问题，阿里云 容器服务 Kubernetes 版 ACK（Container Service for Kubernetes）团队推出操作系统内核层的容器监控可观测能力，为您提供更可靠、透明的容器引擎层，助力您更顺利地进行...
开发PyODPS 2任务
PyODPS 2底层Python语言版本为Python 2，PyODPS 3底层Python语言版本为Python 3，请您根据实际使用的Python语言版本创建PyODPS节点。使用限制 DataWorks建议您在PyODPS节点内获取到本地处理的数据不超过50 MB，该操作受限于DataWorks执行...
读取数据
如果为数据表配置了数据多版本，则您可以配置最多读取几个版本数据、读取指定时间范围或者指定版本号的数据。关于数据多版本的更多信息，请参见 数据版本和生命周期。读取结果可能有如下两种情况：如果该行存在，则返回该行的各主键列以及...
操作汇总
本文介绍 表格存储 的调用说明以及提供的宽表模型和时序模型相关API接口。如需了解 表格存储 各场景的应用案例，请参见 快速玩转Tablestore入门与实战。调用说明 表格存储 API只能通过 表格存储 提供的各语言SDK进行调用，不能直接使用HTTP...
BatchGetRow
调用BatchGetRow接口批量读取一个表或多个表中的若干行数据。BatchGetRow操作可视为多个GetRow操作的集合，各个操作独立执行，独立返回结果，独立计算服务能力单元。与执行大量的GetRow操作相比，使用BatchGetRow操作可以有效减少请求的...
在PyODPS节点中调用第三方包
PyODPS 2底层Python语言版本为Python 2，PyODPS 3底层Python语言版本为Python 3，请您根据实际使用的Python语言版本创建PyODPS节点。更多创建PyODPS节点信息，请参见 开发PyODPS 2任务 和 开发PyODPS 3任务。使用限制 在PyODPS节点中调用第...
PyODPS概述
PyODPS是MaxCompute的Python版本的SDK。提供简单方便的Python编程接口，以便您使用Python编写MaxCompute作业、查询MaxCompute表和视图，以及管理MaxCompute资源。PyODPS提供了与ODPS命令行工具类似的功能，例如上传和下载文件、创建表、...
Query级别诊断结果
建议 先找到读取数据量较大的Stage以及相关的表扫描算子（TableScan）。您可以在 AnalyticDB MySQL版 SQL诊断的Stage层或算子层执行计划中的 统计信息 区域查看对应Stage 扫描行数、扫描量，或TableScan算子的 输入行数 和 输入大小 来判断...
开发PyODPS 2任务
PyODPS 2底层Python语言版本为Python 2，PyODPS 3底层Python语言版本为Python 3，请您根据实际使用的Python语言版本创建PyODPS节点。若通过PyODPS节点执行SQL无法正常产生数据血缘关系，即数据血缘在数据地图无法正常展示，您可在任务代码...
开发PyODPS 3任务
PyODPS 2底层Python语言版本为Python 2，PyODPS 3底层Python语言版本为Python 3，请您根据实际使用的Python语言版本创建PyODPS节点。若通过PyODPS节点执行SQL无法正常产生数据血缘关系，即数据血缘在数据地图无法正常展示，您可在任务代码...
开发PyODPS 3任务
PyODPS 2底层Python语言版本为Python 2，PyODPS 3底层Python语言版本为Python 3，请您根据实际使用的Python语言版本创建PyODPS节点。若通过PyODPS节点执行SQL无法正常产生数据血缘关系，即数据血缘在数据地图无法正常展示，您可在任务代码...
算子级别诊断结果
扫描算子读取字段个数较多 问题 扫描算子会在 AnalyticDB MySQL版 的存储层进行数据的过滤和明细数据的读取，如果SELECT的字段个数较多，需要读取的明细数据也较多，那么就会占用较大的磁盘I/O资源，影响 AnalyticDB MySQL版 集群整体稳定...
GetRow
调用GetRow接口根据指定的主键读取单行数据。请求消息结构 message GetRowRequest { required string table_name=1;required bytes primary_key=2;Plainbuffer编码为二进制。repeated string columns_to_get=3;不指定则读出所有的列。...
RDS MySQL内存使用问题
本文介绍查看内存使用情况的方式，以及各种内存问题的原因和解决方案。背景信息 实例内存使用率和缓冲池命中率是RDS MySQL的关键指标。如果内存使用率过高，会有内存耗尽风险；如果缓冲池命中率低，大量的数据页无法命中缓冲池的数据页，...
Spark常见报错
常见于数据挖掘场景或者以Python语言为核心的Spark作业中。解决方法：调大 spark.executor.memoryOverhead 参数，该参数表示容器内部非Spark Executor进程可使用的内存容量（单位MB），默认为Executor容器总内存容量的百分之三十。例如您...
Query Profile介绍
说明 Operator花费的时间比例越大，其对应颜色就越深（支持对执行耗时排名前三的节点标注颜色）。您可以借此轻松确认查询的瓶颈。通过鼠标滚动，或单击 放大 和 缩小 按钮，可以放大和缩小Profile树。重要指标 Query级别 Summary指标 指标 ...
Python 3 UDTF
def process(self,arg):props=arg.split(',')for p in props:self.forward(p)说明 Python 2 UDTF与Python 3 UDTF区别在于底层Python语言版本不一致，请您根据对应版本语言支持的能力编写UDTF。使用限制 Python 3与Python 2不兼容。在您使用...
Python SDK常见问题
这一操作需要较大的时间开销，同时过多的文件会降低后续的查询效率，还可能造成服务端内存不足。因此，建议在使用 write_table()方法时，一次性写入多组数据或者传入一个Generator对象。使用 write_table()方法示例请参见 写入表数据。open...
外部表常见问题
问题现象 自定义Extractor在读取非结构化数据时，如果数据字段存在DATETIME类型（例如2019-11-11 06:43:36），会返回如下报错。FAILED:ODPS-0123131:User defined function exception-Traceback:java.lang.IllegalArgumentException at ...
避免下盘
以图中的执行计划为例，我们发现较大的算子落盘，进一步分析我们发现，在这个执行计划中，错误了估计了t2子表的行数（rows），导致t2一个大表被估计为1行的小表，进行了broadcast，并做了hashjoin的内标，导致了巨大的计算量。我们对t2表...
使用二级索引读取数据
表格存储 提供了单行读取和范围读取的查询方式用于读取索引表中数据。当返回的属性列在索引表中时，您可以直接读取索引表获取数据，否则请自行反查数据表获取数据。前提条件 已初始化Client。具体操作，请参见 初始化OTSClient。已创建二级...
PyODPS常见问题
这一操作需要较大的时间开销，同时过多的文件会降低后续的查询效率，还可能造成服务端内存不足。因此，建议在使用 write_table()方法时，一次性写入多组数据或者传入一个Generator对象。使用 write_table()方法示例请参见 写入表数据。open...
读取数据
表格存储 提供了单行读取、批量读取、范围读取、迭代读取和并行读取的查询方式用于读取数据表中数据。数据写入到数据表后，您可以选择所需数据查询方式进行数据读取。如果需要了解 表格存储 各场景的应用案例，请参见 快速玩转Tablestore...
UDF开发（Python3）
读取表数据 目前版本不支持使用UDF/UDAF/UDTF读取以下场景的表数据：做过表结构修改（Schema Evolution）的表数据。包含复杂数据类型的表数据。包含JSON数据类型的表数据。Transactional表的表数据。注意事项 Python 3与Python 2不兼容。在...
Python 3 UDAF
Python 2 UDAF迁移 Python 2官方即将停止维护，建议您根据项目类型执行迁移操作：全新项目：新MaxCompute项目，或第一次使用Python语言编写UDAF的MaxCompute项目。建议所有的Python UDAF都直接使用Python 3语言编写。存量项目：创建了大量...
- 产品推荐
- 这些文档可能帮助您