内存诊断
内存诊断有普通内存诊断和共享内存诊断两种方式，具体内存诊断方式根据需求而定。普通内存 可以通过观察 polar_stat_activity_rt 视图，如下所示：SELECT pid,rss FROM polar_stat_activity_rt ORDER BY rss DESC;\watch 1 进而可通过 ...
内存诊断
内存诊断有普通内存诊断和共享内存诊断两种方式，具体内存诊断方式根据需求而定。普通内存 可以通过观察 polar_stat_activity_rt 视图，如下所示：SELECT pid,rss FROM polar_stat_activity_rt ORDER BY rss DESC;\watch 1 进而可通过 ...
pg_shmem_allocations
pg_shmem_allocations 视图显示从服务器的主共享内存段的分配模式。简介 pg_shmem_allocations 视图显示从服务器的主共享内存段的分配模式。说明 此视图不包括使用动态共享内存基础架构分配的内存。列名称 列类型 描述 name text 共享内存...
pg_shmem_allocations
pg_shmem_allocations 视图显示从服务器的主共享内存段的分配模式。简介 说明 pg_shmem_allocations 视图不包括使用动态共享内存基础架构分配的内存。匿名分配是直接使用 ShmemAlloc()分配，而不是通过 ShmemInitStruct()或 ShmemInitHash...
启动ACCL容器
PyTorch多进程处理、多线程Dataloader等会大量使用共享内存通信，故而建议为容器分配足够的共享内存空间。其他可行选项包括：shm-size=8g-v/dev/shm:/dev/shm-device=dev/infiniband-ulimit memlock=-1:1 挂载RDMA网卡设备并移除内存页锁定...
ResourceConfig
名称 类型 描述 示例值 object 资源配置 CPU string CPU 核心数 10 GPU string GPU 核心数 3 Memory string 内存容量 10Gi SharedMemory string 共享内存容量 5Gi GPUType string GPU 类型 Tesla-V100-16G
挂载EmptyDir Volume以修改shm大小
本文介绍如何设置Memory类型的emptyDir Volume的sizeLimit，并将其挂载到/dev/shm，从而修改ECI Pod的shm大小，解决共享内存不够用的问题。功能场景 默认情况下，Kubernetes创建的Pod，其共享内存默认为64 MiB（即/dev/shm 大小为64 MiB）...
Persistent Buffer Pool
背景信息 PolarDB PostgreSQL版 的内存可以分为Shared Buffer Pool、Dynamic Shared Memory Areas以及进程私有内存三部分：Shared Buffer Pool：集群启动时采用预分配的方式建立的一大段共享内存，通过确定offset来对各个功能模块划分使用...
Persistent Buffer Pool
背景信息 PolarDB PostgreSQL版（兼容Oracle）的内存可以分为Shared Buffer Pool、Dynamic Shared Memory Areas以及进程私有内存三部分：Shared Buffer Pool：集群启动时采用预分配的方式建立的一大段共享内存，通过确定offset来对各个功能...
资源组管理
如果MEMORY_SHARED_QUOTA参数设置为100%，那么资源组内部的所有内存都将被视为共享内存，所有任务都可以使用这块内存；如果MEMORY_SHARED_QUOTA参数值小于100%，系统将根据设定的比例将内存划分为固定部分和共享部分，固定部分是每个任务...
内存诊断
诊断结果以图表的方式展示系统内存整体使用情况，将容器内的缓存和共享内存归属到具体的文件夹下，清晰展示系统内存使用情况，便于运维。本文介绍内存诊断的具体内容。内存诊断包括内存总览、内存分析和OOM分析，用于浏览节点及Pod内存使用...
持久缓存池（Warm Buffer Pool）
技术原理 PolarDB MySQL版 的持久缓存池功能利用了Linux的共享内存（Shared Memory）技术，将物理机内部的InnoDB缓存池从 PolarDB 的进程中独立起来，以实现主节点快速重启的能力。持久缓存池的技术架构如下：缓存池的控制信息、Page的控制...
MySQL 实际内存分配情况介绍
共享内存 执行如下命令，即可查询示例的共享内存分配情况：show variables where variable_name in('innodb_buffer_pool_size','innodb_log_buffer_size','innodb_additional_mem_pool_size','key_buffer_size','query_cache_size');...
Shared Server
PolarDB PostgreSQL版 针对上述问题，从数据库内部提供了 Shared Server（本文简称SS）内置连接池功能，采用共享内存+Session Context+Dispatcher转发+Backend Pool的架构，实现了用户连接与后端进程的解绑。后端进程具备了Native、Shared...
Shared Server
PolarDB PostgreSQL版（兼容Oracle）针对上述问题，从数据库内部提供了 Shared Server（本文简称SS）内置连接池功能，采用共享内存+Session Context+Dispatcher转发+Backend Pool的架构，实现了用户连接与后端进程的解绑。后端进程具备了...
Resource Manager
背景信息 PolarDB PostgreSQL版 的内存可以分为以下三部分：共享内存 进程间动态共享内存 进程私有内存 进程间动态共享内存和进程私有内存是 动态分配 的，其使用量随着集群承载的业务运行情况而不断变化。过多使用动态内存，可能会导致...
Resource Manager
背景信息 PolarDB PostgreSQL版（兼容Oracle）的内存可以分为以下三部分：共享内存 进程间动态共享内存 进程私有内存 进程间动态共享内存和进程私有内存是 动态分配 的，其使用量随着集群承载的业务运行情况而不断变化。过多使用动态内存，...
MySQL实际内存分配情况介绍
MySQL 的内存大体可以分为共享内存和session私有内存两部分，下面将详细介绍各部分的构成。内存共享 执行如下命令，即可查询示例的共享内存分配情况：show variables where variable_name in('innodb_buffer_pool_size','innodb_log_buffer...
闪回表
内存占用 打开闪回日志功能需要增加的共享内存大小为以下三项之和：polar_flashback_log_buffers*8 kB polar_flashback_logindex_mem_size MB polar_flashback_logindex_queue_buffers MB 打开快速恢复区需要增加大约32 KB的共享内存大小，...
闪回表
内存占用 打开闪回日志功能需要增加的共享内存大小为以下三项之和：polar_flashback_log_buffers*8 kB polar_flashback_logindex_mem_size MB polar_flashback_logindex_queue_buffers MB 打开快速恢复区需要增加大约32 KB的共享内存大小，...
闪回表
内存占用 打开闪回日志功能需要增加的共享内存大小为以下三项之和：polar_flashback_log_buffers*8 kB polar_flashback_logindex_mem_size MB polar_flashback_logindex_queue_buffers MB 打开快速恢复区需要增加大约32 KB的共享内存大小，...
最佳实践
容器与云原生 如何利用云存储网关作为Windows Docker存储访问OSS 在Linux Docker容器中挂载使用云存储网关 Windows应用 利用云存储网关搭建Windows文件共享服务器 利用云存储网关的SMB共享搭建windows FTP服务器访问对象存储OSS 如何基于云...
文件存储
pg_dynshmem 用于动态共享内存的文件。所有节点存储一份 pg_snapshots 导出的快照（snapshot）。pg_replslot replication slot数据。pg_stat_tmp 统计子系统的临时文件。pg_stat 统计子系统的持久化文件。pg_serial 已提交的Serializable...
数据库
等待事件类型描述 等待事件类型 等待事件名称 描述 LWLock ShmemIndexLock 正等待在共享内存中查找或者分配空间。OidGenLock 正等待分配或者赋予OID。XidGenLock 正等待分配或者赋予事务 ID。ProcArrayLock 正等待在事务结尾得到快照或者...
数据库
等待事件类型描述 等待事件类型 等待事件名称 描述 LWLock ShmemIndexLock 正等待在共享内存中查找或者分配空间。OidGenLock 正等待分配或者赋予OID。XidGenLock 正等待分配或者赋予事务 ID。ProcArrayLock 正等待在事务结尾得到快照或者...
Global Plan Cache
当不经常使用或者失效的GPC被清理以后，会释放出共享内存空间，之后本地的Plan Cache会尝试移动到GPC中。polar_enable_gpc_level GPC功能的开启级别，允许动态修改。取值如下：0（默认）：表示不使用GPC。1：表示仅在只读节点（RO）上使用...
全局执行计划缓存
当不经常使用或者失效的GPC被清理以后，会释放出共享内存空间，之后本地的Plan Cache会尝试移动到GPC中。polar_enable_gpc_level GPC功能的开启级别，允许动态修改。取值如下：0（默认）：表示不使用GPC。1：表示仅在只读节点（RO）上使用...
全局执行计划缓存
当不经常使用或者失效的GPC被清理以后，会释放出共享内存空间，之后本地的Plan Cache会尝试移动到GPC中。polar_enable_gpc_level GPC功能的开启级别，允许动态修改。取值如下：0（默认）：表示不使用GPC。1：表示仅在只读节点（RO）上使用...
Global CatCache
PolarDB PostgreSQL版（兼容Oracle）引用了Global CatCache功能，将Cat/Sys Cache保存在所有进程都可以访问的共享内存中，确保Cat/Sys Cache的内存消耗不再受连接数的影响，大大提高了服务稳定性。参数说明 参数 级别 说明 polar_enable_...
共享内存通信（SMC）使用说明
Alibaba Cloud Linux 3提供的共享内存通信SMC（Shared Memory Communication）是一种兼容socket层、使用共享内存技术实现的高性能内核网络协议栈。根据共享内存技术的不同，SMC又可以细分为基于Internal Shared Memory（ISM）技术的SMC ...
共享内存通信（SMC）使用说明
Alibaba Cloud Linux 3提供的共享内存通信SMC（Shared Memory Communication）是一种兼容socket层、使用共享内存技术实现的高性能内核网络协议栈。根据共享内存技术的不同，SMC又可以细分为基于Internal Shared Memory（ISM）技术的SMC ...
查看详细信息
SHMEM 共享内存，以及tmpfs和devtmpfs。INACTIVE 长时间未被访问过的内存页。ANON_PAGES 匿名内存页。COMMITTED_AS 完成当前负载预计需要的内存。MEM_TOTAL 系统可用总内存，不包括kernel占用的内存，这个值在系统运行期间一般是固定不变的...
共享型
共享内存型e4包括的实例规格及指标数据如下表所示。实例规格 vCPU 内存（GiB）网络带宽（Gbit/s）网络收发包PPS（万）多队列 弹性网卡 单网卡私有IP ecs.e4.small 1 8.0 0.5 5 1 2 2 ecs.e4.large 2 16.0 0.5 10 1 2 2 ecs.e4.xlarge 4 32....
ECS资源复用版
Memory资源 共享内存可用 MaxCompute实际购买成功的ECS实例的内存总数。共享内存计划上限 共享单元中包含的ECS实例的内存总数。共享内存使用 实际被使用的内存数量。说明 ECS共享资源可用值小于计划上限值，可能是由于ECS资源预定容量不足...
PolarDB PostgreSQL版架构介绍
T5时刻，只读节点再次读取页面P1，由于BufferPool中不存在P1，因此从共享内存上读取了最新的P1，但是只读节点并没有回放LSN=300的日志，读取到了一个对其来说超前的 未来页面。未来页面 的问题是：部分页面是 未来页面，部分页面是正常的...
PolarDB PostgreSQL版架构介绍
T5时刻，只读节点再次读取页面P1，由于BufferPool中不存在P1，因此从共享内存上读取了最新的P1，但是只读节点并没有回放LSN=300的日志，读取到了一个对其来说超前的 未来页面。未来页面 的问题是：部分页面是 未来页面，部分页面是正常的...
基于TairString实现高性能分布式锁
如果一台主机上的多个进程需要并发访问某项资源，则可以使用进程间同步的原语，例如信号量、管道、共享内存等。但如果多台主机需要同时访问某项资源，就需要使用一种在全局可见并具有互斥性的锁了。这种锁就是分布式锁，可以在分布式场景中...
服务网格落地
SOFAMosn 的 Metric 迁移：蚂蚁团队使用了共享内存来共享新老进程的 Metric 数据，保证在迁移的过程中 Metric 数据也是正确的。内存复用机制 内存复用机制主要特征如下：基于 sync.Pool。Slice 复用使用 Slab 细粒度，提高复用率。常用结构...
Operator
应对策略 为了消除内存 OOM 风险和避免业务资源容量规划上的偏差，蚂蚁团队制定了新的“共享内存”策略。该策略主要内容：Sidecar 的内存 request 被置为 0，不再向调度器额外申请资源。Limit 被设置为应用的 1/4，保障 Sidecar 在正常运行...
SysOM内核层容器监控
该指标提供有关容器内存使用情况的统计信息，包括容器的总内存（Total）、剩余内存（Free）、可用内存大小（Available）、页缓存（Cache）、块缓存（Buffers）、共享内存（Shmem）、可回收内存（SReclaimable）、不可回收内存（SUnreclaim...
- 产品推荐
- 这些文档可能帮助您