基于函数计算FC实现阿里Kafka消息轻量级ETL处理
基于函数计算FC实现阿里<em>云</em>Kafka消息轻量级ETL处理
在大数据ETL场景,Kafka是数据的流转中心,Kafka中的数据一般是原始数据,可能存在多种数据混杂的情况,需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC,可以快速高效的搭建数据处理链路,用户只需要关注数据处理的逻辑,数据的触发,弹性伸缩,运维监控等阿里云函数计算都已经做了集成,函数计算FC也支持多种下游,OSS/数据库/消息队列/ES等都可以自定义的对接
存储引擎:阿里云 Kafka架构,有云存储和 Local存储。(详细对比参见文档:https://help.aliyun.com/zh/apsaramq-for-kafka/cloud-message-queue-for- kafka/product-overview/comparison-between-storage-engines )◆消息类型:普通消息。创建Group:◆Group名称:根据实际业务自行填写。Group描述:根据实际业务自行填写...
来自: 最佳实践 相关产品:对象存储 OSS,函数计算,消息队列 Kafka 版
基于函数计算实现直播流录制-存储-通知
基于函数计算实现直播流录制-存储-通知
在互娱、教育、电商等行业都会有直播相关的业务,大部分场合都需要对直播相关的业务做安全审核,或者对直播的课程进行录制和转码。该方案实现了一种完全按需拉起、按量弹性、按实际使用付费的录制方案。基于本方案还可以扩展实现直播流截帧、自动化安全审核等能力
基于函数计算实现直播流录制-存储-通知最佳实践 业务架构 场景描述 基于阿里函数计算实现对直播流的实时录制,录制结束后会把录制的结果写入 OSS 存储桶,并把录制的结果写到消息队列,下游服务可以通 过订阅的方式来消费消息 应用场景 在互娱、教育、电商等行业都会直播相关的业 务,大部分场合都需要对直播相关的业务...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
基于MSE原生网关同城多活
基于MSE<em>云</em>原生网关同城多活
借助云原生微服务MSE网关,MSE配置注册中心的同城容灾多活微服务应用。构建一个经典的微服务场景,实现同城容灾的步骤,体现云原生相关产品在用户上云,高可用同城容灾多活场景下的能力。
文档版本:20240423 VI 基于MSE原生网关同城多活最佳实践 最佳实践概述 产品介绍●专有网络 VPC(Virtual Private Cloud):是用户基于阿里创建的自定义私有网络,不同的专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创建和管理 产品实例,比如 ECS、负载均衡、RDS等。容器服务 Kubernetes 版 ACK:容器...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,NAT网关,微服务引擎
基于函数计算FC实现阿里Kafka消息内容控制MongoDB DML操作
基于函数计算FC实现阿里<em>云</em>Kafka消息内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
u 存储引擎:阿里云 Kafka 架构,有云存储和 Local 存储。(详细对比参见文档:https://help.aliyun.com/zh/apsaramq-for-kafka/cloud-message-queue-for- kafka/product-overview/comparison-between-storage-engines )u 消息类型:普通消息。创建 Group:u Group 名称:根据实际业务自行填写。u Group 描述:根据实际...
来自: 最佳实践 | 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
 存储引擎:阿里云Kafka架构,有云存储和Local存储。(详细对比参见文档:https://help.aliyun.com/zh/apsaramq-for-kafka/cloud-message-queue-for-kafka/pro duct-overview/comparison-between-storage-engines) 消息类型:普通消息。创建Group: Group名称:根据实际业务自行填写。 Group描述:根据实际业务...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
容器场景下的应用性能监控、调用链拓扑、内存剖析
容器场景下的应用性能监控、调用链拓扑、内存剖析
场景描述 随着云原生及微服务技术的普及,越来越多的系统已经通过云原生和微服务技术实现企业的降本增效,同时因微服务及云原生的复杂性给系统运维带来非常大的挑战,云原生应用监控arms通过全链路应用监控,从端到端及代码级别的链路下钻能力、CPU、内存持续剖析及诊断能力,帮助客户降低系统故障定位难度,此demo,您将体验arms的链路监控、内存剖析等能力 应用场景 微服务+容器场景下链路调用拓扑,调用链可以显示出服务之间的调用顺序和层次关系,帮助开发人员理解和追踪代码的执行流程 在分布式系统中,一个请求往往需要通过多个服务来完成。当出现问题时,如请求超时、错误或异常,很难快速定位问题所在。 解决问题 调用链可以帮助运维人员解决以下问题: · 故障排查:当请求失败或出现错误时,调用链可以显示整个请求的路径和每个服务的执行情况,从而帮助运维人员快速定位问题所在。 · 性能优化:通过调用链,运维人员可以了解请求在系统中的执行时间和瓶颈所在,从而进行优化。 · 系统监测:调用链可以提供实时的系统监测和分析,帮助运维人员了解系统的健康状况和资源利用情况。
容器场景下的应用性能监控、调用链拓扑、内存剖析 最佳实践 场景描述 业务架构 随着原生及微服务技术的普及,越来越多的系 统已经通过原生和微服务技术实现企业的降 本增效,同时因微服务及原生的复杂性给系统 运维带来非常大的挑战,原生应用监控arms 通过全链路应用监控,从端到端及代码级别的链 路下钻能力、CPU...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,NAT网关,微服务引擎
容器多云统一监控日志
容器多云统一监控日志
多云、混合云成为常态,Forrester 报告中指出,未来 89% 的企业至少使用两个云,74% 的企业至少使用三个甚至更多公有云,在面对多云/混合云这样大的趋势下,Gartner报告指出,安全、运维复杂性、财务复杂性是多云架构的主要挑战,本方案给出了在多云/混合云场景下,构建基于容器环境下的统一管理、统一监控和统一日志方案,解决多云、混合云场景下,运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商(AWS、Azure、GCP、TencentCloud、HuaweiCloud等)或者IDC基于容器(Kubernetes)运行业务系统,希望构建容器场景下的统一监控日志系统,方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统,在一个平台可以看到不同环境系统的运行情况。
服务器ECS:用于部署单节点Kubernetes,模拟非阿里容器集群 产品介绍  专有网络VPC(VirtualPrivateCloud):是用户基于阿里创建的自定义私有 网络,不同的专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创 建和管理产品实例,比如ECS、负载均衡、RDS等。 云速CADT...
来自: 最佳实践 | 相关产品:专有网络 VPC,容器服务 ACK,日志服务(SLS),应用实时监控服务 ARMS ,微服务引擎
Oracle RAC 12C上部署
Oracle RAC 12C<em>云</em>上部署
Oracle RAC架构迁移上云,提供高并发,高吞吐,高安全等特性,适用于金融,电力,电信,制造业等传统客户的核心交易系统。
应用范围 自裸金属实例搭建OracleRAC架构迁移上云,提供高并发,高吞吐,高安全等特 性,适用于金融,电力,电信,制造业等传统客户的核心交易系统。产品介绍  按量付费:是一种先使用后付费方式。使用这种方式,您可以按需取用资源,随 时开启和释放资源,无需提前购买大量资源。与传统主机投入相比,成本可以降 低30%...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,云服务器ECS,弹性公网IP,云企业网
基于OSS Object FC实现非结构化文件实时处理最佳实践
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中,以图片,视频,音频居多。举一个图片处理的场景,现在各种终端种类繁多,不同的终端对图片的格式、分辨率要求也不同,所以一张图片往往会有很多张衍生图,那如果所有的衍生图都存在OSS中,那存储的成本会增加,所以就可以通过OSS Object FC的方案,在不同的终端请求时,对OSS中的原图基于终端的要求做实时处理,然后响应返回,这样OSS中只需要存储原图即可。音视频也有类似的场景。
产品列表 图片处理的场景,现在各种终端种类繁多,不同 专有网络VPC  的终端对图片的格式、分辨率要求也不同,所以  阿里函数计算(FC)一张图片往往会很多张衍生图,那如果所有的  阿里对象存储(OSS)衍生图都存在OSS中,那存储的成本会增加, 内容分发网络(ContentDeliveryNetwork,CDN) 云速CADT ...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
基于MSE和SAE的微服务部署与压测
基于MSE和SAE的微服务部署与压测
通过云原生微服务引擎MSE、SAE、PTS、ARMS产品,为spring cloud微服务应用提供部署和测试能力,提供一个经典微服务应用上云的典型架构,实现微服务应用的快速落地。
SG), ARMS资源开通(arms), PTS基础资源包(PTS压测包)产品介绍  专有网络VPC(VirtualPrivateCloud):是用户基于阿里创建的自定义私有 文档版本:20240415 V基于MSE和SAE的微服务部署与压测 最佳实践概述 网络,不同的专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内 创建和管理产品实例,比如ECS、...
来自: 最佳实践 | 相关产品:负载均衡 SLB,弹性公网IP,性能测试 PTS,应用实时监控服务 ARMS ,Serverless 应用引擎,微服务引擎,云速搭
SAE-ACK应用双跑最佳实践
SAE-ACK应用双跑最佳实践
场景描述 实现ACK、SAE中部署的应用在东西向和南北向互通,实现SAE-ACK应用双跑。 应用场景 该最佳实践应用于两类场景: l 因为SAE支持更丰富自动扩缩指标(比如QPS,RT,TCP连接数等),所以将相对稳态的应用部署在ACK中,将相对弹性波动大的应用部署在SAE,借助SAE更强大的自动扩缩应对流量洪峰。 l 将K8s架构迁移到Serverless架构时,需要平滑过渡,所以该最佳实践中的双跑架构可以有效帮用户平滑的完成迁移。
产品介绍  专有网络VPC(VirtualPrivateCloud):是用户基于阿里创建的自定义私有网络,不同的 专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创建和管理产品实例,比如ECS、负载均衡、RDS等。 负载均衡SLB(ServerLoadBalancer):一种对流量进行按需分发的服务,通过将流量分发 到不同的后端服务来...
来自: 最佳实践 | 相关产品:容器服务 ACK,Serverless 应用引擎,微服务引擎
MSE网关使用JWT进行认证鉴权
MSE网关使用JWT进行认证鉴权
MSE网关中调用外部的认证鉴权服务,通过JWT的方式进行全局认证鉴权。 对网关有认证鉴权安全需求的场景,对于敏感的服务路由(可通过黑白名单方式配置)在网关层进行认证鉴权。
产品介绍 专有网络 VPC(Virtual Private Cloud):是用户基于阿里创建的自定义私有网 络,不同的专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创建和 文档版本:20240402 5 MSE网关使用 JWT实现认证鉴权 最佳实践概述 管理产品实例,比如 ECS、负载均衡、RDS等。传统型负载均衡 CLB(Classic Load ...
来自: 最佳实践 | 相关产品:负载均衡 SLB,Serverless 应用引擎,微服务引擎
Kafka性能压测快速方案
Kafka性能压测快速方案
产品性能基线测试场景需要对产品进行性能测试得到详细的压测数据,本方案可以快速构建测试的客户端(kafka官方的压测客户端)和不同的Kafka服务端( SSD云盘版、高效云盘、Serverless版三种实例),方便客户进行POC完成性能验证。
应用场景 需要通过PoC得到Kafka产品性能实测数据 时可以用本实践来快速完成环境搭建及性能测 试。解决问题 Kafka压测环境的快速构建 产品列表 Kafka官方压测客户端完成性能压测  专有网络VPC  虚拟机ECS  弹性公网IP  消息队列Kafka版  消息队列KafkaSeverless版  云速CADT 最佳实践频道 ...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,消息队列 Kafka 版
飞天企业版
阿里云飞天企业版是基于阿里云飞天云计算操作系统,为政企客户专属构建的资源和云管完全独立的企业级云平台,阿里云专有云与公共云同根同源,支持私有化部署。
产品解决方案文档与社区权益中心定价市场合作伙伴支持与服务了解阿里备案控制台飞天企业版产品简介产品优势解决方案服务介绍客户案例行业认可交流分享合作伙伴飞天企业版阿里飞天企业版(Apsara Stack)基于飞天云计算操作系统,为政企客户构建资源和管完全独立的企业级平台,与阿里公共同根同源,采用同一套...
来自: 云产品
IPv4网关实现流量统一出入口
IPv4网关实现流量统一出入口
对公网流量出入有严格的限制,禁止ECS直接通过挂载公网IP访问互联网带来安全隐患
产品介绍 专有网络 VPC(Virtual Private Cloud):是用户基于阿里创建的自定义私有网 络,不同的专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创建和 管理产品实例,比如 ECS、负载均衡、RDS等。IPv4网关:是连接专有网络 VPC和公网的网络组件。VPC通过 IPv4网关访问 公网,该 IPv4网关负责路由转发和网...
来自: 最佳实践 | 相关产品:云服务器ECS,负载均衡 SLB,云速搭
阿里数据库快速搭建疫情分析系统最佳实践
疫情态势分析和防控任务迫在眉睫,如果快速搭建高效的疫情态势分析系统是众多部门和单位的难题,阿里云polardb for PG+Ganos解决方案可在极短时间内完成分析系统搭建,有效助力疫情防。 方案优势: 1、性能优越:Ganos作为自研的时空数据库引擎,相比postgis性能更优秀。 2、安全稳定:故障自动切换自愈,资源隔离,多副本存储。 3、简单易用:开箱即用,兼容postgresql,打通quickbi快速搭建数据分析展示。 4、功能强大:相比postgis在时空模型上做了较多扩充,支持几何模型,栅格模型,网络模型,时空轨迹模型,点云模型,拓扑网络模型。
名词解释 VPC:专有网络 VPC(Virtual Private Cloud)是用户基于阿里创建的自定义 网络,不同的专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创 建和管理产品实例,比如 ECS、负载均衡、RDS 等。更多信息,请参见:www.aliyun.com/product/vpc ECS:服务器 ECS(Elastic Compute Service)是一种...
来自: 最佳实践 | 相关产品:云服务器ECS,访问控制,云数据库PolarDB,Quick BI
服务器 ECS
阿里云服务器ECS是一种处理能力可弹性伸缩的云主机虚拟服务器,它使服务器托管更安全稳定,可降低开发运维成本,支持包年包月、按量付费等模式,方便财务更好管理
产品解决方案文档与社区权益中心定价市场合作伙伴支持与服务了解阿里备案控制台服务器 ECS产品简介产品优势产品功能产品选型入门与试用技术解决方案产品定价安全合规客户案例常见问题社区服务器 ECS服务器是一种安全可靠、弹性可伸缩的云计算服务,助您降低 IT 成本,提升运维效率。立即购买免费试用快捷入口...
来自: 云产品
上经典架构
解决方案为企业提供基于云上的高可用博客网站架构。采用单地域双可用区部署,具备可用区级别的故障灾备能力,保障数据的可用性和持续性,为用户提供高性能的网站服务。
产品解决方案文档与社区权益中心定价市场合作伙伴支持与服务了解阿里备案控制台以部署一个上高可用博客网站为例,指导用户在搭建经典架构。方案采用单地域双可用区部署,具备可用区级别的故障灾备能力,保障数据的可用性和持续性,为用户提供高性能的网站服务。方案预估:体验本方案预计费用不超过2元(假设您...
来自: 解决方案
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
产品解决方案文档与社区权益中心定价市场合作伙伴支持与服务了解阿里备案控制台阿里产品基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的基础设施以及原生的开发环境。阿里为全球客户提供稳定性全球领先的产品技术。产品月刊产品手册2024版...
来自: 云产品
原生Stack
云原生Stack简称CNStack,是阿里云一款开放的一站式企业级云原生技术中台,能帮助用户打造满足大规模、高性能、合规性和业务连续性等要求的分布式应用系统,提升企业数字化转型的整体效能。
轻松实现 Kubernetes 部署,一键完成私有云搭建并托管业务应用。让集群搭建和应用交付不再困难.交付后的系统环境除业务应用可直接使用之外,平台还提供了开箱即用的运维能力,一步到位解决系统持续运行问题.灵活配置多种异构环境,包括物理机、虚拟机、不同架构及不同云环境。业务应用仅需进行架构适配,平台将负责屏蔽底层...
来自: 云产品
< 1 2 3 4 ... 6 >
共有6页 跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云虚拟主机 云解析 PrivateZone DataV数据可视化 轻量应用服务器 性能测试 弹性公网IP

新品推荐

切换为移动版

新人特惠 爆款特惠 最新活动 免费试用