内置时空数据引擎Ganos
提供云上软硬件一体化的遥感影像数据库支持 Ganos支持各类空间栅格型数据的导入导出、拼接、剪切、统计分析等操作，可建模对象包括全色/多光谱/高光谱各类遥感影像、数字高程模型、三维体素模型等，并融合了云上GPU的并行计算加速能力和OSS...
搭建与管理（基于Hadoop）
通过MaxCompute与Hadoop构建湖仓一体方案旨在实现对海量数据的统一管理、存储和分析，提供了一个既能处理结构化、半结构化数据，又能满足高并发分析需求的一体化数据平台。本文为您介绍如何通过MaxCompute与Hadoop构建湖仓一体，以及管理湖...
MaxCompute+Hadoop搭建实践
本文以E-MapReduce的Hive为例，为您介绍在MaxCompute中如何创建外部项目，并查询Hadoop中的表数据。准备Hadoop数据源 创建Hadoop集群，具体操作请参见 开通阿里云EMR服务。进入Hive准备数据。使用Workbench方式登录集群主节点后，在终端...
Hadoop Yarn RPC 0 Day在野利用分析与传播手段披露
阿里云安全监测到Kinsing僵尸网络变种，该僵尸网络除了沿用之前的攻击手法，最新利用了Hadoop Yarn RPC未授权访问漏洞进行传播。概述 Hadoop Yarn是Hadoop的核心组件之一。Hadoop Yarn RPC未授权访问使得攻击者无需认证即可通过RPC通信执行...
元数据仓库共享模型概述
元仓共享模型数据说明 您可根据当前使用的Dataphin的元仓租户计算引擎类型查看对应的共享模型数据：元数据仓库共享模型（MaxCompute）、元数据仓库共享模型（Hadoop）。访问元仓共享模型 若您需要访问元仓共享模型，可以通过集成任务将元仓...
基于Hadoop集群支持Delta Lake或Hudi存储机制
涉及模块 对应阿里云产品 说明 开源Hadoop 本地机房搭建Hadoop集群 云上虚拟机搭建Hadoop集群 阿里云E-MapReduce 原始数据存储在Hadoop集群中。基于Hadoop集群支持Delta Lake或Hudi湖仓一体架构 前提条件 已创建MaxCompute项目（非External...
搭建Hadoop环境
背景信息 Apache Hadoop软件库是一个框架，它允许通过简单的编程模型在由多台计算机组成的集群上对大规模数据集进行分布式处理。该框架设计能够从单个服务器扩展到数千台机器，每台机器都提供本地计算和存储能力。Hadoop并不依赖硬件来实现...
异构数据源访问
为确保 AnalyticDB PostgreSQL版 与Hadoop间的网络端口畅通，需将以下异构数据源访问功能会用到的Hadoop服务默认的端口全部加入安全组。具体操作，请参见 添加安全组规则。服务 端口号 Namenode IPC Hadoop2.x版本：8020 Hadoop3.x版本：...
创建Hadoop计算源
如果Dataphin系统的计算引擎设置为Hadoop，则只有项目空间添加了Hadoop计算源，才支持规范建模、即席查询、Hive任务、通用脚本等功能。本文为您介绍如何新建Hadoop计算源。前提条件 在您开始执行操作前，请确认已满足以下要求：已设置...
使用CreateCluster API创建集群
选择安装应用 必须安装的依赖应用 不可同时安装的互斥应用 HDFS Hadoop-Common OSS-HDFS OSS-HDFS Hadoop-Common HDFS Hive Hadoop-Common、YARN 无 Spark2 Hadoop-Common、YARN、Hive Spark3 Spark3 Hadoop-Common、YARN、Hive Spark2 Tez...
管理节点组（Hadoop、Data science和EMR Studio集群）
例如，内存型实例节点（vCore:vMem=1 vCPU:8 GiB）用于大数据离线处理，计算型实例（vCore:vMem=1 vCPU:2 GiB）用于模型训练。前提条件 已在EMR控制台创建Hadoop、Data science或EMR studio集群，详情请参见 创建集群。使用限制 支持新增...
计算源概述
Hadoop 计算设置为Hadoop的租户支持创建以下计算源：离线计算源 Hadoop计算源：绑定Hadoop计算源的项目，支持规范建模、即席查询、Hive SQL任务、通用脚本等功能。创建Hadoop计算源，请参见 创建Hadoop计算源。实时计算源 Flink 计算源：...
利用MaxCompute External Volume处理非结构化数据
配置项 spark.hadoop.odps.cupid.volume.paths=odps:/ms_proj1_dev/volume_yyy1/spark.hadoop.odps.volume.common.filesystem=true spark.hadoop.fs.odps.impl=org.apache.hadoop.fs.aliyun.volume.OdpsVolumeFileSystem spark.hadoop.fs....
文件存储HDFS版
您可以像在Hadoop分布式文件系统（Hadoop Distributed File System）中管理和访问数据那样使用文件存储HDFS版。您无需对现有大数据分析应用做任何修改，即可使用具备无限容量及性能扩展、单一命名空间、多共享、高可靠和高可用等特性的分布...
概述
同一份数据以不同的格式保存，数据所占用的存储空间不同，使用DLA扫描数据时所花费的时间和...支持嵌套的数据模型。自带性能友好的统计元信息。减少53.3%560MB ORC Hadoop生态格式的数据。自带性能友好的统计元信息。高压缩比 减少80.4%235MB
产品概述
EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。EMR还可以与阿里云其他的云数据存储系统和数据库系统（例如，阿里云OSS和RDS等）进行数据传输。阿里云EMR提供了on ...
JindoData版本说明
支持P2P加速，对大量训练节点同时预热加载模型文件场景，大幅提升缓存读取性能。JindoSDK Hadoop支持 提供 JindoOssFileSystem 支持OSS与OSS-HDFS的透明缓存加速使用。提供 JindoFsxFileSystem 支持统一名字空间方式使用。JindoShell CLI...
产品简介
EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。EMR还可以与阿里云其他的云数据存储系统和数据库系统（例如，阿里云OSS和RDS等）进行数据传输。产品介绍 阿里云EMR...
应用场景
云消息队列 Kafka 版 的发布/订阅模型，您可以实时收集网站活动数据（例如注册、登录、充值、支付、购买），根据业务数据类型将消息发布到不同的Topic，然后利用订阅消息的实时投递，将消息流用于实时处理、实时监控或者加载到Hadoop、...
数据迁移
MaxCompute为您提供了完善的数据迁移方案以及多种经典的分布式计算模型，能够快速地解决海量数据存储和计算问题，有效降低企业成本。DataWorks 为MaxCompute提供一站式的数据集成、数据开发、数据管理和数据运维等功能。其中：数据集成 为...
扩展MapReduce（MR2）
与Hadoop Chain Mapper/Reducer对比 Hadoop Chain Mapper/Reducer也支持类似的串行化Map或Reduce操作，但和MaxCompute的扩展MapReduce（MR2）模型有本质的区别。Chain Mapper/Reducer基于传统的MapReduce模型，仅可以在原有的Mapper或...
Lindorm（HBase）数据入库与ETL
栅格数据入库 Pipeline技术 Pipeline模型是DLA Ganos基于GeoTrellis开源项目开发的用于栅格数据快速加载、处理和入库的ETL技术。Pipeline模型包含了一系列功能模块：如读取数据（Load），转换（Transform），保存数据（Save）等。DLA Ganos...
创建通用项目
如果您选择的Dataphin的计算引擎为Hadoop，且数据研发过程中需要使用规范建模、即席查询、Hive SQL计算任务等功能，则在创建项目空间前需要完成Hadoop计算源的创建。具体操作，请参见 创建Hadoop计算源。如果您选择的Dataphin的计算引擎为...
测试环境
环境配置要求 测试环境总体要求：自建Hadoop+Spark集群的网络环境为VPC网络。自建Hadoop+Spark集群和DLA Spark在同一个地域。自建Spark集群请使用Spark 2.4.5版本，自建Hadoop请使用2.7.3版本。3种不同测试场景下的测试环境配置要求：场景...
动态与公告
2024年04月 公告类型 模型名称 公告描述 生效时间 相关文档 模型下线 通义千问 qwen-max-1201的维护时间已经到期，4月22日将正式下线，同时4月8日开始模型限流也会逐步调低直至下线，请及时迁移到更新版本模型。2024-04-22 计量计费 2024年...
大语言模型
模型简介 Qwen1.5 Qwen1.5是Qwen开源系列的下一个版本。与之前的版本相比，Qwen1.5显著提升了聊天模型与人类偏好的一致性，改善了它们的多语言能力，并具备了强大的链接外部系统能力。灵积上提供API服务的是新版本qwen模型的chat版本，在...
网络洞察仪
您可以将网络洞察仪作为业务单元的网络监测件，通过配置业务相关资源，网络洞察仪将为您分析业务单元流量的实时运行状况，帮助您及时感知业务网络异常，并提供网络质量评估和事件影响面分析。基本概念 术语 说明 网络洞察仪 由用户自定义的...
快速开始
大模型服务平台百炼提供的0.5B模型、1.8B模型、7B模型、14B模型、32B模型和72B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考链接。Qwen ...
使用EasyRec读取Hive表
本文通过示例为您介绍，如何基于Hive在Data Science集群进行EasyRec模型训练、评估和预测。前提条件 已创建Hadoop集群，详情请参见 创建集群。已创建DataScience集群，且选择了EasyRec和TensorFlow服务，详情请参见 创建集群。下载dsdemo...
节点类型说明
Hadoop Hadoop 离线节点，运行在Hadoop云计算资源之上，可通过输入算法语句方式处理Hive、Hbase、Phoenix和RDS MySQL类型的数据。Elastic Job Elastic Job 离线节点，运行在Elastic Job云计算资源之上，可通过输入算法语句方式处理...
快速开始
灵积平台上提供的0.5B模型、1.8B模型、7B模型、14B模型、32B模型和72B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考 链接。Qwen 通义千问...
通义千问开源系列 大语言模型
通义千问系列模型由阿里云研发。其中开源版本提供包括18亿、70亿、140亿和720亿等多个规模的版本。这些模型基于Transformer结构，在超大规模的预训练数据上进行训练得到。预训练数据类型多样，覆盖广泛，包括大量网络文本、专业书籍、代码...
DataWorks V3.0
E-MapReduce：E-MapReduce（Elastic MapReduce，简称EMR）构建在阿里云云服务器ECS上，基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其它周边系统（例如Hive），来分析和处理自己的数据的大数据...
Sambert语音合成
提供SAMBERT+NSFGAN深度神经网络算法与传统领域知识深度结合的文字转语音服务，兼具读音准确，韵律自然，声音还原度高，表现力强的特点。语音合成API基于达摩院改良的自回归韵律模型，具有推理速度快，合成效果佳的特点。开发者可以通过...
查询作业信息
Mode String YARN 模型模式，取值如下：YARN：将作业包装成一个Launcher提交至YARN中执行，LOCAL：作业直接在机器上以进程方式运行。GmtModified Long 1538017813000 最后修改时间。MonitorConf String {"inputs":[{"type":"KAFKA",...
API详情
灵积平台上提供的0.5B模型、1.8B模型、7B模型、14B模型、32B模型和72B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考 链接。CodeQwen1.5 ...
查询作业列表
Mode String YARN 模型模式，取值如下：YARN：将作业包装成一个Launcher提交至YARN中执行，LOCAL：作业直接在机器上以进程方式运行。GmtModified Long 1538017813000 最后修改时间。MonitorConf String {"inputs":[{"type":"KAFKA",...
修改作业
Mode String 否 YARN 模型模式，取值如下：YARN：将作业包装成一个Launcher提交至YARN中执行。LOCAL：作业直接在机器上以进程方式运行。ResourceList.N.Alias String 否 demo.jar 资源的别名。ClusterId String 否 C-A23BD131A862*集群ID。...
公共节点
Flink Vvp SQL Flink Vvp SQL节点为了简化计算模型、降低您使用Flink门槛而设计的可以使用标准SQL语义开发的节点。适用于阿里云Flink团队提供的Flink集群模式（也称为Flink全托管模式），提供对外API访问，具体操作，请参见 新建Flink Vvp ...
API详情
大模型服务平台百炼提供的1.8B模型、7B模型、14B模型和72B模型基于千问开源版本，进行了针对性的推理性能优化，为广大开发者提供便捷的API服务。各个版本均对应魔搭社区开源的各个尺寸的模型版本，详细参考 链接。Qwen 通义千问系列模型为...
- 产品推荐
- 这些文档可能帮助您