神经网络开源-神经网络开源文档介绍内容-阿里云

管理用户

EMR用户可以用于访问链接与端口，查看开源组件Web UI时的用户身份认证，也可以在开启组件LDAP认证之后进行身份认证。如果将Ranger的用户源设置为LDAP，则可以对用户管理中的用户进行权限控制。如果是高安全集群，EMR用户可以用于Kinit操作...

网络访问与安全设置

本文介绍网络访问的类型划分及设置方法，旨在指导您安全且高效地设置网络环境。网络访问类型 StarRocks支持阿里云VPC内网访问和公网访问方式。阿里云内网VPC访问：您可以在阿里云StarRocks实例所在网络VPC内或者其它VPC访问和使用StarRocks...

HDFS Web UI介绍

访问HDFS Web UI 您可以通过SSH隧道和控制台两种方式访问HDFS Web UI，具体操作请参见通过SSH隧道方式访问开源组件Web UI 和访问链接与端口。NameNode服务地址版本访问地址说明 hadoop 3.x http://${namenode_hostname}:9870${...

EMR Serverless StarRocks商业化发布

EMR Serverless StarRocks介绍 EMR Serverless StarRocks是开源StarRocks在阿里云上的全托管服务，您可以通过EMR Serverless StarRocks灵活的创建和管理StarRocks实例以及数据。StarRocks作为一款兼容MySQL协议的OLAP分析引擎，提供了极致...

访问模式

并且在创建SLB服务时，如果实例类型选择的是私网，则在选择专有网络时，必须选择与EMR ClickHouse集群相同的VPC。通过原生JDBC访问ClickHouse集群获取主机的IP地址。登录EMR on ECS控制台。在顶部菜单栏处，根据实际情况选择地域和...

EMR Workflow商业化公告

EMR Workflow介绍 EMR Workflow是一个全托管的工作流和任务调度服务，100%兼容开源Apache DolphinScheduler。它提供了易于使用的调度服务，您可以通过可视化的操作界面轻松地管理工作流和任务，高效构建数据仓库，并为生产任务的稳定运行...

选型配置说明

Flink、Kafka、YARN OLAP 数据分析场景，其中核心组件ClickHouse是一个面向联机分析处理（OLAP）的开源的面向列式存储的DBMS，与Hadoop和Spark相比，ClickHouse更轻量级。ClickHouse支持线性扩展，简单方便，具有高可靠性和高容错。...

管理LDAP认证

EMR-5.11.0及之前版本，EMR-3.45.0及之前版本重要如果您的EMR版本较低，没有相应的LDAP认证配置按钮，则需要参考开源软件的社区文档进行手动配置，以启用LDAP认证功能。在组件列表区域，选择 SparkThriftServer 操作列的>enableLDAP。...

网络访问与安全设置

本文介绍Serverless版本Milvus网络访问的类型划分及设置方法，旨在指导您安全且高效地设置网络环境。网络访问类型 Milvus提供阿里云VPC内网访问和公网访问方式。阿里云内网VPC访问：您可以在阿里云Milvus实例所在网络VPC内或者其它VPC访问...

云监控指标说明

serverless_starrocks_be_network_send_bytes 累计值网络发送累计总数据量。单位：Byte。serverless_starrocks_be_network_receive_bytes 累计值网络接收累计总数据量。单位：Byte。serverless_starrocks_fe_jvm_heap_size_bytes 瞬时值 ...

JindoData概述

JindoData是阿里云开源大数据团队自研的数据湖存储加速套件，面向大数据和AI生态，为阿里云和业界主要数据湖存储系统提供全方位访问加速解决方案。JindoData套件基于统一架构和内核实现，主要包括JindoFS存储系统（原JindoFS Block模式）、...

Kerberos概述

在这种高安全级别的集群中，所有开源组件均采用Kerberos安全模式启动，确保只有经过Kerberos认证的客户端能够访问集群提供的服务（例如HDFS）。背景信息集群开启Kerberos之后：客户端：可以对可信任的客户端提供认证，使得可信任客户端...

Impala概述

Impala相对于Hadoop上SQL查询，优点如下：由于在数据节点上进行了本地处理，因此避免了网络的限制。由于无需进行昂贵的数据格式转换，因此不会产生任何费用。可以使用单个、开放和统一的元数据存储。所有数据均可立即查询，无需等待ETL...

管理安全组

安全组用于设置集群内ECS实例的网络访问控制，是重要的安全隔离手段。本文为您介绍如何添加安全组及安全组规则。背景信息您在创建E-MapReduce集群时，可以使用已有的安全组或者新建安全组，对某个安全组下的所有ECS实例的出方向和入方向...

OSS/OSS-HDFS概述

JindoData是阿里云开源大数据团队自研的数据湖存储加速套件，面向大数据和AI生态，为阿里云和业界主要数据湖存储系统提供全方位访问加速解决方案。JindoData套件基于统一架构和内核实现，主要包括 JindoFS 存储系统（原JindoFS Block模式）...

EMR对接外部KDC

注意事项需要确保EMR集群与自建外部KDC间网络和端口的连通性。例如，TCP 88端口、749端口和UDP 88端口。操作步骤创建集群的具体操作，请参见创建集群。在创建集群的软件配置阶段，打开高级设置区域的 Kerberos身份认证开关。单击 ...

EMR-3.24.x版本说明

支持其他开源已有特性。Grafana 新增组件（Flink独立集群），版本6.4.2。Prometheus 新增组件（Flink独立集群），版本2.13.0。AlertManager 新增组件（Flink独立集群），版本0.19.0。TensorFlow on spark 支持TensorFlow框架置于Spark之上...

EMR元数据迁移公告

数据湖元数据DLF是阿里云提供的统一元数据服务，具有高可用、免运维和高性能等优点，兼容Hive Metastore，无缝对接EMR上开源计算引擎，并支持多版本管理和Data Profile功能。另外，DLF还支持数据探索、湖管理和数据权限控制等功能，并与...

生命周期策略

本文为您介绍开源大数据开发平台E-MapReduce（简称EMR)的产品生命周期策略及产品终止策略（包含产品粒度与发行版本粒度），以便您知晓详细规则，提早做好相应准备。背景信息产品的更新换代是基础技术软件领域的常态。在开源大数据社区蓬勃...

AI开源项目

阿里云开源的AI及大数据相关开源项目，如用于全自动分布式深度学习系统TePDist、NLP 开发和应用工具包EasyNLP等，您可以根据需要选择AI及大数据开源项目。PAI相关的开源项目信息请前往阿里云大数据&AI开源项目。

生命周期策略

本文为您介绍开源大数据开发平台E-MapReduce（简称EMR)的产品生命周期策略及产品终止策略（包含产品粒度与发行版本粒度），以便您知晓详细规则，提早做好相应准备。背景信息产品的更新换代是基础技术软件领域的常态。在开源大数据社区蓬勃...

EMR旧版数据开发迁移公告

EMR Workflow是一个全托管的工作流和任务调度服务，100%兼容开源Apache DolphinScheduler。它提供了易于使用的调度服务，您可以通过可视化的操作界面轻松地管理工作流和任务，高效构建数据仓库，并为生产任务的稳定运行提供保障。EMR ...

EMR-5.2.x版本说明

优化CBO（Cost-Based Optimization）、DPP（DynamicPartitionPruning）以及Z-Order等功能，性能比开源Spark 3版本提升50%。支持阿里云Log Service、DataHub和消息队列RocketMQ版（简称ONS）等数据源。Tez 优化Tez默认参数，以提升作业性能...

开启Nacos开源控制台

Nacos引擎提供一个默认的控制台操作页面，即开源控制台。由于此控制台安全能力较弱，MSE Nacos从 2.2.3.1 版本开始，将默认关闭开源控制台。本文介绍如何重新开启开源控制台的使用。前提条件已开通MSE。已创建Nacos引擎。具体操作，请...

HDFS概述

此方式不仅提高了数据的安全性，而且对于分布式作业可以更好地利用本地的数据进行计算，减少网络传输。Secondary NameNode 对于非高可用集群，默认会启动一个Secondary NameNode进程。Secondary NameNode的作用是消费EditsLog，定期地合并...

快速使用EMR Workflow

EMR Workflow是一个全托管的工作流和任务调度服务，100%兼容开源Apache DolphinScheduler。它提供了易于使用的调度服务，您可以通过可视化的操作界面轻松地管理工作流和任务，高效构建数据仓库，并为生产任务的稳定运行提供保障。本文以...

查看集群列表与详情

前提条件已创建集群，详情请参见创建...网络硬件该区域为您展示可用区、专有网络和硬件配置等信息。安全该区域为您展示密钥对、ECS实例角色、集群安全组和集群服务角色等信息。相关文档查看集群详细信息，请参见 ListClusters-查询集群。

EMR数据开发停止更新公告

EMR Workflow是一个全托管的工作流和任务调度服务，100%兼容开源Apache DolphinScheduler。它提供了易于使用的调度服务，您可以通过可视化的操作界面轻松地管理工作流和任务，高效构建数据仓库，并为生产任务的稳定运行提供保障。EMR ...

查看实例列表与详情

信息分类描述基础信息实例基本信息，包括实例ID、实例名称、创建时间、所在可用区、付费类型、专有网络、交换机和安全组等信息。版本信息实例配置相关的信息，包括实例系列、版本、小版本、存算分离状态等信息。FE详情 FE的规格、存储...

SmartData 3.1.x版本简介

功能变更 JindoFS存储优化 JindoFS缓存优化 JindoTable计算优化 JindoManager系统管理 JindoTools工具集 JindoFS生态支持 JindoFS存储优化支持文件的checksum功能，对齐开源HDFS checksum相关接口，支持MD5MD5CRC和COMPOSITE_CRC两种算法...

Workflow新功能发布记录

数据源中心支持连通性测试在添加数据源时，您可以实时进行网络连通性的检测，根据测试结果及时修正数据源的相关参数，确保被添加数据源的可用性。数据源中心支持工作流、任务查询API 新增支持工作流、任务、手动任务及相关实例的查询API...

开源自建对比

基础场景对比项开源自建SC/Dubbo+IaaS集群开源自建SC/Dubbo+自建K8s集群 SAE IaaS购买和系统搭建需要。需要。不需要。SAE 内置K8s集群底座和微服务框架。运维成本需要。需要。不需要。SAE 免运维。硬件成本按峰值固定保有包年IaaS，...

通过公网访问Kafka

开通已有集群的公网服务 Dataflow集群部署在VPC网络环境，您可以通过挂载弹性公网IP或者高速通道两种方式在外网环境访问Kafka服务。方式一：挂载弹性公网IP 进入基础信息页面。登录 E-MapReduce控制台。在顶部菜单栏处，根据实际情况选择...

为Spark集群关联RSS

Shuffle Read过程中存在大量的网络小包导致的Connection reset问题。Shuffle Read过程中存在大量小数据量的IO请求和随机读，对磁盘和CPU造成高负载。对于M*N次的连接数，在M和N数千的规模下，作业基本无法完成。EMR推出的RSS服务，可以优化...

安装HBase Java SDK

使用开源HBase客户端连接并使用Lindorm宽表引擎需要注意以下问题：开源HBase客户端不支持通过公网访问Lindorm宽表引擎。当前不支持通过开源HBase客户端访问多可用区实例。由于存在协议转换，使用开源HBase客户端直接访问Lindorm宽表引擎...