升级或降级运行时环境
使用JAR包部署的原生应用：Spring Cloud、Dubbo、普通Java Web或Spring MVC应用，未使用过Pandora或Pandora Boot，通过JAR包部署时，需要选择标准Java应用运行时环境。HSF应用：包括使用Pandora Boot开发的Spring Cloud应用和由Dubbo转换为...
自定义函数（UDF）
代码中的 myfunc 是UDF函数的名称，org.example.MyUDF 是 开发UDF 中创建的类，hdfs:/user/hive/warehouse/hiveudf-1.0-SNAPSHOT.jar 为上传JAR包到HDFS的路径。当出现以下信息时，表示创建成功。Added[/private/var/folders/2s/wzzsgpn13...
数据源支持概述
您只需要使用该JAR包，就可以完成Loghub、TableStore、HBase、JDBC和Redis数据源的实现以及相关的依赖包。Kafka和Druid数据源暂未在此JAR包中发布，后续会陆续加入，具体请参见 Release Notes。使用 streaming-sql 命令行进行交互式开发。...
Dataphin创建Java函数步骤
2.编写代码并达成Jar包。例如下图：3.上传Jar包。类型：选择对应的包类型，此处选择jar。名称：XXX.jar，此处的名称可以随便定义，但是为了后续使用以及管理，增加易读性，建议打包的包名，名称都保持和类名一致。描述：可以写此资源作用。...
使用控制台分批发布应用（K8s）
JAR包地址 文件上传方式 选择 JAR包地址 时，输入JAR包地址。说明 对于带认证签名的OSS文件访问URL，EDAS在部署时会缓存该文件用于之后的回滚、扩容等操作。构建仓库类型 说明 构建仓库类型 功能仅支持容器服务K8s集群下的Java、Tomcat、...
如何手动升级 SOFABoot 管理的第三方 JAR
SOFABoot 遵从 SpringBoot 的包管理规范，采用 Maven 的 dependencyManagement 进行 JAR 包版本管理，对主要的第三方 JAR 都抽取了 Properties。Maven 支持子 pom 覆盖父 pom 的 Properties，可以使用此方式来按需自定义第三方 JAR 的版本...
错误：“超时取消”问题排查
Java 构建 jar 包下载卡住 日志中出现 jar 包下载然后不继续往下执行。出现这种情况是由于 jar 包下载失败，首先判断使用 maven 源是否为国内镜像源，推荐使用 aliyun 提供的 mave镜像仓库 进行依赖下载加速。NodeJS 构建 Npm 包下载卡住 ...
创建EMR Spark节点
JAR包大于等于200MB时，无法通过本地上传的方式直接上传为DataWorks的资源，建议直接将JAR包存储在EMR的HDFS中，并记录下JAR包的存储路径。便于后续在DataWorks调度Spark任务时引用该路径。引用EMR JAR资源。JAR包存储在HDFS时，您可以直接...
Java UDF最佳实践
前提条件 下载 JAR包。背景信息 本教程基于下载的JAR包自定义的Java UDF函数，实现大写字母转换为小写字母。您也可以编写Java UDF代码，以实现更多的功能，请参见 IntelliJ IDEA Java UDF开发最佳实践 本教程中的JAR包的代码如下。package ...
Java UDF最佳实践
前提条件 下载 JAR包。背景信息 本教程基于下载的JAR包自定义的Java UDF函数，实现大写字母转换为小写字母。您也可以编写Java UDF代码，以实现更多的功能，请参见 IntelliJ IDEA Java UDF开发最佳实践。本教程中的JAR包的代码如下。package...
如何创建Federated表
host_name 远程服务器的主机名或IP地址。user_name 远程服务器上创建的用户名。password 远程服务器上用户名对应的密码。db_name 远程服务器上创建的数据库名称。创建Federated表。您可以通过三段式名称方式、指定远端Server或Connection来...
使用控制台升级应用（ECS集群）
文件上传方式 新版本应用部署包的上传方式，包含上传部署包（JAR包或WAR包）和部署包（JAR包或WAR包）地址。部署包类型同样由当前应用首次部署的方式决定。上传JAR包 或 上传WAR包：单击 选择文件，选择本地的新版本应用部署包。JAR包地址 ...
UDF示例：兼容Hive
注意事项 使用兼容的Hive UDF时，您需要注意：在MaxCompute上使用 add jar 命令添加Hive UDF的资源时，您需要指定所有JAR包，MaxCompute无法自动将所有JAR包加入Classpath。调用Hive UDF时，需要在SQL语句前添加 set odps.sql.hive....
使用控制台分批发布应用
文件上传方式 新版本应用部署包的上传方式，包含上传部署包（JAR包或WAR包）和部署包（JAR包或WAR包）地址。部署包类型同样由当前应用首次部署的方式决定。上传JAR包 或 上传WAR包：单击 选择文件，选择本地的新版本应用部署包。JAR包地址 ...
使用控制台金丝雀发布应用（K8s）
适用于JAR包和WAR包部署的应用 文件上传方式 与上一次的部署包类型（WAR包或JAR包）保持一致，不可更改。上传方式可以根据实际需求选择上传部署包或输入部署包地址两种方式。上传JAR包/上传WAR包：选择下载好的JAR包/WAR包并上传。JAR包...
使用控制台金丝雀发布应用（K8s）
适用于JAR包和WAR包部署的应用 文件上传方式 与上一次的部署包类型（WAR包或JAR包）保持一致，不可更改。上传方式可以根据实际需求选择上传部署包或输入部署包地址两种方式。上传JAR包/上传WAR包：选择下载好的JAR包/WAR包并上传。JAR包...
在远程服务器执行本地 Shell 脚本
若您想在远程服务器执行本地 Shell 脚本，使用传统方法需要先上传脚本，再登录远程服务器执行脚本，步骤繁多。使用 PelicanDT，可以通过一行 Java 代码实现此操作。前提条件 已安装 PelicanDT SDK。请参见 安装 PelicanDT SDK。已在 Linux ...
常见问题
上传JAR包的过程就是在MaxCompute上创建资源的过程，JAR包是MaxCompute的一种资源。MapReduce：您编写MapReduce程序后，需要将编译好的JAR包作为一种资源上传到MaxCompute。运行MapReduce作业时，MapReduce框架会自动下载这个JAR包，获取您...
DataStream连接器设置方法
您可以通过以下任何一种方式来使用连接器：（推荐）上传连接器JAR包到实时计算控制台后，填写配置信息 直接将连接器作为项目依赖打进作业JAR包 重要 请使用我们在 支持的连接器 中指明提供DataStream API的连接器。如果某个连接器未注明...
YARN缺陷修复公告
缺陷修复方案 您需要将E-MapReduce集群中包含缺陷的Hadoop YARN ResourceManager的JAR包替换掉，然后重启ResourceManager服务，重启服务时先处理Standby ResourceManager，再处理Active ResourceManager。该修复方案：适用于EMR的4.6.0、4....
使用控制台金丝雀发布应用（K8s）
适用于JAR包和WAR包部署的应用 文件上传方式 与上一次的部署包类型（WAR包或JAR包）保持一致，不可更改。上传方式可以根据实际需求选择上传部署包或输入部署包地址两种方式。上传JAR包/上传WAR包：选择下载好的JAR包/WAR包并上传。JAR包...
Elasticsearch
使用Java连接Elasticsearch 从Maven官方仓库下载Elasticsearch-spark-20_2.11对应版本的JAR包，本示例下载JAR包为Elasticsearch-spark-20_2.11-6.3.2.jar。将从官方仓库下载的JAR包上传到一个与Elasticsearch同地域的OSS中，如何上传请参见...
pg_foreign_server
外部服务器定义了外部数据的来源，例如一个远程服务器。外部服务器通过外部数据包装器来访问。列名称 列类型 描述 oid oid 行标识符。srvname name 外部服务器的名称。srvowner oid 外部服务器的拥有者。srvfdw oid 此外部服务器的外部数据...
函数
您在开发完成UDF代码后，需要将代码编译成Jar包，并将此Jar包以Jar资源的形式上传到MaxCompute，最后在MaxCompute中注册此UDF。说明 使用UDF时，只需在SQL中指明UDF的函数名及输入参数即可，使用方式与MaxCompute提供的内建函数相同。相关...
开发后端逻辑流操作代码
此工程是一个多模块的项目，其中已经生成了 custom-action-core 模块，工程结构如下：libs目录：存放了core模块所依赖的jar包，默认有三个jar包。custom-action-api-1.0.0-SNAPSHOT-sources.jar：此jar包为 custom-action-api 模块的源码，...
自定义标量函数（UDSF）
依赖其他JAR包：在 pom.xml 文件中添加您所需依赖的JAR包信息。Flink 1.11版依赖的主要JAR包如下。dependency><groupId>org.apache.flink</groupId><artifactId>flink-streaming-java_2.12</artifactId><version>1.11.0!...
本地运行和调试包含连接器的作业
步骤二：配置运行所需要的ClassLoader JAR包 为了使Flink能够加载连接器的运行类，还需添加ClassLoader JAR包。首先下载 ververica-classloader-1.15-vvr-6.0-SNAPSHOT.jar 至本地。以Inteillij IDEA为例，对作业的本地运行配置进行修改。...
安装Java SDK
在Maven工程中使用日志服务Java SDK，只需在pom.xml中加入相应依赖即可，Maven项目管理工具会自动下载相关JAR包。以1.0.2版本为例，在中加入如下内容：<dependency><groupId>...
Python作业开发
Flink运行环境使用的是JDK1.8，如果Python作业中依赖第三方JAR包，请确保JAR包兼容JDK1.8。VVR 4.x仅支持开源Scala V2.11版本，VVR 6.x及以上版本仅支持开源Scala V2.12版本。如果Python作业中依赖第三方JAR包，请确保使用Scala版本对应的...
安装Java SDK
在Maven工程中使用日志服务Java SDK，只需在 pom.xml 中加入相应依赖即可，Maven项目管理工具会自动下载相关JAR包。以0.6.75版本为例，在中加入如下内容：<dependency><groupId>...
部署配置：通过EDAS部署
云效对EDAS进行了集成，可以把在云效上打出来的 war 包或者 jar 包部署到EDAS中。为了在云效上集成EDAS，需要保证您的应用可以在云效上打出 war 包或者 jar 包。详见 使用EDAS部署时的构建配置。云效支持 多种研发模式，及部署回滚等功能。...
Dataphin中上传资源jar包存放位置
概述 Dataphin中上传的资源JAR包是直接上传到HDFS，还是先上传到Dataphin的机器上再同步到HDFS？详细信息 如果用户在上传资源的时候选择计算源，就会上传到HDFS上。如果用户没有选，就不会。默认是上传到OSS/Ceph集群，如果用户选择了计算...
Artifact
对于 SQL 作业是 SQL 文本以及依赖的 udf/connector 等，对于 JAR 作业是使用到的全部的 JAR 包和依赖文件，对于 Python 作业是要使用到的 py 文件以及 zip 包。sqlArtifact SqlArtifact SQL 作业必填信息。jarArtifact JarArtifact JAR ...
基础向量检索
resource_reference{"proxima-ce-aliyun-1.0.1.jar"}-引用上传的 proxima-ce jar 包，在左侧「业务流程——MaxCompute——资源」，右击刚刚上传的 jar 包，选择「引用资源」即可生成该行注释 jar-resources proxima-ce-aliyun-1.0.1.jar-...
常见问题
作业JAR包和集群内Flink的JAR包存在冲突 该问题发生时，您一般可以在作业日志中看到类似报错 NoSuchFieldError/NoSuchMethodError/ClassNotFoundException 等。您可以通过以下步骤排查和解决：定位引起冲突的依赖类。根据报错中的异常类，...
EMR Gateway升级EMRHOOK组件
例如EMR-3.43.1版本emrhook组件小版本为1.1.4，jar包命名规则hive-hook-${version}-hive20.jar，则需要将上述解压好的jar包修改成一样的命名：cd/opt/apps/EMRHOOK/upgrade/emrhook mv hive-hook-hive20.jar hive-hook-1.1.4-hive20.jar mv...
应用身份识别
B/S应用身份识别 您需要配置B/S应用身份识别规则，并将生成的JAR包上传到您的应用服务器中，才能使用B/S应用身份识别功能。使用限制 Web应用必须是Java语言开发的应用，不支持PHP或者.NET开发的应用。支持的数据连接源：DBCP、C3P0、Driud...
Flink
flink.execution.jars 如果您的Zeppelin机器不能访问外网或者您的依赖没有发布在Maven Repository里，则您可以将依赖的JAR包放到Zeppelin机器上，然后通过 flink.execution.jars 来指定这些JAR包，多个JAR包时用逗号（,）分隔。例如，添加...
通过spark-submit命令行工具开发Spark应用
当JAR包存储在本地路径中，需要上传JAR包时，可配置OSS参数将本地的JAR包自动上传到OSS路径中。否 ossSecretId 创建OSS Bucket使用的阿里云账号或RAM用户的AccessKeySecret。否 ossEndpoint OSS内网Endpoint。OSS地域与Endpoint的对应关系...
内积和余弦距离
resource_reference{"proxima-ce-aliyun-1.0.0.jar"}-引用上传的 proxima-ce jar 包，在左侧「业务流程——MaxCompute——资源」，右击刚刚上传的 jar 包，选择「引用资源」即可生成该行注释 jar-resources proxima-ce-aliyun-1.0.0.jar-...
- 产品推荐
- 这些文档可能帮助您