使用float2类型压缩存储向量
Float2类型简介 半精度浮点数（float2）是一种被计算机使用的二进制浮点数据类型。半精度浮点数使用2个字节（16位）来存储，来存储之前4个字节（32位）的float4的数据。IEEE 754标准指定了一个binary16需具备如下的格式：Sign bit（符号位...
内建函数常见问题
DOUBLE类型是8字节双精度浮点数，存在一定的精度差。4.515 的DOUBLE类型表示结果为 4.514999999.，因此四舍五入时被计算为4.51。MaxCompute可以通过哪个函数设置自增序列？您可以使用ROW_NUMBER函数设置自增序列，请参见 ROW_NUMBER。如何...
新增附加列
value2)value1：整数、浮点数、字符串 value2：整数、浮点数、字符串 boolean类型，true或false op_gt(`col1`,1.0)是否小于 op_lt(value1,value2)value1：整数、浮点数、字符串 value2：整数、浮点数、字符串 boolean类型，true或false op_...
信号选择
不限 OUT端口-输出参数 参数名 参数描述 输出数据类型 OUT 输出信号 浮点数 其他参数 参数名 参数描述 是否必填 参数默认值 参数范围 选择类型 选择众多候选信号的筛选准则：“最大值”表示输出最大的信号；“最小值”表示输出最小的信号；...
ISNAN
本文为您介绍如何使用ISNAN函数，判断指定的浮点数是否为NaN（Not a number），类似于Java中Double.isNaN()或Float.isNaN()函数。使用限制 仅实时计算引擎VVR 3.0.0及以上版本支持ISNAN函数。语法 BOOLEAN ISNAN(DOUBLE d)BOOLEAN ISNAN...
归一化
参数说明 IN端口-输入参数 参数名 参数描述 是否必填 输入数据类型 数据源类型 IN 需要归一化处理的变量 是 整数或浮点数 说明 若存在非数值数据，则会抛出异常。不限 PARAM端口-输入参数 参数名 参数描述 是否必填 参数默认值 参数范围 ...
数据类型转换
支持的转换类型 Oracle 数据库 OceanBase 数据库 Oracle 租户 描述 INTEGER NUMBER(38,0)INT NUMBER(38,0)SMALLINT NUMBER(38,0)BINARY_FLOAT BINARY_FLOAT 二进制精度浮点数，是一种 32 位单精度浮点数数据类型。Oracle 数据库和 ...
ST_LineLocatePoint
返回介于0和1之间的浮点数，表示LineString上与给定Point点最接近的点在其总长度的位置。语法 float8 ST_LineLocatePoint(geometry aLinestring,geometry aPoint);float8 ST_LineLocatePoint(geography aLinestring,geography aPoint);参数...
ST_LineLocatePoint
返回介于0和1之间的浮点数，表示LineString上与给定Point点最接近的点在其总长度的位置。语法 float8 ST_LineLocatePoint(geometry aLinestring,geometry aPoint);float8 ST_LineLocatePoint(geography aLinestring,geography aPoint);参数...
ST_LineLocatePoint
返回介于0和1之间的浮点数，表示LineString上与给定Point点最接近的点在其总长度的位置。语法 float8 ST_LineLocatePoint(geometry aLinestring,geometry aPoint);float8 ST_LineLocatePoint(geography aLinestring,geography aPoint);参数...
积分统计
是 整数或浮点数 说明 若存在非数值类型数据，则会抛出异常。不限 OUT端口-输出参数 参数名 参数描述 输出数据类型 变量累积值 变量累加之后的结果。浮点数 输出质量码说明 变量的输出质量码处理方式如下：若输入质量码缺失或质量码类型非...
功能支持
enc_float4 加密后的浮点数，对应的明文数据为4字节单精度浮点数。enc_float8 加密后的浮点数，对应的明文数据为8字节双精度浮点数。pow enc_decimal 加密后的十进制数，对应的明文数据类型为decimal。pow、...
功能支持
enc_float4 加密后的浮点数，对应的明文数据为4字节单精度浮点数。enc_float8 加密后的浮点数，对应的明文数据为8字节双精度浮点数。pow enc_decimal 加密后的十进制数，对应的明文数据类型为decimal。pow、...
功能支持
enc_float4 加密后的浮点数，对应的明文数据为4字节单精度浮点数。enc_float8 加密后的浮点数，对应的明文数据为8字节双精度浮点数。pow enc_decimal 加密后的十进制数，对应的明文数据类型为decimal。pow、...
错误码说明
只能由数字、26个英文字母或下划线组成 2205 粗排配置名长度超出限制 2206 粗排字段必须是数值型 2207 粗排配置不存在 2208 粗排配置错误，必须包含字段 2209 粗排配置权重错误,必须是-100000到100000之间的非0数值，浮点数精度支持6位 ...
错误码说明
只能由数字、26个英文字母或下划线组成 2205 粗排配置名长度超出限制 2206 粗排字段必须是数值型 2207 粗排配置不存在 2208 粗排配置错误，必须包含字段 2209 粗排配置权重错误,必须是-100000到100000之间的非0数值，浮点数精度支持6位 ...
数据归一化
是 整数或浮点数 说明 若存在非数值数据，则会置为NaN CSV组件 IGateInOffline组件 平台上其他数据处理组件 按照平台规范开发的自定义组件 OUT端口-输出参数 参数名 参数描述 输出数据类型 OUT1 输出每个变量的归一化结果，参数名和输入...
比值控制
不限 OUT端口-输出参数 参数名 参数描述 输出数据类型 输出变量 经过比值运算之后的输出结果 浮点数 其他参数 参数名 参数描述 是否必填 参数默认值 参数范围 控制模式 静态：使用固定的比值 动态：使用比例参考变量的值 是 静态 静态 动态...
数据类型
浮点类型 Float32 单精度浮点数 同C语言Float类型，单精度浮点数在机内占4个字节，用32位二进制描述。Float64 双精度浮点数 同C语言Double类型，双精度浮点数在机内占8个字节，用64位二进制描述。Decimal类型 Decimal Decimal 有符号的定点...
数据聚合
是 整数或浮点数 说明 若存在非数值数据，则会置为NaN。CSV组件。IGateInOffline组件。平台上其他数据处理组件。按照平台规范开发的自定义组件。OUT端口-输出参数 参数名 参数描述 输出数据类型 输出 输出包含聚合索引和聚合变量。聚合索引...
数字框
如果数据源为设备，只支持绑定读写类型，且数据格式为整数、单精度数字或多精度数字的设备属性。单击 确定。数字框内容将基于关联的数据源实时更新。步骤三：配置样式 在Web应用编辑器右侧 样式 中，设置最大值、最小值、步长、默认值和...
名词解释
数据类型介绍 Tuple类型下只支持写入数据是有格式的数据，支持以下几种数据类型 类型 含义 值域 BIGINT 8字节有符号整型-9223372036854775807~9223372036854775807 DOUBLE 8字节双精度浮点数-1.0_10^308~1.0_10^308 BOOLEAN 布尔类型 True/...
数字类型
不过，numeric 类型上的算术运算比整数类型或者下一节描述的浮点数类型要慢很多。在随后的内容里，我们使用了下述术语：一个 numeric 的 precision（精度）是整个数中有效位的总数，也就是小数点两边的位数。numeric 的 scale（刻度）是...
数据筛选
是 整数或浮点数 说明 若存在非数值数据，则会置为NaN，对应行数据会被剔除。csv组件。igateoffline组件。平台上其他数据处理组件。按照平台组件开发的自定义组件。OUT端口-输入参数 参数名 参数描述 输出数据类型 输出 输出包含保留变量和...
为产品定义物模型
内存占用 RAM_used float（单精度浮点型）0~4096 兆字节（MB）只读 内存空闲 RAM_free float（单精度浮点型）0~4096 兆字节（MB）只读 磁盘总量 DISK_total float（单精度浮点型）0~128 吉字节（GB）只读 磁盘已用空间 DISK_used_space ...
KV转columns
是 整数或浮点数 说明 若存在非数值数据，则会置为NaN csv组件 igateoffline组件 平台上其他数据处理组件 按照平台组件开发的自定义组件 OUT端口 参数名 参数描述 是否必填 输出数据类型 输出 输出参数包含索引和键值两部分：索引须和输入...
泊松分布拟合
浮点数 其他参数 参数名 参数描述 是否必填 参数默认值 参数范围 显著性水平 KS检验的p值小于显著性水平（alpha），则不服从泊松分布。是 0.05 0.01：0.01 0.05：0.05 0.10：0.1 拟合评价 拟合效果展示，展示的指标分别为：拟合是否服从...
高斯分布拟合
OUT端口-输出参数 参数名 参数描述 输出数据类型 概率分布 输出拟合变量拟合后的概率分布 浮点数 其他参数 参数名 参数描述 是否必填 参数默认值 参数范围 采样点数 对拟合后的概率密度函数进行采样。是 100[10,9999999]显著性水平 KS检验p...
主成分分析
是 整数或浮点数 说明 若存在非数值数据，则会抛出异常。CSV组件。IGateInOffline组件。平台上其他数据处理组件。按照平台规范开发的自定义组件。OUT端口-输出参数 参数名 参数描述 输出数据类型 输出 输出参数与模型输出个数（即主成分...
卡方分布拟合
浮点数 其他参数 参数名 参数描述 是否必填 参数默认值 参数范围 采样点数 对拟合后的概率密度函数进行采样。是 100[10,9999999]显著性水平 KS检验的p值小于显著性水平（alpha），则不服从卡方分布。是 0.05 0.01：0.01 0.05：0.05 0.10：0...
数据类型（2.0版）
double 双精度浮点数，取值范围-1.7976931348623157E+308到-2.2250738585072014E-308,0,2.2250738585072014E-308 到 1.7976931348623157E+308，IEEE标准，存储字节数8字节。decimal(m,d)，m 是数值的最大精度，取值范围为 1~1000；d 是小数...
数据类型支持
double 双精度浮点数，取值范围-1.7976931348623157E+308到-2.2250738585072014E-308，0，2.2250738585072014E-308到1.7976931348623157E+308，遵循IEEE754标准。存储字长度为8字节。varchar 变长字符串类型，存储字节数可最大到1MB，而且...
相关性分析
是 整数或浮点数 说明：若存在非数值数据，则会抛出异常。CSV组件 IGateInOffline组件 平台上其他数据处理组件 按照平台规范开发的自定义组件 基准变量 分析方案为“单变量与多变量”的情况时，组件会分析基准变量与每一个待分析变量之间的...
窗口聚合
是 整数或浮点数 说明 若存在非数值数据，则会置为NaN。CSV组件。IGateInOffline组件。平台上其他数据处理组件。按照平台规范开发的自定义组件。时间变量 窗口处理的时间变量。说明 算法支持的输入时间格式为：yyyy-mm-dd hh:mm:ss 或 mm-...
量化优化
背景信息 量化是模型压缩常用手段之一，通过将原始的全精度32位浮点数分桶量化为位宽更小的定点整数，可以达到节省访存开销、提升指令计算吞吐率的双重目的（需要底层计算硬件的支持）。TensorFlow模型量化 对TensorFlow模型进行基本优化的...
随机森林回归算法（Random Forest Regression）
模型的输出是平均每小时的活跃讨论组的数量，是一个正的浮点数，值越大热度越高。参数说明 下表中的参数为创建模型 CREATE MODEL 语法中 model_parameter 参数的取值，您可以根据当前需求选择对应的参数。参数 说明 n_estimators 迭代次数...
多媒体分析概述
多媒体分析能力矩阵 规格 模型服务名称 每次服务消耗 描述 示例 基础模型服务 图像质量评分 1次基础模型服务 提供图像质量评估能力，返回[0,100]的浮点数分值。iqa_result":66.88 人脸属性分析 1次基础模型服务 提供人脸相关属性的输出，...
图像度量学习训练（raw）
4 开启半精度 否 选中该参数，表示使用半精度进行模型训练，用来降低内存占用。无 单击或分布式（MaxCompute/DLC）是 组件运行的引擎，您可以结合实际情况选择。系统支持以下计算引擎：单机DLC 分布式DLC 单机DLC worker个数 否 当运行引擎...
工艺模式建模
是 整数或浮点数 说明 若存在非数值数据，则会抛出异常。CSV组件。IGateOffline组件。平台上其他数据处理组件。按照平台组件开发的自定义组件。推荐变量 希望通过优质案例重用得到推荐变量对应的值。是 整数或浮点数 说明 若存在非数值数据...
基础数据类型
double 双精度浮点数 取值范围-1.7976931348623157E+308~-2.2250738585072014E-308,0,2.2250738585072014E-308~1.7976931348623157E+308，IEEE标准，存储字节数8字节。一致。decimal(m,d)或 numeric m 是数值的最大精度，取值范围为 1~1000...
- 产品推荐
- 这些文档可能帮助您