配置ClickHouse输出组件
批量插入字节大小：数据同步过程中每一次写入数据的字节数据量，默认字节大小为67108864，也就是64MB。批量条数：数据同步过程中每一次写入数据的行数，默认为65536。如果您同时配置了 批量插入字节大小 和 批量条数 两个参数，则数据同步...
配置ClickHouse输出组件
批量插入字节大小：数据同步过程中每一次写入数据的字节数据量，默认字节大小为67108864，也就是64MB。批量条数：数据同步过程中每一次写入数据的行数，默认为65536。如果您同时配置了 批量插入字节大小 和 批量条数 两个参数，则数据同步...
使用DataWorks同步数据
批量插入字节大小 批量插入数据的最大字节数。批量条数 批量插入数据的条数。（可选）字段映射：您可以选择字段的映射关系，左侧的 源头表字段 和右侧的 目标表字段 为一一对应关系。说明 参数说明，具体请参见 字段映射。（可选）通道控制...
telnet 访问操作指南
几个简单的例子：set hello 0 0 5 world STORED/储存一个key为hello，用不过期，5个字节大小的数据world。get hello VALUE hello 0 5 world END/get 获取刚储存的数据。这边有个地方要注意 就是当不匹配的时候会发生意外情况 set hello 0 0...
常见问题
在IPv6网络中，为了简化报文处理流程、提高处理效率，限定IPv6路由器不处理分片，分片只在源主机的IP层需要时进行，即如果传输路径中的数据包大于MTU，路由器会将该数据包丢弃并向源主机返回“数据包过大”的响应，源主机IP层对数据包分片...
数据类型转换
本文为您介绍迁移 Oracle 数据库的数据至 OceanBase 数据库 Oracle 租户的数据类型转换。支持的转换类型 Oracle 数据库 OceanBase 数据库 Oracle 租户 描述 INTEGER NUMBER(38,0)INT NUMBER(38,0)SMALLINT NUMBER(38,0)BINARY_FLOAT BINARY...
产品简介
大数据专家服务 大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、咨询服务及售后专家服务运维保障，帮助用户...
常见问题
1.售前咨询渠道 尊敬的“准”大数据专家服务用户您好：如果您准备购买阿里云大数据专家服务，但是遇到如服务范围、规格、服务选择等售前方面的问题，您可以通过钉钉与我们联系，您将“当面”获得阿里云大数据专家咨询专家的建议。...
应用场景
实时数据通道 1.1 接入多种异构数据并投递到下游多种大数据系统 通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的释放数据的价值。...
2.3 门禁设备与手机蓝牙对接协议
具体格式如下（各字段含义见 2.2.3 节广播数据格式说明）：字段含义 ASCII 码值 字节含义 字节序列索引 蓝牙广播包头 0x02 长度（字节）0 0x01 Flags 1 0x06 广播标志头 2 蓝牙设备名称 0x11 长度（字节）3 0x09 Complete Local Name 4 0x...
快速体验
DataWorks为您提供智能建模、数据清洗、周期调度运维、数据治理等一站式大数据开发管理能力，本文以一个零售电商行业的数仓搭建实验为例，为您介绍DataWorks在数仓搭建过程中的技术选型、技术流程以及流程实现，帮助您深入了解阿里云...
什么是DataWorks
DataWorks基于MaxCompute、Hologres、EMR、AnalyticDB、CDP等大数据引擎，为数据仓库、数据湖、湖仓一体等解决方案提供统一的全链路大数据开发治理平台。从2009年起，DataWorks不断沉淀阿里巴巴大数据建设方法论，支撑数据中台建设，同时与...
互联网、电商行业离线大数据分析
概述 电商网站的销售数据通过大数据进行分析后，可以在大屏幕展示销售指标、客户指标、销售排名和订单地区分布等业务指标数据。DataV大屏支持可视化动态展示销售数据，触控大屏支持您自助查询数据，极大地提高数据的可读性。应用场景 电商...
OSS小时数据
调用 QueryUserOmsData 查询OSS按小时计量的数据信息。请求参数 名称 类型 是否必选 示例值 描述 Action String 是 QueryUserOmsData 系统规定参数，取值为 QueryUserOmsData。DataType String 是 Hour 计量数据时间类型，取值为 Hour。...
发展历程
关键性里程碑 2009年9月，ODPS（即现在的MaxCompute）大数据平台飞天项目正式启动。2010年10月，阿里巴巴集团自主研发的第一代云计算平台稳定运行。2013年8月，平台的单集群规模已达到5000台。2014年7月，平台开始对外提供服务，完全替换...
应用场景
数据分析业务 云数据库 Memcache 版搭配大数据计算服务 MaxCompute。实现对大数据的分布式分析处理，适用于商业分析、挖掘等大数据处理场景。通过数据集成服务可自助实现数据在云数据库 Memcache 版与 MaxCompute 间的同步，简化数据操作...
技术架构选型
本教程中使用阿里云大数据产品MaxCompute配合DataWorks，完成整体的数据建模和研发流程。完整的技术架构图如下图所示。其中，DataWorks的数据集成负责完成数据的采集和基本的ETL。MaxCompute作为整个大数据开发过程中的离线计算引擎。...
内存型（兼容Redis 6.0）性能白皮书
Value长度（字节）QPS（次/秒）Average Latency（毫秒）99th Percentile Latency（毫秒）无 114163.94 2.227 4.871 Hash数据结构 HSET 测试命令示例如下（启动16个线程、256个连接、3000000个Key、Value取值范围为16字节）：./src/redis-...
内存型（兼容Redis 6.0）性能白皮书
Value长度（字节）QPS（次/秒）Average Latency（毫秒）99th Percentile Latency（毫秒）无 114163.94 2.227 4.871 Hash数据结构 HSET 测试命令示例如下（启动16个线程、256个连接、3000000个Key、Value取值范围为16字节）：./src/redis-...
租户级别Information Schema
data_length BIGINT 分区数据大小，单位：字节（Byte）。is_archived BOOLEAN 预留字段，无意义。is_exstore BOOLEAN 预留字段，无意义。storage_tier STRING 分层存储标识。取值：standard：标准存储。lowfrequency：低频存储。longterm：...
IoT数据自动化同步至云端解决方案
大数据分析是大数据完成数据价值化的重要手段之一，而进行大数据分析的第一步是让数据成功上云。解决方案 IoT数据自动化同步至云端解决方案主要包括存储原始数据和同步数据至分析系统两部分。IoT设备大量的数据通常以半结构化的形式存储。...
技术架构选型
本教程中使用阿里云大数据产品MaxCompute配合DataWorks，完成整体的数据建模和研发流程。完整的技术架构图如下图所示。其中，DataWorks的数据集成负责完成数据的采集和基本的ETL。MaxCompute作为整个大数据开发过程中的离线计算引擎。...
产品概述
什么是E-MapReduce 开源大数据开发平台E-MapReduce（简称EMR），是运行在阿里云平台上的一种大数据处理的系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理...
DataWorks on EMR数据安全方案
在大数据领域，阿里云为企业用户提供了一整套数据安全方案，包含用户认证、数据权限、大数据作业管理体系等。本文以联合使用DataWorks与EMR为例，为您介绍DataWorks on EMR场景下的数据安全方案。背景信息 DataWorks on EMR目前支持LDAP...
大数据安全治理的难点
存储 众所周知，大数据系统以数据类型多（结构化、非结构化、半结构化）、数据量大（动辄PB级别）著称，某些巨头组织一天就能新增数十万甚至数百万张表，如此体量给数据分级分类带来了极大挑战，通过人工进行数据分级分类显然是不现实的，...
构建数据仓库
DataWorks具有通过可视化方式实现数据开发、治理全流程相关的核心能力，本文将为您介绍DataWorks在构建云上大数据仓库和构建智能实时数据仓库两个典型应用场景下的应用示例。构建云上大数据仓库 本场景推荐的架构如下。适用行业：全行业...
基于MaxCompute进行大数据BI分析
本实践以电商行业为例，通过MaxCompute、DataWorks对业务数据和日志数据进行ETL处理，并同步至分析型数据库MySQL（AnalyticDB MySQL）进行实时分析，再通过Quick BI进行可视化展示。背景信息 MaxCompute：用于进行大规模数据计算，详情请...
自媒体：易撰
所属行业：自媒体 网站地址：易撰 客户介绍 长沙营智信息技术有限公司是专业的新媒体大数据服务商，其旗下知名品牌易撰，基于新媒体大数据挖掘技术及NLP算法分析，为各内容创客、广告主提供全面、科学、精准的大数据分析服务以及大数据架构...
云数据库HBase
背景信息 云数据库HBase 是低成本、高扩展、云智能的大数据NoSQL，兼容标准HBase访问协议，提供低成本存储、高扩展吞吐、智能数据处理等核心优势，是为淘宝推荐、花呗风控、广告投放、监控大屏、菜鸟物流轨迹、支付宝账单、手淘消息等众多...
产品优势
支持防护常见的结构化数据、非结构化数据和大数据产品，例如对象存储OSS、云数据库RDS、MaxCompute等。智能化 运用大数据和机器学习能力，通过智能化的算法，对敏感数据和高风险活动，例如数据异常访问和潜在的泄露风险进行有效识别和监控...
客户案例
价值体现 从大数据平台上云整体“降本增效”的方案快速切入，迁移到大数据MaxCompute、实时计算、DataWorks后，部分任务有10倍以上的性能提升，存储从自建Hadoop 3PB降到900T，利用Flink实时数据处理能力，将宝宝树现有的场景实时化（...
DMS支持的数据库
关系型数据库 MySQL SQL Server PostgreSQL MariaDB OceanBase MySQL模式 OceanBase Oracle模式 OceanBase ODP Oracle DB2 达梦数据库 OpenGauss 数据仓库 ClickHouse SelectDB NoSQL数据库 Redis MongoDB 大数据 Hive 录入他云/自建数据库...
通用数据开发
通常数据开发的总体流程包括数据产生、数据收集与存储、数据分析与处理、数据提取和数据展现与分享。说明 上图中，虚线框内的开发流程均可基于阿里云大数据平台完成。数据开发的流程如下所示：数据产生：业务系统每天会产生大量结构化的...
简介
系统兼容开源GeoMesa、GeoServer等生态，内置了高效的时空索引算法、空间拓扑几何算法、遥感影像处理算法等，结合云数据库HBase强大的分布式存储能力以及Spark分析平台能力，广泛应用于空间、时空、遥感大数据存储、查询、分析与数据挖掘...
相关的云服务
DataWorks作为阿里云一站式大数据开发与治理平台，通常会与计算引擎产品联合使用，此外使用DataWorks进行数据集成时通常联合进行数据传输的数据源产品一起使用。本文为您介绍典型场景下，使用DataWorks时通常会使用到的其他云产品。计算...
数据分析整体趋势
大数据与数据库一体化：早期大数据技术以牺牲一定程度一致性为基础提供分布式能力，解决了传统单机数据库的扩展性不足问题，在MapReduce基础上提供了标准SQL接口，架构上也逐步采用了部分MPP数据库技术；另一方面，分布式数据库也快速发展...
Redis社区版性能白皮书
本章节介绍 云数据库 Redis 版 社区版性能测试的测试环境、测试工具、测试方法与测试结果。测试环境 数据库 测试环境信息 说明 地域和可用区 华北3（张家口）地域，可用区A。实例版本 Redis 6.0，6.0.2.5 实例架构 标准版（双副本）架构，...
内存型（兼容Redis 5.0）性能白皮书
GET测试结果 Value长度 QPS（次/秒）Latency（毫秒）64字节 444,115.47 0.00%字节 435,276.94 0.00%字节 427,960.03 0.00%字节 428,265.53 0.00%测试结果 Value长度 QPS（次/秒）Latency（ms）64字节 218,086.66 0.00%字节 206,825.23 0.00...
账单数据订阅及查询分析
DataWorks及MaxCompute：DataWorks基于MaxCompute等大数据引擎，支持您在线进行SQL分析、业务洞察、编辑和分享数据，以及将查询结果保存为可视化图表卡片，快速搭建可视化数据报告。订阅账单数据后，用户中心会将相关账单数据同步至指定...
数据标准
数据是由特定的环境产生的，这些环境因素包括生产者、时间、系统等，从而造成了同一个语义的数据，有...说明 目前使用DDM进行数据建模可以进行逻辑建模和物理建模，但物理建模仅支持MaxCompute和Hive两种大数据引擎，不支持自定义数据源类型。
- 产品推荐
- 这些文档可能帮助您