计费逻辑说明
资源费用明细：数据服务API调用 数据质量 数据质量可对任务产出的表数据进行数据质量监控，DataWorks将根据数据质量规则实例数量计费。资源费用明细：数据质量 OpenAPI DataWorks提供OpenAPI，您可基于OpenAPI实现业务定制化开发，...
核心能力
数据资源平台提供了一站式数据资产定义、生产、管理与服务平台，提供企业级数据资产构建能力和一致性使用体验，助力客户快速构建数据智能平台，实现数据资源统一管理，挖掘潜在规律，优化业务决策，让大数据真正的驱动客户业务。...
使用SDK示例代码消费订阅数据
订阅通道的 数据消费 界面。如您在 consumerContext.java 文件中 setUserRegisteredStore(newUserMetaStore())配置了外部的持久化共享存储介质（如数据库），该存储介质每5秒会保存一次消息位点，供您查询。首次启动SDK客户端，需传入消费...
使用SDK示例代码消费订阅数据
订阅通道的 数据消费 界面。如您在 consumerContext.java 文件中 setUserRegisteredStore(new UserMetaStore())配置了外部的持久化共享存储介质（如数据库），该存储介质每5秒会保存一次消息位点，供您查询。首次启动SDK客户端，需传入消费...
用户价值
数据资源平台为用户提供了一站式数据资产定义、生产、管理与服务平台，提供企业级数据资产构建能力和一致性使用体验，助力客户快速构建数据智能平台，实现数据资源统一管理，挖掘潜在规律，优化业务决策，让大数据真正的驱动客户业务。...
聚合支付方案
阿里云从业务扩展性、数据流动性、服务高可用三方面入手，通过多款云数据库产品为利楚扫呗制定聚合支付方案，解决利楚扫呗在业务扩展期遇到的数据存储空间不足、读写性能下降以及大数据分析空缺等问题。业务痛点 武汉利楚商务服务有限公司...
管理消费组
单击左侧导航栏的 数据消费。根据需求执行修改密码或删除消费组的操作。修改密码。在 数据消费 页面，单击目标消费组的 操作 列中的 修改密码。在弹出的 修改消费密码 对话框中，输入 旧密码、新密码 和 确认密码。说明 密码由大写字母、...
产品简介
大数据专家服务 大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、咨询服务及售后专家服务运维保障，帮助用户...
管理消费组
在左侧导航栏单击 数据消费。根据需求执行修改密码或删除消费组的操作。修改密码 在 数据消费 页面，单击目标消费组 操作 列中的 修改密码。在弹出的对话框中，输入 密码 和 确认密码。说明 密码由大写字母、小写字母、数字中的任意两种或...
互联网金融：武汉利楚商务服务有限公司
让数据流动起来 借助于DTS的实时同步能力，让客户的数据流动起来，借助 PolarDB，ADB的大数据处理能力，决策报表从分钟级别降低至秒级，大部分报表可以在10秒出来，部分特别复杂的报表需要1分钟左右。使业务行为和业务决策能平滑对接，公司...
数据订阅操作指导
您也可以通过创建多个消费组，对同一个数据源的数据进行重复消费，从而降低数据订阅的使用成本，提升数据消费速度。可选：管理消费组 对数据订阅通道的消费组进行管理（例如修改消费组密码、删除消费组）。可选：修改订阅对象 在数据订阅的...
常见问题
1.售前咨询渠道 尊敬的“准”大数据专家服务用户您好：如果您准备购买阿里云大数据专家服务，但是遇到如服务范围、规格、服务选择等售前方面的问题，您可以通过钉钉与我们联系，您将“当面”获得阿里云大数据专家咨询专家的建议。...
数据消费格式
本文介绍实时数据订阅功能的数据消费格式定义说明和示例，默认格式为Debezium Format V2.0。数据消费定义说明 数据消费格式如下代码，字段说明如下表所示。{"payload":{"op":"u","ts_ms":1465491411815,"before":{"id":1004,"name":"Jane"}...
应用场景
实时数据通道 1.1 接入多种异构数据并投递到下游多种大数据系统 通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的释放数据的价值。...
互联网、电商行业离线大数据分析
概述 电商网站的销售数据通过大数据进行分析后，可以在大屏幕展示销售指标、客户指标、销售排名和订单地区分布等业务指标数据。DataV大屏支持可视化动态展示销售数据，触控大屏支持您自助查询数据，极大地提高数据的可读性。应用场景 电商...
发展历程
关键性里程碑 2009年9月，ODPS（即现在的MaxCompute）大数据平台飞天项目正式启动。2010年10月，阿里巴巴集团自主研发的第一代云计算平台稳定运行。2013年8月，平台的单集群规模已达到5000台。2014年7月，平台开始对外提供服务，完全替换...
应用场景
数据分析业务 云数据库 Memcache 版搭配大数据计算服务 MaxCompute。实现对大数据的分布式分析处理，适用于商业分析、挖掘等大数据处理场景。通过数据集成服务可自助实现数据在云数据库 Memcache 版与 MaxCompute 间的同步，简化数据操作...
技术架构选型
本教程中使用阿里云大数据产品MaxCompute配合DataWorks，完成整体的数据建模和研发流程。完整的技术架构图如下图所示。其中，DataWorks的数据集成负责完成数据的采集和基本的ETL。MaxCompute作为整个大数据开发过程中的离线计算引擎。...
IoT数据自动化同步至云端解决方案
大数据分析是大数据完成数据价值化的重要手段之一，而进行大数据分析的第一步是让数据成功上云。解决方案 IoT数据自动化同步至云端解决方案主要包括存储原始数据和同步数据至分析系统两部分。IoT设备大量的数据通常以半结构化的形式存储。...
技术架构选型
本教程中使用阿里云大数据产品MaxCompute配合DataWorks，完成整体的数据建模和研发流程。完整的技术架构图如下图所示。其中，DataWorks的数据集成负责完成数据的采集和基本的ETL。MaxCompute作为整个大数据开发过程中的离线计算引擎。...
添加DTS数据源
单击目标DTS任务在 数据消费 页面获取以下参数：sid：消费组ID（图示中③）。username：消费组的账号（图示中④）。password：消费组账号对应的密码，如果您忘记密码，可以单击 操作 列的 修改密码 重新设置密码。单击 添加。
DTS订阅通道
单击目标DTS任务在 数据消费 页面获取以下参数：sid：消费组ID（图示中③）。username：消费组的账号（图示中④）。password：消费组账号对应的密码，如果您忘记密码，可以单击 操作 列的 修改密码 重新设置密码。单击 添加。
【通知】2021年12月01日PolarDB-X 1.0数据订阅（旧版...
相关代码参考，请参见 分布式订阅任务对应的数据消费代码。注意 由于切换过程中，涉及部分消费代码的修改，因此为保证业务正常运行，请您尽快切换至 PolarDB-X 1.0 的新版订阅功能。如您需要或已经使用 PolarDB-X 1.0 订阅（新版）任务。...
产品概述
什么是E-MapReduce 开源大数据开发平台E-MapReduce（简称EMR），是运行在阿里云平台上的一种大数据处理的系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理...
DataWorks on EMR数据安全方案
在大数据领域，阿里云为企业用户提供了一整套数据安全方案，包含用户认证、数据权限、大数据作业管理体系等。本文以联合使用DataWorks与EMR为例，为您介绍DataWorks on EMR场景下的数据安全方案。背景信息 DataWorks on EMR目前支持LDAP...
基于MaxCompute进行大数据BI分析
本实践以电商行业为例，通过MaxCompute、DataWorks对业务数据和日志数据进行ETL处理，并同步至分析型数据库MySQL（AnalyticDB MySQL）进行实时分析，再通过Quick BI进行可视化展示。背景信息 MaxCompute：用于进行大规模数据计算，详情请...
自媒体：易撰
所属行业：自媒体 网站地址：易撰 客户介绍 长沙营智信息技术有限公司是专业的新媒体大数据服务商，其旗下知名品牌易撰，基于新媒体大数据挖掘技术及NLP算法分析，为各内容创客、广告主提供全面、科学、精准的大数据分析服务以及大数据架构...
产品优势
数据安全中心DSC（Data Security Center）可扫描和识别海量数据，帮您实时获取数据的安全状态。本文介绍 数据安全中心 的产品优势。合规性 使用数据安全中心产品，可以帮助企业满足等保2.0对“云计算环境下安全审计”及“个人信息保护”的...
修改订阅对象
DTS支持在数据消费的过程中动态增加或减少订阅对象，本文将介绍修改订阅对象的操作流程。注意事项 执行了增加订阅对象操作后，订阅通道会从当前时间拉取该对象的增量数据。执行了移除订阅对象操作后，如果数据订阅的客户端还能订阅到该对象...
通用数据开发
通常数据开发的总体流程包括数据产生、数据收集与存储、数据分析与处理、数据提取和数据展现与分享。说明 上图中，虚线框内的开发流程均可基于阿里云大数据平台完成。数据开发的流程如下所示：数据产生：业务系统每天会产生大量结构化的...
DMS支持的数据库
关系型数据库 MySQL SQL Server PostgreSQL MariaDB OceanBase MySQL模式 OceanBase Oracle模式 OceanBase ODP Oracle DB2 达梦数据库 OpenGauss 数据仓库 ClickHouse SelectDB NoSQL数据库 Redis MongoDB 大数据 Hive 录入他云/自建数据库...
简介
系统兼容开源GeoMesa、GeoServer等生态，内置了高效的时空索引算法、空间拓扑几何算法、遥感影像处理算法等，结合云数据库HBase强大的分布式存储能力以及Spark分析平台能力，广泛应用于空间、时空、遥感大数据存储、查询、分析与数据挖掘...
相关的云服务
DataWorks作为阿里云一站式大数据开发与治理平台，通常会与计算引擎产品联合使用，此外使用DataWorks进行数据集成时通常联合进行数据传输的数据源产品一起使用。本文为您介绍典型场景下，使用DataWorks时通常会使用到的其他云产品。计算...
日志服务通过数据集成投递数据
日志结束时间 数据消费的结束时间位点，为时间范围（左闭右开）的右边界，为 yyyyMMddHHmmss 格式的时间字符串（例如 20180111013010）。该参数可以和DataWorks的调度时间参数配合使用。批量条数 一次读取的数据条数，默认为256。说明 您...
通过DataWorks数据集成迁移日志数据至MaxCompute
日志开始时间 数据消费的开始时间位点，为时间范围（左闭右开）的左边界，为 yyyyMMddHHmmss 格式的时间字符串（例如 20180111013000）。该参数可以和DataWorks的调度时间参数配合使用。日志结束时间 数据消费的结束时间位点，为时间范围...
数据标准
数据是由特定的环境产生的，这些环境因素包括生产者、时间、系统等，从而造成了同一个语义的数据，有...说明 目前使用DDM进行数据建模可以进行逻辑建模和物理建模，但物理建模仅支持MaxCompute和Hive两种大数据引擎，不支持自定义数据源类型。
常见问题
数据湖后端存储使用OSS，用户使用数据湖构建面向大数据分析和机器学习场景可以获得集中式权限管理和统一的元数据视图，更容易对接云上大数据和分析产品。什么情况下我需要使用数据湖构建？在云上有数据分析和机器学习需求，希望构建云上的...
MetaQ数据源
是 beginDateTime 数据消费的开始时间位点，为时间范围（左闭右开）的左边界。beginDateTime 是 yyyyMMddHHmmss 格式的时间字符串，可以和DataWorks的调度时间参数配合使用。否 说明 beginDateTime 和 endDateTime 配合使用。endDateTime ...
东软案例
如下图所示，阿里Lindorm数据库在赋能政企数字运维团队更强大的运维大数据分析能力的同时，大幅度提升了政府、企业数字系统性能和在线服务的客户数字体验，降低了低价值密度监控数据存储管理成本。图 1.阿里云Lindorm数据库驱动的IT运维...
数据集成概述
背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效的配置大量数据表的同步任务、能够集成多种异构数据源、能够实现对数据源的数据进行轻度预处理、能够实现数据同步任务的调优（例如容错，限速，并发）等。...
- 产品推荐
- 这些文档可能帮助您