通过脚本模式创建集成任务
创建离线脚本模式后，可以通过直接编写数据同步的JSON脚本来完成数据同步开发，为数据同步开发提供了更灵活的能力和更精细化的配置管理。本文为您介绍如何创建离线脚本模式。前提条件 已完成数据源配置。您需要在配置集成任务前，配置好您...
用户管理
并且通过赋予该用户 角色身份 以授予有关智能对话机器人的 功能使用权限，通过选择 FAQ类目和机器人 以授予有关机器人和业务知识的 数据查看权限。重要 在智能对话机器人产品内新增RAM用户并进行授权前，需要先 创建RAM用户 并 为RAM用户...
最佳实践
说明 详情请参考Databricks官网文章：最佳实践 本文介绍了使用Delta Lake时的最佳做法。提供数据位置提示 如果您通常希望在查询谓词中使用一个列，并且该列具有较高的基数（即，大量不同的值），则使用Z-ORDER-BY。Delta-Lake根据列值自动...
用户价值
数据资源平台为用户提供了一站式数据资产定义、生产、管理与服务平台，提供企业级数据资产构建能力和一致性使用体验，助力客户快速构建数据智能平台，实现数据资源统一管理，挖掘潜在规律，优化业务决策，让大数据真正的驱动客户业务。...
常见问题
一、智能对话机器人 1.智能对话机器人是什么？智能对话机器人（Intelligent Chatbot）是一款基于自然语言处理（NLP）和人工智能（AI）技术提供智能会话能力的云服务。可以在智能对话机器人上创建会话机器人，并将机器人部署到不同终端上...
用户管理
并且通过赋予该用户 角色身份 以授予有关智能对话机器人的 功能使用权限，通过选择 FAQ类目和机器人 以授予有关机器人和业务知识的 数据查看权限。重要 敏捷版（通义版）不具有系统管理功能，有关用户管理需要在下文 功能入口>入口一 处...
无效映射关系管理
无效映射关系为您展示已生效数据标准和资产对象的映射关系，映射规则执行将会过滤无效映射的资产，也不会基于该映射关系进行落标监控评估，也不会生成落标评估明细，本文为您介绍如何查看、新增和管理无效映射关系。权限说明 超级管理员、...
无效映射关系管理
无效映射关系为您展示已生效数据标准和资产对象的映射关系，映射规则执行将会过滤无效映射的资产，也不会基于该映射关系进行落标监控评估，也不会生成落标评估明细，本文为您介绍如何查看、新增和管理无效映射关系。权限说明 超级管理员、...
产品概述
产品描述 Dataphin是集产品、技术、方法论于一体的智能大数据平台建设引擎，为您提供数据引入、规范定义、建模研发、资产管理、数据服务等全链路智能数据建设及治理服务。功能 描述 Dataphin全托管 全托管又称公共云多租户模式，只需购买...
计费说明-全托管
000 4500 60C240G 101,500 5000 60C240G 110,000 数据处理单元统计规则：数据处理单元总量=（数据同步任务数+数据集成任务数）/3+计算任务数（离线和实时）+明细逻辑表总数+[向上取整（指标数/10）]其中：前200个数据集成任务不纳入统计，...
数仓规划概述
数仓规划是基于Dataphin建设数据中台的第一步，同时也是数据体系的顶层设计中至关重要的一步。在您开始数据开发前，需要完成数据仓库的规划，包括定义数据板块、项目、数据源、计算源和统计周期。功能介绍 数仓规划包括逻辑空间与物理空间...
计费说明-半托管
智能研发版定价 数据处理单元规格 定价（CNY/年）500 298,000 1000 397,800 1500 497,600 2000 597,400 2500 697,200 3000 797,000 数据处理单元统计规则：数据处理单元总量=（数据同步任务数+数据集成任务数）/3+计算任务数（离线和实时）...
Dataphin支持的实时数据源
Ververica Flink支持的实时数据源 存储类型 数据源类型 读 写 维表读 大数据存储 MaxCompute 支持 支持 支持 DataHub 支持 支持-Hologres 支持 支持 支持 数据湖 Hudi 支持 支持-Iceberg 支持（仅支持原生DDL方式）支持（仅支持原生DDL方式...
Dataphin支持的实时数据源
Ververica Flink支持的实时数据源 存储类型 数据源类型 读 写 维表读 大数据存储 MaxCompute 支持 支持 支持 DataHub 支持 支持-Hologres 支持 支持 支持 数据湖 Hudi 支持 支持-Iceberg 支持（仅支持原生DDL方式）支持（仅支持原生DDL方式...
个性化触达时间配置说明
目录要求 与常规智能圈选输入数据的要求相同，具体目录结构如下所示：其中：行为维表（behavior）数据为个性化触达时间建模的主要数据来源，运营记录维表（operation）数据为个性化触达时间建模的辅助数据来源。行为维表和 运营记录维表 的...
数据标准权限列表
Y Y Y Y Y 查看落标映射规则列表 Y Y Y Y Y 映射关系权限列表 权限点 超级管理员 数据标准管理员 标准负责人 资产对象负责人 其他全局角色 落标评估配置 Y Y N-N 查看落标评估记录日志 Y Y N-N 有效映射关系置为无效映射 Y Y Y-N 取消无效...
数据标准权限列表
Y Y Y Y Y 查看落标映射规则列表 Y Y Y Y Y 映射关系权限列表 权限点 超级管理员 数据标准管理员 标准负责人 资产对象负责人 其他全局角色 落标评估配置 Y Y N-N 查看落标评估记录日志 Y Y N-N 有效映射关系置为无效映射 Y Y Y-N 取消无效...
发布包总览概述
且（为 数据源管理员 或 数据源负责人）数据架构 业务对象、业务活动、主题域 跨租户发布使用人 且（为 超级管理员 或 系统管理员 或 数据板块架构师 负责的板块）研发对象 集成任务、建模研发、指标研发、文件管理、计算任务 跨租户发布...
发布包总览概述
且（为 数据源管理员 或 数据源负责人）数据架构 业务对象、业务活动、主题域 跨租户发布使用人 且（为 超级管理员 或 系统管理员 或 数据板块架构师 负责的板块）研发对象 集成任务、建模研发、指标研发、文件管理、计算任务 跨租户发布...
首页
在智能对话机器人（通义版）首页 中，主要展示 机器人开通版本情况、近30天调用量、公告、机器人运营数据、常见问题和帮助中心文档 等信息，帮助您快速了解机器人使用情况以及产品使用问题自助。功能概述 首页中所展示的信息可分为三类：...
准备数据源和计算源
准备数据源 Dataphin支持对接的数据源包括大数据存储型数据源、文件数据源、消息队列数据源、关系型数据源和NoSQL数据源，各模块支持对接的数据源类型及操作指导，请参见 Dataphin支持的数据源。重要 确定业务数据源类型后，在Dataphin创建...
准备数据源和计算源
准备数据源 Dataphin支持对接的数据源包括大数据存储型数据源、文件数据源、消息队列数据源、关系型数据源和NoSQL数据源，各模块支持对接的数据源类型及操作指导，请参见 Dataphin支持的数据源。重要 确定业务数据源类型后，在Dataphin创建...
创建IBM DB2数据源
通过创建IBM DB2数据源能够实现Dataphin读取IBM DB2的业务数据或向IBM DB2写入数据。本文为您介绍如何创建IBM DB2数据源。背景信息 IBM DB2是一套关系型数据库管理系统。如果您使用的是IBM DB2，在对接Dataphin进行数据开发时，您需要先...
创建Oracle数据源
通过创建Oracle数据源能够实现Dataphin读取Oracle的业务数据或向Oracle写入数据。本文为您介绍如何创建Oracle数据源。背景信息 Oracle是一款可移植好、可靠性好、适应高、功能强大的关系型数据库。如果您使用的是Oracle，在对接Dataphin...
数据源白名单配置
RDS MySQL数据库 设置白名单 RDS PostgreSQL数据库 设置白名单 RDS SQL Server数据库 设置白名单 RDS MariaDB数据库 设置白名单 云原生数据仓库AnalyticDB MySQL版 设置白名单 云原生关系型数据库PolarDB MySQL引擎 设置集群白名单 云原生...
DataWorks数据安全治理路线
DataWorks基于数据安全治理的常见思路，针对资产梳理、技术体系建设和运营体系建设，提供了一系列数据安全产品能力，您可通过“基础防护建设、数据安全防护措施及策略增强建设、数据安全持续运营”三个阶段在DataWorks上落地数据安全治理...
添加及管理监控对象
您可以根据 我负责的、表名称/数据源名称、校验开关、最近一次校验状态、质量负责人、数据源类型、数据源名称、资源负责人 条件进行精确筛选。② 列表区 为您展示 表名称、校验开关、生效/总质量规则数、最近一次校验状态、质量负责人、...
添加及管理监控对象
您可以根据 我负责的、表名称/数据源名称、校验开关、最近一次校验状态、质量负责人、数据源类型、数据源名称、资源负责人 条件进行精确筛选。② 列表区 为您展示 表名称、校验开关、生效/总质量规则数、最近一次校验状态、质量负责人、...
创建IBM DB2数据源
通过创建IBM DB2数据源能够实现Dataphin读取IBM DB2的业务数据或向IBM DB2写入数据。本文为您介绍如何创建IBM DB2数据源。背景信息 IBM DB2是一套关系型数据库管理系统。如果您使用的是IBM DB2，在对接Dataphin进行数据开发时，您需要先...
数据集成支持的数据源
不支持 ArgoDB 支持 支持 Paimon 不支持 不支持 文件数据源 FTP 支持 支持 OSS 支持 支持 Amazon S3 支持 支持 消息队列数据源 Log Service 支持 不支持 Kafka 支持 支持 RocketMQ 不支持 不支持 DataHub 支持 支持 关系型数据源 PolarDB ...
补数据实例运维概述
对周期任务发起补数据操作后，将根据实例的调度类型产生不同的补数据实例，包括待生成实例、已生成实例。您可以根据业务需求对补数据实例进行运维管理，包括查看运行日志、重跑等操作。名词解释 待生成实例：将在未来时间段生成实例并提交...
补数据实例运维概述
对周期任务发起补数据操作后，将根据实例的调度类型产生不同的补数据实例，包括待生成实例、已生成实例。您可以根据业务需求对补数据实例进行运维管理，包括查看运行日志、重跑等操作。名词解释 待生成实例：将在未来时间段生成实例并提交...
创建PolarDB数据源
数据源配置 基于业务数据源是否区分生产数据源和开发数据源：如果业务数据源区分生产数据源和开发数据源，则选择 生产+开发数据源。如果业务数据源不区分生产数据源和开发数据源，则选择 生产数据源。标签 您可根据标签给数据源进行分类...
新建离线自定义源类型
Dataphin支持自定义离线数据源，以满足不同业务场景数据同步的需求。前提条件 对于RDBMS数据库，已获取数据库驱动文件。对于其他类型数据库，获取数据源连接配置项的JSON代码和读/写插件。背景信息 RDBMS数据库即关系型数据库，如Mysql、...
新建离线自定义源类型
Dataphin支持自定义离线数据源，以满足不同业务场景数据同步的需求。前提条件 对于RDBMS数据库，已获取数据库驱动文件。对于其他类型数据库，获取数据源连接配置项的JSON代码和读/写插件。背景信息 RDBMS数据库即关系型数据库，如Mysql、...
电商网站智能推荐
概述 本实践以电商网站为例，通过日志服务采集日志，将RDS作为后端数据服务、MaxCompute作为数据仓库，并通过DataWorks进行数据同步和处理，使用智能推荐产品搭建电商网站智能推荐系统。电商行业需要向用户推荐的物品包括物流信息、售卖...
新功能发布记录
2023-11-27 智能问答版文档总结功能发布 新增 OpenSearch智能问答版推出文档总结功能，提供单篇文档摘要总结能力 2023-11-16 专业版发布，钉钉、飞书智能机器人发布 新增 OpenSearch LLM智能问答版推出专业版，支持用户定制专属LLM，支持...
数据集成支持的数据源
实时集成 适用于将来源端数据源中整库或全部表的数据变化实时集成至目标端数据源中，实现 来源端数据源与目标端数据源 实时地保持数据同步。离线集成支持的数据源 数据源 读取 写入 大数据存储型数据源 MaxCompute 支持 支持 Hive 支持 ...
创建Oracle数据源
通过创建Oracle数据源能够实现Dataphin读取Oracle的业务数据或向Oracle写入数据。本文为您介绍如何创建Oracle数据源。背景信息 Oracle是一款可移植好、可靠性好、适应高、功能强大的关系型数据库。如果您使用的是Oracle，在对接Dataphin...
资产全景及目录概述
整体概述 Dataphin的数据资产功能，基于数据资产管理的规范及方法论，帮助您对数据资产进行盘点评估：支持自动化提取分析元数据，可视化构建数据资产大图，便于管理者发现与了解数据资产价值。支持对数据生产中的计算、存储、安全、应用等...
- 产品推荐
- 这些文档可能帮助您