Skip to content

Repository files navigation

banner.png

JDKDownloadsDownloads

📖简体中文 | 📖English

🌈 平台简介

qData 数据中台是一套集数据集成标准管理资产治理质量控制服务开放智能分析于一体的企业级数据管理平台,致力于帮助企业实现数据资源的统一管理、高效治理与价值释放。我们秉承“高效、安全、灵活、开放”的理念,持续引入前沿技术,让数据真正成为企业发展的核心驱动力。

✨✨✨在线文档✨✨✨ https://qdata.qiantong.tech

✨✨✨开源版演示地址✨✨✨ https://qdata-demo.qiantong.tech ,账号:qData 密码:qData123

✨✨✨商业版演示地址✨✨✨ https://qdata-pro.qiantong.tech ,演示账号请 联系客服获取

如果 qData 对您有帮助,请点个 Star ⭐️,这是我们持续更新的最大动力! 🚀

🍱 使用场景

适用于希望通过整合、治理和分析多源数据,打破孤岛、提升质量与效率,实现数据驱动与业务创新的大型企业、中小企业与政府机构。

场景描述典型客户类型
数据整合治理需要汇聚并统一管理来自不同系统、数据库及外部合作方的数据。政府机构、大型集团、科研院校
质量与效率提升面临数据质量不佳、处理效率低下,影响业务分析与应用。金融机构、制造企业、互联网企业
打破数据孤岛多个独立系统各自为政,数据无法流通共享,业务协同受限。集团企业、公共服务机构、智慧城市项目
决策与创新驱动希望通过数据分析支撑战略决策,并挖掘数据价值驱动业务创新。企业管理层、产品创新团队、研究机构
数字化转型支撑正在推进或计划开展数字化转型的企业或政府机构。政府部门、国企、成长型中小企业

💡 优势

优势点描述
高效数据集成数据集成模块对标 Kettle,兼容性强,迁移与使用成本更低。
全生命周期覆盖覆盖数据采集、治理、建模、共享服务,支持完整的端到端业务闭环。
轻量部署,弹性扩展默认单体架构,简单易用;可快速切换微服务模式,满足横向扩展的需求。
高性能处理单节点即可支撑千万级/分钟数据处理,性能强劲。
批流一体,多引擎同时支持批处理与流处理,兼容多种执行引擎,实现不同场景下的数据处理需求一体化。
全类型数据资产管理支持结构化与非结构化数据的统一管理,资产清晰可视。
数据质量合规符合 GB/T 36344 国家标准,确保数据准确、完整、一致并满足合规要求。
开发生产一体化任务配置可跨开发、测试和生产环境复用,简化运维流程。
开源友好体验开箱即用,支持快速部署与示例引导,上手门槛低,社区活跃。
商业版平滑升级先使用开源版进行探索与验证,复杂需求可平滑过渡至商业版,获得全链路保障。

✅ 已有功能一览

模块描述
数据集成(ETL)支持数据库、文件、消息队列等多种数据源的无缝接入,提供直观的ETL设计界面、多任务调度与实时监控,并内置丰富的数据清洗规则。对标 Kettle,以更低的使用成本助力数据流转。
数据资产数据资产管理通过目录结构对数据资产进行精细化分级分类,覆盖从创建到销毁的全生命周期管理,确保每一份数据都得到妥善处理,提升资产可见可控性。
数据服务数据服务管理模块负责将数据资产封装为API服务,支持外部API接口转发,并包含全面的日志管理、数据脱敏、数据接口和服务接口管理及其调用日志监控,实现数据服务能力标准化与可管可控。
数据标准数据标准管理涉及逻辑模型(表级关联数据元)和数据元模型(字段级绑定规范、稽查与清洗),为结构化数据制定统一标准,并确保其质量达到企业级要求。
数据质量数据质量管理利用预置的稽查规则和数据清洗规则,对数据的准确性、一致性、完整性进行自动化校验与修正,确保数据始终处于最佳状态,满足高质量治理需求。
元数据管理元数据管理模块集中管理数据表、字段、稽查、清洗指标等元信息,构建统一的数据资产目录,为用户提供便捷的数据查找途径,支持深入的数据血缘分析和结构维护。
标签管理统一标签管理支持自动生成多维度标签,并提供强大的筛选能力,使数据分类与精准检索变得轻而易举,提升数据使用效率与业务响应速度。
数据开发数据开发模块支持达梦8、MySQL、Oracle、人大金仓等主流数据库的任务开发,结合SQL及大数据脚本,根据业务需求灵活加工和处理数据,支撑复杂业务场景下的数据建模与计算。
数据查询数据查询模块提供灵活且高效的交互式查询工具,让用户能够迅速分析和挖掘结构化数据中的深层价值,提升数据探索与决策辅助能力。
系统管理系统管理涵盖系统配置、用户与权限管理、运行监控、日志管理和服务器资源监控等核心功能,同时提供工作空间管理,实现任务在不同项目组间的高效拆分与协作,适应前店后厂式组织流程。

👉 qData 数据中台采用模块化设计,涵盖12大核心功能模块。最新完整版功能清单参见:qData 功能清单总览

🚧 未来开发计划

功能名称功能描述
数据集成(增强)支持异构数据源、文件、接口及网络爬虫的统一采集与同步,扩展数据转换类型与接入方式,提升多源异构数据整合能力,满足企业多样化数据集成需求。
作业调度中心实现任务编排、依赖管理、定时执行、失败重试、日志追踪等核心调度能力,全面提升任务执行的自动化水平与流程可控性。适用于复杂任务流的统一调度与集中管理。
数据血缘分析支持字段级血缘追踪与图谱化展示,全面梳理数据流转路径与依赖关系,帮助用户清晰理解数据来源与流向,提升数据可追溯性与治理精准度。
数据图谱管理基于数据仓库构建业务实体、事实表与维度表之间的图谱关系,支持多层级模型梳理与可视化展示,增强对数据逻辑结构与业务依赖的理解与管理能力。
实时数据开发基于 Flink、Kafka 等流处理引擎构建实时任务开发能力,支持低延迟数据处理与动态指标计算,适用于实时监控、预警推送与事件驱动型业务场景。
数据质量管理(增强)基于规则引擎实现数据质量检测机制,支持质量报告生成与指标统计分析,自动识别数据准确性、完整性、一致性问题,助力企业构建高质量数据治理体系。
数据比对管理支持数据库连接配置与任务调度,自动执行结构与内容比对任务,生成比对日志,有效验证跨源数据一致性,提升数据校验效率与问题排查能力。
元数据管理(扩展)扩展字段级元数据、数据地图、SQL 控制台与变更记录等能力,逐步构建数据血缘分析、影响分析与结构可视化体系,提升数据资产可维护性与治理透明度。
离线数据开发支持基于 Spark、Hive、SQL 等任务类型的离线数据处理,适用于大规模数据的周期性加工与分析,提供统一的作业管理入口与执行调度机制,提升批量处理效率与稳定性。
数据可视化提供 BI 报表、数据看板、大屏展示等多种可视化能力,支持拖拽式配置、权限控制与图表联动,助力业务人员快速洞察数据价值。
AI 辅助开发与治理引入 AI 技术,支持离线与实时数据开发中的 SQL 智能补全、自动优化、异常检测与调试辅助,显著提升开发效率、代码质量与问题响应能力。

💡 如您有好的建议或功能需求,欢迎 提交Issue,与我们共同完善数据中台功能。

🛠️ 技术栈

qData 平台采用前后端分离架构,后端基于 Spring Boot,前端基于 Vue 3,并整合了部分主流中间件与数据工具。

分类技术描述
后端技术栈Spring Boot提供快速开发能力
Spring Security实现用户权限认证与控制
MySQL、PostgreSQL、达梦8、人大金仓持久化存储与配置管理
MyBatis-Plus简化数据库操作
Redis支持缓存、分布式锁等
RabbitMQ实现异步通信与解耦处理
前端技术栈Vue 3现代化响应式框架
Element UI常用 UI 组件支持
Vite快速开发与构建工具
第三方依赖DolphinScheduler提供可视化任务编排、依赖管理及调度能力
Spark批流一体,支持 ETL 数据处理
Hive支持数据建模、分区管理及元数据维护
Hive、HBase支持海量非结构化与半结构化数据存储

🏗️ 部署要求

在部署 qData 之前,请确保以下环境和工具已正确安装:

环境项目推荐版本说明
后端JDK1.8 或以上建议使用 OpenJDK 8 或 11
Maven3.6+项目构建与依赖管理
达梦88.0关系型数据库(可切至MySQL)
Redis5.0+缓存与消息功能支持
RabbitMQ可选用于任务调度、异步通信等功能
操作系统Windows / Linux / Mac通用环境均可运行
前端Node.js16+构建工具依赖
npm10+包管理器
Vite最新版脚手架工具

🚨 商用授权

qData 提供 商业版开源版 两种形态,满足不同规模与场景下的用户需求。两者既各具特色,又形成互补:开源版更像启蒙老师,帮助低成本起步;商业版更像专家顾问,提供深度与保障。无论选择哪种版本,qData 都将成为可靠的伙伴,帮助企业释放数据价值,加速数字化进程。

👉 如需 开源版品牌授权咨询商业版,请点击按钮查看详情:💼 了解授权详情

🚀 快速开始

部署方式说明适用场景
Docker Compose 部署所有组件(调度器、数据库、消息队列、Spark、Flink 等)以及 qData 数据中台源码都通过 Docker Compose 一键启动初学者快速上手、功能演示、测试环境
使用源代码本地启动qData 数据中台源码由开发者本地运行,依赖组件通过 Docker Compose 启动日常开发、功能联调
自主部署(纯手工安装)所有依赖组件及 qData 数据中台服务均需手工安装和配置生产环境、大规模部署、个性化定制场景

👉 查看完整的安装与部署指南:🧭 点击查看详细部署步骤

👥 QQ交流群

欢迎加入 qData 官方 QQ 交流群,获取最新动态、技术支持与使用交流。

👉 点击加入 QQ 交流群

🖼️ 系统配图

登录页首页
标准检索资产地图
数据连接数据查询
质量任务详情数据连接
质量执行分析数据集成
数据集成配置数据开发
集成实例应用管理

About

qData is an open-source, all-in-one data middle platform that supports core capabilities including data infrastructure, data governance, data development, monitoring & alerting, data services, and data visualization.

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { // Add copy buttons to all
 blocks
(function() {
function addCopyButtons() {
document.querySelectorAll('pre code').forEach(function(codeBlock) {
if (codeBlock.parentElement.hasAttribute('data-copy-added')) return;
codeBlock.parentElement.setAttribute('data-copy-added', 'true');
var btn = document.createElement('button');
btn.textContent = 'Copy';
btn.style.cssText = 'position:absolute;top:4px;right:4px;padding:2px 8px;font-size:11px;background:#4ecdc4;border:none;border-radius:4px;color:#1a1a2e;cursor:pointer;opacity:0.7;transition:opacity 0.2s;';
btn.onmouseover = function() { this.style.opacity = '1'; };
btn.onmouseout = function() { this.style.opacity = '0.7'; };
btn.onclick = function() {
navigator.clipboard.writeText(codeBlock.textContent).then(function() {
btn.textContent = 'Copied!';
setTimeout(function() { btn.textContent = 'Copy'; }, 1500);
});
};
codeBlock.parentElement.style.position = 'relative';
codeBlock.parentElement.appendChild(btn);
});
}
addCopyButtons();
// Re-run on dynamic content
var observer = new MutationObserver(addCopyButtons);
observer.observe(document.body, { childList: true, subtree: true });
})();
}
} catch(__e) { console.warn('[Userscript:Add Copy Buttons to Code Blocks]', __e); }
})();
(function(){
try {
var __m = "github.com";
var __re = new RegExp('^' + "github\\.com" + '
GitHub - zuolg/qData: qData is an open-source, all-in-one data middle platform that supports core capabilities including data infrastructure, data governance, data development, monitoring & alerting, data services, and data visualization. · GitHub
Skip to content

Repository files navigation

banner.png

JDKDownloadsDownloads

📖简体中文 | 📖English

🌈 平台简介

qData 数据中台是一套集数据集成标准管理资产治理质量控制服务开放智能分析于一体的企业级数据管理平台,致力于帮助企业实现数据资源的统一管理、高效治理与价值释放。我们秉承“高效、安全、灵活、开放”的理念,持续引入前沿技术,让数据真正成为企业发展的核心驱动力。

✨✨✨在线文档✨✨✨ https://qdata.qiantong.tech

✨✨✨开源版演示地址✨✨✨ https://qdata-demo.qiantong.tech ,账号:qData 密码:qData123

✨✨✨商业版演示地址✨✨✨ https://qdata-pro.qiantong.tech ,演示账号请 联系客服获取

如果 qData 对您有帮助,请点个 Star ⭐️,这是我们持续更新的最大动力! 🚀

🍱 使用场景

适用于希望通过整合、治理和分析多源数据,打破孤岛、提升质量与效率,实现数据驱动与业务创新的大型企业、中小企业与政府机构。

场景描述典型客户类型
数据整合治理需要汇聚并统一管理来自不同系统、数据库及外部合作方的数据。政府机构、大型集团、科研院校
质量与效率提升面临数据质量不佳、处理效率低下,影响业务分析与应用。金融机构、制造企业、互联网企业
打破数据孤岛多个独立系统各自为政,数据无法流通共享,业务协同受限。集团企业、公共服务机构、智慧城市项目
决策与创新驱动希望通过数据分析支撑战略决策,并挖掘数据价值驱动业务创新。企业管理层、产品创新团队、研究机构
数字化转型支撑正在推进或计划开展数字化转型的企业或政府机构。政府部门、国企、成长型中小企业

💡 优势

优势点描述
高效数据集成数据集成模块对标 Kettle,兼容性强,迁移与使用成本更低。
全生命周期覆盖覆盖数据采集、治理、建模、共享服务,支持完整的端到端业务闭环。
轻量部署,弹性扩展默认单体架构,简单易用;可快速切换微服务模式,满足横向扩展的需求。
高性能处理单节点即可支撑千万级/分钟数据处理,性能强劲。
批流一体,多引擎同时支持批处理与流处理,兼容多种执行引擎,实现不同场景下的数据处理需求一体化。
全类型数据资产管理支持结构化与非结构化数据的统一管理,资产清晰可视。
数据质量合规符合 GB/T 36344 国家标准,确保数据准确、完整、一致并满足合规要求。
开发生产一体化任务配置可跨开发、测试和生产环境复用,简化运维流程。
开源友好体验开箱即用,支持快速部署与示例引导,上手门槛低,社区活跃。
商业版平滑升级先使用开源版进行探索与验证,复杂需求可平滑过渡至商业版,获得全链路保障。

✅ 已有功能一览

模块描述
数据集成(ETL)支持数据库、文件、消息队列等多种数据源的无缝接入,提供直观的ETL设计界面、多任务调度与实时监控,并内置丰富的数据清洗规则。对标 Kettle,以更低的使用成本助力数据流转。
数据资产数据资产管理通过目录结构对数据资产进行精细化分级分类,覆盖从创建到销毁的全生命周期管理,确保每一份数据都得到妥善处理,提升资产可见可控性。
数据服务数据服务管理模块负责将数据资产封装为API服务,支持外部API接口转发,并包含全面的日志管理、数据脱敏、数据接口和服务接口管理及其调用日志监控,实现数据服务能力标准化与可管可控。
数据标准数据标准管理涉及逻辑模型(表级关联数据元)和数据元模型(字段级绑定规范、稽查与清洗),为结构化数据制定统一标准,并确保其质量达到企业级要求。
数据质量数据质量管理利用预置的稽查规则和数据清洗规则,对数据的准确性、一致性、完整性进行自动化校验与修正,确保数据始终处于最佳状态,满足高质量治理需求。
元数据管理元数据管理模块集中管理数据表、字段、稽查、清洗指标等元信息,构建统一的数据资产目录,为用户提供便捷的数据查找途径,支持深入的数据血缘分析和结构维护。
标签管理统一标签管理支持自动生成多维度标签,并提供强大的筛选能力,使数据分类与精准检索变得轻而易举,提升数据使用效率与业务响应速度。
数据开发数据开发模块支持达梦8、MySQL、Oracle、人大金仓等主流数据库的任务开发,结合SQL及大数据脚本,根据业务需求灵活加工和处理数据,支撑复杂业务场景下的数据建模与计算。
数据查询数据查询模块提供灵活且高效的交互式查询工具,让用户能够迅速分析和挖掘结构化数据中的深层价值,提升数据探索与决策辅助能力。
系统管理系统管理涵盖系统配置、用户与权限管理、运行监控、日志管理和服务器资源监控等核心功能,同时提供工作空间管理,实现任务在不同项目组间的高效拆分与协作,适应前店后厂式组织流程。

👉 qData 数据中台采用模块化设计,涵盖12大核心功能模块。最新完整版功能清单参见:qData 功能清单总览

🚧 未来开发计划

功能名称功能描述
数据集成(增强)支持异构数据源、文件、接口及网络爬虫的统一采集与同步,扩展数据转换类型与接入方式,提升多源异构数据整合能力,满足企业多样化数据集成需求。
作业调度中心实现任务编排、依赖管理、定时执行、失败重试、日志追踪等核心调度能力,全面提升任务执行的自动化水平与流程可控性。适用于复杂任务流的统一调度与集中管理。
数据血缘分析支持字段级血缘追踪与图谱化展示,全面梳理数据流转路径与依赖关系,帮助用户清晰理解数据来源与流向,提升数据可追溯性与治理精准度。
数据图谱管理基于数据仓库构建业务实体、事实表与维度表之间的图谱关系,支持多层级模型梳理与可视化展示,增强对数据逻辑结构与业务依赖的理解与管理能力。
实时数据开发基于 Flink、Kafka 等流处理引擎构建实时任务开发能力,支持低延迟数据处理与动态指标计算,适用于实时监控、预警推送与事件驱动型业务场景。
数据质量管理(增强)基于规则引擎实现数据质量检测机制,支持质量报告生成与指标统计分析,自动识别数据准确性、完整性、一致性问题,助力企业构建高质量数据治理体系。
数据比对管理支持数据库连接配置与任务调度,自动执行结构与内容比对任务,生成比对日志,有效验证跨源数据一致性,提升数据校验效率与问题排查能力。
元数据管理(扩展)扩展字段级元数据、数据地图、SQL 控制台与变更记录等能力,逐步构建数据血缘分析、影响分析与结构可视化体系,提升数据资产可维护性与治理透明度。
离线数据开发支持基于 Spark、Hive、SQL 等任务类型的离线数据处理,适用于大规模数据的周期性加工与分析,提供统一的作业管理入口与执行调度机制,提升批量处理效率与稳定性。
数据可视化提供 BI 报表、数据看板、大屏展示等多种可视化能力,支持拖拽式配置、权限控制与图表联动,助力业务人员快速洞察数据价值。
AI 辅助开发与治理引入 AI 技术,支持离线与实时数据开发中的 SQL 智能补全、自动优化、异常检测与调试辅助,显著提升开发效率、代码质量与问题响应能力。

💡 如您有好的建议或功能需求,欢迎 提交Issue,与我们共同完善数据中台功能。

🛠️ 技术栈

qData 平台采用前后端分离架构,后端基于 Spring Boot,前端基于 Vue 3,并整合了部分主流中间件与数据工具。

分类技术描述
后端技术栈Spring Boot提供快速开发能力
Spring Security实现用户权限认证与控制
MySQL、PostgreSQL、达梦8、人大金仓持久化存储与配置管理
MyBatis-Plus简化数据库操作
Redis支持缓存、分布式锁等
RabbitMQ实现异步通信与解耦处理
前端技术栈Vue 3现代化响应式框架
Element UI常用 UI 组件支持
Vite快速开发与构建工具
第三方依赖DolphinScheduler提供可视化任务编排、依赖管理及调度能力
Spark批流一体,支持 ETL 数据处理
Hive支持数据建模、分区管理及元数据维护
Hive、HBase支持海量非结构化与半结构化数据存储

🏗️ 部署要求

在部署 qData 之前,请确保以下环境和工具已正确安装:

环境项目推荐版本说明
后端JDK1.8 或以上建议使用 OpenJDK 8 或 11
Maven3.6+项目构建与依赖管理
达梦88.0关系型数据库(可切至MySQL)
Redis5.0+缓存与消息功能支持
RabbitMQ可选用于任务调度、异步通信等功能
操作系统Windows / Linux / Mac通用环境均可运行
前端Node.js16+构建工具依赖
npm10+包管理器
Vite最新版脚手架工具

🚨 商用授权

qData 提供 商业版开源版 两种形态,满足不同规模与场景下的用户需求。两者既各具特色,又形成互补:开源版更像启蒙老师,帮助低成本起步;商业版更像专家顾问,提供深度与保障。无论选择哪种版本,qData 都将成为可靠的伙伴,帮助企业释放数据价值,加速数字化进程。

👉 如需 开源版品牌授权咨询商业版,请点击按钮查看详情:💼 了解授权详情

🚀 快速开始

部署方式说明适用场景
Docker Compose 部署所有组件(调度器、数据库、消息队列、Spark、Flink 等)以及 qData 数据中台源码都通过 Docker Compose 一键启动初学者快速上手、功能演示、测试环境
使用源代码本地启动qData 数据中台源码由开发者本地运行,依赖组件通过 Docker Compose 启动日常开发、功能联调
自主部署(纯手工安装)所有依赖组件及 qData 数据中台服务均需手工安装和配置生产环境、大规模部署、个性化定制场景

👉 查看完整的安装与部署指南:🧭 点击查看详细部署步骤

👥 QQ交流群

欢迎加入 qData 官方 QQ 交流群,获取最新动态、技术支持与使用交流。

👉 点击加入 QQ 交流群

🖼️ 系统配图

登录页首页
标准检索资产地图
数据连接数据查询
质量任务详情数据连接
质量执行分析数据集成
数据集成配置数据开发
集成实例应用管理

About

qData is an open-source, all-in-one data middle platform that supports core capabilities including data infrastructure, data governance, data development, monitoring & alerting, data services, and data visualization.

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { // Force GitHub README to respect dark mode (function() { var style = document.createElement('style'); style.textContent = ' .markdown-body { color-scheme: dark light; } .markdown-body pre { background: #161b22 !important; } .markdown-body code { background: rgba(110, 118, 129, 0.4) !important; } .markdown-body table th, .markdown-body table td { border-color: #30363d !important; } .markdown-body img { background: #0d1117; } .markdown-body blockquote { border-left-color: #8b949e; } .markdown-body hr { border-color: #30363d; } '; document.head.appendChild(style); })(); } } catch(__e) { console.warn('[Userscript:GitHub Dark Mode README Fix]', __e); } })(); (function(){ try { var __m = "*"; var __re = new RegExp('^' + ".*" + ' GitHub - zuolg/qData: qData is an open-source, all-in-one data middle platform that supports core capabilities including data infrastructure, data governance, data development, monitoring & alerting, data services, and data visualization. · GitHub
Skip to content

Repository files navigation

banner.png

JDKDownloadsDownloads

📖简体中文 | 📖English

🌈 平台简介

qData 数据中台是一套集数据集成标准管理资产治理质量控制服务开放智能分析于一体的企业级数据管理平台,致力于帮助企业实现数据资源的统一管理、高效治理与价值释放。我们秉承“高效、安全、灵活、开放”的理念,持续引入前沿技术,让数据真正成为企业发展的核心驱动力。

✨✨✨在线文档✨✨✨ https://qdata.qiantong.tech

✨✨✨开源版演示地址✨✨✨ https://qdata-demo.qiantong.tech ,账号:qData 密码:qData123

✨✨✨商业版演示地址✨✨✨ https://qdata-pro.qiantong.tech ,演示账号请 联系客服获取

如果 qData 对您有帮助,请点个 Star ⭐️,这是我们持续更新的最大动力! 🚀

🍱 使用场景

适用于希望通过整合、治理和分析多源数据,打破孤岛、提升质量与效率,实现数据驱动与业务创新的大型企业、中小企业与政府机构。

场景描述典型客户类型
数据整合治理需要汇聚并统一管理来自不同系统、数据库及外部合作方的数据。政府机构、大型集团、科研院校
质量与效率提升面临数据质量不佳、处理效率低下,影响业务分析与应用。金融机构、制造企业、互联网企业
打破数据孤岛多个独立系统各自为政,数据无法流通共享,业务协同受限。集团企业、公共服务机构、智慧城市项目
决策与创新驱动希望通过数据分析支撑战略决策,并挖掘数据价值驱动业务创新。企业管理层、产品创新团队、研究机构
数字化转型支撑正在推进或计划开展数字化转型的企业或政府机构。政府部门、国企、成长型中小企业

💡 优势

优势点描述
高效数据集成数据集成模块对标 Kettle,兼容性强,迁移与使用成本更低。
全生命周期覆盖覆盖数据采集、治理、建模、共享服务,支持完整的端到端业务闭环。
轻量部署,弹性扩展默认单体架构,简单易用;可快速切换微服务模式,满足横向扩展的需求。
高性能处理单节点即可支撑千万级/分钟数据处理,性能强劲。
批流一体,多引擎同时支持批处理与流处理,兼容多种执行引擎,实现不同场景下的数据处理需求一体化。
全类型数据资产管理支持结构化与非结构化数据的统一管理,资产清晰可视。
数据质量合规符合 GB/T 36344 国家标准,确保数据准确、完整、一致并满足合规要求。
开发生产一体化任务配置可跨开发、测试和生产环境复用,简化运维流程。
开源友好体验开箱即用,支持快速部署与示例引导,上手门槛低,社区活跃。
商业版平滑升级先使用开源版进行探索与验证,复杂需求可平滑过渡至商业版,获得全链路保障。

✅ 已有功能一览

模块描述
数据集成(ETL)支持数据库、文件、消息队列等多种数据源的无缝接入,提供直观的ETL设计界面、多任务调度与实时监控,并内置丰富的数据清洗规则。对标 Kettle,以更低的使用成本助力数据流转。
数据资产数据资产管理通过目录结构对数据资产进行精细化分级分类,覆盖从创建到销毁的全生命周期管理,确保每一份数据都得到妥善处理,提升资产可见可控性。
数据服务数据服务管理模块负责将数据资产封装为API服务,支持外部API接口转发,并包含全面的日志管理、数据脱敏、数据接口和服务接口管理及其调用日志监控,实现数据服务能力标准化与可管可控。
数据标准数据标准管理涉及逻辑模型(表级关联数据元)和数据元模型(字段级绑定规范、稽查与清洗),为结构化数据制定统一标准,并确保其质量达到企业级要求。
数据质量数据质量管理利用预置的稽查规则和数据清洗规则,对数据的准确性、一致性、完整性进行自动化校验与修正,确保数据始终处于最佳状态,满足高质量治理需求。
元数据管理元数据管理模块集中管理数据表、字段、稽查、清洗指标等元信息,构建统一的数据资产目录,为用户提供便捷的数据查找途径,支持深入的数据血缘分析和结构维护。
标签管理统一标签管理支持自动生成多维度标签,并提供强大的筛选能力,使数据分类与精准检索变得轻而易举,提升数据使用效率与业务响应速度。
数据开发数据开发模块支持达梦8、MySQL、Oracle、人大金仓等主流数据库的任务开发,结合SQL及大数据脚本,根据业务需求灵活加工和处理数据,支撑复杂业务场景下的数据建模与计算。
数据查询数据查询模块提供灵活且高效的交互式查询工具,让用户能够迅速分析和挖掘结构化数据中的深层价值,提升数据探索与决策辅助能力。
系统管理系统管理涵盖系统配置、用户与权限管理、运行监控、日志管理和服务器资源监控等核心功能,同时提供工作空间管理,实现任务在不同项目组间的高效拆分与协作,适应前店后厂式组织流程。

👉 qData 数据中台采用模块化设计,涵盖12大核心功能模块。最新完整版功能清单参见:qData 功能清单总览

🚧 未来开发计划

功能名称功能描述
数据集成(增强)支持异构数据源、文件、接口及网络爬虫的统一采集与同步,扩展数据转换类型与接入方式,提升多源异构数据整合能力,满足企业多样化数据集成需求。
作业调度中心实现任务编排、依赖管理、定时执行、失败重试、日志追踪等核心调度能力,全面提升任务执行的自动化水平与流程可控性。适用于复杂任务流的统一调度与集中管理。
数据血缘分析支持字段级血缘追踪与图谱化展示,全面梳理数据流转路径与依赖关系,帮助用户清晰理解数据来源与流向,提升数据可追溯性与治理精准度。
数据图谱管理基于数据仓库构建业务实体、事实表与维度表之间的图谱关系,支持多层级模型梳理与可视化展示,增强对数据逻辑结构与业务依赖的理解与管理能力。
实时数据开发基于 Flink、Kafka 等流处理引擎构建实时任务开发能力,支持低延迟数据处理与动态指标计算,适用于实时监控、预警推送与事件驱动型业务场景。
数据质量管理(增强)基于规则引擎实现数据质量检测机制,支持质量报告生成与指标统计分析,自动识别数据准确性、完整性、一致性问题,助力企业构建高质量数据治理体系。
数据比对管理支持数据库连接配置与任务调度,自动执行结构与内容比对任务,生成比对日志,有效验证跨源数据一致性,提升数据校验效率与问题排查能力。
元数据管理(扩展)扩展字段级元数据、数据地图、SQL 控制台与变更记录等能力,逐步构建数据血缘分析、影响分析与结构可视化体系,提升数据资产可维护性与治理透明度。
离线数据开发支持基于 Spark、Hive、SQL 等任务类型的离线数据处理,适用于大规模数据的周期性加工与分析,提供统一的作业管理入口与执行调度机制,提升批量处理效率与稳定性。
数据可视化提供 BI 报表、数据看板、大屏展示等多种可视化能力,支持拖拽式配置、权限控制与图表联动,助力业务人员快速洞察数据价值。
AI 辅助开发与治理引入 AI 技术,支持离线与实时数据开发中的 SQL 智能补全、自动优化、异常检测与调试辅助,显著提升开发效率、代码质量与问题响应能力。

💡 如您有好的建议或功能需求,欢迎 提交Issue,与我们共同完善数据中台功能。

🛠️ 技术栈

qData 平台采用前后端分离架构,后端基于 Spring Boot,前端基于 Vue 3,并整合了部分主流中间件与数据工具。

分类技术描述
后端技术栈Spring Boot提供快速开发能力
Spring Security实现用户权限认证与控制
MySQL、PostgreSQL、达梦8、人大金仓持久化存储与配置管理
MyBatis-Plus简化数据库操作
Redis支持缓存、分布式锁等
RabbitMQ实现异步通信与解耦处理
前端技术栈Vue 3现代化响应式框架
Element UI常用 UI 组件支持
Vite快速开发与构建工具
第三方依赖DolphinScheduler提供可视化任务编排、依赖管理及调度能力
Spark批流一体,支持 ETL 数据处理
Hive支持数据建模、分区管理及元数据维护
Hive、HBase支持海量非结构化与半结构化数据存储

🏗️ 部署要求

在部署 qData 之前,请确保以下环境和工具已正确安装:

环境项目推荐版本说明
后端JDK1.8 或以上建议使用 OpenJDK 8 或 11
Maven3.6+项目构建与依赖管理
达梦88.0关系型数据库(可切至MySQL)
Redis5.0+缓存与消息功能支持
RabbitMQ可选用于任务调度、异步通信等功能
操作系统Windows / Linux / Mac通用环境均可运行
前端Node.js16+构建工具依赖
npm10+包管理器
Vite最新版脚手架工具

🚨 商用授权

qData 提供 商业版开源版 两种形态,满足不同规模与场景下的用户需求。两者既各具特色,又形成互补:开源版更像启蒙老师,帮助低成本起步;商业版更像专家顾问,提供深度与保障。无论选择哪种版本,qData 都将成为可靠的伙伴,帮助企业释放数据价值,加速数字化进程。

👉 如需 开源版品牌授权咨询商业版,请点击按钮查看详情:💼 了解授权详情

🚀 快速开始

部署方式说明适用场景
Docker Compose 部署所有组件(调度器、数据库、消息队列、Spark、Flink 等)以及 qData 数据中台源码都通过 Docker Compose 一键启动初学者快速上手、功能演示、测试环境
使用源代码本地启动qData 数据中台源码由开发者本地运行,依赖组件通过 Docker Compose 启动日常开发、功能联调
自主部署(纯手工安装)所有依赖组件及 qData 数据中台服务均需手工安装和配置生产环境、大规模部署、个性化定制场景

👉 查看完整的安装与部署指南:🧭 点击查看详细部署步骤

👥 QQ交流群

欢迎加入 qData 官方 QQ 交流群,获取最新动态、技术支持与使用交流。

👉 点击加入 QQ 交流群

🖼️ 系统配图

登录页首页
标准检索资产地图
数据连接数据查询
质量任务详情数据连接
质量执行分析数据集成
数据集成配置数据开发
集成实例应用管理

About

qData is an open-source, all-in-one data middle platform that supports core capabilities including data infrastructure, data governance, data development, monitoring & alerting, data services, and data visualization.

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { // Highlight search terms from Google/DuckDuckGo/Bing referrer (function() { var ref = document.referrer; var terms = []; if (ref.includes('google.com') || ref.includes('duckduckgo.com') || ref.includes('bing.com')) { var url = new URL(ref); var q = url.searchParams.get('q') || url.searchParams.get('p'); if (q) { terms = q.split(/\s+/).filter(function(t) { return t.length > 2; }); } } if (terms.length === 0) return; var style = document.createElement('style'); style.textContent = '.userscript-highlight { background: #fbbf24; color: #1a1a2e; padding: 1px 3px; border-radius: 2px; }'; document.head.appendChild(style); function highlight(node) { if (node.nodeType === 3) { // text node var text = node.textContent; var found = false; terms.forEach(function(term) { var regex = new RegExp('(' + term.replace(/[.*+?^${}()|[\]\\]/g, '\\') + ')', 'gi'); if (regex.test(text)) { found = true; var frag = document.createDocumentFragment(); var parts = text.split(regex); parts.forEach(function(part, i) { if (i % 2 === 0) { frag.appendChild(document.createTextNode(part)); } else { var span = document.createElement('span'); span.className = 'userscript-highlight'; span.textContent = part; frag.appendChild(span); } }); node.parentNode.replaceChild(frag, node); } }); } else if (node.nodeType === 1 && node.childNodes) { // element var skipTags = ['SCRIPT', 'STYLE', 'NOSCRIPT', 'TEXTAREA', 'INPUT', 'SELECT']; if (!skipTags.includes(node.tagName)) { Array.from(node.childNodes).forEach(highlight); } } } highlight(document.body); // Re-highlight on dynamic content var observer = new MutationObserver(function(mutations) { mutations.forEach(function(m) { m.addedNodes.forEach(function(node) { if (node.nodeType === 1 || node.nodeType === 3) highlight(node); }); }); }); observer.observe(document.body, { childList: true, subtree: true }); })(); } } catch(__e) { console.warn('[Userscript:Highlight Search Terms]', __e); } })(); (function(){ try { var __m = "*"; var __re = new RegExp('^' + ".*" + ' GitHub - zuolg/qData: qData is an open-source, all-in-one data middle platform that supports core capabilities including data infrastructure, data governance, data development, monitoring & alerting, data services, and data visualization. · GitHub
Skip to content

Repository files navigation

banner.png

JDKDownloadsDownloads

📖简体中文 | 📖English

🌈 平台简介

qData 数据中台是一套集数据集成标准管理资产治理质量控制服务开放智能分析于一体的企业级数据管理平台,致力于帮助企业实现数据资源的统一管理、高效治理与价值释放。我们秉承“高效、安全、灵活、开放”的理念,持续引入前沿技术,让数据真正成为企业发展的核心驱动力。

✨✨✨在线文档✨✨✨ https://qdata.qiantong.tech

✨✨✨开源版演示地址✨✨✨ https://qdata-demo.qiantong.tech ,账号:qData 密码:qData123

✨✨✨商业版演示地址✨✨✨ https://qdata-pro.qiantong.tech ,演示账号请 联系客服获取

如果 qData 对您有帮助,请点个 Star ⭐️,这是我们持续更新的最大动力! 🚀

🍱 使用场景

适用于希望通过整合、治理和分析多源数据,打破孤岛、提升质量与效率,实现数据驱动与业务创新的大型企业、中小企业与政府机构。

场景描述典型客户类型
数据整合治理需要汇聚并统一管理来自不同系统、数据库及外部合作方的数据。政府机构、大型集团、科研院校
质量与效率提升面临数据质量不佳、处理效率低下,影响业务分析与应用。金融机构、制造企业、互联网企业
打破数据孤岛多个独立系统各自为政,数据无法流通共享,业务协同受限。集团企业、公共服务机构、智慧城市项目
决策与创新驱动希望通过数据分析支撑战略决策,并挖掘数据价值驱动业务创新。企业管理层、产品创新团队、研究机构
数字化转型支撑正在推进或计划开展数字化转型的企业或政府机构。政府部门、国企、成长型中小企业

💡 优势

优势点描述
高效数据集成数据集成模块对标 Kettle,兼容性强,迁移与使用成本更低。
全生命周期覆盖覆盖数据采集、治理、建模、共享服务,支持完整的端到端业务闭环。
轻量部署,弹性扩展默认单体架构,简单易用;可快速切换微服务模式,满足横向扩展的需求。
高性能处理单节点即可支撑千万级/分钟数据处理,性能强劲。
批流一体,多引擎同时支持批处理与流处理,兼容多种执行引擎,实现不同场景下的数据处理需求一体化。
全类型数据资产管理支持结构化与非结构化数据的统一管理,资产清晰可视。
数据质量合规符合 GB/T 36344 国家标准,确保数据准确、完整、一致并满足合规要求。
开发生产一体化任务配置可跨开发、测试和生产环境复用,简化运维流程。
开源友好体验开箱即用,支持快速部署与示例引导,上手门槛低,社区活跃。
商业版平滑升级先使用开源版进行探索与验证,复杂需求可平滑过渡至商业版,获得全链路保障。

✅ 已有功能一览

模块描述
数据集成(ETL)支持数据库、文件、消息队列等多种数据源的无缝接入,提供直观的ETL设计界面、多任务调度与实时监控,并内置丰富的数据清洗规则。对标 Kettle,以更低的使用成本助力数据流转。
数据资产数据资产管理通过目录结构对数据资产进行精细化分级分类,覆盖从创建到销毁的全生命周期管理,确保每一份数据都得到妥善处理,提升资产可见可控性。
数据服务数据服务管理模块负责将数据资产封装为API服务,支持外部API接口转发,并包含全面的日志管理、数据脱敏、数据接口和服务接口管理及其调用日志监控,实现数据服务能力标准化与可管可控。
数据标准数据标准管理涉及逻辑模型(表级关联数据元)和数据元模型(字段级绑定规范、稽查与清洗),为结构化数据制定统一标准,并确保其质量达到企业级要求。
数据质量数据质量管理利用预置的稽查规则和数据清洗规则,对数据的准确性、一致性、完整性进行自动化校验与修正,确保数据始终处于最佳状态,满足高质量治理需求。
元数据管理元数据管理模块集中管理数据表、字段、稽查、清洗指标等元信息,构建统一的数据资产目录,为用户提供便捷的数据查找途径,支持深入的数据血缘分析和结构维护。
标签管理统一标签管理支持自动生成多维度标签,并提供强大的筛选能力,使数据分类与精准检索变得轻而易举,提升数据使用效率与业务响应速度。
数据开发数据开发模块支持达梦8、MySQL、Oracle、人大金仓等主流数据库的任务开发,结合SQL及大数据脚本,根据业务需求灵活加工和处理数据,支撑复杂业务场景下的数据建模与计算。
数据查询数据查询模块提供灵活且高效的交互式查询工具,让用户能够迅速分析和挖掘结构化数据中的深层价值,提升数据探索与决策辅助能力。
系统管理系统管理涵盖系统配置、用户与权限管理、运行监控、日志管理和服务器资源监控等核心功能,同时提供工作空间管理,实现任务在不同项目组间的高效拆分与协作,适应前店后厂式组织流程。

👉 qData 数据中台采用模块化设计,涵盖12大核心功能模块。最新完整版功能清单参见:qData 功能清单总览

🚧 未来开发计划

功能名称功能描述
数据集成(增强)支持异构数据源、文件、接口及网络爬虫的统一采集与同步,扩展数据转换类型与接入方式,提升多源异构数据整合能力,满足企业多样化数据集成需求。
作业调度中心实现任务编排、依赖管理、定时执行、失败重试、日志追踪等核心调度能力,全面提升任务执行的自动化水平与流程可控性。适用于复杂任务流的统一调度与集中管理。
数据血缘分析支持字段级血缘追踪与图谱化展示,全面梳理数据流转路径与依赖关系,帮助用户清晰理解数据来源与流向,提升数据可追溯性与治理精准度。
数据图谱管理基于数据仓库构建业务实体、事实表与维度表之间的图谱关系,支持多层级模型梳理与可视化展示,增强对数据逻辑结构与业务依赖的理解与管理能力。
实时数据开发基于 Flink、Kafka 等流处理引擎构建实时任务开发能力,支持低延迟数据处理与动态指标计算,适用于实时监控、预警推送与事件驱动型业务场景。
数据质量管理(增强)基于规则引擎实现数据质量检测机制,支持质量报告生成与指标统计分析,自动识别数据准确性、完整性、一致性问题,助力企业构建高质量数据治理体系。
数据比对管理支持数据库连接配置与任务调度,自动执行结构与内容比对任务,生成比对日志,有效验证跨源数据一致性,提升数据校验效率与问题排查能力。
元数据管理(扩展)扩展字段级元数据、数据地图、SQL 控制台与变更记录等能力,逐步构建数据血缘分析、影响分析与结构可视化体系,提升数据资产可维护性与治理透明度。
离线数据开发支持基于 Spark、Hive、SQL 等任务类型的离线数据处理,适用于大规模数据的周期性加工与分析,提供统一的作业管理入口与执行调度机制,提升批量处理效率与稳定性。
数据可视化提供 BI 报表、数据看板、大屏展示等多种可视化能力,支持拖拽式配置、权限控制与图表联动,助力业务人员快速洞察数据价值。
AI 辅助开发与治理引入 AI 技术,支持离线与实时数据开发中的 SQL 智能补全、自动优化、异常检测与调试辅助,显著提升开发效率、代码质量与问题响应能力。

💡 如您有好的建议或功能需求,欢迎 提交Issue,与我们共同完善数据中台功能。

🛠️ 技术栈

qData 平台采用前后端分离架构,后端基于 Spring Boot,前端基于 Vue 3,并整合了部分主流中间件与数据工具。

分类技术描述
后端技术栈Spring Boot提供快速开发能力
Spring Security实现用户权限认证与控制
MySQL、PostgreSQL、达梦8、人大金仓持久化存储与配置管理
MyBatis-Plus简化数据库操作
Redis支持缓存、分布式锁等
RabbitMQ实现异步通信与解耦处理
前端技术栈Vue 3现代化响应式框架
Element UI常用 UI 组件支持
Vite快速开发与构建工具
第三方依赖DolphinScheduler提供可视化任务编排、依赖管理及调度能力
Spark批流一体,支持 ETL 数据处理
Hive支持数据建模、分区管理及元数据维护
Hive、HBase支持海量非结构化与半结构化数据存储

🏗️ 部署要求

在部署 qData 之前,请确保以下环境和工具已正确安装:

环境项目推荐版本说明
后端JDK1.8 或以上建议使用 OpenJDK 8 或 11
Maven3.6+项目构建与依赖管理
达梦88.0关系型数据库(可切至MySQL)
Redis5.0+缓存与消息功能支持
RabbitMQ可选用于任务调度、异步通信等功能
操作系统Windows / Linux / Mac通用环境均可运行
前端Node.js16+构建工具依赖
npm10+包管理器
Vite最新版脚手架工具

🚨 商用授权

qData 提供 商业版开源版 两种形态,满足不同规模与场景下的用户需求。两者既各具特色,又形成互补:开源版更像启蒙老师,帮助低成本起步;商业版更像专家顾问,提供深度与保障。无论选择哪种版本,qData 都将成为可靠的伙伴,帮助企业释放数据价值,加速数字化进程。

👉 如需 开源版品牌授权咨询商业版,请点击按钮查看详情:💼 了解授权详情

🚀 快速开始

部署方式说明适用场景
Docker Compose 部署所有组件(调度器、数据库、消息队列、Spark、Flink 等)以及 qData 数据中台源码都通过 Docker Compose 一键启动初学者快速上手、功能演示、测试环境
使用源代码本地启动qData 数据中台源码由开发者本地运行,依赖组件通过 Docker Compose 启动日常开发、功能联调
自主部署(纯手工安装)所有依赖组件及 qData 数据中台服务均需手工安装和配置生产环境、大规模部署、个性化定制场景

👉 查看完整的安装与部署指南:🧭 点击查看详细部署步骤

👥 QQ交流群

欢迎加入 qData 官方 QQ 交流群,获取最新动态、技术支持与使用交流。

👉 点击加入 QQ 交流群

🖼️ 系统配图

登录页首页
标准检索资产地图
数据连接数据查询
质量任务详情数据连接
质量执行分析数据集成
数据集成配置数据开发
集成实例应用管理

About

qData is an open-source, all-in-one data middle platform that supports core capabilities including data infrastructure, data governance, data development, monitoring & alerting, data services, and data visualization.

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { // Strip utm_, fbclid, gclid, etc. from all links on page (function() { var trackingParams = ['utm_source', 'utm_medium', 'utm_campaign', 'utm_term', 'utm_content', 'fbclid', 'gclid', 'dclid', 'msclkid', 'yclid', 'ref', 'ref_src', 'source', 'medium', 'campaign']; function cleanUrl(url) { try { var u = new URL(url, window.location.origin); var changed = false; trackingParams.forEach(function(p) { if (u.searchParams.has(p)) { u.searchParams.delete(p); changed = true; } }); return changed ? u.toString() : url; } catch (e) { return url; } } function cleanLinks() { document.querySelectorAll('a[href]').forEach(function(a) { var clean = cleanUrl(a.href); if (clean !== a.href) a.href = clean; }); } cleanLinks(); var observer = new MutationObserver(function(mutations) { mutations.forEach(function(m) { m.addedNodes.forEach(function(node) { if (node.nodeType === 1) { if (node.tagName === 'A') cleanLinks(); node.querySelectorAll('a[href]').forEach(function(a) { var clean = cleanUrl(a.href); if (clean !== a.href) a.href = clean; }); } }); }); }); observer.observe(document.body, { childList: true, subtree: true }); })(); } } catch(__e) { console.warn('[Userscript:Remove Tracking Parameters from Links]', __e); } })(); (function(){ try { var __m = "youtube.com"; var __re = new RegExp('^' + "youtube\\.com" + ' GitHub - zuolg/qData: qData is an open-source, all-in-one data middle platform that supports core capabilities including data infrastructure, data governance, data development, monitoring & alerting, data services, and data visualization. · GitHub
Skip to content

Repository files navigation

banner.png

JDKDownloadsDownloads

📖简体中文 | 📖English

🌈 平台简介

qData 数据中台是一套集数据集成标准管理资产治理质量控制服务开放智能分析于一体的企业级数据管理平台,致力于帮助企业实现数据资源的统一管理、高效治理与价值释放。我们秉承“高效、安全、灵活、开放”的理念,持续引入前沿技术,让数据真正成为企业发展的核心驱动力。

✨✨✨在线文档✨✨✨ https://qdata.qiantong.tech

✨✨✨开源版演示地址✨✨✨ https://qdata-demo.qiantong.tech ,账号:qData 密码:qData123

✨✨✨商业版演示地址✨✨✨ https://qdata-pro.qiantong.tech ,演示账号请 联系客服获取

如果 qData 对您有帮助,请点个 Star ⭐️,这是我们持续更新的最大动力! 🚀

🍱 使用场景

适用于希望通过整合、治理和分析多源数据,打破孤岛、提升质量与效率,实现数据驱动与业务创新的大型企业、中小企业与政府机构。

场景描述典型客户类型
数据整合治理需要汇聚并统一管理来自不同系统、数据库及外部合作方的数据。政府机构、大型集团、科研院校
质量与效率提升面临数据质量不佳、处理效率低下,影响业务分析与应用。金融机构、制造企业、互联网企业
打破数据孤岛多个独立系统各自为政,数据无法流通共享,业务协同受限。集团企业、公共服务机构、智慧城市项目
决策与创新驱动希望通过数据分析支撑战略决策,并挖掘数据价值驱动业务创新。企业管理层、产品创新团队、研究机构
数字化转型支撑正在推进或计划开展数字化转型的企业或政府机构。政府部门、国企、成长型中小企业

💡 优势

优势点描述
高效数据集成数据集成模块对标 Kettle,兼容性强,迁移与使用成本更低。
全生命周期覆盖覆盖数据采集、治理、建模、共享服务,支持完整的端到端业务闭环。
轻量部署,弹性扩展默认单体架构,简单易用;可快速切换微服务模式,满足横向扩展的需求。
高性能处理单节点即可支撑千万级/分钟数据处理,性能强劲。
批流一体,多引擎同时支持批处理与流处理,兼容多种执行引擎,实现不同场景下的数据处理需求一体化。
全类型数据资产管理支持结构化与非结构化数据的统一管理,资产清晰可视。
数据质量合规符合 GB/T 36344 国家标准,确保数据准确、完整、一致并满足合规要求。
开发生产一体化任务配置可跨开发、测试和生产环境复用,简化运维流程。
开源友好体验开箱即用,支持快速部署与示例引导,上手门槛低,社区活跃。
商业版平滑升级先使用开源版进行探索与验证,复杂需求可平滑过渡至商业版,获得全链路保障。

✅ 已有功能一览

模块描述
数据集成(ETL)支持数据库、文件、消息队列等多种数据源的无缝接入,提供直观的ETL设计界面、多任务调度与实时监控,并内置丰富的数据清洗规则。对标 Kettle,以更低的使用成本助力数据流转。
数据资产数据资产管理通过目录结构对数据资产进行精细化分级分类,覆盖从创建到销毁的全生命周期管理,确保每一份数据都得到妥善处理,提升资产可见可控性。
数据服务数据服务管理模块负责将数据资产封装为API服务,支持外部API接口转发,并包含全面的日志管理、数据脱敏、数据接口和服务接口管理及其调用日志监控,实现数据服务能力标准化与可管可控。
数据标准数据标准管理涉及逻辑模型(表级关联数据元)和数据元模型(字段级绑定规范、稽查与清洗),为结构化数据制定统一标准,并确保其质量达到企业级要求。
数据质量数据质量管理利用预置的稽查规则和数据清洗规则,对数据的准确性、一致性、完整性进行自动化校验与修正,确保数据始终处于最佳状态,满足高质量治理需求。
元数据管理元数据管理模块集中管理数据表、字段、稽查、清洗指标等元信息,构建统一的数据资产目录,为用户提供便捷的数据查找途径,支持深入的数据血缘分析和结构维护。
标签管理统一标签管理支持自动生成多维度标签,并提供强大的筛选能力,使数据分类与精准检索变得轻而易举,提升数据使用效率与业务响应速度。
数据开发数据开发模块支持达梦8、MySQL、Oracle、人大金仓等主流数据库的任务开发,结合SQL及大数据脚本,根据业务需求灵活加工和处理数据,支撑复杂业务场景下的数据建模与计算。
数据查询数据查询模块提供灵活且高效的交互式查询工具,让用户能够迅速分析和挖掘结构化数据中的深层价值,提升数据探索与决策辅助能力。
系统管理系统管理涵盖系统配置、用户与权限管理、运行监控、日志管理和服务器资源监控等核心功能,同时提供工作空间管理,实现任务在不同项目组间的高效拆分与协作,适应前店后厂式组织流程。

👉 qData 数据中台采用模块化设计,涵盖12大核心功能模块。最新完整版功能清单参见:qData 功能清单总览

🚧 未来开发计划

功能名称功能描述
数据集成(增强)支持异构数据源、文件、接口及网络爬虫的统一采集与同步,扩展数据转换类型与接入方式,提升多源异构数据整合能力,满足企业多样化数据集成需求。
作业调度中心实现任务编排、依赖管理、定时执行、失败重试、日志追踪等核心调度能力,全面提升任务执行的自动化水平与流程可控性。适用于复杂任务流的统一调度与集中管理。
数据血缘分析支持字段级血缘追踪与图谱化展示,全面梳理数据流转路径与依赖关系,帮助用户清晰理解数据来源与流向,提升数据可追溯性与治理精准度。
数据图谱管理基于数据仓库构建业务实体、事实表与维度表之间的图谱关系,支持多层级模型梳理与可视化展示,增强对数据逻辑结构与业务依赖的理解与管理能力。
实时数据开发基于 Flink、Kafka 等流处理引擎构建实时任务开发能力,支持低延迟数据处理与动态指标计算,适用于实时监控、预警推送与事件驱动型业务场景。
数据质量管理(增强)基于规则引擎实现数据质量检测机制,支持质量报告生成与指标统计分析,自动识别数据准确性、完整性、一致性问题,助力企业构建高质量数据治理体系。
数据比对管理支持数据库连接配置与任务调度,自动执行结构与内容比对任务,生成比对日志,有效验证跨源数据一致性,提升数据校验效率与问题排查能力。
元数据管理(扩展)扩展字段级元数据、数据地图、SQL 控制台与变更记录等能力,逐步构建数据血缘分析、影响分析与结构可视化体系,提升数据资产可维护性与治理透明度。
离线数据开发支持基于 Spark、Hive、SQL 等任务类型的离线数据处理,适用于大规模数据的周期性加工与分析,提供统一的作业管理入口与执行调度机制,提升批量处理效率与稳定性。
数据可视化提供 BI 报表、数据看板、大屏展示等多种可视化能力,支持拖拽式配置、权限控制与图表联动,助力业务人员快速洞察数据价值。
AI 辅助开发与治理引入 AI 技术,支持离线与实时数据开发中的 SQL 智能补全、自动优化、异常检测与调试辅助,显著提升开发效率、代码质量与问题响应能力。

💡 如您有好的建议或功能需求,欢迎 提交Issue,与我们共同完善数据中台功能。

🛠️ 技术栈

qData 平台采用前后端分离架构,后端基于 Spring Boot,前端基于 Vue 3,并整合了部分主流中间件与数据工具。

分类技术描述
后端技术栈Spring Boot提供快速开发能力
Spring Security实现用户权限认证与控制
MySQL、PostgreSQL、达梦8、人大金仓持久化存储与配置管理
MyBatis-Plus简化数据库操作
Redis支持缓存、分布式锁等
RabbitMQ实现异步通信与解耦处理
前端技术栈Vue 3现代化响应式框架
Element UI常用 UI 组件支持
Vite快速开发与构建工具
第三方依赖DolphinScheduler提供可视化任务编排、依赖管理及调度能力
Spark批流一体,支持 ETL 数据处理
Hive支持数据建模、分区管理及元数据维护
Hive、HBase支持海量非结构化与半结构化数据存储

🏗️ 部署要求

在部署 qData 之前,请确保以下环境和工具已正确安装:

环境项目推荐版本说明
后端JDK1.8 或以上建议使用 OpenJDK 8 或 11
Maven3.6+项目构建与依赖管理
达梦88.0关系型数据库(可切至MySQL)
Redis5.0+缓存与消息功能支持
RabbitMQ可选用于任务调度、异步通信等功能
操作系统Windows / Linux / Mac通用环境均可运行
前端Node.js16+构建工具依赖
npm10+包管理器
Vite最新版脚手架工具

🚨 商用授权

qData 提供 商业版开源版 两种形态,满足不同规模与场景下的用户需求。两者既各具特色,又形成互补:开源版更像启蒙老师,帮助低成本起步;商业版更像专家顾问,提供深度与保障。无论选择哪种版本,qData 都将成为可靠的伙伴,帮助企业释放数据价值,加速数字化进程。

👉 如需 开源版品牌授权咨询商业版,请点击按钮查看详情:💼 了解授权详情

🚀 快速开始

部署方式说明适用场景
Docker Compose 部署所有组件(调度器、数据库、消息队列、Spark、Flink 等)以及 qData 数据中台源码都通过 Docker Compose 一键启动初学者快速上手、功能演示、测试环境
使用源代码本地启动qData 数据中台源码由开发者本地运行,依赖组件通过 Docker Compose 启动日常开发、功能联调
自主部署(纯手工安装)所有依赖组件及 qData 数据中台服务均需手工安装和配置生产环境、大规模部署、个性化定制场景

👉 查看完整的安装与部署指南:🧭 点击查看详细部署步骤

👥 QQ交流群

欢迎加入 qData 官方 QQ 交流群,获取最新动态、技术支持与使用交流。

👉 点击加入 QQ 交流群

🖼️ 系统配图

登录页首页
标准检索资产地图
数据连接数据查询
质量任务详情数据连接
质量执行分析数据集成
数据集成配置数据开发
集成实例应用管理

About

qData is an open-source, all-in-one data middle platform that supports core capabilities including data infrastructure, data governance, data development, monitoring & alerting, data services, and data visualization.

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { // Auto-enable theater mode on YouTube (function() { function tryTheater() { var btn = document.querySelector('button[aria-label="Theater mode"], ytd-player #player button[title="Theater mode"]'); if (btn && !btn.classList.contains('activated')) { btn.click(); } } // Try immediately tryTheater(); // Try after navigation (SPA) var lastUrl = location.href; setInterval(function() { if (location.href !== lastUrl) { lastUrl = location.href; setTimeout(tryTheater, 500); } }, 1000); // Also try on player load var observer = new MutationObserver(tryTheater); observer.observe(document.body, { childList: true, subtree: true }); })(); } } catch(__e) { console.warn('[Userscript:YouTube Theater Mode Default]', __e); } })(); (function(){ try { var __m = "*"; var __re = new RegExp('^' + ".*" + ' GitHub - zuolg/qData: qData is an open-source, all-in-one data middle platform that supports core capabilities including data infrastructure, data governance, data development, monitoring & alerting, data services, and data visualization. · GitHub
Skip to content

Repository files navigation

banner.png

JDKDownloadsDownloads

📖简体中文 | 📖English

🌈 平台简介

qData 数据中台是一套集数据集成标准管理资产治理质量控制服务开放智能分析于一体的企业级数据管理平台,致力于帮助企业实现数据资源的统一管理、高效治理与价值释放。我们秉承“高效、安全、灵活、开放”的理念,持续引入前沿技术,让数据真正成为企业发展的核心驱动力。

✨✨✨在线文档✨✨✨ https://qdata.qiantong.tech

✨✨✨开源版演示地址✨✨✨ https://qdata-demo.qiantong.tech ,账号:qData 密码:qData123

✨✨✨商业版演示地址✨✨✨ https://qdata-pro.qiantong.tech ,演示账号请 联系客服获取

如果 qData 对您有帮助,请点个 Star ⭐️,这是我们持续更新的最大动力! 🚀

🍱 使用场景

适用于希望通过整合、治理和分析多源数据,打破孤岛、提升质量与效率,实现数据驱动与业务创新的大型企业、中小企业与政府机构。

场景描述典型客户类型
数据整合治理需要汇聚并统一管理来自不同系统、数据库及外部合作方的数据。政府机构、大型集团、科研院校
质量与效率提升面临数据质量不佳、处理效率低下,影响业务分析与应用。金融机构、制造企业、互联网企业
打破数据孤岛多个独立系统各自为政,数据无法流通共享,业务协同受限。集团企业、公共服务机构、智慧城市项目
决策与创新驱动希望通过数据分析支撑战略决策,并挖掘数据价值驱动业务创新。企业管理层、产品创新团队、研究机构
数字化转型支撑正在推进或计划开展数字化转型的企业或政府机构。政府部门、国企、成长型中小企业

💡 优势

优势点描述
高效数据集成数据集成模块对标 Kettle,兼容性强,迁移与使用成本更低。
全生命周期覆盖覆盖数据采集、治理、建模、共享服务,支持完整的端到端业务闭环。
轻量部署,弹性扩展默认单体架构,简单易用;可快速切换微服务模式,满足横向扩展的需求。
高性能处理单节点即可支撑千万级/分钟数据处理,性能强劲。
批流一体,多引擎同时支持批处理与流处理,兼容多种执行引擎,实现不同场景下的数据处理需求一体化。
全类型数据资产管理支持结构化与非结构化数据的统一管理,资产清晰可视。
数据质量合规符合 GB/T 36344 国家标准,确保数据准确、完整、一致并满足合规要求。
开发生产一体化任务配置可跨开发、测试和生产环境复用,简化运维流程。
开源友好体验开箱即用,支持快速部署与示例引导,上手门槛低,社区活跃。
商业版平滑升级先使用开源版进行探索与验证,复杂需求可平滑过渡至商业版,获得全链路保障。

✅ 已有功能一览

模块描述
数据集成(ETL)支持数据库、文件、消息队列等多种数据源的无缝接入,提供直观的ETL设计界面、多任务调度与实时监控,并内置丰富的数据清洗规则。对标 Kettle,以更低的使用成本助力数据流转。
数据资产数据资产管理通过目录结构对数据资产进行精细化分级分类,覆盖从创建到销毁的全生命周期管理,确保每一份数据都得到妥善处理,提升资产可见可控性。
数据服务数据服务管理模块负责将数据资产封装为API服务,支持外部API接口转发,并包含全面的日志管理、数据脱敏、数据接口和服务接口管理及其调用日志监控,实现数据服务能力标准化与可管可控。
数据标准数据标准管理涉及逻辑模型(表级关联数据元)和数据元模型(字段级绑定规范、稽查与清洗),为结构化数据制定统一标准,并确保其质量达到企业级要求。
数据质量数据质量管理利用预置的稽查规则和数据清洗规则,对数据的准确性、一致性、完整性进行自动化校验与修正,确保数据始终处于最佳状态,满足高质量治理需求。
元数据管理元数据管理模块集中管理数据表、字段、稽查、清洗指标等元信息,构建统一的数据资产目录,为用户提供便捷的数据查找途径,支持深入的数据血缘分析和结构维护。
标签管理统一标签管理支持自动生成多维度标签,并提供强大的筛选能力,使数据分类与精准检索变得轻而易举,提升数据使用效率与业务响应速度。
数据开发数据开发模块支持达梦8、MySQL、Oracle、人大金仓等主流数据库的任务开发,结合SQL及大数据脚本,根据业务需求灵活加工和处理数据,支撑复杂业务场景下的数据建模与计算。
数据查询数据查询模块提供灵活且高效的交互式查询工具,让用户能够迅速分析和挖掘结构化数据中的深层价值,提升数据探索与决策辅助能力。
系统管理系统管理涵盖系统配置、用户与权限管理、运行监控、日志管理和服务器资源监控等核心功能,同时提供工作空间管理,实现任务在不同项目组间的高效拆分与协作,适应前店后厂式组织流程。

👉 qData 数据中台采用模块化设计,涵盖12大核心功能模块。最新完整版功能清单参见:qData 功能清单总览

🚧 未来开发计划

功能名称功能描述
数据集成(增强)支持异构数据源、文件、接口及网络爬虫的统一采集与同步,扩展数据转换类型与接入方式,提升多源异构数据整合能力,满足企业多样化数据集成需求。
作业调度中心实现任务编排、依赖管理、定时执行、失败重试、日志追踪等核心调度能力,全面提升任务执行的自动化水平与流程可控性。适用于复杂任务流的统一调度与集中管理。
数据血缘分析支持字段级血缘追踪与图谱化展示,全面梳理数据流转路径与依赖关系,帮助用户清晰理解数据来源与流向,提升数据可追溯性与治理精准度。
数据图谱管理基于数据仓库构建业务实体、事实表与维度表之间的图谱关系,支持多层级模型梳理与可视化展示,增强对数据逻辑结构与业务依赖的理解与管理能力。
实时数据开发基于 Flink、Kafka 等流处理引擎构建实时任务开发能力,支持低延迟数据处理与动态指标计算,适用于实时监控、预警推送与事件驱动型业务场景。
数据质量管理(增强)基于规则引擎实现数据质量检测机制,支持质量报告生成与指标统计分析,自动识别数据准确性、完整性、一致性问题,助力企业构建高质量数据治理体系。
数据比对管理支持数据库连接配置与任务调度,自动执行结构与内容比对任务,生成比对日志,有效验证跨源数据一致性,提升数据校验效率与问题排查能力。
元数据管理(扩展)扩展字段级元数据、数据地图、SQL 控制台与变更记录等能力,逐步构建数据血缘分析、影响分析与结构可视化体系,提升数据资产可维护性与治理透明度。
离线数据开发支持基于 Spark、Hive、SQL 等任务类型的离线数据处理,适用于大规模数据的周期性加工与分析,提供统一的作业管理入口与执行调度机制,提升批量处理效率与稳定性。
数据可视化提供 BI 报表、数据看板、大屏展示等多种可视化能力,支持拖拽式配置、权限控制与图表联动,助力业务人员快速洞察数据价值。
AI 辅助开发与治理引入 AI 技术,支持离线与实时数据开发中的 SQL 智能补全、自动优化、异常检测与调试辅助,显著提升开发效率、代码质量与问题响应能力。

💡 如您有好的建议或功能需求,欢迎 提交Issue,与我们共同完善数据中台功能。

🛠️ 技术栈

qData 平台采用前后端分离架构,后端基于 Spring Boot,前端基于 Vue 3,并整合了部分主流中间件与数据工具。

分类技术描述
后端技术栈Spring Boot提供快速开发能力
Spring Security实现用户权限认证与控制
MySQL、PostgreSQL、达梦8、人大金仓持久化存储与配置管理
MyBatis-Plus简化数据库操作
Redis支持缓存、分布式锁等
RabbitMQ实现异步通信与解耦处理
前端技术栈Vue 3现代化响应式框架
Element UI常用 UI 组件支持
Vite快速开发与构建工具
第三方依赖DolphinScheduler提供可视化任务编排、依赖管理及调度能力
Spark批流一体,支持 ETL 数据处理
Hive支持数据建模、分区管理及元数据维护
Hive、HBase支持海量非结构化与半结构化数据存储

🏗️ 部署要求

在部署 qData 之前,请确保以下环境和工具已正确安装:

环境项目推荐版本说明
后端JDK1.8 或以上建议使用 OpenJDK 8 或 11
Maven3.6+项目构建与依赖管理
达梦88.0关系型数据库(可切至MySQL)
Redis5.0+缓存与消息功能支持
RabbitMQ可选用于任务调度、异步通信等功能
操作系统Windows / Linux / Mac通用环境均可运行
前端Node.js16+构建工具依赖
npm10+包管理器
Vite最新版脚手架工具

🚨 商用授权

qData 提供 商业版开源版 两种形态,满足不同规模与场景下的用户需求。两者既各具特色,又形成互补:开源版更像启蒙老师,帮助低成本起步;商业版更像专家顾问,提供深度与保障。无论选择哪种版本,qData 都将成为可靠的伙伴,帮助企业释放数据价值,加速数字化进程。

👉 如需 开源版品牌授权咨询商业版,请点击按钮查看详情:💼 了解授权详情

🚀 快速开始

部署方式说明适用场景
Docker Compose 部署所有组件(调度器、数据库、消息队列、Spark、Flink 等)以及 qData 数据中台源码都通过 Docker Compose 一键启动初学者快速上手、功能演示、测试环境
使用源代码本地启动qData 数据中台源码由开发者本地运行,依赖组件通过 Docker Compose 启动日常开发、功能联调
自主部署(纯手工安装)所有依赖组件及 qData 数据中台服务均需手工安装和配置生产环境、大规模部署、个性化定制场景

👉 查看完整的安装与部署指南:🧭 点击查看详细部署步骤

👥 QQ交流群

欢迎加入 qData 官方 QQ 交流群,获取最新动态、技术支持与使用交流。

👉 点击加入 QQ 交流群

🖼️ 系统配图

登录页首页
标准检索资产地图
数据连接数据查询
质量任务详情数据连接
质量执行分析数据集成
数据集成配置数据开发
集成实例应用管理

About

qData is an open-source, all-in-one data middle platform that supports core capabilities including data infrastructure, data governance, data development, monitoring & alerting, data services, and data visualization.

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { // Remove or un-stick sticky/fixed headers that block content (function() { function unstick() { document.querySelectorAll('header, nav, [role="banner"], .header, .navbar, .sticky, .fixed-top, [style*="position: fixed"], [style*="position:sticky"]').forEach(function(el) { if (el.style.position === 'fixed' || el.style.position === 'sticky' || getComputedStyle(el).position === 'fixed' || getComputedStyle(el).position === 'sticky') { el.style.position = 'static'; el.style.top = 'auto'; el.style.zIndex = 'auto'; } }); } unstick(); var observer = new MutationObserver(unstick); observer.observe(document.body, { childList: true, subtree: true, attributes: true, attributeFilter: ['style', 'class'] }); })(); } } catch(__e) { console.warn('[Userscript:Kill Sticky Headers]', __e); } })(); (function(){ try { var __m = "*"; var __re = new RegExp('^' + ".*" + ' GitHub - zuolg/qData: qData is an open-source, all-in-one data middle platform that supports core capabilities including data infrastructure, data governance, data development, monitoring & alerting, data services, and data visualization. · GitHub
Skip to content

Repository files navigation

banner.png

JDKDownloadsDownloads

📖简体中文 | 📖English

🌈 平台简介

qData 数据中台是一套集数据集成标准管理资产治理质量控制服务开放智能分析于一体的企业级数据管理平台,致力于帮助企业实现数据资源的统一管理、高效治理与价值释放。我们秉承“高效、安全、灵活、开放”的理念,持续引入前沿技术,让数据真正成为企业发展的核心驱动力。

✨✨✨在线文档✨✨✨ https://qdata.qiantong.tech

✨✨✨开源版演示地址✨✨✨ https://qdata-demo.qiantong.tech ,账号:qData 密码:qData123

✨✨✨商业版演示地址✨✨✨ https://qdata-pro.qiantong.tech ,演示账号请 联系客服获取

如果 qData 对您有帮助,请点个 Star ⭐️,这是我们持续更新的最大动力! 🚀

🍱 使用场景

适用于希望通过整合、治理和分析多源数据,打破孤岛、提升质量与效率,实现数据驱动与业务创新的大型企业、中小企业与政府机构。

场景描述典型客户类型
数据整合治理需要汇聚并统一管理来自不同系统、数据库及外部合作方的数据。政府机构、大型集团、科研院校
质量与效率提升面临数据质量不佳、处理效率低下,影响业务分析与应用。金融机构、制造企业、互联网企业
打破数据孤岛多个独立系统各自为政,数据无法流通共享,业务协同受限。集团企业、公共服务机构、智慧城市项目
决策与创新驱动希望通过数据分析支撑战略决策,并挖掘数据价值驱动业务创新。企业管理层、产品创新团队、研究机构
数字化转型支撑正在推进或计划开展数字化转型的企业或政府机构。政府部门、国企、成长型中小企业

💡 优势

优势点描述
高效数据集成数据集成模块对标 Kettle,兼容性强,迁移与使用成本更低。
全生命周期覆盖覆盖数据采集、治理、建模、共享服务,支持完整的端到端业务闭环。
轻量部署,弹性扩展默认单体架构,简单易用;可快速切换微服务模式,满足横向扩展的需求。
高性能处理单节点即可支撑千万级/分钟数据处理,性能强劲。
批流一体,多引擎同时支持批处理与流处理,兼容多种执行引擎,实现不同场景下的数据处理需求一体化。
全类型数据资产管理支持结构化与非结构化数据的统一管理,资产清晰可视。
数据质量合规符合 GB/T 36344 国家标准,确保数据准确、完整、一致并满足合规要求。
开发生产一体化任务配置可跨开发、测试和生产环境复用,简化运维流程。
开源友好体验开箱即用,支持快速部署与示例引导,上手门槛低,社区活跃。
商业版平滑升级先使用开源版进行探索与验证,复杂需求可平滑过渡至商业版,获得全链路保障。

✅ 已有功能一览

模块描述
数据集成(ETL)支持数据库、文件、消息队列等多种数据源的无缝接入,提供直观的ETL设计界面、多任务调度与实时监控,并内置丰富的数据清洗规则。对标 Kettle,以更低的使用成本助力数据流转。
数据资产数据资产管理通过目录结构对数据资产进行精细化分级分类,覆盖从创建到销毁的全生命周期管理,确保每一份数据都得到妥善处理,提升资产可见可控性。
数据服务数据服务管理模块负责将数据资产封装为API服务,支持外部API接口转发,并包含全面的日志管理、数据脱敏、数据接口和服务接口管理及其调用日志监控,实现数据服务能力标准化与可管可控。
数据标准数据标准管理涉及逻辑模型(表级关联数据元)和数据元模型(字段级绑定规范、稽查与清洗),为结构化数据制定统一标准,并确保其质量达到企业级要求。
数据质量数据质量管理利用预置的稽查规则和数据清洗规则,对数据的准确性、一致性、完整性进行自动化校验与修正,确保数据始终处于最佳状态,满足高质量治理需求。
元数据管理元数据管理模块集中管理数据表、字段、稽查、清洗指标等元信息,构建统一的数据资产目录,为用户提供便捷的数据查找途径,支持深入的数据血缘分析和结构维护。
标签管理统一标签管理支持自动生成多维度标签,并提供强大的筛选能力,使数据分类与精准检索变得轻而易举,提升数据使用效率与业务响应速度。
数据开发数据开发模块支持达梦8、MySQL、Oracle、人大金仓等主流数据库的任务开发,结合SQL及大数据脚本,根据业务需求灵活加工和处理数据,支撑复杂业务场景下的数据建模与计算。
数据查询数据查询模块提供灵活且高效的交互式查询工具,让用户能够迅速分析和挖掘结构化数据中的深层价值,提升数据探索与决策辅助能力。
系统管理系统管理涵盖系统配置、用户与权限管理、运行监控、日志管理和服务器资源监控等核心功能,同时提供工作空间管理,实现任务在不同项目组间的高效拆分与协作,适应前店后厂式组织流程。

👉 qData 数据中台采用模块化设计,涵盖12大核心功能模块。最新完整版功能清单参见:qData 功能清单总览

🚧 未来开发计划

功能名称功能描述
数据集成(增强)支持异构数据源、文件、接口及网络爬虫的统一采集与同步,扩展数据转换类型与接入方式,提升多源异构数据整合能力,满足企业多样化数据集成需求。
作业调度中心实现任务编排、依赖管理、定时执行、失败重试、日志追踪等核心调度能力,全面提升任务执行的自动化水平与流程可控性。适用于复杂任务流的统一调度与集中管理。
数据血缘分析支持字段级血缘追踪与图谱化展示,全面梳理数据流转路径与依赖关系,帮助用户清晰理解数据来源与流向,提升数据可追溯性与治理精准度。
数据图谱管理基于数据仓库构建业务实体、事实表与维度表之间的图谱关系,支持多层级模型梳理与可视化展示,增强对数据逻辑结构与业务依赖的理解与管理能力。
实时数据开发基于 Flink、Kafka 等流处理引擎构建实时任务开发能力,支持低延迟数据处理与动态指标计算,适用于实时监控、预警推送与事件驱动型业务场景。
数据质量管理(增强)基于规则引擎实现数据质量检测机制,支持质量报告生成与指标统计分析,自动识别数据准确性、完整性、一致性问题,助力企业构建高质量数据治理体系。
数据比对管理支持数据库连接配置与任务调度,自动执行结构与内容比对任务,生成比对日志,有效验证跨源数据一致性,提升数据校验效率与问题排查能力。
元数据管理(扩展)扩展字段级元数据、数据地图、SQL 控制台与变更记录等能力,逐步构建数据血缘分析、影响分析与结构可视化体系,提升数据资产可维护性与治理透明度。
离线数据开发支持基于 Spark、Hive、SQL 等任务类型的离线数据处理,适用于大规模数据的周期性加工与分析,提供统一的作业管理入口与执行调度机制,提升批量处理效率与稳定性。
数据可视化提供 BI 报表、数据看板、大屏展示等多种可视化能力,支持拖拽式配置、权限控制与图表联动,助力业务人员快速洞察数据价值。
AI 辅助开发与治理引入 AI 技术,支持离线与实时数据开发中的 SQL 智能补全、自动优化、异常检测与调试辅助,显著提升开发效率、代码质量与问题响应能力。

💡 如您有好的建议或功能需求,欢迎 提交Issue,与我们共同完善数据中台功能。

🛠️ 技术栈

qData 平台采用前后端分离架构,后端基于 Spring Boot,前端基于 Vue 3,并整合了部分主流中间件与数据工具。

分类技术描述
后端技术栈Spring Boot提供快速开发能力
Spring Security实现用户权限认证与控制
MySQL、PostgreSQL、达梦8、人大金仓持久化存储与配置管理
MyBatis-Plus简化数据库操作
Redis支持缓存、分布式锁等
RabbitMQ实现异步通信与解耦处理
前端技术栈Vue 3现代化响应式框架
Element UI常用 UI 组件支持
Vite快速开发与构建工具
第三方依赖DolphinScheduler提供可视化任务编排、依赖管理及调度能力
Spark批流一体,支持 ETL 数据处理
Hive支持数据建模、分区管理及元数据维护
Hive、HBase支持海量非结构化与半结构化数据存储

🏗️ 部署要求

在部署 qData 之前,请确保以下环境和工具已正确安装:

环境项目推荐版本说明
后端JDK1.8 或以上建议使用 OpenJDK 8 或 11
Maven3.6+项目构建与依赖管理
达梦88.0关系型数据库(可切至MySQL)
Redis5.0+缓存与消息功能支持
RabbitMQ可选用于任务调度、异步通信等功能
操作系统Windows / Linux / Mac通用环境均可运行
前端Node.js16+构建工具依赖
npm10+包管理器
Vite最新版脚手架工具

🚨 商用授权

qData 提供 商业版开源版 两种形态,满足不同规模与场景下的用户需求。两者既各具特色,又形成互补:开源版更像启蒙老师,帮助低成本起步;商业版更像专家顾问,提供深度与保障。无论选择哪种版本,qData 都将成为可靠的伙伴,帮助企业释放数据价值,加速数字化进程。

👉 如需 开源版品牌授权咨询商业版,请点击按钮查看详情:💼 了解授权详情

🚀 快速开始

部署方式说明适用场景
Docker Compose 部署所有组件(调度器、数据库、消息队列、Spark、Flink 等)以及 qData 数据中台源码都通过 Docker Compose 一键启动初学者快速上手、功能演示、测试环境
使用源代码本地启动qData 数据中台源码由开发者本地运行,依赖组件通过 Docker Compose 启动日常开发、功能联调
自主部署(纯手工安装)所有依赖组件及 qData 数据中台服务均需手工安装和配置生产环境、大规模部署、个性化定制场景

👉 查看完整的安装与部署指南:🧭 点击查看详细部署步骤

👥 QQ交流群

欢迎加入 qData 官方 QQ 交流群,获取最新动态、技术支持与使用交流。

👉 点击加入 QQ 交流群

🖼️ 系统配图

登录页首页
标准检索资产地图
数据连接数据查询
质量任务详情数据连接
质量执行分析数据集成
数据集成配置数据开发
集成实例应用管理

About

qData is an open-source, all-in-one data middle platform that supports core capabilities including data infrastructure, data governance, data development, monitoring & alerting, data services, and data visualization.

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages

, 'i'); if (__m === '*' || __re.test(location.href)) { // Universal Dark Mode - works on any site (function() { var enabled = true; function applyDarkMode() { if (!enabled) return; // Create style element if it doesn't exist var style = document.getElementById('universal-dark-mode-style'); if (!style) { style = document.createElement('style'); style.id = 'universal-dark-mode-style'; document.head.appendChild(style); } // Dark mode CSS - inverts colors but preserves images/video style.textContent = ' /* Invert everything except media */ html { filter: invert(1) hue-rotate(180deg) !important; background: #1a1a2e !important; } /* Restore images, videos, iframes, canvas */ img, video, iframe, canvas, svg, picture, [style*="background-image"] { filter: invert(1) hue-rotate(180deg) !important; } /* Preserve specific elements that should not be inverted */ .no-dark-mode, .no-dark-mode *, [data-theme="light"], [data-theme="light"], .ace_editor, .ace_editor *, .CodeMirror, .CodeMirror *, .monaco-editor, .monaco-editor *, .markdown-body pre, .markdown-body pre *, .highlight, .highlight *, pre code, pre code * { filter: none !important; } /* Fix common UI elements */ .modal, .popup, .dropdown-menu, .tooltip, .popover { filter: invert(1) hue-rotate(180deg) !important; background: #2d2d44 !important; border-color: #444 !important; } /* Scrollbars */ ::-webkit-scrollbar { background: #1a1a2e !important; } ::-webkit-scrollbar-thumb { background: #444 !important; } ::-webkit-scrollbar-thumb:hover { background: #555 !important; } /* Selection */ ::selection { background: #4ecdc4 !important; color: #1a1a2e !important; } ::-moz-selection { background: #4ecdc4 !important; color: #1a1a2e !important; } '; } function removeDarkMode() { var style = document.getElementById('universal-dark-mode-style'); if (style) style.remove(); } // Toggle with Alt+Shift+D document.addEventListener('keydown', function(e) { if (e.altKey && e.shiftKey && e.key === 'D') { e.preventDefault(); enabled = !enabled; if (enabled) { applyDarkMode(); console.log('[Universal Dark Mode] Enabled'); } else { removeDarkMode(); console.log('[Universal Dark Mode] Disabled'); } } }); // Apply on load applyDarkMode(); // Re-apply on dynamic content var observer = new MutationObserver(function(mutations) { if (enabled && !document.getElementById('universal-dark-mode-style')) { applyDarkMode(); } }); observer.observe(document.head, { childList: true }); console.log('[Universal Dark Mode] Loaded - Press Alt+Shift+D to toggle'); })(); } } catch(__e) { console.warn('[Userscript:Universal Dark Mode]', __e); } })(); })(); GitHub - zuolg/qData: qData is an open-source, all-in-one data middle platform that supports core capabilities including data infrastructure, data governance, data development, monitoring & alerting, data services, and data visualization. · GitHub
Skip to content

Repository files navigation

banner.png

JDKDownloadsDownloads

📖简体中文 | 📖English

🌈 平台简介

qData 数据中台是一套集数据集成标准管理资产治理质量控制服务开放智能分析于一体的企业级数据管理平台,致力于帮助企业实现数据资源的统一管理、高效治理与价值释放。我们秉承“高效、安全、灵活、开放”的理念,持续引入前沿技术,让数据真正成为企业发展的核心驱动力。

✨✨✨在线文档✨✨✨ https://qdata.qiantong.tech

✨✨✨开源版演示地址✨✨✨ https://qdata-demo.qiantong.tech ,账号:qData 密码:qData123

✨✨✨商业版演示地址✨✨✨ https://qdata-pro.qiantong.tech ,演示账号请 联系客服获取

如果 qData 对您有帮助,请点个 Star ⭐️,这是我们持续更新的最大动力! 🚀

🍱 使用场景

适用于希望通过整合、治理和分析多源数据,打破孤岛、提升质量与效率,实现数据驱动与业务创新的大型企业、中小企业与政府机构。

场景描述典型客户类型
数据整合治理需要汇聚并统一管理来自不同系统、数据库及外部合作方的数据。政府机构、大型集团、科研院校
质量与效率提升面临数据质量不佳、处理效率低下,影响业务分析与应用。金融机构、制造企业、互联网企业
打破数据孤岛多个独立系统各自为政,数据无法流通共享,业务协同受限。集团企业、公共服务机构、智慧城市项目
决策与创新驱动希望通过数据分析支撑战略决策,并挖掘数据价值驱动业务创新。企业管理层、产品创新团队、研究机构
数字化转型支撑正在推进或计划开展数字化转型的企业或政府机构。政府部门、国企、成长型中小企业

💡 优势

优势点描述
高效数据集成数据集成模块对标 Kettle,兼容性强,迁移与使用成本更低。
全生命周期覆盖覆盖数据采集、治理、建模、共享服务,支持完整的端到端业务闭环。
轻量部署,弹性扩展默认单体架构,简单易用;可快速切换微服务模式,满足横向扩展的需求。
高性能处理单节点即可支撑千万级/分钟数据处理,性能强劲。
批流一体,多引擎同时支持批处理与流处理,兼容多种执行引擎,实现不同场景下的数据处理需求一体化。
全类型数据资产管理支持结构化与非结构化数据的统一管理,资产清晰可视。
数据质量合规符合 GB/T 36344 国家标准,确保数据准确、完整、一致并满足合规要求。
开发生产一体化任务配置可跨开发、测试和生产环境复用,简化运维流程。
开源友好体验开箱即用,支持快速部署与示例引导,上手门槛低,社区活跃。
商业版平滑升级先使用开源版进行探索与验证,复杂需求可平滑过渡至商业版,获得全链路保障。

✅ 已有功能一览

模块描述
数据集成(ETL)支持数据库、文件、消息队列等多种数据源的无缝接入,提供直观的ETL设计界面、多任务调度与实时监控,并内置丰富的数据清洗规则。对标 Kettle,以更低的使用成本助力数据流转。
数据资产数据资产管理通过目录结构对数据资产进行精细化分级分类,覆盖从创建到销毁的全生命周期管理,确保每一份数据都得到妥善处理,提升资产可见可控性。
数据服务数据服务管理模块负责将数据资产封装为API服务,支持外部API接口转发,并包含全面的日志管理、数据脱敏、数据接口和服务接口管理及其调用日志监控,实现数据服务能力标准化与可管可控。
数据标准数据标准管理涉及逻辑模型(表级关联数据元)和数据元模型(字段级绑定规范、稽查与清洗),为结构化数据制定统一标准,并确保其质量达到企业级要求。
数据质量数据质量管理利用预置的稽查规则和数据清洗规则,对数据的准确性、一致性、完整性进行自动化校验与修正,确保数据始终处于最佳状态,满足高质量治理需求。
元数据管理元数据管理模块集中管理数据表、字段、稽查、清洗指标等元信息,构建统一的数据资产目录,为用户提供便捷的数据查找途径,支持深入的数据血缘分析和结构维护。
标签管理统一标签管理支持自动生成多维度标签,并提供强大的筛选能力,使数据分类与精准检索变得轻而易举,提升数据使用效率与业务响应速度。
数据开发数据开发模块支持达梦8、MySQL、Oracle、人大金仓等主流数据库的任务开发,结合SQL及大数据脚本,根据业务需求灵活加工和处理数据,支撑复杂业务场景下的数据建模与计算。
数据查询数据查询模块提供灵活且高效的交互式查询工具,让用户能够迅速分析和挖掘结构化数据中的深层价值,提升数据探索与决策辅助能力。
系统管理系统管理涵盖系统配置、用户与权限管理、运行监控、日志管理和服务器资源监控等核心功能,同时提供工作空间管理,实现任务在不同项目组间的高效拆分与协作,适应前店后厂式组织流程。

👉 qData 数据中台采用模块化设计,涵盖12大核心功能模块。最新完整版功能清单参见:qData 功能清单总览

🚧 未来开发计划

功能名称功能描述
数据集成(增强)支持异构数据源、文件、接口及网络爬虫的统一采集与同步,扩展数据转换类型与接入方式,提升多源异构数据整合能力,满足企业多样化数据集成需求。
作业调度中心实现任务编排、依赖管理、定时执行、失败重试、日志追踪等核心调度能力,全面提升任务执行的自动化水平与流程可控性。适用于复杂任务流的统一调度与集中管理。
数据血缘分析支持字段级血缘追踪与图谱化展示,全面梳理数据流转路径与依赖关系,帮助用户清晰理解数据来源与流向,提升数据可追溯性与治理精准度。
数据图谱管理基于数据仓库构建业务实体、事实表与维度表之间的图谱关系,支持多层级模型梳理与可视化展示,增强对数据逻辑结构与业务依赖的理解与管理能力。
实时数据开发基于 Flink、Kafka 等流处理引擎构建实时任务开发能力,支持低延迟数据处理与动态指标计算,适用于实时监控、预警推送与事件驱动型业务场景。
数据质量管理(增强)基于规则引擎实现数据质量检测机制,支持质量报告生成与指标统计分析,自动识别数据准确性、完整性、一致性问题,助力企业构建高质量数据治理体系。
数据比对管理支持数据库连接配置与任务调度,自动执行结构与内容比对任务,生成比对日志,有效验证跨源数据一致性,提升数据校验效率与问题排查能力。
元数据管理(扩展)扩展字段级元数据、数据地图、SQL 控制台与变更记录等能力,逐步构建数据血缘分析、影响分析与结构可视化体系,提升数据资产可维护性与治理透明度。
离线数据开发支持基于 Spark、Hive、SQL 等任务类型的离线数据处理,适用于大规模数据的周期性加工与分析,提供统一的作业管理入口与执行调度机制,提升批量处理效率与稳定性。
数据可视化提供 BI 报表、数据看板、大屏展示等多种可视化能力,支持拖拽式配置、权限控制与图表联动,助力业务人员快速洞察数据价值。
AI 辅助开发与治理引入 AI 技术,支持离线与实时数据开发中的 SQL 智能补全、自动优化、异常检测与调试辅助,显著提升开发效率、代码质量与问题响应能力。

💡 如您有好的建议或功能需求,欢迎 提交Issue,与我们共同完善数据中台功能。

🛠️ 技术栈

qData 平台采用前后端分离架构,后端基于 Spring Boot,前端基于 Vue 3,并整合了部分主流中间件与数据工具。

分类技术描述
后端技术栈Spring Boot提供快速开发能力
Spring Security实现用户权限认证与控制
MySQL、PostgreSQL、达梦8、人大金仓持久化存储与配置管理
MyBatis-Plus简化数据库操作
Redis支持缓存、分布式锁等
RabbitMQ实现异步通信与解耦处理
前端技术栈Vue 3现代化响应式框架
Element UI常用 UI 组件支持
Vite快速开发与构建工具
第三方依赖DolphinScheduler提供可视化任务编排、依赖管理及调度能力
Spark批流一体,支持 ETL 数据处理
Hive支持数据建模、分区管理及元数据维护
Hive、HBase支持海量非结构化与半结构化数据存储

🏗️ 部署要求

在部署 qData 之前,请确保以下环境和工具已正确安装:

环境项目推荐版本说明
后端JDK1.8 或以上建议使用 OpenJDK 8 或 11
Maven3.6+项目构建与依赖管理
达梦88.0关系型数据库(可切至MySQL)
Redis5.0+缓存与消息功能支持
RabbitMQ可选用于任务调度、异步通信等功能
操作系统Windows / Linux / Mac通用环境均可运行
前端Node.js16+构建工具依赖
npm10+包管理器
Vite最新版脚手架工具

🚨 商用授权

qData 提供 商业版开源版 两种形态,满足不同规模与场景下的用户需求。两者既各具特色,又形成互补:开源版更像启蒙老师,帮助低成本起步;商业版更像专家顾问,提供深度与保障。无论选择哪种版本,qData 都将成为可靠的伙伴,帮助企业释放数据价值,加速数字化进程。

👉 如需 开源版品牌授权咨询商业版,请点击按钮查看详情:💼 了解授权详情

🚀 快速开始

部署方式说明适用场景
Docker Compose 部署所有组件(调度器、数据库、消息队列、Spark、Flink 等)以及 qData 数据中台源码都通过 Docker Compose 一键启动初学者快速上手、功能演示、测试环境
使用源代码本地启动qData 数据中台源码由开发者本地运行,依赖组件通过 Docker Compose 启动日常开发、功能联调
自主部署(纯手工安装)所有依赖组件及 qData 数据中台服务均需手工安装和配置生产环境、大规模部署、个性化定制场景

👉 查看完整的安装与部署指南:🧭 点击查看详细部署步骤

👥 QQ交流群

欢迎加入 qData 官方 QQ 交流群,获取最新动态、技术支持与使用交流。

👉 点击加入 QQ 交流群

🖼️ 系统配图

登录页首页
标准检索资产地图
数据连接数据查询
质量任务详情数据连接
质量执行分析数据集成
数据集成配置数据开发
集成实例应用管理

About

qData is an open-source, all-in-one data middle platform that supports core capabilities including data infrastructure, data governance, data development, monitoring & alerting, data services, and data visualization.

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages