JDP 是什么?
企业级Core Data & Core AI 统一分析平台, JDP全称JDataFlow Platform
,分析流动中的数据。JDP并不是一个框架,而是一套完整的解决方案,主要包括:
- 基础理念:
JDP
基于分布式数据存储和技术引擎设计。 - 开发工具:
Ambari
,基于Ambari源码扩展,JDP更好的融合Ambari,利用Ambari管理JDP统一分析平台。 - 基础构成:
JDP
核心基于高性能的分布式 DataFlow 计算引擎设计,支撑万亿数据秒级响应能力。 - 核心功能:
JDP
核心Core Data & Core AI:- Core Data提供高度易用的统一数据分析体验,真正的统一 Batch & Streaming 计算模型。
- Core AI提供分布式系统上的AI能力,帮助企业智能化转型,提供低 TCO、全自动化、智能化AI应用。
- 基础运维:开箱即用,可视化运维管理系统
Ambari Manager
:- 提供核心的服务管理与配置中心功能,保障集群的稳定可靠。
- 简单高效的管理大规模分布式系统,仅需专注业务应用。
# 设计原则
- Internet of Things (IoT),连接一切的时代,数据在流动中被处理。
- 简单易用的 FQL,实现跨数据源融合计算能力。
- JDP统一分析平台,简单高性能的数据分析,Core Data遵循分布式系统设计原则。
- 遵循企业现有服务体系。无缝融入现有企业数据中心系统,可直接交互数据。
# 特性
- One-stop solution:开箱即用 & 简单 & 易用。
- 高性能:万亿数据秒级响应,提供PB级数据存储。
- 扩展性:规模化部署,可达几百台集群规模。
- 可视化:可视化的数据收集、数据存储、数据分析、数据报表。
- 可靠性:集群提供副本容错机制,硬件故障不会造成数据丢失。
- 简单运维:日志、监控、报警、配置、服务一栈式管理。
- 简单易用:提供标准SQL,拖拽式数据分析。
- 数据处理全流程闭环:
Load Data -> FQL Analysis -> Save Data
- 跨多云协作、分析、处理数据,例如:S3、ADLS、GCP、OSS等
- FQL for Everyone & All in FQL
# 什么样的项目适合用JDP
目前JDP的定位主要是流数据处理能力
及结构数据管理能力
。基于这两大能力,JDP有自己的特定应用场景。主要如下:
- 即席查询
- 海量日志分析
- 实时数据处理
- 离线数据处理
- 数据可视化