JDP 是什么?

企业级Core Data & Core AI 统一分析平台, JDP全称JDataFlow Platform,分析流动中的数据。JDP并不是一个框架,而是一套完整的解决方案,主要包括:

  • 基础理念:JDP 基于分布式数据存储和技术引擎设计。
  • 开发工具:Ambari,基于Ambari源码扩展,JDP更好的融合Ambari,利用Ambari管理JDP统一分析平台。
  • 基础构成:JDP核心基于高性能的分布式 DataFlow 计算引擎设计,支撑万亿数据秒级响应能力。
  • 核心功能:JDP核心Core Data & Core AI:
    • Core Data提供高度易用的统一数据分析体验,真正的统一 Batch & Streaming 计算模型。
    • Core AI提供分布式系统上的AI能力,帮助企业智能化转型,提供低 TCO、全自动化、智能化AI应用。
  • 基础运维:开箱即用,可视化运维管理系统Ambari Manager
    • 提供核心的服务管理与配置中心功能,保障集群的稳定可靠。
    • 简单高效的管理大规模分布式系统,仅需专注业务应用。

JDataFlow

# 设计原则

  • Internet of Things (IoT),连接一切的时代,数据在流动中被处理。
  • 简单易用的 FQL,实现跨数据源融合计算能力。
  • JDP统一分析平台,简单高性能的数据分析,Core Data遵循分布式系统设计原则。
  • 遵循企业现有服务体系。无缝融入现有企业数据中心系统,可直接交互数据。

# 特性

  • One-stop solution:开箱即用 & 简单 & 易用。
  • 高性能:万亿数据秒级响应,提供PB级数据存储。
  • 扩展性:规模化部署,可达几百台集群规模。
  • 可视化:可视化的数据收集、数据存储、数据分析、数据报表。
  • 可靠性:集群提供副本容错机制,硬件故障不会造成数据丢失。
  • 简单运维:日志、监控、报警、配置、服务一栈式管理。
  • 简单易用:提供标准SQL,拖拽式数据分析。
  • 数据处理全流程闭环:Load Data -> FQL Analysis -> Save Data
  • 跨多云协作、分析、处理数据,例如:S3、ADLS、GCP、OSS等
  • FQL for Everyone & All in FQL

# 什么样的项目适合用JDP

目前JDP的定位主要是流数据处理能力结构数据管理能力。基于这两大能力,JDP有自己的特定应用场景。主要如下:

  • 即席查询
  • 海量日志分析
  • 实时数据处理
  • 离线数据处理
  • 数据可视化