8000 GitHub - xiongshengxiao/CloudEon: CloudEon 使用 Kubernetes 安装和部署开源大数据组件,使开源大数据平台的容器化运行成为可能。这允许您减少对底层资源管理和维护的关注。
[go: up one dir, main page]
More Web Proxy on the site http://driver.im/
Skip to content

CloudEon 使用 Kubernetes 安装和部署开源大数据组件,使开源大数据平台的容器化运行成为可能。这允许您减少对底层资源管理和维护的关注。

License

Notifications You must be signed in to change notification settings

xiongshengxiao/CloudEon

Repository files navigation

Dromara CloudEon云原生大数据平台

GitHub Pull Requests Gitee Star

HitCount Commits pre-commit All Contributors GitHub license

🌉 构建于kubernetes集群之上的大数据管理平台 🌉


ℹ️ 项目简介

CloudEon 是基于 Kubernetes 的资源安装部署开源大数据组件,实现开源大数据平台的容器化运行,您可减少对于底层资源的运维关注。

该项目搬运于Dromara CloudEon,是在CloudEon:dev2.0的基础上进行升级改造。

🔗 文档快链

项目相关介绍,使用,最佳实践等相关内容,都会在官方文档呈现,如有疑问,请先阅读官方文档,以下列举以下常用快链。

👨‍💻 开源地址

分类 GitHub Gitee
后端 https://github.com/dromara/CloudEon https://gitee.com/dromara/CloudEon
前端 https://github.com/dromara/CloudEon/tree/master/cloudeon-ui https://gitee.com/dromara/CloudEon/tree/master/cloudeon-ui
大数据组件 https://github.com/dromara/CloudEon/tree/master/cloudeon-stack https://gitee.com/dromara/CloudEon/tree/master/cloudeon-stack

👍集成组件

序号 名称 版本 描述
1 Prometheus 2.17.2 高性能监控指标采集与告警系统
2 Grafana 9.1.6 监控分析与数据可视化套件
3 AlertManager 0.23.0 告警通知管理系统
4 Global 1.0.0 全局配置
5 Helm 0.15.4 简化 Kubernetes 应用部署和管理的工具
6 HDFS 3.3.4 分布式大数据存储
7 YARN 3.3.4 分布式资源调度与管理平台
8 ZooKeeper 3.7.1 分布式协调系统
9 Minio 2021-04-22T15-44-28Z S3分布式对象存储系统
10 Hive 3.1.3 离线数据仓库
11 Spark 3.2.3 分布式计算系统
12 Flink 1.20.1 实时计算引擎
13 Paimon 1.0.1 流批统一的数据处理存储系统
14 Dinky 1.2.3 流处理极速开发框架,流批一体&湖仓一体的云原生平台
15 Doris 2.1.9 新一代极速全场景MPP数据库
16 StarRocks 3.3.13 新一代极速全场景MPP数据库
17 Kafka 4.0.0 高吞吐量分布式发布订阅消息系统
18 DolphoinScheduler 3.1.9 分布式易扩展的可视化工作流任务调度平台
19 Hbase 2.4.16 分布式列式存储数据库
20 ElasticSearch 7.16.3 高性能搜索引擎
21 DataVines 1.0.0 一站式开源数据可观测性平台,内置元数据管理、数据质量管理等
22 DataX & DataXWeb(单节点) 3.0.0-2.1.2 阿里巴巴开源数据同步工具
23 Seatunnel & SeatunnelWeb 2.3.8-1.0.2 海量数据同步引擎
24 Filebeat 7.16.3 日志采集工具
25 Kylin 5.0.0 大数据开源OLAP 引擎
26 Trino 424 离线数据仓库分布式Sql交互式查询引擎
27 Kyuubi 1.7.0 分布式和多租户的SQL网关
28 Solr 8.11.4 企业级的搜索引擎系统

注:排名不分先后

😵TODO

  • 实现大数据相关组件集群进行横向扩容 -在原先部署好的服务进行添加新实例(苦恼中...)
  • 前后端新增添加用户(admin用户才有添加权限)和修改密码的功能,并修复前端页面在登录状态刷新就跳转到登录页面
  • 集成StarRocks,并添加监控
  • 集成升级Doris2.1.9高版本
  • 集成DataX && DataXWeb-单节点
  • 集成升级Kafka4.0.0&3.9.0-KRaft模式
  • 集成升级Dinky1.2.3
  • 集成Flink1.20.1升级-支持Flink全方面功能(原作者Flink只是部署History服务),包括Python、Minio、FlinkCDC、Kafka、Paimon等支持
  • 集成Minio:2021-04-22T15-44-28Z
  • 集成升级Seatunnel:2.3.8 && Seatunnel_Web:1.0.2
  • 集成DolphinScheduler-3.1.9降级-3.2+版本目前反馈有存在Bug,不适合用于生产
  • 集成DataVines:1.0.0(暂不支持 Flink 引擎)
  • 集成Redis8.0.0(想法中)
  • 集成Superset(想法中)
  • 集成Ranger权限控制框架(在办)
  • 集成Solr
  • ......

🤗 另外

  • 如果觉得项目不错,麻烦动动小手点个⭐️star⭐️!
  • 如果你还有其他想法或者需求,欢迎在issue中交流!

📝 使用登记

如果你所在公司使用了该项目,烦请在这里留下脚印,感谢支持🥳 点我

🥰 感谢

感谢如下优秀的项目,没有这些项目,不可能会有CloudEon:

☎️社区交流

微信公众号

图片.png

原作者微信

图片.png(添加请备注CloudEon)

本人微信-欢迎志同道合的朋友一起交流技术

3d84848615899c09a469891791f622e(添加请备注CloudEon)

🤝 贡献者

Thanks goes to these wonderful people (emoji key):

Pandas886
Pandas886

💻
Mericol
Mericol

💻
Koyfin
Koyfin

🚇 ⚠️ 💻
mechaelyoung
mechaelyoung

💻
且炼时光
且炼时光

💻
XiuhongTang
XiuhongTang

💻
KangTomwk
KangTomwk

💻
Cheng Pan
Cheng Pan

💻
maiwang li
maiwang li

💻
liang281778527
liang281778527

💻
anzhen-tech
anzhen-tech

💻
奋斗吧少年
奋斗吧少年

💻
rugalcrimson
rugalcrimson

💻
buer
buer

💻

This project follows the all-contributors specification. Contributions of any kind welcome!

About

CloudEon 使用 Kubernetes 安装和部署开源大数据组件,使开源大数据平台的容器化运行成为可能。这允许您减少对底层资源管理和维护的关注。

Topics

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Sponsor this project

Packages

No packages published
0