/alldata

💥🔥 大数据生态解决方案数据平台:基于大数据、数据平台、微服务、机器学习、商城、自动化运维、DevOps、容器部署平台、数据平台采集、数据平台存储、数据平台计算、数据平台开发、数据平台应用搭建的大数据解决方案。

Primary LanguageJavaApache License 2.0Apache-2.0

🔥大数据生态解决方案数据平台

💥 Demo网页体验

⚡️⚡️ 测试账号:test 密码:test123.

💥 原型图:

⭐️ 开源大数据平台原型图:
image
image

💥 架构图:


image


image


💥 数据质量:


image


image


image


image


image


image



Livy访问查看JOB

image


image



💥 Demo展示:

image

image

image

image


1、数据平台:
bdp-platform:基于大数据、数据平台、微服务、机器学习、商城、自动化运维、DevOps、容器部署平台、数据平台采集、数据平台存储、数据平台计算、数据平台开发、数据平台应用搭建的大数据解决方案。
数据来源:
商城:使用SpringBoot,Java,Vue,React,Android开发多端商城,包括网站、App、微信小程序;
日志:使用Java开发服务端日志、客户端日志收集系统,使用DataX实现数据的导入导出系统;
爬虫:爬虫平台支持可配置的爬取公网数据的任务开发;
数据存储:
分布式文件系统使用HDFS,分布式数据库使用HBase,Mongodb、Elasticsearch,内存数据库使用redis;
数据计算:
使用Hive、MR、HiveSQL、ETL开发离线计算系统;
使用storm、flink、spark streaming开发实时计算系统;
使用kylin, spark开发多维度分析系统;
数据开发:
任务管理系统:负责调度、分配、提交任务到数据平台;
任务运维系统:查看Task运行情况;
数据应用:
使用python,ml,spark mllib实现个性化推荐系统;
使用python,scrapy,django,elasticsearch实现搜索引擎;
使用scala,flink开发反作弊系统;
使用FineReport,scala,playframework开发报表分析系统;
DevOps:
使用ELK技术栈搭建日志搜索平台;
使用skywalking,Phoenix实现监控平台;
使用scala、playframework,docker,k8s,shell实现云容器平台,包含服务管理(查看docker容器配置,添加容器实例,授权记录,操作记录,历史版本回溯,k8s启停服务,操作记录,对比yaml配置,更新服务)、任务管理、配置管理、镜像构建(包括环境变量和参数配置)、应用日志
使用自动化运维平台CoDo开发system-devops;
使用Kong开发统一网关入口系统system-api-gateway;
使用vue、scala、playframework、docker、k8s、Prometheus、grafana开发监控告警平台system-alarm-platform;
使用Apollo开发system-config配置中心;
2、数据平台展示

image

image

image

image

image

image

image

image

image

image


2.2 compute-mr

	1、mr-website-analyse: 
	    1.1 主要做的事情:
		hadoop HA集群搭建部署;
		mapreduce基础掌握;
		使用 oozie进行任务调度;
		使用 hive保存数据到hdfs,以及从hdfs导出到 mysql;
		使用hbase结合mapreduce处理业务,如用户行为分析;
		使用flume,nginx模拟收集日志,从java sdk端和js 网站端收集数据等; 
	    1.2 主要模块
		用户基本信息分析
		浏览器分析
		地域分析
		浏览深度分析
		搜索引擎分析
		事件分析
		订单分析

	2、mr-website-sdk
	    2.1 java服务端sdk采集
	    2.2 JS前端页面的数据模拟采集  

	3、mr-website-view
	    3.1 数据可视化显示
	    3.2 主要使用highcharts,html,css, js显示mr-website-analyse数据处理的统计数据,存在mysql

image

image

image

image

image

image

image


2.3 compute-realtime:
1、compute-realtime-spark:
1.1 主要做的事情:
基于Javee平台展示的Spark实时数据分析平台
hadoop HA集群搭建部署;
基于zookeeper的kafka HA集群搭建部署;
HA: 本地搭建时共5个节点,2个namenode,3个datanode;
spark core, spark sql, spark streaming基础掌握;
kafka实时模拟生成数据并使用spark streaming实时处理来自kafka的数据;
实时处理分析结果保存到mysql, 由highcharts动态刷新;
highcharts实时展示统计分析结果,以及spark sql算子执行结果;
1.2 主要模块
广告点击流量分析
广告点击趋势分析
各省份top3热门广告分析
各区域top3热门商品统计
页面单跳转化率
用户访问session分析
Top10热门品类分析
Top10用户session分析

2、compute-realtime-view
2.1 数据可视化显示,定时模拟kafka消息队列的数据
2.2 主要使用highcharts,html,css, js显示compute-realtime-spark数据处理的统计数据,存在mysql

image

image

image

image


3、数据来源

	商城前台:
		mall-shopping-app: 商城App
		mall-shopping-app-service: 商城App服务
		mall-shopping-wc: 商城小程序
		mall-shopping-mobile: 商城前台
		mall-shopping-pc: 商城pc端
		mall-pc-backend: 商城pc端服务
		mall-shopping-service: 商城前台服务(小程序和前台接入此接口)
	商城后台:
		mall-admin-web: 商城后台
		mall-admin-service: 商城后台服务
4、数据收集
log-collect-server:
服务端日志收集系统
log-collect-client:
支持各app集成的客户端SDK,负责收集app客户端数据;
data-import-export:
基于DataX实现数据集成(导入导出)
data-spider:
爬虫平台支持可配置的爬取公网数据的任务开发;

image

image

image


5、数据存储
分布式文件系统:hdfs
分布式数据库:hbase、mongodb、elasticsearch
分布式内存存储系统:redis
6、数据计算
compute-mr(离线计算): Hive、MR
compute-realtime(流计算): storm、flink
multi-dimension-analysis(多维度分析): kylin, spark
7、数据开发
task-schedular: 任务调度
task-ops: 任务运维

image

image

image


8、数据产品
data-face: 数据可视化
data-insight: 用户画像分析

9、数据应用
system-recommender: 推荐
system-ad: 广告
system-search: 搜索
system-anti-cheating: 反作弊
system-report-analysis: 报表分析
system-elk: ELK日志系统,实现日志搜索平台
system-apm: skywalking监控平台
system-deploy: k8s,scala,playframework,docker打包平台。
job-schedule: 任务提交平台

image


10、启动配置教程

10.1 启动前,打包dubbo-servie项目,进入dubbo-service目录,

执行mvn clean package -DskipTests=TRUE打包,然后执行mvn install.

10.2 启动dubbo-service项目,配置tomcat端口为8091

image

10.3 启动商城项目的多个子系统

后台:访问http://localhost:8090

10.3.1、前端:启动mall-admin-web项目,进入项目目录,执行npm install,然后执行npm run dev;

10.3.2、后端:启动mall-admin-service/mall-admin-search项目,

配置tomcat端口为8092,接着启动mall-manage-service项目,tomcat端口配置为8093;

image

image

前台:小程序手机预览,移动端访问:http://localhost:6255

10.3.3、小程序和移动端

10.3.3.1、前端:商城小程序,启动mall-shopping-wc项目,

安装微信开发者工具,配置开发者key和secret,

使用微信开发者工具导入即可,然后点击编译,可以手机预览使用。

image

10.3.3.2、前端:商城移动端,启动mall-shopping-mobile,

进入项目目录,执行npm install和npm run dev;

10.3.3.3、后端:小程序和移动端用的是同一个后台服务,

启动mall-shopping-service项目,进入项目目录,配置tomcat端口8094

image

10.3.4、商城PC端 访问http://localhost:8099

10.3.4.1、前端:启动mall-shopping-pc项目,

进入项目目录,执行npm install和npm run dev;

10.3.4.2、后端:启动mall-pc-backend项目,配置tomcat端口为8095;

image

11 开发计划

image

12 架构1.0

12.1、数据平台架构

image

12.2、电商

image

12.3、微服务

image

12.4、容器化部署system-deploy

image

image

12.5、自动化运维平台system-devops

image

12.6、使用Kong作为调用中心网关入口system-api-gateway

image

image

12.7、日志中心system-elk

image

12.8、告警平台system-alarm-platform

12.8.1 监控系统

image

12.8.2 数据采集

image

12.8.3 数据展示

image

12.9、监控中心system-apm

image

12.10、使用Apollo作为配置中心system-config

image

13、技术交流群二维码
⭐️ Github大数据平台QQ群号:935658273
⭐️ Github大数据QQ群二维码:
image

⭐️ linhaopenghong@gmail.com
⭐️ Wechat

image