Teilnehmer:
Friedrich Roth
Calvin Reibenspieß
Alessandro Ullmer
Raphael Ullmer
Nico Wolff

🍕 W3M20035.1 Cloud Infrastructures

Use Case: Skalierbares Pizza-Backen in der Cloud

Entwickelt wurde eine Web-Applikation mit Frontend und Backend. Ergänzend dazu gibt es Pizzaöfen als separate Pods, die in der Infrastruktur dynamisch hoch- und herunterskaliert werden.

Im Frontend können Pizzen in eine Warteschlange gelegt werden. Jeder Ofen kann gleichzeitig bis zu 3 Pizzen backen. Eine Pizza wird 90 Sekunden gebacken. Alle 5 Sekunden wird die Warteschlange überprüft und weiter abgearbeitet. Abhängig von der Länge der Warteschlange werden automatisch neue Öfen gestartet oder wieder entfernt.

Technologien

UI: Next.js / React
Backend: TypeScript / Node.js
Ofen: C#
Orchestrierung: Minikube / Kubernetes
Monitoring: Prometheus & Grafana
Provisionierung: Ansible
Deployment: Helm

Getting Started

Vorgehen um eine laufende Installation im OpenStackCluster zu erhalten: Erstellen der VM mit Terraform, Datei mit den entsprechenden Rechten anpassen.

cd deployment
terraform apply

Ausführen der Ansible Skripte um einen Ubuntuserver aufzusetzen und die Applikation in minikube zu installieren:

ansible-playbook -i openstack-inventory.txt ansible/installdocker.yaml -key-file "<path_to_key>"
ansible-playbook -i openstack-inventory.txt ansible/minikubehelm.yaml -key-file "<path_to_key>"
ansible-playbook -i openstack-inventory.txt ansible/clonaandbuildimage.yaml -key-file "<path_to_key>"
ansible-playbook -i openstack-inventory.txt ansible/buildandinstallhelm.yaml -key-file "<path_to_key>"

Um die Applikation zu erreichem muss die /etc/hosts Datei angepast werden (tested for manjaro Linux)

127.0.0.1 chart-example.com
127.0.0.1 chart-monitoring.com
127.0.0.1 chart-grafana.com

Anschließend müssen zwei SSH Tunnel für die Applikation geöffnet werden. SSH Tunnel:

ssh ubuntu@<ip> -i ~/.ssh/cloudnative -L 443:192.168.49.2:443
ssh ubuntu@<ip> -i ~/.ssh/cloudnative -L 80:192.168.49.2:80

Alternativ kann die Applikation natürlich auch lokal in minikube oder einem Cluster laufen. Im Folgenden wird das lokale minikube Setup beschrieben. Getestet wurde diese Anleitung auf Linux (Manjaro)

Voraussetzungen

Minikube starten

minikube start
minikube addons enable ingress
minikube addons enable metrics-server

Docker Build

macOS / Linux:

eval $(minikube docker-env)

Windows:

@FOR /f "tokens=*" %i IN ('minikube -p minikube docker-env --shell cmd') DO @%i

oder

minikube -p minikube docker-env --shell powershell | Invoke-Expression

Docker Images bauen

# Frontend
docker build -f containers/frontend/Dockerfile --tag frontend:latest --build-arg NEXT_PUBLIC_WS_URL=ws://chart-example.com/ws .

# Backend
docker build -f containers/backend/Dockerfile --tag backend:latest .

# Ofen
docker build -f containers/furnace/Dockerfile --tag oven:latest .

Helm Commands

helm repo add prometheus-community https://prometheus-community.github.io/helm-charts
helm repo add grafana https://grafana.github.io/helm-charts
helm dependency build deployment/charts/application/
helm install test deployment/charts/application/

Hosts-Datei anpassen

Windows:
%windir%\system32\drivers\etc\hosts (statt Minikube IP 127.0.0.1 verwenden und minikube tunnel benutzen)
Linux/macOS:
/etc/hosts
Beispiel:

192.168.49.2 chart-example.com
192.168.49.2 chart-monitoring.com
192.168.49.2 chart-grafana.com

Nach einer Startphase erreichbar unter:

Applikation: chart-example.com
Prometheus: chart-monitoring.com
Grafana: chart-grafana.com

Grafana konfigurieren:

Passwort holen:

Windows:

kubectl get secret -n default test-grafana -o jsonpath="{.data.admin-password}" | ForEach-Object { [System.Text.Encoding]::UTF8.GetString([System.Convert]::FromBase64String($_)) }

Linux/macOS:

kubectl get secret -n default test-grafana -o jsonpath="{.data.admin-password}" | base64 --decode

Open Grafana: chart-grafana.com:

Username: admin
Passwort:

Add Data Source:

Connections -> Data Source -> Add new Data Source -> Prometheus
Prometheus server URL: http://test-prometheus-server
Save & test

Add Dashboards: Dashboards -> New -> Import

Import the Dashboards:
containers/monitoring/Grafana_Dashboard_Pizza_Details.json (Eigen gebautes Dashboard) containers/monitoring/k8s-views-nodes.json (Quelle: https://github.com/dotdc/grafana-dashboards-kubernetes/blob/master/dashboards/k8s-views-nodes.json)

Troubleshooting

Im Folgendnen gibt es eine Sammlung von Lösungen bei unterschiedlichen aufgetretenen Befehlen auf unterschiedlichen Plattformen

Problem: `ImagePullBackOff` in `kubectl get pods`

Docker Images lokal bauen (siehe oben).
Mit Minikube laden:
```
minikube image load <image-name>
```
Überprüfen:
```
kubectl get pods
```

Problem: Pods laufen, Code-Änderung wird aber nicht übernommen

Neues Docker-Image bauen.

Altes Image in Minikube löschen:

minikube ssh
docker rmi <image-name>
exit

Neues Image laden:
```
minikube image load <image-name>:<tag>
```

Helm Release neu installieren:

helm uninstall <releasename>
helm install <releasename> <path-to-charts>

Problem: Ingress erreichbar, aber kein Zugriff von Host

Minikube-Tunnel starten:
```
minikube tunnel
```
Danach sind die Pods unter 127.0.0.1 erreichbar. Die Hosts-Datei muss wie folgt angepasst werden:

    127.0.0.1 chart-example.com
    127.0.0.1 chart-monitoring.com
    127.0.0.1 chart-grafana.com

Problem: Kubernetes erkennt `:latest` nicht

kubectl rollout restart deployment test-frontend

calvinrbnspiess/W3M20035.1-cloud-infrastructures