Von der Entwicklung in die Produktion
Das beste ML-Modell nützt nichts, wenn es nicht zuverlässig in Produktion läuft.
Wir bringen Ihre Anwendungen sicher in die Cloud und sorgen dafür, dass sie dort auch bleiben. Mit Infrastructure-as-Code, automatisierten Deployments und umfassender Observability.
Reproduzierbarkeit
Jedes Deployment ist identisch – egal ob Entwicklung, Staging oder Produktion
Schnelle Iterationen
Von Commit zu Production in Minuten, nicht Tagen
Ausfallsicherheit
Selbstheilende Systeme, automatische Rollbacks, Zero-Downtime Deployments
Transparenz
Logs, Metriken und Traces – alles an einem Ort
Kubernetes: Container-Orchestrierung richtig gemacht
Kubernetes ist ein verbreiteter Standard für Container-Orchestrierung. Sinnvoll ist es aber nur, wenn Team, Betrieb und Komplexität dazu passen. Typische Bausteine sind:
k3s auf Hetzner
Leichtgewichtiges Kubernetes für kosteneffiziente Deployments:
- Volle K8s-Kompatibilität bei geringerem Overhead
- Perfekt für Single-Node bis Multi-Node Cluster
- Deutsche Rechenzentren für DSGVO-Compliance
Kustomize
Deklarative Konfiguration ohne Template-Magie:
- Base-Manifests mit Environment-Overlays
- Patches für umgebungsspezifische Anpassungen
- Keine Helm-Charts nötig für die meisten Fälle
Traefik Ingress
Moderner Ingress Controller mit automatischer TLS:
- Let's Encrypt Integration via cert-manager
- Middleware für Rate-Limiting, Auth, Redirects
- Dashboard für Traffic-Monitoring
NetworkPolicies
Zero-Trust Networking im Cluster:
- Pods dürfen nur kommunizieren, was explizit erlaubt ist
- Schutz vor lateraler Bewegung bei Kompromittierung
- Dokumentierte Datenflüsse
GitOps mit Flux CD
Git als Single Source of Truth – alle Änderungen an der Infrastruktur gehen durch Pull Requests:
Code Push
Entwickler pushen Code → CI baut Container Image → Push zu Registry (GHCR)
Image Update
Flux erkennt neues Image → Aktualisiert Kustomization automatisch
Reconciliation
Flux synchronisiert Cluster-State mit Git → Deployment rollt aus
Verification
Health Checks bestätigen Erfolg → Bei Fehler: automatischer Rollback
Vorteile von GitOps:
- Audit Trail: Jede Änderung ist in Git nachvollziehbar
- Disaster Recovery: Cluster aus Git komplett wiederherstellbar
- Team-Kollaboration: Infrastruktur-Änderungen via PRs mit Review
Secret Management mit SOPS
Secrets gehören nicht in Git – außer sie sind verschlüsselt:
SOPS + Age Encryption
Secrets werden lokal mit Age-Keys verschlüsselt und als .enc.yaml in Git committed. Flux entschlüsselt automatisch beim Deployment.
- Keine externen Secret-Manager nötig
- Versionierung und Audit wie normaler Code
- Rotation durch Key-Austausch
Key Management
Age-Keys werden sicher verwaltet – nur CI/CD und berechtigte Entwickler haben Zugriff.
- Separate Keys für Environments
- Key-Rotation ohne Re-Deployment
- Integration mit GitHub Actions
Observability Stack
Ohne Monitoring fliegen Sie blind. Unser Stack für volle Transparenz:
Prometheus
MetrikenTime-Series Datenbank für alle Cluster-Metriken:
- CPU, Memory, Network pro Pod/Service
- Custom Metrics aus Ihren Anwendungen
- Alerting bei Schwellwertüberschreitung
Grafana
DashboardsVisualisierung und Exploration:
- Vorgefertigte Dashboards für K8s-Workloads
- Custom Dashboards für Business-Metriken
- Alert-Übersicht und Incident-Tracking
Loki
LogsLog-Aggregation im Prometheus-Stil:
- Alle Container-Logs zentral durchsuchbar
- Label-basierte Filterung
- Integration mit Grafana für Log-Korrelation
Promtail
CollectionDaemonSet für Log-Shipping:
- Läuft auf jedem Node
- Automatische Label-Extraktion aus K8s-Metadata
- Effiziente Kompression
Spezialfall: GPU-Workloads außerhalb Kubernetes
Nicht jede GPU gehört in den Cluster. Für ML-Workloads kombinieren wir:
CPU-Cluster (K8s)
APIs, Datenbanken, Web-Frontend – alles was keine GPU braucht läuft kosteneffizient auf Hetzner k3s.
GPU-Worker (extern)
Celery-Worker auf dedizierten GPU-Maschinen (Büro, Cloud) verbinden sich via SSH-Tunnel zum Cluster und verarbeiten ML-Tasks.
Diese Architektur bietet:
- Kostenoptimierung: GPUs nur bezahlen, wenn sie gebraucht werden
- Flexibilität: GPU-Worker können überall laufen
- Skalierbarkeit: Einfach weitere Worker hinzufügen
Projekt-Beispiel: BidLyzer Infrastruktur
Die BidLyzer-Plattform läuft auf dieser Architektur:
- k3s auf Hetzner mit CloudNativePG für PostgreSQL
- Flux CD für automatische Deployments
- SOPS-verschlüsselte Secrets in Git
- Prometheus/Grafana/Loki für Monitoring
- Externe GPU-Worker für ML-Inference via Celery
Sprechen wir über Ihre Infrastruktur.
30 Minuten Erstgespräch. Sie schildern Ihre Lage: Kubernetes-Migration, GitOps-Einführung, Monitoring-Setup oder etwas ganz anderes. Danach sollte klarer sein, ob externe Unterstützung sinnvoll ist und wo sie konkret ansetzen würde.
Erstgespräch vereinbaren