Sovereign AI Platform Engineer (m/w/d) - T Cloud Public

Die Mission dieser Rolle ist es, eine souveräne AI-Toolchain zu entwerfen, aufzubauen und zu betreiben, die in isolierten oder streng kontrollierten Umgebungen eingesetzt wird. Dies umfasst Model Serving, Retrieval, Orchestrierung, Observability sowie den sicheren Plattformbetrieb für Enterprise-AI-Engineering-Workloads. Der Fokus dieser Rolle liegt auf Open-Source- oder Open-Weight-LLM-Stacks, Air-Gapped- oder isolierten Deployment-Modellen, Kubernetes-basiertem Platform Engineering, GPU-fähigen Umgebungen und prüfbaren AI-Operationen, die für souveränitätskritische Programme geeignet sind.

Aufgaben

• Entwurf und Betrieb von Kubernetes-Umgebungen, die für AI-Inferenz, Retrieval, Experimente und Agenten-Ausführung in sicheren oder isolierten Settings optimiert sind
• Deployment und Betrieb von Open-Source- oder Open-Weight-Model-Stacks, Model-Gateways, Vektordatenbanken und unterstützenden Plattformkomponenten
• Aufbau reproduzierbarer Plattformautomatisierung mittels Infrastructure as Code und GitOps-Ansätzen, um eine stabile und prüfbare Bereitstellung zu gewährleisten
• Verwaltung lokaler Registries, Package-Mirrors, Secrets, Zugriffskontrollen, Storage, Networking und Observability in Umgebungen mit begrenzter oder keiner Abhängigkeit von der Public Cloud
• Optimierung der GPU-, Compute- und Storage-Nutzung für zuverlässige AI-Workloads unter Einhaltung der Sicherheits- und Datensouveränitätsanforderungen

Wir suchen einen professionellen Platform Engineer / MLOps Specialist mit umfangreicher Erfahrung in Kubernetes, Linux und KI-Infrastruktur, speziell mit Fokus auf dem Deployment von souveränen, air-gapped oder isolierten LLM-Stacks.

Muss-Kriterien

• Mindestens 5 Jahre Erfahrung in Platform Engineering, DevOps, SRE oder MLOps
• Ausgeprägte Expertise in Kubernetes und Linux
• Nachgewiesene Erfahrung mit KI-Infrastruktur und Model Serving
• Erfahrung mit privaten oder On-Prem-Deployments sowie Produktionsbetrieb für LLM-basierte Workloads
• Starke Hands-on-Kenntnisse in Python
• Versiertheit in Automatisierungstools wie Terraform, Ansible und Helm
• Erfahrung mit GitOps-Workflows
• Tiefes Verständnis von Networking, Storage, Zugriffskontrolle und Monitoring
• Erfahrung mit operational Hardening in Hochsicherheitsumgebungen
• Fähigkeit, in souveränitätsgetriebenen Umgebungen zu arbeiten, die Auditierbarkeit, Isolation und kontrollierte Datenverarbeitung erfordern
• Erfahrung mit Inference- und lokalen Serving-Stacks wie vLLM, Ollama, llama.cpp oder OpenAI-kompatiblen, selbst gehosteten Endpunkten
• Erfahrung mit Open-Source- oder Open-Weight-Modellen für souveräne Deployments
• Erfahrung mit Platform-Tooling wie ArgoCD, privaten Registries und Vector Stores wie Qdrant
• Erfahrung mit entwicklerorientierten Integrationsoptionen wie VS Code-kompatiblen Extensions oder lokalen Modell-Connectoren im Stil von Continue
• Hardware-Know-how bezüglich GPU-gestützter Nodes, CPU-only Fallback-Optionen, Storage-Performance und Netzwerkisolation

Als attraktivster Arbeitgeber Ungarns im Jahr 2025 (laut einer repräsentativen Umfrage von Randstad) ist Deutsche Telekom IT Solutions eine Tochtergesellschaft der Deutschen Telekom Gruppe. Das Unternehmen bietet ein breites Portfolio an IT- und Telekommunikationsdienstleistungen mit mehr als 5300 Mitarbeitern. Wir haben hunderte von Großkunden und Unternehmen in Deutschland sowie in anderen europäischen Ländern.

DT-ITS erhielt 2019 den Best in Educational Cooperation Award von HIPA und wurde 2019 als ethischstes multinationales Unternehmen ausgezeichnet. Das Unternehmen entwickelt seine vier Standorte in Budapest, Debrecen, Pécs und Szeged kontinuierlich weiter und sucht qualifizierte IT-Fachkräfte, die Teil des Teams werden möchten.