AI Solution Architect (m/w/d)

Company shown to members 🔒 · Remote · Location not stated

Location not statedSeniorPublished 14 July 2026Check carefully

Apply free: 3 jobs are on us✨ Tailor my resume for this job🎤 Practise the interview question, free

✓ Straight from the company's own careers page. No middlemen, no “we'll send you a check for equipment”. How we check jobs

✓ Sent 100 applications and heard nothing? Make this one count: tailor your resume to this ad in one tap, free.

✨ Not sure this is the one? Get your remote job matches in 30 seconds →

First recorded by Psst: 12 October 2026. Your first 3 jobs are free to apply to (the first right away, 2 more with your email). After that, the company and the apply link are for Psst members, from $4.99 for 7 days.

Free interview practice

Practise the first interview question for this job

If the company replies, the first call usually starts with a question like this. Vague answers are the easiest to reject. Write yours and get an AI score in under a minute.

The 20-second read

Experience
Senior
Where you can live
Location not stated
Languages
German
Skills and tools
python, aws, azure, docker, kubernetes, terraform
Job type
Full-time

Read from the ad by Psst's rules. Check the full ad below before applying.

Job details

Where you can work
Location not stated
Employment type
Full-time
Advertised pay
Not stated by the employer
Experience
Senior
Employer publication date
14 July 2026
First recorded by Psst
12 October 2026
Last checked at the source
10 November 2026

About the job

Als IT-Dienstleister treiben wir die Digitalisierung des öffentlichen Sektors voran und schaffen echten Mehrwert für Millionen Menschen in Deutschland. Wir können vieles richtig gut, aber eben noch nicht alles. Darum suchen wir immer wieder neue Kolleg:innen, die mit ihren Ideen, ihrem Können und Engagement etwas bewegen wollen. Fühlst du dich angesprochen? Dann gestalte Deine Welt zum Besseren und werde Teil unseres Customer Cluster Environment, Transportation & Energy.

DEINE MISSION

Als AI Solution Architect (m/w/d) gestaltest Du die KI-/ML-Gesamtarchitektur für komplexe Enterprise-Umgebungen in der Cloud mit Schwerpunkt Microsoft Azure. Du verbindest fundiertes Know-how in ML Engineering, RAG-Architekturen und MLOps, um KI-Lösungen produktionsreif, skalierbar und sicher umzusetzen. Dabei arbeitest Du eng mit technischen Expert:innen, Fachbereichen und Entscheidungsträgern zusammen und trägst maßgeblich dazu bei, innovative KI-Lösungen erfolgreich zu etablieren.

Deine Aufgaben

  • Entwurf und Weiterentwicklung der KI-/ML-Gesamtarchitektur als Enterprise-KI-Plattform mit Schwerpunkt Microsoft Azure
  • Technische Leitung von ML-Pipeline-Projekten, insbesondere in den Bereichen Training, Deployment, Monitoring und Drift Detection
  • Konzeption und Optimierung von RAG-Architekturen, beispielsweise hinsichtlich Chunking, Retrieval, Guardrails und Context Orchestration
  • Definition und Weiterentwicklung von MLOps-Strategien einschließlich CI/CD für Modelle, Experiment-Tracking und Model Registry
  • Technische Führung und Koordination interdisziplinärer Teams aus ML/AI Engineers, LLM Engineers und MLOps Engineers
  • Beratung interner und externer Stakeholder zu KI-Architekturen sowie Präsentation technischer Konzepte gegenüber IT-Leitung und Fachbereichen

DAS IST UNS WICHTIG

  • Fundierte Erfahrung mit cloudbasierten KI-/ML-Lösungen, idealerweise auf Microsoft Azure, insbesondere Azure Machine Learning und Azure OpenAI Service. Kenntnisse weiterer Cloud- und AI-Services sind von Vorteil.
  • Praktische Erfahrung mit MLOps-Konzepten und entsprechenden Werkzeugen wie MLflow, Kubeflow oder Azure ML Pipelines.
  • Erfahrung im Aufbau von RAG-Architekturen, Prompt Engineering und im Umgang mit Vektordatenbanken.
  • Kenntnisse in der Integration und Orchestrierung von Sprachmodellen, idealerweise mit Frameworks wie LangChain oder LlamaIndex.
  • Erfahrung mit CI/CD für ML-Anwendungen sowie sehr gute Python-Kenntnisse.
  • Praktische Erfahrung mit mindestens zwei gängigen Machine-Learning-Frameworks, beispielsweise scikit-learn, PyTorch oder TensorFlow.
  • Erfahrung im Aufbau von Enterprise-Architekturen in Cloud-Umgebungen.
  • Kenntnisse in angrenzenden Bereichen wie Datenplattformen, Containerisierung, Container-Orchestrierung, Infrastructure as Code und Observability sind von Vorteil, beispielsweise mit Databricks, Azure Data Factory, Azure Data Lake, Docker, Kubernetes, Terraform, Prometheus, Grafana oder Application Insights.
  • Grundlegendes Verständnis von AI Governance, Responsible AI sowie Sicherheits- und Datenschutzanforderungen im Enterprise-Umfeld.
  • Mehrjährige Erfahrung mit ML-/AI-Architekturen oder vergleichbaren technischen Aufgaben in Enterprise-Umgebungen.
  • Erfahrung in einer technischen Leitungs- oder Architekturrolle ist wünschenswert.
  • Azure-, AWS- oder Google-Cloud-Zertifizierungen sind ein Plus.
  • Idealerweise Erfahrung in der Energiebranche oder Versorgungswirtschaft sowie mit datengetriebenen Anwendungsfällen.
  • Sehr gute Deutschkenntnisse (C2-Niveau) sowie gute Englischkenntnisse.

DEIN NEUER ARBEITSPLATZ

  • Was bei uns zählt? Klar definierte Rollen, echtes Miteinander und ein gemeinsames Ziel. Wir nennen das Responsiveness – transparent, wertschätzend und zielorientiert.
  • Hier bist du am Wandel direkt beteiligt, wenn du möchtest. – Nimm Teil an Projekten, die uns als Unternehmen weiterentwickeln.
  • Flexible Arbeitszeiten und Remote Work? – Sind selbstverständlich.
  • Individuelles Hardware-Budget? – Stell dir deinen Arbeitsplatz so zusammen, wie du dich am wohlsten fühlst.
  • Mental Health? – Dein mentales Wohlbefinden ist uns wichtig. Mit OpenUp unterstützen wir dich und bieten dir jederzeit kostenlosen Zugang zu professioneller psychologischer Unterstützung.
  • Individuelles Weiterbildungsbudget? – Egal ob die nächste Zertifizierung oder ein lang ersehnter Sprachkurs – du entscheidest, worin und wann du dich weiterbildest.
  • Mitarbeiter:innen-PC-Programm? – Lease dir dein nächstes Device zur rein privaten Nutzung einfach über the company.
  • JobRad oder Firmenwagen? – Wir helfen dir dabei, so mobil zu sein, wie du es brauchst.

Erzähl mir, wer du bist und wann du anfangen kannst. Gerne auch über [link for members] . Ich freue mich darauf, dich kennenzulernen.

Laura Korth

Senior HR Recruiterin

+49 170 3600221

[link for members]

Apply free: 3 jobs are on us✨ Tailor my resume for this jobPrepare with the Apply kitMore remote solutions architect jobs →

Find my remote job matches →
Ghost Job Detector: Check carefully
  • Open 4 months
  • No pay listed
Signals, not proof. Check the company's page before you spend time on it.
Free to build · no sign-up

A resume that gets past the first 6 seconds

Recruiters skim. The Psst resume coach fixes what makes them skip you, line by line, and one tap tailors it to the exact job you're applying to.

  • 1Every line checkedWeak starts, clichés and AI-sounding phrases flagged, with a 3-question fix.
  • 2Tailored to the jobSee which skills and tools from the ad your resume is missing. Try it free on one of your matches.
  • 3Ready for remoteTime zone, tools and proof you work on your own, the things remote teams look for.
  • 4Looks the partOne page, 6 designs, 8 colours and a matching cover letter, free to build. Premium downloads the PDF and Word files.
Try the resume coach →Compare Premium

Set up your job alert