Devoteam
Open Source / Red Hat IA Platform Engineer (H/F)
Levallois Perret, Île-de-France, France
hirly Pro
Get in front of the people hiring at Devoteam
- Reach the hiring manager at Devoteam on LinkedIn, from your own account
- hirly applies to this job for you, with unlimited applications
- A resume and cover letter written for this job, unlimited
- The hiring manager and recruiter at Devoteam, with contact details
$49 a month · ₹1,999 for 30 days in India · cancel any time
Get past the screening software and onto a recruiter's desk
hirly rewrites your resume for this job — matching the keywords and skills in the posting, moving your most relevant experience to the top, and writing a cover letter to fit. About 30 seconds.
- Keywords matched to this posting
- Fit score before you apply
- Cover letter included
Matched against 2.8M live jobs from 220,000+ employers in 200+ countries.
Tailor my resume for this job →Apply from your AI assistant
Connect hirly to Claude or ChatGPT and ask it to apply to this job. hirly tailors your resume, fills the employer’s form and asks before sending.
Some employer sites stop an application at a CAPTCHA or sign-in and hand it back with a link. Applying needs a paid plan. Works with any assistant that supports MCP.
hirly's read of this role
- Role family
- Engineering
- Seniority
- Mid level
- Country
- FR
- Work mode
- Remote-friendly
- First seen by hirly
- 25 Sept 2026
Derived automatically from the posting. Upload your resume above to see how the role scores against it.
the posting
En 2026, l’enjeu de l’Intelligence Artificielle en entreprise a basculé du prototypage vers l’ingénierie d’infrastructure, le serving haute performance et la maîtrise des coûts GPU.
 
En tant qu'AI Platform Engineer, vous serez au cœur de cette convergence entre Platform Engineering (Kubernetes / OpenShift) et LLMOps. Vous concevrez, déploierez et opérerez les plateformes industrielles permettant d'entraîner, fine-tuner, orchestrer et servir des modèles d'IA générative (LLM, SLM, vision) sécurisés et souverains.
 
1️⃣ Orchestration & Serving LLM Haute Performance (High-Throughput Inference)
Déployer, optimiser et opérer les moteurs d'inférence de pointe : vLLM (PagedAttention, Prefix Caching, continuous batching), LLMD, LiteLLM Proxy, SGLang, TGI et Triton Inference Server.
Implémenter des architectures de Multi-LoRA Serving (S-LoRA) pour mutualiser un modèle de fondation unique et servir à chaud des dizaines d'adaptateurs métier sur un même GPU.
Mettre en œuvre le serving déclaratif serverless via KServe et ModelMesh sur Red Hat OpenShift AI (RHOAI).
2️⃣ Orchestration Matérielle, Batch Scheduling & GPU FinOps
Déployer et configurer le NVIDIA GPU Operator, la Container Device Interface (CDI) et la Dynamic Resource Allocation (DRA).
Maximiser l'utilisation de la VRAM via le découpage NVIDIA MIG (Multi-Instance GPU) et le vGPU time-slicing.
Déployer et configurer Kueue pour le batch scheduling multi-tenant, la gestion fine des files d'attente de jobs GPU (ClusterQueue / LocalQueue) et le fair-sharing des quotas de calcul entre équipes.
Bâtir des architectures d'autoscaling élastique pilotées par le KV-Cache et les métriques de requêtes en attente avec KEDA et Prometheus.
3️⃣ Frameworks Agentiques, Pipelines RAG & Écosystème Llama Stack
Standardiser les briques d'IA générative d'entreprise en déployant le Llama Stack Operator et l'interfaçage avec les APIs unifiées d'inférence, de sécurité et d'agents.
Industrialiser des architectures RAG avancées et des workflows multi-agents avec LangChain, LangGraph et LlamaIndex.
Déployer et opérer des bases de données vectorielles distribuées à haute résilience (Milvus Distributed, Qdrant, pgvector, ChromaDB) adossées à OpenShift Data Foundation (Ceph / ODF).
Déployer et sécuriser des passerelles Model Context Protocol (MCP) en environnement Zero-Trust.
4️⃣ Fine-Tuning Souverain & Calcul Distribué
Industrialiser les pipelines d'alignement et de fine-tuning open source avec InstructLab (méthode LAB) et RHEL AI sur modèles souverains et open-weights (IBM Granite 3.x, Mistral AI, Llama 3.x / 4, DeepSeek).
Orchestrer les entraînements et traitements distribués avec KubeRay, Ray Serve, Kueue et Kubeflow Pipelines.
5️⃣ Sécurité, Gouvernance & Observabilité (IA Act Ready)
Intégrer des garde-fous éthiques et de sécurité : NeMo Guardrails, TrustyAI (explicabilité et détection des biais).
Mettre en place l'observabilité LLMOps complète avec OpenTelemetry (suivi de la latence TTFT / TPOT, traçabilité des tokens, auditabilité et FinOps IA).
Automatiser l'ensemble de la stack en GitOps (ArgoCD / OpenShift GitOps) et Ansible Automation Platform.
Issu(e) d’une formation d’ingénieur ou équivalent (Bac+5), vous avez une expérience confirmée en ingénierie de plateformes Kubernetes/Cloud Native et êtes passionné(e) par l'écosystème de l'IA générative et du LLMOps.
🛠️ Compétences Techniques Clés :
Socle Plateforme & Conteneurs : Maîtrise approfondie de Kubernetes et Red Hat OpenShift (4.x), Operators (OLM), GitOps (ArgoCD), Linux/RHEL, Podman/Docker.
Plateformes & Frameworks IA : Expérience ou maîtrise de Red Hat OpenShift AI (RHOAI), vLLM, LLMD / LiteLLM, KServe, LangChain / LangGraph, LlamaIndex, Kueue, Kubeflow / Ray.
Accélération & Stockage : Notions solides sur les GPUs NVIDIA (GPU Operator, CUDA, MIG), stockage distribué pour l'IA (S3/Ceph/ODF) et bases vectorielles (Milvus, Qdrant, pgvector).
Développement & Automatisation : Python (PyTorch, SDKs IA, APIs FastAPI/REST), Bash, YAML, Ansible.
Une connaissance d'OpenClaw est un plus !
🌟 Certifications (Fortement valorisées) :
Red Hat Certified Specialist in AI/ML (EX267) ou OpenShift Administration (EX280 / EX380 / EX288).
CKA (Certified Kubernetes Administrator) / CKAD.
💡 Soft Skills :
Rigueur d'ingénierie, curiosité pour les dernières avancées open source (papers, nouveaux modèles, runtimes).
Capacité à vulgariser des architectures d'IA complexes auprès de décideurs et d'équipes de Data Science.
Esprit d'équipe, autonomie et goût pour les projets d'innovation à fort impact.
 
   Ce que STARTX | Part of Devoteam vous apporte :
🎓 Accès illimité aux formations & certifications : Abonnement personnel Red Hat Learning Subscription (RHLS Enterprise) avec passages d'examens 
⚡ Environnements de pointe : Accès à de vrais clusters GPU d'expérimentation, des POCs clients ambitieux et une relation privilégiée avec les ingénieries de Red Hat, NVIDIA, IBM et Mistral AI.
🏡 Flexibilité & Qualité de vie : Télétravail hybride maîtrisé, locaux modernes et événements tech réguliers (Tech Days, Red Hat Summit, conférences).
💼 Package complet : Rémunération attractive (fixe + variable), mutuelle d’entreprise de premier rang, carte ticket restaurant, indemnités télétravail et équipement matériel haut de gamme (MacBook Pro M-Series).
Devoteam est un leader du conseil en stratégie digitale, plateformes technologiques, cybersécurité et transformation IA. Avec 11 000 collaborateurs en Europe, Moyen-Orient et Afrique, Devoteam met depuis 30 ans la Technologie au service de l’Homme et accélère la transition des grands comptes vers l'IA d'entreprise.
🎯 Zoom sur STARTX | Part of Devoteam, le Centre d'Excellence Cloud Native & IA Open Source de Devoteam.
STARTX | Part of Devoteam est l'élite Open Source et Cloud Native de Devoteam. Premier et partenaire historique Red Hat en France (depuis plus de 20 ans), STARTX rassemble des architectes et consultants de référence intervenant sur les architectures les plus critiques du marché (Kubernetes, OpenShift, automatisation, souveraineté numérique et plateformes d'IA générative).
Rejoindre STARTX | Part of Devoteam, c’est vivre l’agilité et l’exigence technique d’une boutique d’ingénierie d’élite, adossée à l’envergure, aux moyens GPU et aux projets d’innovation majeurs du groupe Devoteam.
Listed on hirly, a job board. hirly is not the employer: Devoteam is hiring for this role.
Similar jobs
- STAGE- Ingénieur Développement Logiciel Inner & Open Source - F/HThales · ToulouseFirst seen 25d ago
- Systemadministrator Open Source (m/w/d)Krämer IT Solutions GmbH · Eppelborn, Saarland, GermanyFirst seen 52d ago
- Ingénieur Essais et Mise en Service F/H - Field Engineer CommissioningGevernova · MassyFirst seen 5d ago
- Cloud EngineerThe Exploration Company · Bordeaux, FranceFirst seen 5d ago
- Software EngineerAlassio · ParisFirst seen 6d ago
Browse similar roles
Want this one?
Upload your resume and hirly rewrites it for this job and writes the cover letter — in about thirty seconds, before you sign up.
Tailor my resume for this job