LLMOps Engineer
Opère les grands modèles de langage en production : évaluation, coûts d'inférence, observabilité, RAG et fiabilité des systèmes à base de LLM.
Enjeux du recrutement.
Mettre un LLM en démo prend une journée ; le tenir en production est un métier. Entre la démo et le produit, il y a tout ce que le LLMOps engineer maîtrise : évaluations systématiques (sans quoi chaque changement de prompt ou de modèle est une régression invisible), maîtrise des coûts d'inférence (qui peuvent détruire vos marges), latence, observabilité des agents, garde-fous contre hallucinations et injections. C'est le profil IA le mieux valorisé du marché français — logique : la différence entre un produit IA fiable et un gadget imprévisible passe par lui. Si votre produit repose sur des LLM et que personne ne possède l'évaluation et les coûts, vous naviguez à l'aveugle sur votre fonctionnalité la plus stratégique. Rôle jeune : jugez sur les systèmes construits, pas sur les années d'ancienneté.
Missions clés.
- Construire l'infrastructure d'évaluation des LLM (evals, benchmarks internes)
- Optimiser les coûts et la latence d'inférence (routing, caching, quantization)
- Mettre en place l'observabilité des systèmes LLM et agents (traces, feedback)
- Industrialiser RAG, fine-tuning et gestion des prompts
- Déployer les garde-fous (hallucinations, sécurité, injections)
- Gérer le versioning des prompts, modèles et datasets
- Arbitrer les choix de modèles (API vs open-weights, spécialisation)
Compétences.
Compétences techniques
- Évaluation de LLM (LLM-as-judge, datasets d'éval)
- Serving et optimisation d'inférence (vLLM, TGI)
- RAG et bases vectorielles
- Observabilité LLM (LangSmith, Langfuse)
- Python de production
Qualités attendues
- Rigueur expérimentale
- Sens du coût
- Veille intensive
Stack courante
Salaires 2025-2026
| Niveau | Expérience | Fixe annuel brut |
|---|---|---|
| Junior | 0-2 ans | 55–75 k€ |
| Confirmé | 2-5 ans | 75–95 k€ |
| Senior | 5-8 ans | 90–115 k€ |
| Lead / Staff | 8+ ans | 115–160 k€ |
Fourchettes marché parisien, 2025-2026.
Hors Île-de-France, compter 10 à 20 % de moins.
Sources : Silkhom Baromètre IA 2026 (moyenne 85 400 €) · Factoriel 2026 · Get in Talent 2026
Recruter ce profil.
Profil type
MLOps ou ML engineer spécialisé LLM, ou développeur senior ayant construit des systèmes GenAI en production. Le portfolio de systèmes réels fait foi.
Quand recruter
Dès que les LLM sont au cœur du produit et que les coûts, régressions ou incidents deviennent visibles — très tôt pour les IA-natives, Série A/B sinon.
Progression de carrière
Senior → Lead LLMOps / Head of AI Platform → Chief Data & AI Officer.