Expert LLM Ops Senior H/F - Freelance - Casablanca

1. Infrastructure & CI/CD

• Concevoir et mettre en place des infrastructures IA robustes et sécurisées.

• Développer et maintenir les pipelines CI/CD (GitLab CI/CD ou équivalent), gestion des environnements, secrets et Infrastructure as Code (IaC).

• Assurer l’exploitation en production avec des SLO/SLA, runbooks, gestion de la latence et des incidents.

2. Architecture & Intégration LLM

• Concevoir et opérer des stacks LLM (cloud, on‑premise, edge).

• Mettre en œuvre des mécanismes de routing, prompt caching, streaming et optimisation du temps de réponse.

• Évaluer et sélectionner les modèles (propriétaires ou open source) et services associés (ASR/TTS, traduction, vision, modération).

• Définir les patterns d’intégration mobile et API (OpenAPI, API Gateway, quotas, rate limiting).

3. Mise en production des cas d’usage IA

• Construire et maintenir une librairie de prompts/templates versionnée.

• Déployer des solutions RAG (vector DB, embeddings, reranking) et agents/function calling.

• Mettre en place des garde‑fous : modération, mitigation jailbreak, gestion des données sensibles (PII).

• Orchestrer les expérimentations : A/B testing, canary, rollback, déploiement progressif.

4. Données, Observabilité & Évaluation

• Créer des jeux de données de référence (golden datasets).

• Définir et instrumenter des métriques LLM (G‑Eval, DeepEval, RAGAS).

• Mettre en place des outils de tracing et monitoring (OpenTelemetry, Prometheus/Grafana, Langfuse).

• Versionner modèles, données et expériences (MLflow).

5. Gouvernance & Sécurité

• Conduire les analyses d’impact (DPIA), gérer consentements et data residency.

• Assurer la conformité réglementaire (RGPD et locales), chiffrement et auditabilité.

• Produire des model cards, data contracts et politiques d’accès.

6. Pilotage transverse

• Centraliser les besoins métiers et techniques, prioriser le backlog et arbitrer coût/latence/qualité.

• Gérer les fournisseurs cloud, APIs LLM, vector stores et solutions de sécurité/observabilité.

Formation : Bac+5 en informatique, télécoms ou équivalent.

Expérience : Minimum 5 ans en MLOps/LLMOps, avec des mises en production à grande échelle et contraintes temps réel.

Compétences techniques :

• Python (maîtrise avancée), Pydantic, bonnes pratiques de tests (pytest).

• Architectures event‑driven, intégration OpenAPI, FastAPI/Node.js appréciés.

• LLM & RAG : prompt engineering, templating, guardrails, function calling, chunking, embeddings, reranking.

• Orchestration/agents : LangChain, LangGraph, protocoles inter‑agents.

• Kubernetes (autoscaling), Rancher, optimisation latence/throughput.

• Observabilité : MLflow, Langfuse, OpenTelemetry, Prometheus/Grafana.

• Vector stores (pgvector, Milvus/FAISS, Pinecone).

• Cloud : AWS, Azure, GCP, Terraform, Vault/KMS, IAM.

• Conformité RGPD, gestion PII, audit logs.

• Voix & multimodal : ASR/TTS (Whisper, NeMo), vision/document QA.

Soft skills :

• Excellente communication et capacité à travailler avec des décideurs techniques et métiers.

• Autonomie, esprit d’initiative et rigueur.

• Capacité à gérer plusieurs projets stratégiques en parallèle.

Langues :

• Français courant (oral et écrit).

• Anglais professionnel.

Pourquoi rejoindre ilem Group ?

• Impact direct : rôle stratégique dans le déploiement de solutions IA innovantes.

• Missions variées : équilibre entre architecture, exploitation et conseil.

• Culture entrepreneuriale : autonomie et innovation encouragées dans un environnement agile.

Type de contrat : Freelance

Durée de la mission: 3 mois renouvelable.

Localisation : Casablanca

Prise de poste : 26 Janvier 2026 (Ou date la plus proche).