60k tickets/mois traités par l'IA

Le service client de leboncoin fait face à un volume massif de demandes. L'équipe Data & IA, déjà mature avec 30 modèles ML en production, cherche à passer à l'échelle supérieure en intégrant des LLMs pour automatiser le traitement des tickets les plus courants.

Avec Hymaia, leboncoin conçoit et déploie un système multi-agents spécialisés, chacun entraîné sur un périmètre métier précis et capable de résoudre des tickets de bout en bout.

Un système de 3 agents spécialisés

L'architecture repose sur un dispatcher qui route chaque ticket vers l'agent le plus pertinent :

• Agent généraliste : traite les questions courantes via un RAG connecté à la FAQ Zendesk, avec recherche par similarité (FAISS) et reformulation par LLM
• Agent transactions acheteur : gère les demandes liées aux achats, en accédant aux données Mondial Relay et aux informations de paiement
• Agent transactions vendeur : traite les cas côté vendeur avec accès aux mêmes sources de données transactionnelles

Quand aucun agent ne peut répondre avec un niveau de confiance suffisant, le ticket est escaladé vers un agent humain — avec les informations déjà collectées pour accélérer le traitement.

Une architecture robuste en production

Le système s'appuie sur Claude (désormais 3e génération) via AWS, orchestré avec LangChain, conteneurisé sur Kubernetes/Docker et intégré à Zendesk. Le monitoring combine Datadog pour l'infrastructure et Langfuse pour le suivi des chaînes LLM.

Des guardrails contrôlent et modèrent les sorties des assistants pour garantir la qualité des réponses. L'approche RAG/DAG pragmatique privilégie la maintenabilité : chaque composant est testable et remplaçable indépendamment.

Des résultats mesurables

Après le déploiement des 3 agents, avec un rythme d'un agent mis en production tous les 3 mois :

• 60 000 tickets traités par mois avec l'aide de l'IA
• 10 % des tickets entièrement automatisés, objectif 30 % à moyen terme
• 30 modèles ML en production dont 6 intégrant des LLMs, gérés par une équipe de 10 personnes
• Réduction des coûts du service client et temps de réponse accéléré

Une équipe lean qui scale grâce aux bonnes pratiques

La clé du dispositif : une équipe d'une dizaine de personnes capable de gérer 30 modèles en production grâce à une architecture bien pensée. Le prototypage rapide permet de tester les nouvelles versions des modèles et d'adapter le système aux évolutions technologiques. Les bonnes pratiques d'architecture GenAI — monitoring, évaluation, gestion des hallucinations — sont diffusées dans l'organisation pour que chaque nouveau projet IA bénéficie des apprentissages accumulés.