Qu'est-ce que le prompt engineering ?

Le prompt engineering désigne l'ensemble des techniques utilisées pour formuler des instructions (prompts) destinées à un modèle de langage (LLM), afin d'obtenir des réponses pertinentes, précises et exploitables. Loin d'être un simple exercice de rédaction, le prompt engineering est devenu une compétence technique à part entière, qui combine compréhension du fonctionnement des LLM, structuration de l'information et itération méthodique.

Pourquoi le prompt compte autant

Un LLM ne "comprend" pas une question comme un humain. Il produit une séquence de tokens statistiquement probable étant donné le contexte qu'on lui fournit. La formulation du prompt influence directement la distribution de probabilités des réponses. Un prompt vague ou ambigu produit des réponses génériques. Un prompt précis, contextualisé et structuré oriente le modèle vers une réponse ciblée.

C'est ce qui fait du prompt engineering un levier de performance souvent sous-estimé : avant d'investir dans du fine-tuning ou une architecture RAG, optimiser ses prompts peut apporter des gains significatifs à coût quasi nul.

Les techniques fondamentales

Zero-shot prompting. On donne une instruction directe au modèle sans exemple. C'est la forme la plus simple : "Résume ce texte en 3 bullet points." Les LLM récents sont suffisamment performants pour traiter de nombreuses tâches en zero-shot, mais la qualité dépend fortement de la clarté de l'instruction.

Few-shot prompting. On fournit quelques exemples d'entrée-sortie avant de poser la question réelle. Cette technique permet au modèle de comprendre le format attendu, le niveau de détail et le ton. Trois à cinq exemples bien choisis suffisent généralement. Le few-shot est particulièrement utile pour les tâches de classification, d'extraction d'entités ou de reformulation selon un format spécifique.

Chain-of-thought (CoT). On demande au modèle de décomposer son raisonnement étape par étape avant de donner sa réponse finale. Introduite par des chercheurs de Google en 2022, cette technique améliore significativement les performances sur les tâches de raisonnement logique et mathématique. Une simple phrase comme "Raisonne étape par étape" peut transformer la qualité d'une réponse.

System prompts. La plupart des API de LLM permettent de définir un "system prompt" — une instruction de cadrage qui définit le rôle, le ton et les contraintes du modèle pour toute la conversation. Par exemple : "Tu es un expert juridique français. Tu réponds de manière concise et tu cites les articles de loi pertinents." Le system prompt est le levier le plus puissant pour cadrer le comportement global du modèle.

Techniques avancées

Le prompting structuré. Utiliser des balises XML, du JSON ou du Markdown dans les prompts permet de séparer clairement les instructions, le contexte et les données. Les LLM sont entraînés sur du texte structuré et répondent mieux quand le prompt est lui-même bien organisé.

Les contraintes explicites. Préciser ce que le modèle ne doit pas faire est souvent aussi important que ce qu'il doit faire. "Ne fais pas d'hypothèses sur les données manquantes", "Réponds uniquement à partir du contexte fourni", "Si tu ne sais pas, dis-le" — ces gardes-fous réduisent les hallucinations et les réponses hors sujet.

Le prompt chaining. Plutôt qu'un seul prompt complexe, on décompose la tâche en plusieurs étapes, chaque prompt utilisant la sortie du précédent. Cette approche est au coeur des systèmes d'IA agentique, où un orchestrateur enchaîne des appels au LLM avec des appels à des outils externes.

Prompt engineering en entreprise

Dans un contexte professionnel, le prompt engineering ne se limite pas à des interactions ponctuelles avec ChatGPT. Il s'agit de concevoir des templates de prompts réutilisables, versionnés et testés, intégrés dans des pipelines applicatifs. Les équipes produit qui développent des fonctionnalités basées sur des LLM passent une part significative de leur temps à itérer sur les prompts.

Les bonnes pratiques incluent :

• Versionner les prompts comme du code, avec un historique des modifications et des tests de régression.
• Évaluer systématiquement les résultats sur un jeu de test représentatif, plutôt que de se fier à des impressions qualitatives.
• Documenter les choix de formulation et les raisons des itérations, pour capitaliser les apprentissages de l'équipe.

Le rôle de "prompt engineer" tel qu'il a été médiatisé en 2023 évolue : les compétences de prompt engineering s'intègrent dans les métiers existants (AI Product Manager, ML Engineer, développeur) plutôt que de constituer un poste isolé.

Limites du prompt engineering

Le prompt engineering a ses limites. Il ne peut pas compenser un modèle inadapté à la tâche, des données manquantes ou une architecture mal conçue. Pour les cas d'usage nécessitant des connaissances spécifiques non présentes dans le modèle, le RAG reste indispensable. Pour modifier en profondeur le comportement ou le style d'un modèle, le fine-tuning sera plus efficace qu'un prompt toujours plus long et complexe.