LLM Engineering
Cette formation s'adresse à un public souhaitant acquérir les connaissances nécessaires pour comprendre et mettre en œuvre les Large Language Models (LLM).
Anis Zakari
Machine Learning Engineer
Anis est actuellement Machine Learning Engineer chez Hymaïa.
voir le profil complet
Anis est actuellement Machine Learning Engineer chez Hymaïa.
voir le profil completDescription
Cette formation s'adresse à un public souhaitant acquérir les connaissances nécessaires pour comprendre et mettre en œuvre les Large Language Models (LLM).
Les participants auront l'occasion d'approfondir leur compréhension des différents aspects des Large Language Models, tels que :
- leur fonctionnement
- les applications pratiques
- les stratégies d’amélioration et personnalisation des résultats de l’inférence
- le développement d’un service de RAG (Retrieval Augmented Generation) via LangChain
Infos clés
Objectifs
- Analyser les capacités et limitations des modèles de langage (LLMs)
- Expliquer les principes fondamentaux du fonctionnement des LLMs (architecture, entraînement, inférence)
- Manipuler les principales APIs de LLMs propriétaires (OpenAI, Claude, etc.)
- Déployer et exécuter des LLMs dans l'environnement Google Colab
- Concevoir des prompts efficaces pour le zero-shot et few-shot learning
- Réaliser un fine-tuning de modèle en utilisant la technique LoRa
- Développer des applications en utilisant le framework LangChain
- Construire un système de RAG (Retrieval-Augmented Generation) fonctionnel
- Évaluer la qualité des réponses générées par les différentes approches
Public cible
- Data Scientist
- Data Engineer
- ML Engineer
- Software Engineer
Prérequis
- Connaissance du langage Python
- Utilisation de Notebooks
Programme détaillé
Introduction aux LLMs
- L’IA Générative
- Qu’est-ce qu’un LLM ?
- Les cas d’usage principaux
Les principaux modèles du marché
- GPT
- Gemini
- LLaMa
- Claude
- Les autres
- Outils de benchmarking et comparaison
Exploitation
- Utilisation d’un LLM via Notebook
Les fondations des LLMs
- Le Natural Language Processing
- Transformers
- Encoders et Decoders
- Architecture Decoder-Only Transformer
- Embeddings
- Tokenizers
Stratégie d’inférence
- Zero-Shot Learning
- Few-Shot Learning
- Fine Tuning
Augmentation de la base de connaissance
- RAG
- Pré-Processing
- Vectorisation
- Les base de données vecteurs
- Exploitation de la donnée
Fine Tuning
- Les concepts clé
- Les techniques PEFT
- LoRa
Performances et Consommation
- Quantisation
Vous allez le recevoir par mail dans quelques secondes
Formateur(s)
Ce qu’ils en disent…
Financer votre formation par un OPCO
En tant qu'organisme certifié Qualopi, les formations que nous vous proposons sont finançables par l'OPCO. Trouvez l'OPCO dont vous dépendez ici
Contacts
s'inscrire
.png){kind=spacer}
Modalités
Modalités d'évaluation
Un questionnaire d'auto-évaluation est envoyé aux participants avant et après la formation pour mesurer leur progression.
Pendant la formation :
Les acquis sont évalués tout au long de la formation par les formateurs sous forme de Quizz en ligne, questions réponses ou tour de table.
Le participant se verra délivrer une attestation de fin de formation à l’issue de la session
Organisation
- en présentiel :
Cette formation est en groupe de 6 à 12 personne en intra-entreprise ou inter-entreprise en fonction du format souhaité par le commanditaire.
- en ligne :
Un lien vous sera envoyé pour suivre les sessions à distances. Merci d'activer les caméras lors des sessions avec notre formateur.
Modalités d'accès
Les sessions peuvent être programmées jusqu’ à 7 jours avant la date retenue, sous condition d’un formateur disponible et de la réception de la convention signée avant la session pour des groupes de 6 à 12 personnes .
Les prochains événements Hymaïa
Hymaday - AI Adoption At Scale
