Formation Introduction à l’IA Responsable

Vous aurez acquis les bases essentielles autour de l’IA Responsable et serez en mesure de comprendre quelles sont les bonnes pratiques, tant techniques qu’organisationnelles, à mettre en place de manière pragmatique dans votre entreprise.

Data Scientists, ML Engineers

Data Tribe Leaders / Leads de communautés Data

Directions Data

Aucun

Différents piliers de l’IA Responsable mis en avant

• Quelles définitions pour l’IA Responsable ?
• Comment les principaux acteurs structurent leurs actions autour d’IA Responsable ?
• Les principaux enjeux de l’IA Responsable

Interprétabilité et Confiance

• Les techniques d’interprétabilité remettent en cause le tradeoff interprétabilité vs performance
• Une demande croissante de transparence de la part des utilisateurs

Équité

• Principe du “Discrimation In, Discrimination Out”
• Un sujet qui touche à des notions allant bien au-delà du Machine Learning, comme la culture, l’histoire, la politique, l’éthique et bien d’autres encore
• Le sujet de l’équité remet en question l’ensemble de la chaîne de valeur autour de la data

IA centrée sur l’humain

• Des incidents causés par des produits à base d’IA de plus en plus nombreux
• S’assurer que les humains soient bien dans la boucle de prise de décision
• Avoir une réflexion dès les phases initiales d’un projet IA sur les impacts négatifs que pourraient avoir des prédictions erronées ou biaisées

Sécurité

• Manipulations des données d’entraînement des modèles
• Manipulations des prédictions des modèles
• Extraction de la logique interne des modèles ou bien des données d’entraînement
• Chevaux de troie cachés dans les logiciels de ML, les modèles ou les données.

Conformité et Gouvernance

• Définir clairement les rôles et les processus internes afin de s’assurer de la bonne traçabilité et gestion de la donnée
• Définir les responsabilités pour les risques liés au ML, pour son audit et pour la gestion de ses incidents

Confidentialité

• Des problématiques aussi bien légales que techniques
• Differential Privacy
• Federated Learning

Reproductibilité et Résilience dans le workflow de ML

• Le testing : un produit à base de Machine Learning est avant tout un logiciel
• Monitoring en live de modèles de Machine Learning
• Mesurer et alerter de toute potentielle dérive du modèle dans le temps
• Reproductibilité des entraînements et des résultats

Responsabilité Sociale et Environnementale

• Penser dès le début à l’impact que peut avoir un produit à base d’IA sur les comportements et sur la confirmation de certains biais ou stéréotypes
• Le rôle des acteurs de l’IA dans la gestion des craintes d’autres collaborateurs sur l’impact que peut avoir l’IA sur l’avenir de leur emploi
• Intelligence Articielle et responsabilité environnementale

L’IA Responsable ouvre de nouvelles opportunités

• Prise de décisions éclairées
• Utiliser le Machine Learning pour nous mettre face à nos propres incohérences et nos propres biais

‍