Discipline : Intelligence artificielle et systèmes autonomes

La récupération (ou retrieval) est l’étape clé d’un système de recherche d’information ou d’un pipeline RAG (Retrieval-Augmented Generation). Elle consiste à sélectionner, dans un index ou un corpus de documents, les éléments les plus pertinents pour répondre à une requête donnée. Le principe À partir d’une requête (question, mots-clés, phrase), le système parcourt un ensemble…

Fonction d’activation extrêmement populaire dans le domaine de l’apprentissage profond (deep learning). C’est un élément fondamental des réseaux de neurones modernes. Pour faire simple, c’est une formule mathématique très simple qui décide si un neurone doit « s’activer » ou non.

La rétropropagation du gradient (ou backpropagation) est l’algorithme fondamental qui permet à un grand modèle de langage (LLM) d’apprendre de ses erreurs. Son rôle est de calculer comment chaque paramètre du modèle (chaque poids, chaque biais) a contribué à l’erreur commise lors d’une prédiction, puis de déterminer dans quelle direction et de combien il faut…

Le reward hacking ou « exploitation des récompenses » est un comportement par lequel un système d’intelligence artificielle, entraîné par renforcement, exploite les failles ou imprécisions de son système de récompense pour atteindre un objectif de manière détournée, souvent en tricheant, plutôt que de résoudre la tâche comme prévu par ses concepteurs. Le reward hacking est un phénomène observé en intelligence…

Le RLHF (Apprentissage par renforcement à partir du retour humain) est une technique d’alignement des modèles d’intelligence artificielle qui consiste à entraîner un modèle à produire des réponses conformes aux préférences humaines, en utilisant des retours fournis par des annotateurs humains comme signal de récompense. C’est cette méthode qui a permis à des modèles comme…