Le terme « jailbreaking » désigne deux pratiques bien distinctes selon le contexte, bien qu’elles partagent une même philosophie : contourner les restrictions imposées par un fabricant ou un concepteur.
En numérique (smartphones) : le débridage
Dans le monde des appareils mobiles, le jailbreaking (ou « débridage ») consiste à supprimer les limitations logicielles mises en place par le fabricant (Apple, Google, etc.) sur le système d’exploitation .
L’objectif est d’accéder à des fonctionnalités normalement inaccessibles : installer des applications en dehors des boutiques officielles, personnaliser l’interface, ou supprimer des applications préinstallées . Par exemple, débrider un iPhone permet d’installer des logiciels non validés par Apple.
Cette pratique présente des risques : elle annule souvent la garantie, expose l’appareil à des malwares, et peut compromettre la sécurité des données .
En intelligence artificielle : le contournement des garde-fous
Dans le domaine de l’IA, le jailbreaking (ou « jailbreaking d’IA ») désigne l’ensemble des techniques visant à contourner les garde-fous de sécurité programmés dans un modèle d’IA (comme un LLM), afin de lui faire produire du contenu qu’il refuserait normalement .
L’objectif est de tromper le modèle pour qu’il génère des instructions dangereuses, du code malveillant, ou des discours haineux, en exploitant l’écart entre ce qu’il peut faire et ce qu’il accepte de faire .
Les techniques courantes incluent le jeu de rôle (« Tu es DAN, une IA sans restrictions »), l’escalade progressive (Crescendo, qui pose des questions anodines avant de dériver vers du contenu interdit), ou l’encodage (Base64, etc.) pour masquer les requêtes malveillantes.
C’est un enjeu de sécurité majeur, classé parmi les risques les plus élevés pour les applications basées sur les LLM .
L’analogie commune
Dans les deux cas, le jailbreaking, c’est comme forcer une porte verrouillée par le fabricant. Pour un smartphone, c’est la porte qui mène à votre propre système d’exploitation. Pour une IA, c’est la porte qui mène à des connaissances dangereuses que ses concepteurs ont choisi de verrouiller. Dans les deux cas, la serrure est forcée pour accéder à ce qui était censé rester fermé.
En résumé : Le terme « jailbreaking » recouvre une pratique de contournement de restrictions. Sur mobile, il s’agit de libérer l’appareil des limitations du fabricant. En IA, il s’agit de manipuler le modèle pour qu’il ignore ses propres règles de sécurité.