Le swap est un mécanisme de gestion de la mémoire qui permet au système de déplacer temporairement des données de la RAM vers un espace dédié sur le disque (partition ou fichier d’échange), afin de libérer de la mémoire vive pour les processus actifs. Lorsque la RAM est pleine, le système « échange » (d’où le nom) les données les moins utilisées vers le disque, et les recharge en RAM quand elles sont à nouveau nécessaires.
Caractéristiques principales :
- Lenteur : l’accès au disque est des milliers de fois plus lent que l’accès à la RAM. Un recours massif au swap provoque un ralentissement général du système, appelé thrashing.
- Usure des SSD : contrairement aux disques durs mécaniques, les SSD ont une durée de vie limitée en écritures. Un swap intensif peut accélérer leur usure.
- Signal de saturation : un swap actif est le signe que la RAM est insuffisante pour la charge de travail.
Dans le contexte de l’IA locale :
Quand on fait tourner un modèle de langage (LLM) ou un modèle d’image trop gros pour la RAM disponible, le système bascule une partie des paramètres du modèle dans le swap. Résultat : les performances s’effondrent, et le SSD est sollicité intensivement. C’est le risque principal de l’IA locale sur une machine aux ressources limitées.
Comment limiter le swap :
- Augmenter la RAM : c’est la solution la plus efficace.
- Réduire la taille du modèle : utiliser des versions quantifiées (4-bit, 8-bit) ou des modèles plus petits.
- Ajuster la taille du swap : le réduire ou le désactiver force le système à échouer plutôt que de ralentir (mais peut provoquer des crashs).
- Utiliser un GPU : déporter le calcul sur la carte graphique évite de saturer la RAM.
Analogie
Le swap, c’est comme un bureau de travail trop petit. Quand vous avez trop de dossiers ouverts, vous en posez certains par terre, à côté de vous. Vous pouvez toujours les consulter, mais il faut vous baisser pour les reprendre, ce qui est plus lent. Si vous passez votre temps à vous baisser, vous ne travaillez plus efficacement. Et si vous êtes dans un bureau avec un sol fragile (un SSD), le fait de poser et reprendre sans cesse les dossiers l’use prématurément.