L'exécution des charges de travail d'IA repose à la fois sur la mémoire (RAM) et sur disques SSD (Solid-State Drives), qui servent respectivement d’espace de travail informatique en temps réel et d’entrepôt de données à haut débit. Aucun des deux n’est superflu. La capacité de la mémoire vive (RAM) détermine si un modèle d’IA peut être chargé sans difficulté et à quelle vitesse il s’exécute, tandis que le SSD influe sur le temps de démarrage du modèle et sur l’efficacité de l’alimentation en données pendant l’entraînement. Plus le modèle d’IA est volumineux, plus les exigences en matière de capacité et de vitesse sont élevées. C’est la raison fondamentale pour laquelle l’essor actuel de l’IA a entraîné une forte hausse de la demande en puces de mémoire et de stockage.
Le rôle central de la mémoire vive (RAM) dans l'IA
La mémoire sert de zone de transit à haute vitesse entre le processeur et le stockage permanent, avec des vitesses de lecture et d'écriture de plusieurs dizaines à plusieurs centaines de fois supérieures à celles des SSD, même si les données sont perdues en cas de coupure de courant. Dans le domaine de l'IA, la mémoire joue trois rôles essentiels.
- Résidence du modèle. Qu'il s'agisse d'un chatbot ou d'un outil de génération d'images, un modèle d'IA doit être entièrement chargé en mémoire pendant l'exécution afin que le processeur puisse y accéder rapidement. Si la mémoire ne peut pas contenir l'intégralité du modèle, le système est contraint d'effectuer en permanence des opérations de lecture et d'écriture sur le SSD, ce qui ralentit les performances de plusieurs dizaines de fois ; dans les cas les plus graves, le programme peut même ne pas démarrer du tout.
- Temporaire stockage des variables intermédiaires. Au cours de l'entraînement d'un modèle d'IA, d'énormes quantités de données éphémères sont générées, notamment les valeurs d'activation de chaque couche, les gradients calculés et les paramètres d'état de l'optimiseur. Ces données sont lues et écrites à plusieurs reprises tout au long de la boucle d'entraînement et doivent être stockées dans une mémoire à haute vitesse afin de garantir l'efficacité de l'entraînement. Pour les grands modèles linguistiques, le volume des données intermédiaires dépasse souvent de loin celui des poids du modèle lui-même.
- Mise en mémoire tampon pour le prétraitement des données. Avant d'être transmises au GPU, les données d'entraînement doivent subir des opérations d'augmentation, de normalisation, de regroupement en lots et d'autres étapes de prétraitement en mémoire. Une capacité mémoire insuffisante peut bloquer le flux de données, obligeant le GPU à rester inactif en attendant les données, ce qui entraîne un gaspillage de ressources de calcul coûteuses.
Au-delà de la capacité, la bande passante mémoire est tout aussi essentielle. La tendance actuelle Mémoire DDR5 Les modules peuvent atteindre un débit de 51,2 Go/s chacun, et avec des configurations multicanaux, la bande passante totale du système peut facilement dépasser les 400 Go/s, garantissant ainsi un flux continu de données vers le GPU. Au troisième trimestre 2025, le taux de pénétration de la DDR5 sur le marché des serveurs avait dépassé les 90%., ce qui en fait le choix incontournable pour les centres de données et les clusters d'entraînement en IA. Une bande passante insuffisante constituera un goulot d'étranglement même pour les GPU les plus puissants.
Le rôle central des SSD dans l'IA
Les SSD sont des périphériques de stockage persistants qui conservent à long terme toutes les données statiques liées à l'IA. Par rapport aux les disques durs (HDD), les SSD offrent des vitesses de lecture et d'écriture aléatoires des centaines de fois plus rapides, ainsi qu'une latence extrêmement faible, ce qui est essentiel pour les charges de travail liées à l'IA.
- Le stockage de fichiers de modèles constitue l'utilisation la plus courante des SSD. Aujourd’hui, les grands modèles courants ont une taille allant de quelques dizaines à plusieurs centaines de gigaoctets, et chaque démarrage nécessite le chargement intégral du modèle depuis le stockage vers la mémoire. Le chargement d’un modèle de 70 milliards de paramètres à partir d’un disque dur classique peut prendre plusieurs minutes, tandis qu’un SSD NVMe haute performance peut réduire ce temps à quelques dizaines de secondes.
- Les performances de lecture du jeu de données d'entraînement sont encore plus cruciales. Lors de l'entraînement d'un modèle d'IA, des exemples sont prélevés de manière aléatoire dans l'ensemble de données pour former des lots — une charge de travail caractérisée par un grand nombre de lectures aléatoires de petits fichiers, ce qui correspond précisément au point faible des disques durs. Les disques durs ne peuvent traiter qu'une centaine de lectures aléatoires par seconde, alors que les SSD PCIe 4.0 grand public actuels offrent généralement plus de 1 000 000 d'IOPS en lecture aléatoire, et que les modèles haut de gamme PCIe 5.0 peuvent atteindre jusqu'à 2 000 000 d'IOPS, soit plus de 20 000 fois la performance des disques durs. Si les données d'entraînement sont stockées sur un disque dur, l'utilisation du GPU peut descendre en dessous de 20%, la majeure partie du temps étant consacrée à attendre le chargement des données.
- La sauvegarde des points de contrôle pendant l'entraînement dépend également des SSD. Afin d'éviter toute perte de progrès en cas d'interruption de l'entraînement, le système enregistre périodiquement l'état des modèles, chaque écriture représentant un volume allant de plusieurs Go à plusieurs dizaines de Go. Des vitesses d'écriture faibles allongent les intervalles entre les points de contrôle et réduisent l'efficacité globale de l'entraînement.
- Dans les centres de données d'IA à grande échelle, les SSD servent également de niveau de stockage pour les données fréquemment utilisées. Les données d'entraînement fréquemment consultées et les modèles actifs sont stockés sur des SSD, tandis que les sauvegardes historiques et les données peu utilisées sont transférées vers des disques durs (HDD) moins coûteux ou vers des bibliothèques de bandes, ce qui permet de trouver un juste équilibre entre performances et coûts.
Comment ces deux éléments fonctionnent ensemble
Les systèmes d'IA utilisent une pyramide de stockage hiérarchique : plus le niveau est élevé, plus la vitesse est grande, plus la capacité est faible et plus le coût unitaire est élevé.
- Tout en haut se trouve la mémoire vidéo du GPU, ou Mémoire à grande largeur de bande (HBM), qui contient les données en cours de calcul : le plus rapide, mais avec la plus petite capacité.
- Le deuxième niveau est la mémoire vive (RAM) du système, qui stocke les données à traiter ensuite ainsi que tous les résultats intermédiaires : légèrement plus lent, mais d'une capacité bien supérieure.
- Le troisième niveau est constitué des SSD NVMe, qui hébergent les modèles et les ensembles de données fréquemment consultés : encore plus lent, mais capable de gérer de grandes capacités.
- En bas se trouvent des disques durs et des bandes pour les sauvegardes à froid à long terme : le plus lent, mais avec le coût par gigaoctet le plus bas.
Les données circulent de manière ordonnée entre ces niveaux. Au début de l'entraînement ou de l'inférence, les poids du modèle sont chargés depuis les SSD vers la mémoire vive (RAM) du système. Pendant le calcul, les données du lot en cours sont transférées de la RAM vers la mémoire vidéo (VRAM) du GPU. Une fois que le GPU a terminé son travail, les résultats sont réécrits dans la mémoire vive, puis enregistrés périodiquement sur les SSD. Un goulot d’étranglement au niveau de n’importe quel niveau ralentira l’ensemble du système, c’est pourquoi la mise à niveau d’un système d’IA nécessite généralement une approche globale. Se contenter de remplacer la carte graphique tout en conservant l’ancienne mémoire et l’ancien stockage n’apportera que des gains très limités.
Consignes de configuration pour différents scénarios
Les différents cas d'utilisation de l'IA présentent des exigences très variables en matière de mémoire et de SSD. Le tableau ci-dessous propose des configurations recommandées basées sur des configurations types dans 2026.
| Cas d'utilisation | Mémoire vive recommandée | Capacité recommandée pour le SSD |
|---|---|---|
| Inférence locale pour un modèle de langage de grande envergure (LLM) à 7 milliards de paramètres | 32 Go ou plus | 512 Go ou plus |
| Inférence locale pour un LLM à 13 milliards de paramètres | 64 Go ou plus | 1 To ou plus |
| Utilisation quotidienne de l'IA de génération d'images | 32 Go ou plus | 1 To ou plus |
| Entraînement et ajustement de modèles de petite et moyenne taille | 64 Go ou plus | Disque SSD NVMe PCIe 4.0 de 2 To ou plus |
| Entraînement de modèles volumineux sur un seul nœud avec plusieurs GPU | De 256 Go à 512 Go | Disque SSD NVMe de classe entreprise d'une capacité de 8 To ou plus |
| Serveur d'IA de classe centre de données | 1 To à 4 To de DDR5 | SSD de classe entreprise d'une capacité de 30 To ou plus |
