{"id":18827,"date":"2026-07-10T15:59:35","date_gmt":"2026-07-10T07:59:35","guid":{"rendered":"https:\/\/www.oscoo.com\/?p=18827"},"modified":"2026-07-10T15:59:38","modified_gmt":"2026-07-10T07:59:38","slug":"what-is-mrdimm-next-gen-server-memory-for-ai-workloads","status":"publish","type":"post","link":"https:\/\/www.oscoo.com\/fr\/news\/what-is-mrdimm-next-gen-server-memory-for-ai-workloads\/","title":{"rendered":"Qu'est-ce que le MRDIMM ? Une m\u00e9moire serveur de nouvelle g\u00e9n\u00e9ration pour les charges de travail d'IA"},"content":{"rendered":"
\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Alors que nous entrons dans la phase de d\u00e9ploiement \u00e0 grande \u00e9chelle des mod\u00e8les de langage \u00e0 grande \u00e9chelle (LLM) et de l\u2019inf\u00e9rence IA, le v\u00e9ritable goulot d\u2019\u00e9tranglement en termes de performances dans les syst\u00e8mes serveurs s\u2019est depuis longtemps d\u00e9plac\u00e9 des unit\u00e9s de calcul vers la m\u00e9moire. Au cours des cinq derni\u00e8res ann\u00e9es, le nombre de c\u0153urs des processeurs des serveurs a presque tripl\u00e9, tandis que la bande passante m\u00e9moire n\u2019a augment\u00e9 qu\u2019\u00e0 un rythme bien plus lent, entra\u00eenant une baisse constante de la bande passante disponible par c\u0153ur. Le \u201c mur de la m\u00e9moire \u201d est devenu la principale contrainte limitant la lib\u00e9ration de la puissance de calcul. Dans l\u2019inf\u00e9rence des LLM, les lectures fr\u00e9quentes du cache KV amplifient encore ce probl\u00e8me ; dans de nombreux sc\u00e9narios, le d\u00e9bit du syst\u00e8me est directement d\u00e9termin\u00e9 par la bande passante m\u00e9moire plut\u00f4t que par la capacit\u00e9 de calcul th\u00e9orique du processeur. Alors que l\u2019architecture DDR traditionnelle atteint ses limites physiques, la technologie MRDIMM, gr\u00e2ce \u00e0 son architecture de multiplexage qui double la bande passante effective, s\u2019impose comme la voie technique de nouvelle g\u00e9n\u00e9ration permettant de surmonter les goulots d\u2019\u00e9tranglement li\u00e9s \u00e0 la m\u00e9moire.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t

Qu'est-ce que le MRDIMM ?<\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

MRDIMM est l'acronyme de \u00ab Multiplexed Rank Dual In-line Memory Module \u00bb (module de m\u00e9moire \u00e0 rangs doubles multiplex\u00e9s). Sa caract\u00e9ristique principale est la suivante : sans augmenter la vitesse native des puces DRAM elles-m\u00eames, le module utilise des puces de contr\u00f4le d\u00e9di\u00e9es pour faire fonctionner deux rangs en parall\u00e8le, offrant ainsi une bande passante effective doubl\u00e9e au contr\u00f4leur de m\u00e9moire.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t

Le m\u00e9canisme \" \u00e0 voie unique \" de la m\u00e9moire traditionnelle<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Dans une m\u00e9moire DDR classique, un rang fonctionne comme un m\u00e9canisme d'acc\u00e8s \u201c \u00e0 voie unique \u201d. Sur un module de m\u00e9moire \u00e0 double rang typique, les puces DRAM sont r\u00e9parties en deux rangs ind\u00e9pendants qui partagent le m\u00eame bus de donn\u00e9es. En raison des limitations du protocole DDR, la m\u00e9moire ne peut activer qu\u2019un seul rang \u00e0 la fois pour le transfert de donn\u00e9es, laissant l\u2019autre rang en attente. C'est comme une autoroute \u00e0 voie unique : m\u00eame si deux files de v\u00e9hicules sont en attente, une seule file peut circuler \u00e0 un moment donn\u00e9 ; la capacit\u00e9 totale de la route n'augmente donc pas simplement parce qu'il y a plus de v\u00e9hicules.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t

L'approche \" d'int\u00e9gration \u00e0 double voie \" du MRDIMM<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

L'innovation principale du MRDIMM r\u00e9side dans l'ajout, sur le module, d'un ensemble de puces tampons de multiplexage d\u00e9di\u00e9es, permettant des lectures parall\u00e8les \u00e0 partir de deux rangs et la fusion interne des sorties. Plus pr\u00e9cis\u00e9ment, les puces DRAM des deux rangs transmettent simultan\u00e9ment des donn\u00e9es \u00e0 leur d\u00e9bit standard ; les puces de multiplexage multiplexent par r\u00e9partition dans le temps les deux flux de donn\u00e9es \u00e0 l\u2019int\u00e9rieur du module, les combinant en un seul flux dont le d\u00e9bit est doubl\u00e9 avant de l\u2019envoyer au contr\u00f4leur de m\u00e9moire c\u00f4t\u00e9 CPU. Du point de vue de l\u2019h\u00f4te, il semble interagir avec une m\u00e9moire haute vitesse fonctionnant \u00e0 un d\u00e9bit doubl\u00e9. Du point de vue des puces DRAM, cependant, celles-ci continuent de fonctionner \u00e0 leur plage de vitesse standard d\u2019origine, ce qui ne n\u00e9cessite aucune mise \u00e0 niveau des processus sous-jacents.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t

Pourquoi c'est une solution judicieuse<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

L'\u00e9l\u00e9gance de cette architecture r\u00e9side dans le fait qu'elle contourne le goulot d'\u00e9tranglement li\u00e9 \u00e0 la vitesse physique des puces DRAM elles-m\u00eames. Le simple fait d\u2019augmenter les fr\u00e9quences des puces poserait une multitude de d\u00e9fis \u2014 int\u00e9grit\u00e9 du signal, consommation d\u2019\u00e9nergie, taux de rendement, etc. \u2014 et entra\u00eenerait une flamb\u00e9e des co\u00fbts. La technologie MRDIMM transf\u00e8re cette complexit\u00e9 vers les puces d\u2019interface c\u00f4t\u00e9 module, permettant ainsi d\u2019augmenter la bande passante au niveau du syst\u00e8me \u00e0 un co\u00fbt relativement raisonnable. Parall\u00e8lement, la technologie MRDIMM pr\u00e9serve une compatibilit\u00e9 totale au niveau des protocoles. L\u2019acc\u00e8s aux donn\u00e9es suit toujours l\u2019alignement standard des lignes de cache de 64 octets, et toutes les fonctionnalit\u00e9s de fiabilit\u00e9 RAS, telles que la correction d\u2019erreurs ECC et l\u2019isolation des d\u00e9faillances, sont pr\u00e9serv\u00e9es. Aucune modification des jeux d\u2019instructions de la m\u00e9moire du serveur ni des piles logicielles n\u2019est n\u00e9cessaire pour son adaptation. Physiquement, le MRDIMM pr\u00e9sente exactement le m\u00eame brochage que les RDIMM DDR5 standard et peut \u00eatre branch\u00e9 directement dans les emplacements m\u00e9moire existants des serveurs ; il n\u00e9cessite uniquement une prise en charge native par le processeur et le BIOS pour lib\u00e9rer l\u2019int\u00e9gralit\u00e9 de ses performances.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\"\"<\/a><\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t

De 1 puce \u00e0 11 puces : diff\u00e9rences mat\u00e9rielles entre la m\u00e9moire MRDIMM et la m\u00e9moire standard<\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Ext\u00e9rieurement, le MRDIMM semble presque identique \u00e0 un RDIMM DDR5 standard : m\u00eame longueur, m\u00eames broches, et il s'ins\u00e8re dans les m\u00eames emplacements m\u00e9moire des serveurs. Mais si vous retournez le circuit imprim\u00e9, vous constaterez une diff\u00e9rence mat\u00e9rielle significative : le MRDIMM int\u00e8gre un jeu suppl\u00e9mentaire de puces tampons d\u00e9di\u00e9es, qui constituent la base mat\u00e9rielle permettant de doubler la bande passante. Une RDIMM DDR5 standard ne dispose que d\u2019une seule puce de contr\u00f4le centrale, tandis que, selon la norme officielle JEDEC, une seule MRDIMM utilise une configuration de puces \u201c 1+10 \u201d.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t

1 MRCD : le centre de contr\u00f4le du module<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

MRCD signifie \u00ab Multiplexed Register Clock Driver \u00bb (pilote d'horloge \u00e0 registres multiplex\u00e9s). Il s'agit d'une version am\u00e9lior\u00e9e du RCD traditionnel et constitue le cerveau de contr\u00f4le de l'ensemble du module MRDIMM. Les principales fonctions du MRCD sont les suivantes : recevoir et d\u00e9coder les signaux d\u2019adresse, de commande et d\u2019horloge provenant du contr\u00f4leur de m\u00e9moire ; coordonner la synchronisation en lecture\/\u00e9criture des deux rangs afin d\u2019assurer un alignement pr\u00e9cis des deux flux de donn\u00e9es ; et g\u00e9rer la logique de planification du multiplexage pour garantir que le flux de donn\u00e9es fusionn\u00e9 ne pr\u00e9sente aucun d\u00e9calage de synchronisation. Par rapport \u00e0 un RCD standard, le MRCD pr\u00e9sente une complexit\u00e9 logique interne nettement sup\u00e9rieure et un plus grand nombre de blocs fonctionnels.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t

10 MDB : le moteur parall\u00e8le pour les canaux de donn\u00e9es<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

MDB signifie \u201c Multiplexed Data Buffer \u201d (tampon de donn\u00e9es multiplex\u00e9). Il s\u2019agit du nouveau composant central des modules MRDIMM et de l\u2019\u00e9l\u00e9ment cl\u00e9 permettant de doubler la bande passante de donn\u00e9es. Chaque puce MDB correspond \u00e0 une voie de bits de donn\u00e9es et est charg\u00e9e de recevoir, de mettre en tampon et de multiplexer par r\u00e9partition dans le temps les bits de donn\u00e9es correspondants provenant des deux rangs, et ce en parall\u00e8le. Les 10 MDB couvrent collectivement tous les canaux de donn\u00e9es (y compris les bits de parit\u00e9 ECC), fusionnant les deux flux de donn\u00e9es \u00e0 l\u2019int\u00e9rieur du module et les transmettant \u00e0 un d\u00e9bit deux fois plus \u00e9lev\u00e9 sur le bus m\u00e9moire. En termes simples, le MRCD g\u00e8re la \u201c planification des commandes \u201d, tandis que les MDB g\u00e8rent le \u00ab transfert des donn\u00e9es \u00bb : les deux travaillent ensemble pour mener \u00e0 bien l\u2019ensemble du processus de multiplexage.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t

Performances r\u00e9elles du MRDIMM<\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t

Bande passante : un bond en avant d'au moins le double\n<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

La bande passante est l'indicateur de performance cl\u00e9 de la MRDIMM et sa caract\u00e9ristique la plus distinctive par rapport aux autres types de m\u00e9moire.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t\t\t

Les modules MRDIMM de premi\u00e8re g\u00e9n\u00e9ration fonctionnent \u00e0 une vitesse standard de 8 800 MT\/s, offrant une bande passante th\u00e9orique de 70,4 Go\/s par canal. Par rapport aux modules RDIMM DDR5-6400 actuellement courants sur les serveurs (51,2 Go\/s), cela repr\u00e9sente une augmentation de bande passante d\u2019environ 37,51 TP6T ; par rapport \u00e0 la plateforme DDR5-5600 de la g\u00e9n\u00e9ration pr\u00e9c\u00e9dente, le gain d\u00e9passe 401 TP6T. Pour les charges de travail d\u00e9j\u00e0 limit\u00e9es par la bande passante m\u00e9moire, cette am\u00e9lioration peut se traduire de mani\u00e8re quasi lin\u00e9aire par des gains de performances pour l\u2019entreprise. La MRDIMM de deuxi\u00e8me g\u00e9n\u00e9ration repousse encore la vitesse \u00e0 12 800 MT\/s, franchissant la barre des 100 Go\/s par canal et atteignant exactement le double de celle de la DDR5-6400. Selon la feuille de route du JEDEC, la troisi\u00e8me g\u00e9n\u00e9ration de MRDIMM vise les 16 000 MT\/s, poursuivant ainsi sur la voie du doublement de la bande passante.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t\t\t

Il convient de noter que cette augmentation de la bande passante correspond \u00e0 un v\u00e9ritable gain de \u201c bande passante effective \u201d, et non \u00e0 un gain th\u00e9orique r\u00e9sultant d\u2019un simple cumul de capacit\u00e9s. Cela signifie que le contr\u00f4leur de m\u00e9moire est bel et bien capable d\u2019envoyer et de recevoir davantage de donn\u00e9es par seconde \u2014 un avantage fondamental pour les charges de travail tr\u00e8s gourmandes en bande passante.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t

La latence : un avantage inattendu qui vient s'ajouter \u00e0 une bande passante \u00e9lev\u00e9e<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Les m\u00e9moires \u00e0 large bande passante s'accompagnent g\u00e9n\u00e9ralement d'une latence plus \u00e9lev\u00e9e, mais ce n'est pas le cas des MRDIMM. Par rapport aux modules RDIMM DDR5 standard, la MRDIMM offre en r\u00e9alit\u00e9 une latence d\u2019acc\u00e8s effective plus faible dans le cadre de charges de travail sensibles \u00e0 la bande passante, avec des r\u00e9ductions pouvant atteindre 40%. Ce r\u00e9sultat contre-intuitif s\u2019explique par le d\u00e9bit de donn\u00e9es effectif plus \u00e9lev\u00e9 de la MRDIMM (8 800 MT\/s). Par rapport \u00e0 une RDIMM de 6 400 MT\/s, la MRDIMM met moins de temps \u00e0 effectuer le m\u00eame volume de transfert de donn\u00e9es, ce qui se traduit par une meilleure latence d\u2019acc\u00e8s globale dans des sc\u00e9narios \u00e0 forte charge et \u00e0 grande profondeur de file d\u2019attente. Les mesures r\u00e9elles effectu\u00e9es par Micron sur la plateforme Intel Xeon 6 le confirment : \u00e0 l\u2019aide d\u2019outils de test de latence m\u00e9moire, la MRDIMM affiche des performances de latence nettement sup\u00e9rieures \u00e0 celles des RDIMM DDR5 sur la m\u00eame plateforme dans des conditions n\u00e9cessitant une bande passante importante.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t\t\t

Par rapport aux LRDIMM, l\u2019avantage des MRDIMM en termes de latence devrait \u00eatre encore plus marqu\u00e9. Les LRDIMM, afin de prendre en charge des capacit\u00e9s plus \u00e9lev\u00e9es et un plus grand nombre de rangs, ajoutent des couches de mise en m\u00e9moire tampon suppl\u00e9mentaires sur le chemin des donn\u00e9es, ce qui entra\u00eene une surcharge de latence non n\u00e9gligeable. L\u2019architecture de multiplexage des MRDIMM, en revanche, se caract\u00e9rise par une conception de tampon plus rationalis\u00e9e sur le chemin des donn\u00e9es, offrant une plus grande marge d\u2019optimisation des temps de propagation. Cela fait des MRDIMM l\u2019une des rares solutions de m\u00e9moire \u00e0 offrir \u00e0 la fois une \u201c bande passante \u00e9lev\u00e9e \u201d et une \u201c latence relativement faible \u201d, ce qui les rend particuli\u00e8rement adapt\u00e9es \u00e0 des sc\u00e9narios tels que la finance quantitative et l\u2019analyse en temps r\u00e9el, qui exigent ces deux caract\u00e9ristiques.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t

Rendement \u00e9nerg\u00e9tique et consommation \u00e9lectrique absolue<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

En termes de bande passante par watt, la MRDIMM offre de meilleures performances : l\u2019\u00e9nergie consomm\u00e9e par Go de donn\u00e9es transf\u00e9r\u00e9es est inf\u00e9rieure \u00e0 celle des RDIMM traditionnelles. Cela s\u2019explique par le fait que l\u2019augmentation de la consommation \u00e9lectrique de la puce d\u2019interface est bien moindre que celle de la bande passante ; ainsi, du point de vue du \u201c co\u00fbt de transfert par bit \u201d, elle s\u2019av\u00e8re plus efficace. Cependant, en termes de consommation \u00e9lectrique absolue par module, les MRDIMM sont nettement plus gourmandes que les m\u00e9moires standard. Un module RDIMM DDR5 classique consomme environ 10 \u00e0 12 watts, tandis qu\u2019un module MRDIMM consomme entre 18 et 21 watts, soit pr\u00e8s du double. Cette surconsommation provient principalement des 10 puces MDB et de la puce MRCD. Pour les centres de donn\u00e9es, cela signifie que le d\u00e9ploiement de modules MRDIMM n\u00e9cessite des mises \u00e0 niveau simultan\u00e9es de l\u2019alimentation \u00e9lectrique et de la capacit\u00e9 de refroidissement ; le co\u00fbt total de possession inclut non seulement l\u2019achat de la m\u00e9moire elle-m\u00eame, mais aussi les investissements en infrastructure.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t

MRDIMM, RDIMM, LRDIMM et HBM<\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\n\n\n\n\n\n\n\n\n
Type de m\u00e9moire<\/th>\nPositionnement de base<\/th>\nVitesse typique<\/th>\nPrincipaux avantages<\/th>\nNiveau de co\u00fbt<\/th>\nCas d'utilisation typiques<\/th>\n<\/tr>\n<\/thead>\n
UDIMM<\/td>\nM\u00e9moire non tamponn\u00e9e grand public<\/td>\n4 800\u20136 400 MT\/s<\/td>\nFaible latence, faible co\u00fbt<\/td>\nFaible<\/td>\nOrdinateurs de bureau, stations de travail d'entr\u00e9e de gamme<\/td>\n<\/tr>\n
RDIMM<\/td>\nM\u00e9moire standard du serveur<\/td>\n4 800\u20136 400 MT\/s<\/td>\nStable, \u00e9quilibr\u00e9, largement compatible<\/td>\nMoyen<\/td>\nServeurs polyvalents, virtualisation<\/td>\n<\/tr>\n
LRDIMM<\/td>\nM\u00e9moire \u00e0 haute densit\u00e9 et haute capacit\u00e9<\/td>\n4 800\u20135 600 MT\/s<\/td>\nCapacit\u00e9 par module tr\u00e8s \u00e9lev\u00e9e, prend en charge les configurations \u00e0 haute densit\u00e9<\/td>\nMoyen \u00e0 \u00e9lev\u00e9<\/td>\nBases de donn\u00e9es en m\u00e9moire, n\u0153uds \u00e0 haute capacit\u00e9<\/td>\n<\/tr>\n
MRDIMM<\/td>\nM\u00e9moire de serveur \u00e0 haut d\u00e9bit<\/td>\n8 800\u201312 800 MT\/s<\/td>\nBande passante doubl\u00e9e, bonne latence, compatible avec les emplacements<\/td>\nPlus \u00e9lev\u00e9<\/td>\nInf\u00e9rence IA, calcul haute performance (HPC), analyse de donn\u00e9es en temps r\u00e9el<\/td>\n<\/tr>\n
HBM<\/td>\nM\u00e9moire \u00e0 large bande passante empil\u00e9e en 3D<\/td>\nplus de 6 400 MT\/s<\/td>\nBande passante extr\u00eamement \u00e9lev\u00e9e, d\u00e9ploy\u00e9e \u00e0 proximit\u00e9 des unit\u00e9s de calcul<\/td>\nTr\u00e8s \u00e9lev\u00e9<\/td>\nAcc\u00e9l\u00e9rateurs GPU, puces d'entra\u00eenement pour l'IA<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Il est important de noter que les technologies MRDIMM et HBM ne sont pas concurrentes, mais compl\u00e9mentaires. La technologie HBM utilise un empilement 3D et est int\u00e9gr\u00e9e directement dans les GPU ou les acc\u00e9l\u00e9rateurs d\u2019IA, \u00e0 proximit\u00e9 imm\u00e9diate des unit\u00e9s de calcul, afin de fournir une m\u00e9moire de proximit\u00e9 \u00e0 tr\u00e8s haute bande passante ; cependant, sa capacit\u00e9 est limit\u00e9e par l\u2019espace disponible dans le bo\u00eetier et son co\u00fbt est extr\u00eamement \u00e9lev\u00e9 \u2014 elle est destin\u00e9e au calcul acc\u00e9l\u00e9r\u00e9 c\u00f4t\u00e9 GPU. La MRDIMM, en revanche, est d\u00e9ploy\u00e9e dans des emplacements m\u00e9moire standard sur la carte m\u00e8re du serveur en tant que m\u00e9moire principale du syst\u00e8me du processeur (CPU), avec des capacit\u00e9s par module pouvant atteindre 256 Go, voire plus, \u00e0 un co\u00fbt bien inf\u00e9rieur \u00e0 celui de la HBM \u2014 elle est destin\u00e9e au calcul g\u00e9n\u00e9ral c\u00f4t\u00e9 processeur. Dans un serveur d\u2019IA typique, les cartes GPU sont \u00e9quip\u00e9es de HBM pour le calcul central, tandis que le c\u00f4t\u00e9 CPU est \u00e9quip\u00e9 de MRDIMM pour l\u2019ordonnancement du syst\u00e8me, le pr\u00e9traitement des donn\u00e9es et la gestion du cache KV \u2014 chacun jouant son propre r\u00f4le et prenant conjointement en charge les charges de travail d\u2019IA.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t

Quatre sc\u00e9narios d'application cl\u00e9s pour le MRDIMM<\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\"\"\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t

Inf\u00e9rence IA et mise en service de mod\u00e8les \u00e0 grande \u00e9chelle<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

L'inf\u00e9rence sur les grands mod\u00e8les d'IA constitue actuellement le sc\u00e9nario d'application le plus crucial pour les MRDIMM et le domaine qui conna\u00eet la croissance la plus rapide. Lors de l\u2019inf\u00e9rence des grands mod\u00e8les d\u2019IA, chaque token g\u00e9n\u00e9r\u00e9 n\u00e9cessite des lectures r\u00e9p\u00e9t\u00e9es du cache KV. \u00c0 mesure que la concurrence augmente et que le nombre de param\u00e8tres du mod\u00e8le s\u2019accro\u00eet, le volume des lectures du cache KV explose, et le d\u00e9bit du syst\u00e8me est souvent directement limit\u00e9 par la bande passante m\u00e9moire plut\u00f4t que par la puissance de calcul du processeur.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t\t\t

La bande passante doubl\u00e9e des MRDIMM se traduit directement par un d\u00e9bit d\u2019inf\u00e9rence plus \u00e9lev\u00e9. Lors de tests en conditions r\u00e9elles sur la plateforme Intel Xeon 6, les serveurs \u00e9quip\u00e9s de MRDIMM ont affich\u00e9 une acc\u00e9l\u00e9ration d\u2019environ 33% dans les t\u00e2ches d\u2019inf\u00e9rence LLM, ce qui signifie qu\u2019un seul serveur peut traiter davantage de requ\u00eates simultan\u00e9es, r\u00e9duisant ainsi consid\u00e9rablement le co\u00fbt d\u2019inf\u00e9rence par token. Pour les serveurs d\u2019inf\u00e9rence bas\u00e9s sur CPU, les n\u0153uds d\u2019inf\u00e9rence en p\u00e9riph\u00e9rie et les sc\u00e9narios de d\u00e9ploiement de mod\u00e8les de petite \u00e0 moyenne taille, la technologie MRDIMM s\u2019impose comme une option de mise \u00e0 niveau des performances \u00e0 un bon rapport co\u00fbt-efficacit\u00e9.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t

Calcul haute performance<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Les charges de travail HPC traditionnelles \u2014 calcul scientifique, simulation m\u00e9t\u00e9orologique, simulation num\u00e9rique, g\u00e9nomique \u2014 constituent \u00e9galement des cibles de choix pour la technologie MRDIMM. Ces applications traitent g\u00e9n\u00e9ralement des ensembles de donn\u00e9es massifs, les c\u0153urs de processeur lisant en continu de grandes matrices et des tableaux depuis la m\u00e9moire. D\u00e8s que le nombre de c\u0153urs d\u00e9passe un certain seuil, la bande passante m\u00e9moire devient le goulot d\u2019\u00e9tranglement du pipeline de calcul, laissant de nombreux c\u0153urs inactifs dans l\u2019attente de donn\u00e9es. La bande passante \u00e9lev\u00e9e des MRDIMM permet de mieux alimenter les processeurs multic\u0153urs, ce qui maintient davantage de c\u0153urs occup\u00e9s simultan\u00e9ment. Pour les charges de travail HPC limit\u00e9es par la bande passante m\u00e9moire, le gain de performances apport\u00e9 par les MRDIMM se rapproche du gain de bande passante th\u00e9orique \u2014 de l\u2019ordre de 30% \u00e0 40%. Pour les centres de supercalcul et les instituts de recherche, cela se traduit par une am\u00e9lioration des performances \u00e9quivalente \u00e0 environ une g\u00e9n\u00e9ration, \u00e0 un co\u00fbt relativement raisonnable, sans avoir \u00e0 remplacer le processeur.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t

Finance et analyse des donn\u00e9es en temps r\u00e9el<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Les cas d'utilisation dans le secteur financier \u2014 trading \u00e0 haute fr\u00e9quence, quantification des risques, entreposage de donn\u00e9es en temps r\u00e9el \u2014 imposent des exigences extr\u00eamement strictes en mati\u00e8re de performances m\u00e9moire : non seulement une bande passante \u00e9lev\u00e9e, mais aussi une faible latence et un haut niveau de d\u00e9terminisme. Prenons l\u2019exemple des calculs de valeur \u00e0 risque (VaR) ou des mod\u00e8les d\u2019\u00e9valuation des options : ces t\u00e2ches n\u00e9cessitent d\u2019analyser et d\u2019effectuer des calculs sur des ensembles de donn\u00e9es massifs dans des d\u00e9lais extr\u00eamement courts, et la bande passante m\u00e9moire d\u00e9termine directement la dur\u00e9e totale de chaque calcul de risque.\u00a0<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t\t\t

Dans le cadre du benchmark STAC-A2 consacr\u00e9 \u00e0 l'analyse des risques financiers, les plateformes \u00e9quip\u00e9es de MRDIMM ont d\u00e9j\u00e0 \u00e9tabli de nouveaux records de performance, r\u00e9duisant consid\u00e9rablement les cycles de calcul des mod\u00e8les quantitatifs. L\u2019avantage de la technologie MRDIMM r\u00e9side dans sa capacit\u00e9 \u00e0 offrir une bande passante \u00e9lev\u00e9e tout en conservant une latence inf\u00e9rieure \u00e0 celle des m\u00e9moires haute capacit\u00e9 telles que les LRDIMM, r\u00e9pondant ainsi \u00e0 la fois aux exigences de \u201c vitesse \u201d et de \u201c stabilit\u00e9 \u201d. Pour les institutions financi\u00e8res, tr\u00e8s sensibles \u00e0 la vitesse d\u2019ex\u00e9cution des transactions et \u00e0 la rapidit\u00e9 des calculs, la technologie MRDIMM offre une solution permettant de tirer encore davantage de performances de l\u2019architecture DDR traditionnelle.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t

Cloud computing \u00e0 haute densit\u00e9 et virtualisation<\/h3>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

Alors que le nombre de c\u0153urs par serveur d\u00e9passe d\u00e9sormais la barre des 100, les fournisseurs de services cloud et les centres de donn\u00e9es d'entreprise sont confront\u00e9s \u00e0 un nouveau probl\u00e8me : la bande passante m\u00e9moire disponible par c\u0153ur ne cesse de diminuer, ce qui affecte les performances des instances cloud et des machines virtuelles. Dans les sc\u00e9narios de virtualisation \u00e0 haute densit\u00e9, un seul serveur peut h\u00e9berger des dizaines de machines virtuelles, chacune disposant d'une bande passante m\u00e9moire tr\u00e8s limit\u00e9e.\u00a0Lorsque plusieurs locataires ex\u00e9cutent simultan\u00e9ment des charges de travail gourmandes en m\u00e9moire, les conflits de bande passante peuvent facilement entra\u00eener des fluctuations de performances, compromettant ainsi le respect de l'accord de niveau de service (SLA).<\/span>\u00a0<\/span><\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t\t\t

La technologie MRDIMM augmente la bande passante totale de la m\u00e9moire du syst\u00e8me, ce qui accro\u00eet indirectement la bande passante moyenne disponible par c\u0153ur et par machine virtuelle, permettant ainsi une plus grande densit\u00e9 de machines virtuelles. Pour les fournisseurs de cloud, cela signifie qu'un plus grand nombre d'instances cloud peut \u00eatre h\u00e9berg\u00e9 par serveur, ce qui am\u00e9liore l'utilisation du mat\u00e9riel et le retour sur investissement. Pour les clouds priv\u00e9s d'entreprise, cela renforce la stabilit\u00e9 des performances dans les environnements multi-locataires.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t

Panorama du secteur et tendances futures<\/h2>\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t

La cha\u00eene industrielle MRDIMM comporte trois niveaux. Le niveau amont, celui des puces d\u2019interface, pr\u00e9sente les barri\u00e8res technologiques les plus \u00e9lev\u00e9es ; Montage Technology, l\u2019une des principales entreprises \u00e0 l\u2019origine de la norme JEDEC, est un fournisseur mondial cl\u00e9 de puces MRCD\/MDB, dont les produits de deuxi\u00e8me g\u00e9n\u00e9ration sont d\u00e9j\u00e0 commercialis\u00e9s en grande s\u00e9rie. Parmi les fournisseurs de modules en milieu de cha\u00eene figurent Samsung, Micron, SK hynix et d\u2019autres, qui ont tous lanc\u00e9 des produits MRDIMM couvrant plusieurs niveaux de capacit\u00e9. La plate-forme CPU en aval s\u2019articule actuellement autour d\u2019Intel Xeon 6, la premi\u00e8re plate-forme serveur prenant en charge nativement la technologie MRDIMM. Dans l\u2019ensemble, la technologie MRDIMM est actuellement en phase de transition entre la validation initiale et le d\u00e9ploiement \u00e0 l\u2019\u00e9chelle : les produits de premi\u00e8re g\u00e9n\u00e9ration \u00e0 8 800 MT\/s sont en production et ont fait l\u2019objet d\u2019un d\u00e9ploiement \u00e0 petite \u00e9chelle chez les principaux fournisseurs de cloud et les entreprises sp\u00e9cialis\u00e9es dans l\u2019IA, tandis que ceux de deuxi\u00e8me g\u00e9n\u00e9ration \u00e0 12 800 MT\/s sont en phase de validation \u00e0 grande \u00e9chelle.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t\t\t

Les deux \u00e0 trois prochaines ann\u00e9es constitueront une p\u00e9riode d\u00e9cisive pour l\u2019adoption g\u00e9n\u00e9ralis\u00e9e de la technologie MRDIMM, sous l\u2019impulsion de trois facteurs cl\u00e9s : l\u2019explosion de la demande en bande passante de cache KV li\u00e9e \u00e0 l\u2019inf\u00e9rence IA, la r\u00e9duction des \u00e9carts de co\u00fbts \u00e0 mesure que la production s\u2019intensifie, et le soutien croissant de la part d\u2019un plus grand nombre de plateformes de processeurs. Selon la feuille de route du JEDEC, la technologie MRDIMM continuera \u00e0 \u00e9voluer selon une trajectoire passant par 8 800 MT\/s, 12 800 MT\/s et 16 000 MT\/s. Avant que les normes DDR6 ne soient d\u00e9ploy\u00e9es \u00e0 grande \u00e9chelle, la technologie MRDIMM constituera la principale voie d\u2019am\u00e9lioration de la bande passante au sein de l\u2019\u00e9cosyst\u00e8me de la m\u00e9moire DDR, compl\u00e9tant la technologie HBM de mani\u00e8re diff\u00e9renci\u00e9e et en plusieurs couches afin de r\u00e9pondre conjointement aux besoins en m\u00e9moire tant du c\u00f4t\u00e9 des processeurs que des acc\u00e9l\u00e9rateurs \u00e0 l\u2019\u00e8re de l\u2019IA.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t\t\t

Si l'on retrace l'histoire des technologies de m\u00e9moire, chaque innovation architecturale est apparue \u00e0 un moment o\u00f9 la puissance de calcul et la bande passante \u00e9taient devenues nettement d\u00e9s\u00e9quilibr\u00e9es. La MRDIMM est pr\u00e9cis\u00e9ment le fruit de l\u2019explosion des calculs d\u2019IA. Elle ne cherche pas \u00e0 bouleverser le cadre fondamental de la m\u00e9moire DDR ; au contraire, gr\u00e2ce \u00e0 une architecture de multiplexage ing\u00e9nieuse, elle permet de r\u00e9aliser un bond en avant en mati\u00e8re de bande passante au sein de l\u2019\u00e9cosyst\u00e8me existant. \u00c0 mesure que la demande en mati\u00e8re d\u2019inf\u00e9rence IA et de calcul haute performance (HPC) continue de cro\u00eetre, et que l\u2019\u00e9cosyst\u00e8me des plateformes CPU arrive \u00e0 maturit\u00e9, la MRDIMM devrait passer du statut de composant optionnel pour serveurs haut de gamme \u00e0 celui de configuration courante pour la m\u00e9moire principale c\u00f4t\u00e9 CPU \u00e0 l\u2019\u00e8re de l\u2019IA. Elle fonctionnera alors de concert avec la HBM pour constituer une hi\u00e9rarchie de m\u00e9moire en couches et compl\u00e9mentaire, capable de soutenir l\u2019\u00e9volution continue des infrastructures de calcul de nouvelle g\u00e9n\u00e9ration.<\/p>\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>","protected":false},"excerpt":{"rendered":"

Alors que l'architecture DDR traditionnelle atteint ses limites physiques, la technologie MRDIMM, gr\u00e2ce \u00e0 son architecture de multiplexage qui double la bande passante effective, s'impose comme la solution technique de nouvelle g\u00e9n\u00e9ration permettant de surmonter les goulots d'\u00e9tranglement li\u00e9s \u00e0 la m\u00e9moire.<\/p>","protected":false},"author":4,"featured_media":18868,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"set","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[49],"tags":[],"class_list":["post-18827","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-company-news"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.oscoo.com\/fr\/wp-json\/wp\/v2\/posts\/18827","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.oscoo.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.oscoo.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.oscoo.com\/fr\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.oscoo.com\/fr\/wp-json\/wp\/v2\/comments?post=18827"}],"version-history":[{"count":59,"href":"https:\/\/www.oscoo.com\/fr\/wp-json\/wp\/v2\/posts\/18827\/revisions"}],"predecessor-version":[{"id":18895,"href":"https:\/\/www.oscoo.com\/fr\/wp-json\/wp\/v2\/posts\/18827\/revisions\/18895"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.oscoo.com\/fr\/wp-json\/wp\/v2\/media\/18868"}],"wp:attachment":[{"href":"https:\/\/www.oscoo.com\/fr\/wp-json\/wp\/v2\/media?parent=18827"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.oscoo.com\/fr\/wp-json\/wp\/v2\/categories?post=18827"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.oscoo.com\/fr\/wp-json\/wp\/v2\/tags?post=18827"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}