На серверах искусственного интеллекта широко используется память DDR5, которая в настоящее время является стандартной конфигурацией системной памяти для вычислительной инфраструктуры ИИ. Будь то высокопроизводительные серверы для обучения ИИ или крупномасштабные серверы для инференции, DDR5 выступает в качестве основной памяти на стороне ЦП и работает в сочетании с памятью HBM с высокой пропускной способностью на стороне графического процессора. Обе технологии выполняют разные, но взаимодополняющие роли и совместно обеспечивают стабильную работу ИИ-нагрузок. Благодаря активному росту спроса на ИИ, уровень проникновения DDR5 на мировом рынке ИИ-серверов к 2026 году достигнет высокого уровня, что сделает её неотъемлемым ключевым компонентом вычислительной инфраструктуры ИИ.
DDR5 теперь входит в стандартную конфигурацию серверов искусственного интеллекта
На фоне стремительного роста отрасли искусственного интеллекта DDR5 завершила переход от “дополнительной конфигурации” к “стандартной конфигурации” и стала обязательным компонентом серверов искусственного интеллекта.
Что касается проникновения на рынок, то ожидается, что в 2026 году общий уровень проникновения DDR5 на мировом рынке серверной памяти DRAM составит от 62% до 82%. В сегменте серверов искусственного интеллекта этот показатель значительно выше. Новые модели от ведущих производителей полностью перешли на DDR5, и процесс смены поколений — с DDR4 на DDR5 — в целом завершен.
Серверы с искусственным интеллектом используют гораздо больше памяти DDR5, чем традиционные корпоративные серверы. Объем памяти DDR5 в одном сервере искусственного интеллекта в 8–10 раз превышает аналогичный показатель традиционного сервера. Спрос на DDR5 со стороны поставщиков облачных услуг и компаний, занимающихся искусственным интеллектом, стал важнейшим фактором роста мирового рынка DDR5, обеспечивая значительную долю общей рыночной стоимости и превратившись в главную движущую силу роста отрасли производства памяти. Например, типовой высокопроизводительный сервер для обучения ИИ, построенный на платформе NVIDIA H100, обычно использует от 2 до 4 ТБ системной памяти DDR5 в сочетании с 640 ГБ памяти HBM, образуя иерархическую архитектуру памяти. Эти два типа памяти соответственно отвечают за кэширование параметров модели и буферизацию данных активных вычислений.
Цепочка поставок в отрасли также завершила полную адаптацию. Серверные процессорные платформы нового поколения от Intel и AMD изначально поддерживают DDR5. Производители памяти, такие как Micron, SK hynix и Samsung, выпустили продукты DDR5 RDIMM, специально оптимизированные для ИИ, которые соответствуют высокопроизводительным техническим характеристикам, включая модули большой емкости (256 ГБ) и скорость передачи данных 9200 МТ/с. Ожидается, что на китайском рынке ведущие производители серверов, такие как Inspur Information, Dawning Information Industry и H3C, к 2026 году будут оснащать вновь продаваемые серверы для искусственного интеллекта конфигурациями DDR5 с показателями выше 92%, завершив тем самым переход на новую продукцию.
Основные причины, по которым производители серверов с ИИ выбирают DDR5
По сравнению с DDR4 предыдущего поколения DDR5 обеспечивает значительное повышение пропускной способности, объёма памяти и энергоэффективности. Эти улучшения соответствуют основным требованиям рабочих нагрузок в области искусственного интеллекта и являются одной из главных причин того, что DDR5 стала стандартной конфигурацией для серверов искусственного интеллекта.
Более высокая пропускная способность соответствует наборам инструкций для ускорения ИИ
В настоящее время стандартная скорость серверной памяти DDR5 составляет от 5600 МТ/с до 6400 МТ/с, тогда как новейшие топовые модели 2026 года превышают отметку в 9200 МТ/с. DDR5 с высокой пропускной способностью в сочетании с наборами инструкций ускорения искусственного интеллекта на стороне ЦП, такими как Intel AMX и AMD AVX-512, может значительно повысить производительность инференции в сценариях, где используется только ЦП. Согласно данным тестирования компании Micron, по сравнению с платформой DDR4 сервер, оснащенный памятью DDR5 и процессором Intel Xeon 4-го поколения, демонстрирует в 7,3 раза более высокую производительность инференса в области компьютерного зрения, в 4,9 раза более высокую производительность при вычислениях в области обработки естественного языка и в 4,3 раза более высокую производительность при вычислениях в системах рекомендаций, что обеспечивает эффективную поддержку облегчённых рабочих нагрузок искусственного интеллекта.
Большая вычислительная мощность обеспечивает возможность инференса для моделей большого размера
Один модуль DDR5 RDIMM теперь доступен объёмами 64 ГБ, 128 ГБ и даже 256 ГБ, что позволяет легко настроить двухпроцессорный сервер с объёмом системной памяти в несколько терабайт. При выполнении вычислений на базе искусственного интеллекта (ИИ) память DDR5 большой емкости позволяет кэшировать пары «ключ-значение» (KV) крупных моделей, что значительно сокращает задержку до появления первого токена при вычислениях с длинным контекстом, а также обеспечивает поддержку большего числа одновременных запросов. Отраслевые тесты показывают, что перенос кэшей KV крупных моделей в DDR5 большой емкости со стороны ЦП позволяет сократить задержку до появления первого токена при инференсе в режиме реального времени с длинным контекстом на 98% и удвоить пропускную способность при одновременном выполнении инференса, что значительно улучшает пользовательский опыт при использовании сервисов на основе крупных моделей.
Повышение энергоэффективности способствует широкомасштабному внедрению
Благодаря производственному процессу нового поколения память DDR5 потребляет на 15%–20% меньше энергии, чем память DDR4 предыдущего поколения с такой же ёмкостью. В то же время использование отдельных модулей большой ёмкости позволяет ещё больше снизить общее энергопотребление. Например, замена нескольких небольших модулей на один модуль DDR5 объёмом 256 ГБ позволяет значительно снизить энергопотребление памяти и сократить занимаемое пространство на материнской плате, что способствует повышению энергоэффективности. Для центров обработки данных искусственного интеллекта, в которых может быть развернуто десятки тысяч серверов, повышение энергоэффективности DDR5 может значительно снизить долгосрочные эксплуатационные расходы, а также уменьшить нагрузку на системы охлаждения, что делает эту технологию более подходящей для развертывания в стойках высокой плотности.
Различия в конфигурации DDR5 в различных сценариях применения ИИ
Различные рабочие нагрузки в области искусственного интеллекта предъявляют существенно разные требования к памяти DDR5. От обучения до инференса, от централизованных систем до периферийных — в каждом сценарии приоритеты конфигурации имеют свои особенности.
Серверы для обучения ИИ. Серверы для обучения ИИ используют графические процессоры (GPU) в качестве основного вычислительного ресурса в сочетании с памятью HBM. Память DDR5 в основном отвечает за предварительную обработку данных, планирование задач, загрузку моделей и временное хранение данных. Один сервер для обучения обычно оснащён от 384 ГБ до 768 ГБ памяти DDR5, тогда как высокопроизводительные системы обучения с 8 графическими процессорами могут быть сконфигурированы с объёмом памяти от 2 ТБ до 4 ТБ. По мере того как координирующая роль ЦП в процессе обучения продолжает расти, объём памяти также продолжает увеличиваться.
Серверы вычислений на базе ИИ. В серверах инференции на базе графических процессоров (GPU) память DDR5 взаимодействует с памятью GPU для кэширования ввода-вывода и планирования задач. Типичный объём памяти составляет от 192 до 384 ГБ. Существует также тип серверов инференции, работающих исключительно на базе центрального процессора (CPU), в которых память DDR5 используется в качестве основной памяти. Помимо того, что такие системы подходят для облегчённых моделей и сценариев построения выводов на периферии, они также широко используются для развертывания систем построения выводов на основе крупных моделей, где важны экономичность или отсутствие требований к задержке. Благодаря сочетанию DDR5 с высокой пропускной способностью и наборов инструкций искусственного интеллекта эти системы выполняют построение выводов исключительно на ЦП, что обеспечивает более низкие затраты на развертывание и большую гибкость.
Сценарии применения Edge AI. В сценариях применения периферийного ИИ и облегченных ИИ-решений обычно используется память DDR5 или LPDDR5X с низким энергопотреблением, что позволяет снизить энергопотребление при сохранении производительности и обеспечить соответствие требованиям к развертыванию периферийных центров обработки данных и встраиваемых устройств искусственного интеллекта.
Распределение функций и различия между DDR5 и HBM
DDR5 и HBM представляют собой разные уровни памяти в серверах искусственного интеллекта. Каждый из них выполняет свою роль, они дополняют друг друга, и между ними нет взаимозаменяемости.
| Сравнительное измерение | Системная память DDR5 | HBM (память с высокой пропускной способностью) |
|---|---|---|
| На количество порций | Процессор, отвечающий за планирование задач системы, предварительную обработку данных и кэширование моделей | Графический процессор/ускоритель искусственного интеллекта, отвечающий за основные вычисления в области искусственного интеллекта |
| Место установки | Слоты для памяти на материнской плате; съемные и заменяемые | Внутри корпуса графического процессора; 3D-наслоение и пайка |
| Уровень пропускной способности | От десятков до более чем 100 ГБ/с | Более 1,5 ТБ/с на чип, что превышает показатели DDR5 более чем в 10 раз |
| Основные преимущества | Большая пропускная способность, высокая экономическая эффективность, гибкие возможности развертывания | Чрезвычайно высокая пропускная способность, очень низкая задержка |
| Сравнительное измерение | Системная память DDR5 | HBM (память с высокой пропускной способностью) |
| Роль в сценариях применения ИИ | Обеспечивает работу системы, планирует выполнение задач, кэширует пары «ключ-значение» и хранит предварительно обработанные данные | Непрерывно снабжает вычислительное ядро ИИ большими объёмами параметров модели |
Проще говоря, HBM определяет верхний предел вычислительной мощности для обучения ИИ, а DDR5 — общую эффективность планирования, параллелизм вычислений при инференсе и способность ИИ-сервера обрабатывать длинные контексты. Обе технологии незаменимы. Следует четко отметить, что HBM — это специализированная память для графических процессоров (GPU) и не является системной памятью в традиционном понимании. Под системной памятью сервера конкретно подразумеваются модули памяти DDR5, установленные на материнской плате, которые являются базовой конфигурацией всех серверов.
Перспективы развития DDR5 в сценариях искусственного интеллекта
Постоянный рост спроса на технологии искусственного интеллекта стимулирует стремительное развитие технологии DDR5. В будущем можно выделить три основных направления развития.
- Во-первых, скорость и емкость будут продолжать расти. Скорость DDR5 приблизится к отметке более 10 000 МТ/с, а емкость одного модуля превысит 512 ГБ, что позволит ещё лучше удовлетворить потребности крупных моделей в обработке длинных контекстов и высокопараллельном вычислении.
- Во-вторых, технология MRDIMM получит более широкое распространение. Технология мультиплексированных модулей DIMM позволяет увеличить пропускную способность DDR5 с 30% до 40% без изменения архитектуры слотов материнской платы. Продукты первого поколения уже достигли скорости 8800MT/s на этапе создания образцов, а второе поколение, как ожидается, достигнет 12800MT/s в период с конца 2026 года по начало 2027 года (при условии окончательных объявлений производителей о начале массового производства). Это позволит эффективно устранить ’узкое место» пропускной способности памяти, вызванное ростом числа ядер ЦП.
- В заключение следует отметить, что ситуация с спросом и предложением останется напряженной. Рост спроса на DDR5, обусловленный развитием искусственного интеллекта, значительно опережает расширение мировых производственных мощностей по выпуску памяти. Ожидается, что в течение 2026 и 2027 годов сохранится дефицит высокоплотной и высокочастотной памяти DDR5 серверного класса, что станет одним из ключевых «узких мест» в обеспечении вычислительных мощностей для искусственного интеллекта.
