Для выполнения задач искусственного интеллекта требуются как оперативная память (RAM), так и твердотельные накопители (SSD), которые выступают, соответственно, в качестве рабочей среды для вычислений в режиме реального времени и высокоскоростного хранилища данных. Ни от одного, ни от другого нельзя отказаться. Объем оперативной памяти определяет, сможет ли модель ИИ загрузиться без сбоев и насколько быстро она будет работать, а SSD влияет на время запуска модели и эффективность подачи данных во время обучения. Чем больше модель ИИ, тем выше требования как к емкости, так и к скорости. Это является основной причиной того, что нынешний бум в области ИИ привёл к резкому росту спроса на микросхемы памяти и хранения данных.
Ключевая роль оперативной памяти (RAM) в искусственном интеллекте
Память служит высокоскоростной промежуточной зоной хранения данных между процессором и постоянным накопителем, при этом скорость чтения и записи в ней в десятки и сотни раз превышает скорость SSD-накопителей, хотя при отключении питания данные теряются. В сфере искусственного интеллекта память выполняет три ключевые функции.
- Модель проживания. Будь то чат-бот или инструмент для генерации изображений, модель искусственного интеллекта должна быть полностью загружена в память во время выполнения, чтобы процессор мог быстро получить к ней доступ. Если памяти не хватает для размещения всей модели, система вынуждена постоянно считывать и записывать данные на SSD, что снижает производительность в десятки раз, а в крайних случаях программа может вообще не запуститься.
- Временный хранение промежуточных переменных. В процессе обучения моделей искусственного интеллекта генерируются огромные объёмы кратковременных данных, включая значения активаций для каждого слоя, вычисленные градиенты и параметры состояния оптимизатора. Эти данные многократно считываются и записываются на протяжении всего цикла обучения и должны храниться в высокоскоростной памяти для обеспечения эффективности обучения. В случае крупных языковых моделей объём промежуточных данных зачастую значительно превышает объём самих весов модели.
- Буферизация при предварительной обработке данных. Прежде чем поступить в графический процессор, обучающие данные должны пройти обработку в памяти, включая аугментацию, нормализацию, формирование пакетов и другие этапы предварительной обработки. Недостаточный объем памяти может привести к остановке потока данных, в результате чего графический процессор будет простаивать в ожидании данных, что приведет к растрате дорогостоящих вычислительных ресурсов.
Помимо пропускной способности, не менее важную роль играет пропускная способность памяти. Современные тенденции Память DDR5 Производительность каждого модуля может достигать 51,2 ГБ/с, а в многоканальных конфигурациях общая пропускная способность системы может легко превысить 400 ГБ/с, обеспечивая непрерывную подачу данных на графический процессор. По состоянию на третий квартал 2025 года доля DDR5 на рынке серверов превысила 90%, что делает его бесспорным лидером среди решений для центров обработки данных и кластеров обучения искусственного интеллекта. Недостаточная пропускная способность станет «узким местом» даже для самых мощных графических процессоров.
Ключевая роль SSD-накопителей в искусственном интеллекте
SSD — это устройства постоянного хранения, в которых на длительный срок хранятся все статические данные, связанные с искусственным интеллектом. По сравнению с традиционными жесткие диски (HDD), SSD-накопители обеспечивают в сотни раз более высокую скорость произвольного чтения и записи, а также чрезвычайно низкую задержку, что имеет решающее значение для рабочих нагрузок искусственного интеллекта.
- Хранение файлов моделей — это самое базовое применение SSD-накопителей. Размер современных широко используемых крупных моделей колеблется от десятков до сотен гигабайт, и при каждом запуске требуется загрузить полную модель из хранилища в оперативную память. Загрузка модели с 70 миллиардами параметров с обычного жесткого диска (HDD) может занять несколько минут, тогда как высокопроизводительный SSD-накопитель NVMe позволяет сократить это время до десятков секунд.
- Производительность чтения обучающего набора данных имеет ещё более решающее значение. При обучении ИИ из набора данных случайным образом отбираются примеры для формирования партий — такая рабочая нагрузка характеризуется большим количеством случайных чтений небольших файлов, и именно с этим у жестких дисков возникают трудности. Жесткие диски способны обрабатывать лишь около сотни случайных чтений в секунду, в то время как современные массовые SSD-накопители стандарта PCIe 4.0 обычно обеспечивают более 1000K IOPS при произвольном чтении, а флагманские накопители стандарта PCIe 5.0 могут достигать показателя в 2000K IOPS, что более чем в 20 000 раз превышает показатели жестких дисков. Если обучающие данные хранятся на жестком диске, загрузка графического процессора может опуститься ниже 20%, при этом большая часть времени уходит на ожидание загрузки данных.
- Сохранение контрольных точек во время тренировок также зависит от SSD-накопителей. Чтобы избежать потери результатов обучения в случае его прерывания, система периодически сохраняет состояния модели, причем объем каждой записи составляет от нескольких ГБ до десятков ГБ. Низкая скорость записи увеличивает интервалы между контрольными точками и снижает общую эффективность обучения.
- В крупных центрах обработки данных с использованием искусственного интеллекта SSD-накопители также выступают в качестве уровня «горячих» данных. Часто используемые обучающие данные и активные модели хранятся на SSD-накопителях, тогда как исторические резервные копии и редко используемые «холодные» данные перемещаются на более дешевые HDD-накопители или ленточные библиотеки, что позволяет достичь баланса между производительностью и стоимостью.
Как они взаимодействуют друг с другом
В системах искусственного интеллекта используется иерархическая пирамида хранения данных: чем выше уровень, тем выше скорость, тем меньше емкость и тем выше стоимость единицы хранения.
- На самом верху находится видеопамять графического процессора (GPU VRAM) или Память с высокой пропускной способностью (HBM), в котором хранятся данные, обрабатываемые в данный момент: самый быстрый, но с наименьшей вместимостью.
- Второй уровень — это системная оперативная память, в которой хранятся данные для последующих вычислений и все промежуточные результаты: немного медленнее, но с гораздо большей пропускной способностью.
- Третий уровень — это SSD-накопители NVMe, на которых хранятся часто используемые модели и наборы данных: снова более медленный, но способный обрабатывать большие объемы данных.
- Внизу находятся жесткие диски и ленточные накопители для долгосрочного «холодного» резервного копирования: самый медленный, но с самой низкой стоимостью за гигабайт.
Обмен данными между этими уровнями происходит упорядоченно. В начале обучения или инференса веса модели загружаются с SSD-накопителей в оперативную память системы. Во время вычислений данные текущей партии передаются из оперативной памяти в видеопамять графического процессора (GPU VRAM). После завершения работы графического процессора результаты записываются обратно в оперативную память, а затем периодически сохраняются на SSD-накопителях. Узкое место в производительности на любом уровне замедлит работу всей системы, поэтому для модернизации системы искусственного интеллекта обычно требуется комплексный подход. Замена только графической карты при сохранении старой памяти и хранилища даст весьма ограниченный прирост производительности.
Рекомендации по настройке для различных сценариев
Различные сценарии применения ИИ предъявляют совершенно разные требования к объему памяти и SSD. В приведенной ниже таблице представлены рекомендуемые конфигурации, основанные на типичных настройках в 2026.
| Вариант использования | Рекомендуемый объем оперативной памяти | Рекомендуемый объём SSD |
|---|---|---|
| Локальное выведение для LLM с 7 миллиардами параметров | 32 ГБ и более | 512 ГБ и более |
| Локальное выведение для LLM с 13B параметрами | 64 ГБ или более | 1 ТБ или более |
| Ежедневное использование ИИ для генерации изображений | 32 ГБ и более | 1 ТБ или более |
| Обучение и тонкая настройка небольших и средних моделей | 64 ГБ или более | SSD-накопитель PCIe 4.0 NVMe объемом 2 ТБ или более |
| Обучение крупных моделей с использованием нескольких графических процессоров на одном узле | от 256 ГБ до 512 ГБ | SSD-накопитель NVMe корпоративного класса объемом 8 ТБ или более |
| Сервер искусственного интеллекта класса «дата-центр» | от 1 ТБ до 4 ТБ DDR5 | SSD корпоративного класса объемом 30 ТБ и более |
