مع نمو نماذج الذكاء الاصطناعي, ذاكرة النطاق الترددي العالي (HBM) مع طبقات أكثر وسرعات أعلى لمواكبة ذلك. ومع ذلك، يزيد هذا من الحرارة، خاصةً في الطبقة المادية من القالب إلى القالب (D2D PHY)، وهي الواجهة التي تتعامل مع نقل البيانات بسرعة فائقة بين HBM وشريحة الذكاء الاصطناعي. تصبح هذه المنطقة الصغيرة أكثر المناطق سخونة في الشريحة. تُجبر HBM التقليدية الحرارة على الانتقال عبر عدة طبقات أساسية من القالب قبل أن تتمكن من الخروج، وهو مسار طويل وغير فعال. إذا لم تتم إزالة الحرارة بسرعة، ترتفع درجة حرارة الرقاقة وتؤدي إلى اختناقها - وهي آلية حماية ذاتية تقلل من الأداء. يُعد حل هذا الاختناق الحراري أمرًا ضروريًا لإطلاق الطاقة الكاملة لرقائق الذكاء الاصطناعي من الجيل التالي.
المكوّن الأساسي وكيف يعمل iHBM
وقد اقترحت شركة SK Hynix حلاً لمشكلة الحرارة هذه يسمى الذاكرة المدمجة ذات النطاق الترددي العالي أو iHBM. جوهر هذه التقنية هو مكون تبريد خاص مدمج داخل ذاكرة HBM. يُطلق على هذا المكون اسم ICE. يتكون ICE من مادة قائمة على السيليكون. تتميز هذه المادة بخاصيتين رئيسيتين في نفس الوقت. أولاً، لديها موصلية حرارية عالية، مما يعني أنها تنقل الحرارة بكفاءة. ثانيًا، إنها مادة عازلة للكهرباء، لذا يمكن وضعها بأمان بين الدوائر الكهربائية الكثيفة دون التسبب في حدوث ماس كهربائي. يتم وضع مكوّن ICE مباشرةً في منطقة D2D PHY، حيث تتركز الحرارة بشكل أكبر ويكون تبادل البيانات بين HBM والمعالج هو الأثقل.
في تصميم HBM التقليدي، يجب أن تمر الحرارة عبر عدة طبقات أساسية قبل مغادرة الشريحة. هذا المسار طويل، بينما يغير iHBM هذا المسار. باستخدام مكون ICE المدمج، فإنه ينشئ قناة حرارية مخصصة داخل الرقاقة. يمكن للحرارة الآن أن تنتقل مباشرةً تقريبًا من المصدر إلى علبة الرقاقة أو موزع الحرارة، دون المرور عبر العديد من الطبقات الوظيفية. يؤدي ذلك إلى تقصير مسار الحرارة وتقليل المقاومة التي تقابلها الحرارة على طول الطريق.
من من منظور التصنيع، تم بناء iHBM على تقنية التعبئة على مستوى الرقاقة MR-MUF التي تم إنتاجها بالفعل على نطاق واسع من شركة SK Hynix. ترمز MR-MUF إلى عملية إعادة التعبئة المقولبة على نطاق واسع، وهي عملية توفر كفاءة إنتاج عالية وعائد جيد. إن إضافة خطوة تضمين مكون ICE إلى هذه العملية الحالية يجعل إنتاج iHBM على نطاق واسع أمرًا ممكنًا.
المزايا الرئيسية لـ iHBM
توفر تقنية iHBM العديد من الفوائد الواضحة من خلال تغيير مسار الحرارة.
- تبريد أفضل. ووفقًا للبيانات الصادرة عن SK Hynix، فإن iHBM يقلل من المقاومة الحرارية بأكثر من 30% مقارنةً بحلول التبريد التقليدية HBM. المقاومة الحرارية هي مقياس لمدى صعوبة تدفق الحرارة. وتعني المقاومة الحرارية المنخفضة أن الحرارة المتولدة داخل الرقاقة تتم إزالتها بسهولة أكبر. بالنسبة إلى منطقة عالية الكثافة في الطاقة مثل D2D PHY، يمكن أن يؤدي انخفاض المقاومة الحرارية بمقدار 30% إلى خفض درجة حرارة التشغيل بشكل كبير.
- تحسين استقرار النظام. بمجرد التحكم في درجة الحرارة بشكل جيد، يتحسن استقرار النظام. أثناء أعباء العمل الطويلة والثقيلة مثل تدريب الذكاء الاصطناعي والاستدلال، يمكن أن يؤدي ارتفاع درجة حرارة الرقاقة إلى اختناقها، مما يقلل من قوة الحوسبة. مع حل iHBM، يمكن للرقاقة أن تبقى في ذروة أدائها لفترات أطول وتعاني من أحداث اختناق أقل. وهذا مهم بشكل خاص لمهام تدريب النماذج الكبيرة التي تحتاج إلى العمل بشكل مستمر لأيام أو حتى أسابيع.
- حاجز نشر منخفض. ومن المزايا الأخرى لتقنية iHBM سهولة النشر. تحافظ التقنية على توافق التصميم العالي مع بيئات النظام في الحزمة الحالية. هذا يعني أن وحدات HBM التي تستخدم iHBM يمكن أن تحل محل وحدات HBM التقليدية دون إعادة تصميم وحدة معالجة الرسومات أو حزمة مسرع الذكاء الاصطناعي. بالنسبة لصانعي الرقاقات ومقدمي الخدمات السحابية، فإن هذا يقلل من الوقت والتكلفة اللازمين للتحقق من صحة التكنولوجيا وتكامل المنتج.
- جاهز للإنتاج بكميات كبيرة. فيما يتعلق بقابلية التصنيع، تعتمد iHBM على عملية التعبئة والتغليف الناضجة على مستوى الرقاقة MR-MUF من SK Hynix. وقد أثبتت هذه العملية فعاليتها على مدى أجيال متعددة من منتجات HBM، مع إنتاجية عالية وقدرة إنتاجية كبيرة. لا تتطلب إضافة خطوة تضمين مكون ICE إلى خط الإنتاج الحالي إعادة بناء تدفق التصنيع بالكامل. وهذا يعطي iHBM مسارًا واضحًا من المختبر إلى الاستخدام التجاري على نطاق واسع.
حالات الاستخدام الرئيسية
تعمل تقنية iHBM على حل مشكلة إدارة الحرارة في المناطق ذات الكثافة العالية للطاقة، لذا فإن حالات الاستخدام الرئيسية لها هي في المجالات التي تتطلب طاقة حوسبة عالية واستهلاكًا عاليًا للطاقة.
الحوسبة عالية الأداء (HPC). غالبًا ما تتضمن الحوسبة عالية الأداء عمليات محاكاة علمية معقدة والتنبؤ بالطقس وتحليل الجينوم ومهام مماثلة. تتطلب هذه المهام العديد من عقد الحوسبة للعمل بالتوازي، وغالبًا ما تعمل لساعات أو حتى أيام. في مثل هذه البيئات، تبقى الرقاقات تحت عبء ثقيل لفترات طويلة، وتتراكم الحرارة باستمرار. إذا كان التبريد غير كافٍ، ستتباطأ مجموعات الحوسبة بسبب حماية درجة الحرارة، مما يؤدي إلى إطالة وقت الحوسبة الإجمالي. يساعد iHBM الرقاقات في الحفاظ على درجة حرارة مستقرة من خلال خفض المقاومة الحرارية، وبالتالي ضمان قوة حوسبة مستدامة.
مراكز بيانات الذكاء الاصطناعي. مع انتشار الذكاء الاصطناعي التوليدي والنماذج اللغوية الكبيرة، ترتفع كثافة الطاقة في مراكز بيانات الذكاء الاصطناعي بسرعة. يمكن لخادم واحد للذكاء الاصطناعي أن يستهلك بالفعل عدة كيلوواط، حيث تكون وحدة معالجة الرسومات ووحدة معالجة الرسومات هي المصادر الرئيسية للحرارة. لا تحتاج مراكز البيانات إلى تبريد الرقائق فحسب، بل يجب أن تأخذ في الاعتبار أيضًا تكاليف الطاقة والمساحة لنظام التبريد بأكمله. التبريد الأكثر كفاءة على مستوى الرقاقة يعني اعتمادًا أقل على التبريد السائل أو المراوح عالية السرعة، مما يقلل من الاستثمار الرأسمالي ونفقات التشغيل لمعدات التبريد. يقوم iHBM بإدارة الحرارة مباشرةً داخل الرقاقة، مما يساعد على تقليل عبء إزالة الحرارة من المصدر.
أجهزة الذكاء الاصطناعي المتطورة المستقبلية. إن احتياجات التبريد الأكثر إلحاحًا حاليًا هي في مراكز البيانات. ولكن مع انتقال قدرات الذكاء الاصطناعي إلى الهواتف وأجهزة الكمبيوتر الشخصية والسيارات والأجهزة الطرفية الأخرى، ستزداد تحديات التبريد في هذه المساحات المدمجة. تتمتع الأجهزة الطرفية بمساحة محدودة للتبريد ولا يمكنها تركيب مراوح كبيرة أو أنظمة تبريد سائلة، لذا فهي تعتمد بشكل أكبر على كفاءة التبريد الخاصة بالشريحة. على الرغم من أن iHBM يستهدف حاليًا منتجات الذاكرة على مستوى المؤسسات مثل HBM5، إلا أن الفكرة نفسها - تضمين مكون تبريد مخصص في النقطة الساخنة - يمكن أن تلهم تصميمات التبريد للأجهزة المحمولة.
بالإضافة إلى ذلك، يمكن أن يستفيد أي نظام يستخدم ذاكرة ذات نطاق ترددي عالٍ ويواجه اختناقات في التبريد من تقنية iHBM. على سبيل المثال، تحتاج منصات الحوسبة عالية الأداء للقيادة الذاتية وخوادم الحوسبة المتطورة إلى التحكم في درجة الحرارة في ظل النشر عالي الكثافة. مع استمرار تزايد الطلب على الحوسبة، تتحول إدارة الحرارة من مشكلة ثانوية في النظام إلى مشكلة أساسية تحدد حدود الأداء. وبالتالي فإن الاتجاه الذي تمثله iHBM له أهمية أوسع نطاقاً.
المشهد التنافسي لتقنيات التبريد
مع استمرار ارتفاع كثافة طاقة ذاكرة HBM، أصبحت قدرة التبريد عاملاً رئيسيًا يحدد القدرة التنافسية لمنتجات HBM من الجيل التالي. تستكشف الشركات الثلاث الكبرى المصنعة للذاكرة، وهي SK Hynix وSamsung Electronics وMicrohn Technology، بالإضافة إلى بعض مزودي الخدمات السحابية، مسارات مختلفة لتكنولوجيا التبريد.
| الشركة | التكنولوجيا | الفكرة الأساسية | البيانات الرئيسية |
|---|---|---|---|
| إس كيه هاينكس | آي إتش بي إم | تضمين مكوّن تبريد عالي التوصيل الحراري وعازل للكهرباء داخل منطقة D2D PHY الساخنة في D2D PHY، مما يخلق مسارًا حراريًا مخصصًا | > 30% انخفاض المقاومة الحرارية |
| سامسونج للإلكترونيات | تبريد HPB + الربط النحاسي الهجين | تغيير هيكل تكديس الرقاقة عن طريق نقل DRAM إلى جانب المعالج ووضع موزع حراري نحاسي فوق قلب المعالج مباشرةً؛ واستخدام الربط النحاسي بالنحاس للتخلص من المقاومة الحرارية | ~30% انخفاض في درجة الحرارة؛ 16% تحسن في المعاوقة الحرارية |
| ميكرون تكنولوجي | تحسين تصميم الدائرة + القالب الأساسي المحسّن | تحسين التبريد مع تعزيز الأداء من خلال تحسين تصميم الدوائر الداخلية وتحسين أداء القالب الأساسي | >20% التحسن في كفاءة الطاقة |
| مايكروسوفت | تبريد الموائع الدقيقة | حفر قنوات دقيقة على الجزء الخلفي من رقاقة السيليكون وتوصيل سائل التبريد مباشرة إلى مصادر الحرارة داخل الرقاقة | إزالة الحرارة بمعدل 2-3 أضعاف أفضل من الألواح الباردة؛ تخفيض 65% في ذروة ارتفاع درجة الحرارة |
باختصار، حققت شركة SK Hynix تقدمًا مبكرًا في مجال التبريد باستخدام تقنية iHBM. تلحق شركة سامسونج بالركب بسرعة من خلال نهجي HPB والربط النحاسي الهجين. ولا تزال شركة Micron قادرة على المنافسة من خلال التحسينات المستمرة في كفاءة الطاقة. في الوقت نفسه، يستكشف مزودو الخدمات السحابية مثل Microsoft التبريد بالموائع الدقيقة من مستوى النظام، مما يفتح إمكانيات جديدة لتبريد رقائق الذكاء الاصطناعي ذات الطاقة الأعلى في المستقبل.
الخاتمة والتوقعات
تعالج تقنية iHBM من شركة SK Hynix مشكلة طال تجاهلها ولكنها ملحة بشكل متزايد: كيفية إزالة الحرارة بكفاءة من النقاط الساخنة داخل ذاكرة النطاق الترددي العالي. بالنسبة لمراكز بيانات الذكاء الاصطناعي ومستخدمي الحوسبة عالية الأداء، فإن التبريد الأفضل يعني طاقة حوسبة أكثر استقرارًا وتكاليف طاقة تبريد أقل وعمرًا أطول للمعدات. مع استمرار نمو حجم نماذج الذكاء الاصطناعي في النمو، سترتفع طبقات مكدس HBM وكثافة الطاقة بشكل أكبر. من المحتمل أن تتحول إدارة الحرارة من مشكلة ثانوية في تصميم النظام إلى مشكلة أساسية تحدد جدوى البنية التحتية للذكاء الاصطناعي من الجيل التالي. يوفر الاتجاه الذي يمثله iHBM - حل مشاكل الحرارة في المصدر، داخل الحزمة - مسارًا عمليًا للمضي قدمًا في مواجهة هذا التحدي.
