همانطور که به نظر می رسید زنجیره تامین سخت افزار فناوری بود بهبودی از کمبودهای ناشی از کووید، یک گلوگاه جدید ایجاد شده است که می تواند به طور بالقوه بر عرضه پردازنده های گرافیکی مرکز داده و برنامه های توسعه توسعه دهندگان مرکز داده تأثیر بگذارد.
در ماه مه، سازنده حافظه کره جنوبی SK Hynix اعلام کرد که عرضه تراشه های حافظه با پهنای باند بالا (HBM) آن برای سال 2024 و بیشتر سال 2025 تمام شده است. یکی از رقبای آن در این زمینه، Micron، بیانیه مشابهی را در ماه مارس منتشر کرده بود. سامسونگ، آخرین بازیکن در بازار HBM، هیچ نظر عمومی در مورد در دسترس بودن محصول ارائه نکرده است.
در میان افزایش هوش مصنوعی و خدمات دیجیتال، کمبود HBM چالش جدیدی برای گسترش مرکز داده است. در حالی که تمرکز زیادی روی آن گذاشته شده است تنگناهای GPUافزایش تقاضا برای حافظه با پهنای باند بالا می تواند بر برنامه های رشد صنعت تأثیر بگذارد.
چیپ های HBM چیست و چرا در مراکز داده مورد نیاز است؟
حافظه با پهنای باند بالا در خود بسته GPU واقعی استفاده می شود چیپس قرار گرفتن فیزیکی در کنار سیلیکون GPU، برخلاف DRAM استاندارد که بر روی میله های DIMM نصب شده و در کنار CPU قرار می گیرد.
طراحی HBM سرعت بسیار بیشتر و تاخیر کمتری را فراهم می کند و کلید عملکرد است پردازش هوش مصنوعی.
در طول کمبود زنجیره تامین COVID-19، خودروسازان نمیتوانستند تراشههایی برای وسایل نقلیه خود تهیه کنند، بنابراین به سادگی خودروهایی را بدون تراشه میساختند و تا زمانی که بتوانند موجودی خود را ذخیره کنند، آنها را خنثی کردند.
فروشندگان GPU مانند Nvidia و AMD چنین گزینه ای را ندارند. عدم وجود حافظه با پهنای باند بالا به این معنی است که GPU ها نمی توانند مونتاژ شوند زیرا HBM باید در مرحله ساخت به بسته GPU اضافه شود.
واضح است که موضوع حساسی است. وقتی نزدیک شد دانش مرکز داده، فروشندگان سخت افزار مرکز داده هاینیکس، میکرون، سامسونگ، انویدیا، اینتل و AMD همگی از اظهار نظر در مورد این موضوع خودداری کردند.
شماتیک یک کارت گرافیک که از حافظه با پهنای باند بالا استفاده می کند (تصویر: Shmuel Csaba Otto Traian، Wikimedia Commons)
TrendForce سهم HBM از بازار کلی حافظه را پیش بینی می کند در سال 2024 تقریبا دو برابر شده است – از 2 درصد در سال 2023 به 5 درصد در سال جاری. با نگاهی به آینده، انتظار میرود که سهم بازار HBM تا سال 2025 از 10 درصد کل بازار حافظه فراتر رود.
از نظر ارزش بازار، حافظه با پهنای باند بالا بیش از 20 درصد از کل را تشکیل می دهد. DRAM ارزش بازار از سال 2024 شروع می شود و تا سال 2025 به طور بالقوه بیش از 30 درصد خواهد بود.
رشد مرکز داده ادامه دارد، اما کمبود HBM می تواند چالش هایی ایجاد کند
ساخت حافظه HBM گرانتر، ساختن آن سختتر است و ساخت آن نسبت به DRAM استاندارد بیشتر طول میکشد. بنابراین، اینطور نیست که سازندگان حافظه بتوانند یک سکه صرف کنند و به افزایش تولید HBM خود روی آورند. چنین کارخانه های ساخت، مانند یک CPU fab، برای ساختن زمان می برد.
کمبود محصولات مرکز داده می تواند بر برنامه های توسعه و رشد صنعت تاثیر بگذارد، اما زنجیره تامین در حال حاضر ادامه دارد. ساخت مرکز داده ادامه دارد آلن هاوارد، تحلیلگر اصلی در زمینه ساخت مرکز داده و کولوکیشن با Omdia، خاطرنشان می کند علیرغم اینکه برخی از شرکت ها باید منتظر سخت افزار GPU باشند.
تقاضا قطعاً کاهش نمی یابد. Omdia پیشبینی میکند که برای سال 2024 برای 100 شرکتی که زیر نظر دارد، 37.7 میلیون فوت مربع و 6 گیگاوات ظرفیت برنامهریزیشده تخمین زده میشود که در سطح جهانی آنلاین شود.
هاوارد گفت: «کمبود GPU احتمالاً تأثیر چشمگیری بر برنامه های ساخت مرکز داده در آینده قابل پیش بینی نخواهد داشت. دانش مرکز داده. تنها چیزی که ممکن است در ساخت مرکز داده با توجه به سختافزار محاسباتی یا هوش مصنوعی لطمهای وارد کند، یک کابوس طولانیمدت زنجیره تامین خواهد بود. محتمل نیست، اما مانند یک بیماری همه گیر، غیرممکن نیست.»
و اگر کمبود قابل توجه GPU اتفاق بیفتد؟ Jon Peddie، رئیس Jon Peddie Research، یک شرکت تحقیقاتی سخت افزار فناوری، گفت: “این شهر معامله خواهد بود.” هر کدام از آن شرکتها مایل به پرداخت حق بیمه برای قرار گرفتن در رأس فهرست هستند، اولین محمولهها را دریافت میکنند و سپس این نوع معاملات همیشه ارائه میشوند.»
بقای بزرگترین؟
آنشل ساگ، تحلیلگر اصلی Moor Insights و Strategy گفت: مشکل واقعی این است که این مدل در صورت بروز گلوگاه HBM اجازه ورود به بازار را نمی دهد.
ساگ توضیح داد: «انویدیا قرار است سهم اصلی HBM را به دست آورد، اما AMD و سایرین احتمالاً برای مدتی سفارشات خود را وارد کردهاند. بنابراین، اگر میخواهید چیزی را راهاندازی کنید که از HBM استفاده میکند، و قبلاً در مورد عرضه خود مذاکره نکردهاید، احتمالاً چیزی دریافت نمیکنید.»
همچنین بر بازیکنان کوچکتری مانند SambaNova تأثیر میگذارد که سرورهای اختصاصی پردازش هوش مصنوعی را با استفاده از قطعات سیلیکونی سفارشی و غیر GPU خود میسازد. ساگ اشاره میکند که پردازندههای AMD Versal از پردازندههای FPGA نیز از حافظه HBM استفاده میکنند و ممکن است از کمبودهای بیشتری نیز رنج ببرند.
Peddie میگوید در حال حاضر تعداد زیادی پردازنده گرافیکی در دفترچههای سفارش وجود دارد. او انتظار دارد انویدیا 800000 پردازنده گرافیکی را در سه ماهه دوم عرضه کند، اما احتمالاً فروش بیشتری خواهد داشت. او گفت: “آنها احتمالا نمی توانند افزایش تقاضا را برآورده کنند، اما 80 درصد یا بیشتر از تقاضا را برآورده خواهند کرد.” «این فقط کمی ناراحتی است. میدانی، مثل این است که «هی، امشب دسر نمیخورم، اما یک شام عالی خوردم».
ساگ میگوید تنها راهی که میتوانست شاهد افزایش ظرفیت سازندگان حافظه باشد این است که فروشندهای مانند انویدیا از شخص ثالثی بخواهد که ظرفیت خود را افزایش دهد. شرکتهای دیگر… کارهایی از این قبیل را با ریختهگری انجام دادهاند. شرکتهایی مانند اپل و کوالکام ابزار و سرمایهای را در اختیار کارخانههای ریختهگری قرار دادهاند تا به کارگیری برخی فناوریها را تسریع کنند. بنابراین، سابقه ای برای فروشندگان تراشه وجود دارد که مشوق هایی را برای ریخته گری ها برای افزایش ظرفیت یا بهبود عملکردشان فراهم کنند.
فراتر از کمبود HBM: چالش های گسترش گسترده تر
Peddie پیشبینی میکند که مراکز داده در حال ساخت ساخته میشوند، اما در آینده، مشکلات GPU و تامین حافظه کمترین مشکل آنها خواهد بود، زیرا اپراتورها و سازندگان مرکز داده با چیزهای دیگری دست و پنجه نرم میکنند. این شامل به دست آوردن املاک و مستغلات، قدرت و خنک کننده کافی و سایر عواملی است که در ساخت یک مرکز داده نقش دارند. بنابراین، مشکل تامین GPU ممکن است بحث برانگیز باشد.
Peddie گفت: “پایه نصب شده به نقطه خاصی می رسد، شروع به نزدیک شدن به تقاضا می کند و سپس مشتریان آن را کنار می گذارند زیرا می گویند که ما در حال حاضر به تخته های بیشتری نیاز نداریم.” و ما نه تنها به اندازه کافی داریم، بلکه جایی برای قرار دادن موارد جدید نداریم.»