شما به احتمال زیاد اصطلاح “کارخانه های هوش مصنوعی” را شنیده اید ، اما واقعاً به چه معنی است؟ تاکنون ، این مفهوم بیش از آنچه تعریف شده است – بیشتر توسط Nvidia مورد استفاده قرار گرفته است. چشم انداز این شرکت مراکز داده پر از شتاب دهنده های AI با سطح بالا است ، اما آیا این دیدگاه واقع بینانه است یا فقط بازاریابی استراتژیک؟
به عبارت ساده ، کارخانه هوش مصنوعی یک مرکز داده تخصصی است که برای پردازش هوش مصنوعی به جای بارهای کاری سنتی مانند میزبانی بانکهای اطلاعاتی ، ذخیره فایل ، برنامه های تجاری یا خدمات وب طراحی شده است. یک کارخانه هوش مصنوعی در اطراف GPU ها ساخته شده است که هنگام کار با بارهای کار هوش مصنوعی از CPU ها در سرعت و قدرت بهتر است.
کارخانه های هوش مصنوعی امکاناتی هستند که برای پردازش مقادیر گسترده ای از داده ها برای استفاده از تولید هوش مصنوعی ، آموزش مدل های هوش مصنوعی و تولید خروجی های هوش مصنوعی مانند متن ، تصاویر ، فیلم ها یا محتوای صوتی و به روزرسانی سیستم های هوش مصنوعی و کنترل سایر سیستم ها مانند روبات ها یا ابر رایانه ها طراحی شده اند.
از آنجا که GPU ها بسیار گرم هستند و قدرت زیادی را مصرف می کنند ، کارخانه های هوش مصنوعی در مقایسه با مراکز داده سنتی به انرژی و خنک کننده بیشتری نیاز دارند. آنها به احتمال زیاد در جایی قرار می گیرند که انرژی ارزان است و آب آماده برای خنک کننده مایع وجود دارد.
یک مثال مرکز داده XAI Elon Musk است که دارای 100000 GPU NVIDIA H100 برای پردازش پیشرفته AI است. با حدود 40،000 دلار در هر GPU ، این نشان دهنده سرمایه گذاری بیش از 4 میلیارد دلار از یک مشتری واحد است – شاید نشان دهد که چرا جنسن هوانگ مدیرعامل Nvidia همچنان به قهرمانی در مفهوم کارخانه های هوش مصنوعی می پردازد.
در داخل یک کارخانه هوش مصنوعی: GPU های با کارایی بالا بار کار عظیم AI را هدایت می کنند ، اما آیا این امکانات می توانند به طور پایدار مقیاس شوند؟ تصویر: آلامی
کارخانه های هوش مصنوعی: اعتیاد به مواد مخدره در مقابل واقعیت
در حالی که این مفهوم قانع کننده است ، آیا ما این موج از کارخانه های هوش مصنوعی را می بینیم که جنسن امیدوار است؟ احتمالاً در مقیاس نیست. سخت افزار AI نه تنها برای به دست آوردن و بهره برداری پرهزینه است ، بلکه به طور مداوم مانند سرور پایگاه داده نیز اجرا نمی شود. پس از آموزش یک مدل ، ممکن است ماه ها به به روزرسانی احتیاج نداشته باشد ، و این زیرساخت های گران قیمت را بیکار می کند.
به همین دلیل ، آلن هوارد ، تحلیلگر ارشد OMDIA متخصص در زیرساخت ها و مراکز داده ، معتقد است که بیشتر استقرار سخت افزار هوش مصنوعی در مراکز داده چند منظوره رخ خواهد داد. این امکانات به احتمال زیاد دارای “مناطق AI” اختصاصی در کنار مناطقی برای محاسبات استاندارد و سایر بارهای کاری خواهد بود.
هوارد به گفت: “این احساس ما واقعاً است که برخی از مراکز داده هوش مصنوعی اختصاصی وجود خواهد داشت ، اما بعید است که به همان اندازه گسترده باشد که ما به آن اعتقاد داشته باشیم.” دانش مرکز دادهبشر
“اگر من یک سالن داده 50،000 متر مربع در یک مرکز داده داشته باشم ، و قدرت کافی دارم ، می توانم یک منطقه یا مجموعه ای ایجاد کنم که بتواند آن نیازهای قدرت بالا را برای استقرار تجهیزات AI برآورده کند. شما نمی خواهید مراکز داده زیادی را پر از دنده های هوش مصنوعی ببینید … این بخشی از یک مرکز داده بزرگتر خواهد بود.
برای اکثر آنها بسیار گران است
RAM Palaniappan ، مدیر ارشد فناوری با مشاوره Teksystems ، با این ایده موافق است که مراکز داده اختصاصی هوش مصنوعی محدود خواهد بود ، عمدتا به دلیل هزینه های بالای آن.
وی گفت: “شرکت ها استنباط بیشتری نسبت به آموزش داده های خود انجام می دهند.” “اگر می توانید در مرکز داده خود که برخی از بخش ها به AI اختصاص داده شده است ، پارتیشن کنید ، می توانید از آن ظرفیت GPU برای آموزش مدل استفاده کنید و سپس CPU های باقی مانده برای استنباط مدل استفاده می شوند. اینگونه است که ما می بینیم که چگونه دنیای مرکز داده بر اساس مصرف بنگاه اقتصادی و استفاده از هوش مصنوعی به سمت آن تنظیم می شود. “
آنتونی Goonetilleke ، گروه و رئیس استراتژی و فناوری برای ارائه دهنده تحول دیجیتال از راه دور AMDOCS ، معتقد است که بسیاری از این کارخانه های AI نسل بعدی برای مشتریان در دسترس خواهند بود تا از طریق یک مدل خدمات AI-AS-A-A-Servise اجاره دهند ، که عمده ارائه دهندگان خدمات ابری مانند ارائه خدمات وب آمازون.
Goonetilleke گفت: “مردم در تلاشند تا کارخانه های هوش مصنوعی را بسازند تا اساساً الگویی را ایجاد کنند که بتوانند ظرفیت هوش مصنوعی را به عنوان یک سرویس بفروشند ، همانطور که برخی از مشتریان ما به دنبال انجام آن هستند.” دانش مرکز دادهبشر “در پایان روز ، آن را به عنوان ژنرال زیرساخت های زیرساخت-به عنوان یک سرویس فکر کنید. من فکر می کنم هوش مصنوعی به عنوان یک سرویس از بین رفته است زیرا سرمایه گذاری در سخت افزار هوش مصنوعی بسیار گران است ، و در بسیاری موارد ، ممکن است شما دیگر به آن احتیاج نداشته باشید ، یا ممکن است نیازی به استفاده از آن نباشید. “
Palaniappan افزود: AI Tech به سرعت پیشرفت می کند و ادامه این رقابت بسیار گران است. وی گفت: “هنگامی که شما شروع به دیدن اینکه هر یک از این GPU ها چقدر هزینه دارند ، و خیلی سریع منسوخ می شود ، این تنگن می شود.” “اگر می خواهید از یک مرکز داده استفاده کنید ، همیشه به دنبال آخرین تراشه در این مرکز هستید ، بسیاری از این مراکز داده به دلیل این تلاش ها پول خود را از دست می دهند.”
شبکه را فراموش نکنید
علاوه بر هزینه GPU ، سرمایه گذاری قابل توجهی برای آن لازم است سخت افزار شبکه سازی، همانطور که تمام GPU ها نیاز به برقراری ارتباط با یکدیگر دارند. تام تراوگوت ، معاون ارشد استراتژی در زیرساخت های دیجیتال Edgecore ، توضیح می دهد که در یک سیستم معمولی هشت GPU NVIDIA DGX ، GPU ها از طریق NVLink ارتباط برقرار می کنند. با این حال ، برای به اشتراک گذاشتن داده ها با سایر GPU ها ، آنها به اترنت یا Infiniband تکیه می کنند و برای پشتیبانی از اتصال به سخت افزار شبکه قابل توجهی نیاز دارند.
Taugott گفت: “وقتی شما در حال انجام تمرین هستید ، مانند افراد در یک تیم است.” “همه آنها روی یک پروژه کار می کنند ، و به طور جمعی به صورت دوره ای و نوع یادداشت های تجاری با هم باز می گردند.”
در خوشه های کوچکتر ، هزینه های شبکه شبیه به مراکز داده سنتی است. با این حال ، در خوشه هایی با 5000 ، 10،000 یا 20،000 GPU ، شبکه سازی می تواند حدود 15 ٪ از کل Capex را تشکیل دهد. اتصالات چند شبکه مورد نیاز است زیرا مجموعه داده ها آنقدر عظیم هستند که یک NIC به راحتی اشباع می شود. برای جلوگیری از تنگنا ، چندین NIC مورد نیاز است – و هزینه به زودی اضافه می شود.
Taugott گفت: “ظاهرا ، این ممکن است به اندازه 30 ٪ تا 40 ٪ از هزینه های کلی باشد ، که متناسب با نسل های قبلی است.” دانش مرکز دادهبشر “بنابراین ، از دیدگاه مرکز داده ، ما ممکن است آن را به درستی خنک کننده فضای برق نبینیم ، اگر همه GPU ها باشد ، ممکن است تراکم های مختلفی وجود داشته باشد.”
بیشتر از آخرین اخبار مرکز داده هوش مصنوعی را بخوانید
آینده کارخانه های هوش مصنوعی
این هنوز فناوری بسیار جدیدی است. در حال حاضر فقط یک کارخانه شناخته شده AI وجود دارد – تسهیلات XAI. Nvidia اخیراً طرح هایی را برای ساخت کارخانه های هوش مصنوعی منتشر کرده است که به آنها گفته می شود طراحی مرجع سازمانی، برای کمک به راهنمایی روند ساختمان. خیلی زیاد در معرض تغییر است و با توسعه مفهوم ، وضوح لازم است.
“بنابراین ، آیا این یک روند کوچک خواهد بود که تعداد معدودی از شرکت ها وجود دارند که تعداد انگشت شماری از کارخانه های اختصاصی AI را انجام می دهند ، یا این بزرگتر خواهد بود؟ حدس و گمان شخصی من این است که احتمالاً حدود یک سال قبل از آن خواهد بود که آیا ما در مورد ساخت مرکز داده جدید در دنیای کارخانه های هوش مصنوعی چهره جدیدی به آن داده ایم. “