پردازنده گرافیکی H200 با 141 گیگابایت HBM3e و پهنای باند 4.8 ترابایت، قدرتمندترین تراشه ای است که انویدیا تا به حال ساخته است.
به گزارش TechNock، انویدیا امروز در رویداد Supercomputing 23 سری محصولات H200 و GH200 را معرفی کرد. این تراشه ها قوی ترین تراشه هایی هستند که انویدیا تا به حال ساخته است. آنها بر اساس معماری موجود Hopper H100 هستند. با این حال، با حافظه بیشتر و قدرت محاسباتی بیشتر. این تراشهها برای نیرو دادن به نسل بعدی محاسبات ابری هوش مصنوعی با بیش از 200 اگزافلاپس محاسبات هوش مصنوعی طراحی شدهاند.
تمژاردور او می نویسد که پردازنده گرافیکی H200 می تواند ستاره واقعی نمایش باشد. انویدیا جزئیاتی در مورد تمام مشخصات ارائه نکرده است. با این حال، به نظر می رسد نکته اصلی افزایش قابل توجه ظرفیت حافظه و پهنای باند به ازای هر GPU باشد.
تراشه جدید H200 دارای 141 گیگابایت حافظه HBM3e با سرعت 4.8 گیگابیت بر ثانیه است که در نتیجه پهنای باند کل 4.8 ترابایت بر ثانیه در هر پردازنده گرافیکی است. این یک پیشرفت قابل توجه نسبت به H100 اصلی است که دارای 80 گیگابایت فضای ذخیره سازی HBM3 و 3.35 ترابایت بر ثانیه پهنای باند بود.
برخی از تنظیمات H100 حافظه بیشتری را ارائه می دهند. مانند H100 NVL که دو برد را با هم ترکیب کرده و در مجموع 188 گیگابایت حافظه (94 گیگابایت در هر GPU) ارائه می کند. با این حال، در مقایسه با H100 SXM، تراشه جدید H200 SXM تقریباً 76٪ ظرفیت ذخیره سازی بیشتر و 43٪ پهنای باند بیشتر ارائه می دهد.
شایان ذکر است که به نظر نمی رسد قدرت محاسباتی خام تغییر زیادی کرده باشد. تنها نموداری که Nvidia برای محاسبات نشان داد، پیکربندی هشت پردازنده گرافیکی H200 DGX با 32 PFLOPS FP8 در کل عملکرد بود. H100 اصلی 3958 ترافلاپ FP8 را ارائه می کرد. بنابراین هشت پردازنده گرافیکی این چنینی حدود 32 پتافلاپ FP8 را ارائه می دهند.
H200 چقدر سریعتر از H100 خواهد بود؟ بستگی به حجم کار دارد. انویدیا می گوید برای مدل های زبان بزرگ مانند GPT-3 که از افزایش ظرفیت حافظه بهره می برند، عملکرد آن تا 18 برابر سریعتر از A100 اصلی خواهد بود. در حالی که H100 فقط 11 برابر سریعتر است.
ناگفته نماند که تراشه جدید GH200 نیز در راه است که تراشه H200 را با پردازنده گریس ترکیب می کند. هر سوپرچیپ GH200 دارای 624 گیگابایت حافظه ترکیبی خواهد بود. تراشه اصلی GH100 دارای 480 گیگابایت حافظه LPDDR5x برای پردازنده با 96 گیگابایت حافظه HBM3 است. در حالی که نسخه جدید از 144 گیگابایت حافظه HBM3e استفاده می کند که قبلا در مورد آن صحبت کردیم.
GH200 به طور کامل با سیستم های موجود H100 DGX سازگار است. این بدان معنی است که تراشه H200 DGX می تواند در همان تنظیمات برای افزایش عملکرد و ظرفیت ذخیره سازی استفاده شود. Alps، از مرکز ملی محاسبات با کارایی بالا سوئیس، هنوز از GH100 استفاده میکند که احتمالاً یکی از اولین ابررایانههای Grace Hopper است که در سال آینده به کار گرفته میشود.
اولین سیستم GH200 که در ایالات متحده مستقر می شود، ابررایانه Venado در آزمایشگاه ملی لوس آلاموس خواهد بود. امروز اعلام شد، سیستم ویستا مرکز محاسبات پیشرفته تگزاس (TACC) از هر دو پردازنده گریس و ابرتراشه های گریس هاپر استفاده خواهد کرد. با این حال هنوز مشخص نیست که H100 است یا H200.
شایان ذکر است که ابررایانه مشتری مرکز ابررایانه Jϋlich دارای حدود 24000 سوپرتراشه GH200 با مجموع 93 اگزافلاپس محاسبات هوش مصنوعی خواهد بود و 1 اگزافلاپس از محاسبات سنتی FP64 را ارائه می دهد. این ابر رایانه از چهار برد GH200 استفاده می کند که شامل چهار سوپرتراشه GH200 است.
انویدیا پردازنده گرافیکی H200 را برای اولین بار در TechNock معرفی کرد – اخبار دنیای فناوری. ظاهر شد.