آمازون دو تراشه هوش مصنوعی جدید معرفی کرده است

در رویداد re:Invent 2023، آمازون دو تراشه جدید و بسیار قدرتمند هوش مصنوعی AWS Trainium2 و Graviton4 را معرفی کرد.

به گفته TechNock، تقاضا برای هوش مصنوعی که اغلب بر روی واحدهای پردازش گرافیکی (GPU) آموزش و اجرا می شود، در حال افزایش است. با این حال، عدم دسترسی به تراشه هوش مصنوعی قابل توجه است. انتظار می رود بهترین تراشه های انویدیا تا سال 2024 به فروش برسند. در همین حال حتی مدیر عامل TSMC نیز اعلام کرده است که انتظار می رود این کمبود تا سال 2025 ادامه داشته باشد. این مشکل به Nvidia محدود نمی شود. اما رقبای او نیز با این موضوع روبرو هستند.

در پاسخ به این مشکل، شرکت های بزرگ فناوری در حال ساخت تراشه های سفارشی برای تولید و بهینه سازی مدل های هوش مصنوعی هستند. یکی از این شرکت ها آمازون است که نسل جدید تراشه های خود را برای آموزش و اجرای مدل های هوش مصنوعی در کنفرانس سالانه re:Invent 2023 ارائه کرد.

چیزی را گزارش کنید تک کرانچاولین تراشه هوش مصنوعی آمازون AWS Trainium2 نام دارد و گفته می شود در مقایسه با نسل اول Trainium که در دسامبر 2020 عرضه شد، تا چهار برابر افزایش عملکرد و تا دو برابر بهره وری انرژی را ارائه می دهد.

آمازون اعلام کرده است که Trainium2 در نمونه های EC2-Trn2 در کلاسترهای 16 تراشه ای در محیط ابری AWS در دسترس خواهد بود و این تراشه می تواند تا 100000 تراشه در محصول EC2-UltraCluster AWS مقیاس بندی شود.

غول فناوری ایالات متحده اعلام کرده است که 100000 تراشه Trainium می توانند 65 اگزافلاپس قدرت محاسباتی، معادل 650 ترافلاپس برای هر تراشه جداگانه ارائه دهند. اگزافلاپس و ترافلاپس واحدهای اندازه گیری هستند که تعداد عملیات محاسباتی را که یک تراشه می تواند در ثانیه انجام دهد اندازه گیری می کند.

به دلیل پیچیدگی فنی، این محاسبات سریع ممکن است دقیق نباشند. با این حال، اگر یک تراشه Trainium2 واقعاً بتواند حدود 200 ترافلاپس کارایی ارائه دهد، این بسیار بیشتر از تراشه‌های آموزش هوش مصنوعی سفارشی گوگل در سال 2017 است.

به گفته آمازون، خوشه ای از 100000 تراشه Trainium می تواند یک مدل زبان هوش مصنوعی بزرگ با 300 میلیارد پارامتر را در هفته ها به جای چند ماه آموزش دهد. پارامترها بخش هایی از مدل هستند که از داده های آموزشی آموخته می شوند و توانایی مدل را برای حل مسائلی مانند تولید متن یا کد تعریف می کنند. این اندازه حدود 1.75 برابر بزرگتر از GPT-3 OpenAI است که پیشینی از تولید کننده متن GPT-4 است.

دیوید براون، معاون محاسبات و شبکه در AWS، در یک بیانیه مطبوعاتی گفت:

سیلیکون همیشه نقش مهمی در پشتیبانی از کار مشتریان دارد. این امر آن را به یک حوزه مهم نوآوری برای AWS تبدیل می کند. همانطور که علاقه به هوش مصنوعی افزایش می‌یابد، Tranium2 به مشتریان کمک می‌کند تا مدل‌های یادگیری ماشینی خود را سریع‌تر، مقرون‌به‌صرفه‌تر و با مصرف انرژی کارآمدتر آموزش دهند.

آمازون زمان دقیق عرضه نمونه های Trainium2 را اعلام نکرده است.

دومین تراشه هوش مصنوعی Amazon Graviton4 نام دارد که بر پایه Arm و برای اجرای مدل‌های استنتاج طراحی شده است. این چهارمین نسل از خانواده تراشه‌های گراویتون آمازون است که با افزودن 4 به گراویتون متمایز می‌شود و از دیگر تراشه‌های استنتاج آمازون، Inferentia متفاوت است.

آمازون ادعا می کند که تراشه Graviton4 تا 30٪ قدرت پردازش، 50٪ هسته بیشتر و 75٪ پهنای باند حافظه بیشتر در مقایسه با نسل قبلی تراشه Graviton، Graviton3، که بر روی Amazon EC2 اجرا می شود، ارائه می دهد.

در تغییر دیگری نسبت به Graviton 3، آمازون می گوید که تمام رابط های سخت افزار فیزیکی Graviton 4 رمزگذاری شده است. به نظر می رسد که این امر امنیت بیشتری را برای حجم کار و داده های آموزشی هوش مصنوعی فراهم می کند. به خصوص برای مشتریانی که نیازهای رمزگذاری روزافزونی دارند.

دیوید براون در ادامه افزود:

Graviton4 نشان دهنده چهارمین نسلی است که ما در عرض تنها پنج سال منتشر کرده ایم و قدرتمندترین و کارآمدترین تراشه ای است که تا به امروز برای طیف گسترده ای از کارها توسعه داده ایم. با تمرکز بر طراحی تراشه‌های خود بر اساس حجم کاری در دنیای واقعی که برای مشتریان مهم است، می‌توانیم زیرساخت ابری پیشرفته‌تری را برای آنها فراهم کنیم.

تراشه Graviton4 از امروز به صورت پیش نمایش در نمونه های Amazon EC2 R8g در دسترس خواهد بود. انتشار کلی برای ماه های آینده برنامه ریزی شده است.

ارسال شده توسط آمازون، دو تراشه هوش مصنوعی جدید را در Tech Knock معرفی کرد – اخبار دنیای فناوری. ظاهر شد.