Rapt AI ، ارائه دهنده اتوماسیون AI-Workload AII برای GPU و شتاب دهنده های AI ، با AMD برای تقویت زیرساخت های هوش مصنوعی همکاری کرده است.
همکاری استراتژیک بلند مدت با هدف بهبود استنباط هوش مصنوعی و مدیریت بار کار و عملکرد در GPU های غریزه AMD ، ارائه راه حل مقیاس پذیر و مقرون به صرفه برای استقرار برنامه های هوش مصنوعی است.
با تسریع در مورد پذیرش هوش مصنوعی ، سازمان ها با تخصیص منابع ، تنگناهای عملکرد و مدیریت پیچیده GPU در حال جابجایی هستند.
این همکاری با ادغام پلت فرم اتوماسیون بار کار هوشمند Rapt با AMD Instinct MI300X ، MI325X و GPU های سری MI350 آینده ، این همکاری یک راه حل مقیاس پذیر ، با کارایی بالا و مقرون به صرفه را ارائه می دهد که مشتریان را قادر می سازد تا حداکثر بهره وری و آموزش AI را در مورد مراحل و زیرساخت های چند منظوره به حداکثر برساند.
یک راه حل کارآمدتر
چارلی لمینگ ، مدیرعامل Rapt AI ، در یک توجیهی مطبوعاتی گفت: “مدل های هوش مصنوعی که امروز می بینیم بسیار بزرگ هستند و از همه مهمتر بسیار پویا و غیرقابل پیش بینی هستند. ماراژهای قدیمی برای بهینه سازی مناسب نیستند. ما این دینامیک ها را مشاهده می کنیم. در بعضی موارد بازگشت ، ده ها میلیون ، صدها میلیون یا میلیارد دلار برای زیرساخت های مربوط به GPU وجود دارد. “
لیمینگ گفت آنیل راویندرانات ، CTO از Rapt AI ، راه حل را دید. و این شامل استقرار مانیتورها برای فعال کردن مشاهدات زیرساخت ها بود.
لمینگ گفت: “ما احساس می کنیم که در زمان مناسب راه حل مناسب داریم. پاییز گذشته از مخفیگاه بیرون آمدیم. ما در تعداد فزاینده ای از شرکت های Fortune 100 قرار داریم. دو نفر کد را در بین ارائه دهندگان خدمات ابری اجرا می کنند.”
و او گفت: “ما شرکای استراتژیک داریم اما مکالمات ما با AMD بسیار خوب پیش رفت. آنها در حال ساختن GPU های فوق العاده ای هستند ، آنها شتاب دهنده های AI هستند. ما به دلیل قرار دادن حداکثر مقدار کار بر روی GPU ها شناخته شده ایم. استنباط در حال خاموش شدن است. اکنون در مرحله تولید است. بارهای کاری AI منفجر می شوند. راه حل مناسب.
وی گفت ، پیشرفت هایی که می تواند نه ساعت طول بکشد ، در سه دقیقه انجام می شود. Ravindranath گفت: در یک جلسه مطبوعاتی پلت فرم RAPT AI تا 10 برابر ظرفیت اجرای مدل را در همان سطح هزینه محاسبات AI ، تا 90 ٪ پس انداز هزینه و انسانهای صفر در یک حلقه و بدون تغییر کد امکان پذیر می کند. برای بهره وری ، این به معنای دیگر انتظار برای محاسبه و زمان صرف تنظیم زیرساخت ها نیست.
لمینگ گفت تکنیک های دیگر مدتی است که وجود دارد و آن را قطع نکرده است. AI را اجرا کنید ، یک رقیب ، تا حدودی با روشی رقابتی همپوشانی دارد. وی گفت که شرکت وی به جای ساعت ها در عرض چند دقیقه مشاهده می کند و سپس زیرساخت ها را بهینه می کند. Ravindranath گفت Run AI بیشتر شبیه یک برنامه ریزی است اما AI خود را برای نتایج غیرقابل پیش بینی موقعیت می کند و با آن سروکار دارد.
Ravindranath گفت: “ما مدل را اجرا می کنیم و آن را شکل می دهیم ، و این یک مزیت بزرگ برای بار کاری استنباط است. فقط باید به طور خودکار اجرا شود.”
مزایا: هزینه های پایین تر ، استفاده بهتر از GPU
این شرکت ها گفتند که GPU های غریزه AMD ، با ظرفیت حافظه پیشرو در صنعت ، همراه با
بهینه سازی منابع هوشمند RAPT ، به اطمینان از حداکثر استفاده از GPU برای بارهای کاری هوش مصنوعی کمک می کند و به کاهش هزینه کل مالکیت (TCO) کمک می کند.
پلتفرم RAPT مدیریت GPU را ساده تر می کند و نیاز دانشمندان داده را برای گذراندن زمان ارزشمند در تنظیمات زیرساخت های آزمایشی و خطا از بین می برد. با بهینه سازی خودکار تخصیص منابع برای بارهای خاص خود ، به آنها این امکان را می دهد که به جای زیرساخت ها روی نوآوری تمرکز کنند. این یکپارچه از محیط های مختلف GPU (AMD و دیگران ، چه در ابر ، در محل یا هر دو) از طریق یک نمونه واحد پشتیبانی می کند و به اطمینان از حداکثر انعطاف پذیری زیرساخت ها کمک می کند.
راه حل ترکیبی هوشمندانه چگالی شغل و تخصیص منابع را در GPU های غریزه AMD بهینه می کند و در نتیجه عملکرد استنباط بهتر و مقیاس پذیری برای استقرار هوش مصنوعی تولید می شود. قابلیت های مقیاس گذاری خودکار RAPT بیشتر به اطمینان از استفاده از منابع کارآمد بر اساس تقاضا ، کاهش تأخیر و به حداکثر رساندن راندمان هزینه کمک می کند.
پلت فرم Rapt با استفاده از GPU های AMD غریزه ، خارج از جعبه کار می کند و به اطمینان از مزایای عملکرد فوری کمک می کند. همکاری مداوم بین RAPT و AMD بهینه سازی های بیشتری را در مناطق مهیج مانند برنامه ریزی GPU ، استفاده از حافظه و موارد دیگر انجام می دهد و به اطمینان حاصل می کند که مشتریان مجهز به زیرساخت های آماده AI آینده هستند.
“در AMD ، ما متعهد به ارائه راه حل های با کارایی بالا و مقیاس پذیر هستیم که سازمانها را قادر می سازد تا پتانسیل کامل بارهای هوش مصنوعی خود را باز کنند.” سعید نگین الیور ، معاون رئیس جمهور توسعه تجارت برای تجارت GPU مرکز داده در AMD ، در بیانیه ای. “همکاری ما با RAPT AI قابلیت های پیشرفته GPU های غریزه AMD را با اتوماسیون بار کار هوشمند RAPT ترکیب می کند و به مشتریان این امکان را می دهد تا در زیرساخت های هوش مصنوعی خود به راندمان ، انعطاف پذیری و هزینه های بیشتری برسند.”