برای آخرین به روزرسانی ها و مطالب اختصاصی در مورد پوشش هوش مصنوعی پیشرو در صنعت ، به خبرنامه های روزانه و هفتگی ما بپیوندید. بیشتر بدانید
Nvidia وارد بازار مدل استدلال منبع باز می شود.
در رویداد NVIDIA GTC امروز ، غول AI مجموعه ای از اعلامیه های سخت افزاری و نرم افزاری را ساخت. این شرکت در میان اعلامیه های بزرگ سیلیکون دفن شده ، مجموعه جدیدی از مدل های استدلال Llama Nemotron منبع باز را برای کمک به تسریع در بارهای کار AI عامل اعلام کرد. مدل های جدید گسترش مدل های Nvidia Nemotron است که برای اولین بار در ژانویه در نمایشگاه الکترونیک مصرفی (CES) اعلام شد.
مدل های استدلال New Llama Nemotron تا حدودی پاسخی به افزایش چشمگیر مدل های استدلال در سال 2025 است. Nvidia (و قیمت سهام آن) در اوایل سال جاری که Deepseek R1 بیرون آمد ، به هسته تبدیل شد و نوید مدل استدلال منبع باز و عملکرد برتر را ارائه می داد.
مدل های خانوادگی Llama Nemotron با Deepseek که مدل های استدلال هوش مصنوعی آماده کسب و کار را برای عوامل پیشرفته ارائه می دهند ، رقابتی هستند.
کری بریسکی ، معاون رئیس جمهور مدیریت محصولات نرم افزاری تولید AI در NVIDIA گفت: “نمایندگان سیستم های نرم افزاری خودمختار برای استدلال ، برنامه ریزی ، عمل و نقد کار خود هستند.” “درست مانند انسان ، نمایندگان باید زمینه را برای تجزیه و تحلیل درخواست های پیچیده ، درک هدف کاربر و سازگاری در زمان واقعی درک کنند.”
چه چیزی در داخل Llama Nemotron برای عامل AI است
همانطور که از این نام دلالت دارد Llama Nemotron بر اساس مدل های منبع باز Llama منبع باز متا است.
بریسکی با داشتن لاما به عنوان بنیاد ، گفت که الگوریتمی Nvidia مدل را برای بهینه سازی نیازهای محاسباتی ضمن حفظ دقت ، هرس کرد.
Nvidia همچنین با استفاده از داده های مصنوعی تکنیک های پیشرفته پس از آموزش را به کار برد. این آموزش شامل 360،000 ساعت استنباط H100 و 45000 ساعت حاشیه نویسی انسانی برای افزایش قابلیت های استدلال بود. تمام این آموزش منجر به مدلهایی می شود که دارای قابلیت استدلال استثنایی در معیارهای کلیدی برای ریاضی ، فراخوانی ابزار ، دستورالعمل های زیر و کارهای مکالمه هستند.
خانواده Llama Nemotron سه مدل مختلف دارند
خانواده شامل سه مدل است که سناریوهای مختلف استقرار را هدف قرار می دهند:
- نانو: ضمن حفظ دقت استدلال بالا ، برای استقرار لبه و کوچکتر بهینه شده است.
- فوق العاده Nemotron: برای توان و دقت بهینه در GPU های مرکز داده منفرد متعادل است.
- Nemotron Ultra: برای حداکثر “دقت عامل” در محیط های مرکز داده چند GPU طراحی شده است.
برای در دسترس بودن ، Nano و Super اکنون در NIM Micro Services در دسترس هستند و می توانید در Ai.nvidia.com بارگیری کنید. Ultra به زودی می آید.
استدلال ترکیبی به پیشبرد بار کاری عامل AI عامل کمک می کند
یکی از مهمترین ویژگی های Nvidia llama nemotron ، امکان تغییر استدلال روشن یا خاموش است.
توانایی تغییر استدلال یک توانایی در حال ظهور در بازار هوش مصنوعی است. Claude 3.7 انسان شناسی عملکردی تا حدودی مشابه دارد ، اگرچه این مدل یک مدل اختصاصی بسته است. در فضای منبع باز IBM گرانیت 3.2 همچنین دارای یک ضامن استدلال است که IBM از آن به عنوان استدلال مشروط یاد می کند.
وعده استدلال ترکیبی یا مشروط این است که به سیستم ها اجازه می دهد تا مراحل استدلال گران قیمت محاسباتی را برای نمایش داده های ساده دور بزنند. در یک تظاهرات ، Nvidia نشان داد که چگونه این مدل می تواند هنگام حل یک مشکل ترکیبی ، استدلال پیچیده ای را درگیر کند اما برای نمایش داده های واقعی ساده به حالت پاسخ مستقیم سوئیچ می شود.
NVIDIA AGENT AGING AI-Q طرح یک لایه ادغام سازمانی را فراهم می کند
NVIDIA همچنین با دانستن اینکه مدل ها به تنهایی برای استقرار شرکت ها کافی نیستند ، Agent AI-Q Blueprint را اعلام کرد ، یک چارچوب منبع باز برای اتصال عوامل AI به سیستم های سازمانی و منابع داده.
بریسکی گفت: “AI-Q یک طرح جدید است که نمایندگان را قادر می سازد از انواع مختلف داده ها-متن ، تصاویر ، فیلم-و ابزارهای خارجی مانند جستجوی وب و سایر عوامل استفاده کنند.” “برای تیم های نمایندگان متصل ، این طرح مشاهده و شفافیت در فعالیت عامل را فراهم می کند و به توسعه دهندگان این امکان را می دهد تا با گذشت زمان سیستم را بهبود بخشند.”
طرح AI-Q قرار است در ماه آوریل در دسترس باشد
چرا این مسئله برای پذیرش AI Enterprise مهم است
برای شرکت هایی که با توجه به استقرار Adiped AIG AGE ، اعلامیه های NVIDIA چندین چالش اساسی را برطرف می کنند.
ماهیت باز مدل های Llama Nemotron به مشاغل اجازه می دهد تا هوش مصنوعی با استدلال را در زیرساخت های خود مستقر کنند. این مهم است زیرا می تواند حاکمیت داده ها و نگرانی های مربوط به حریم خصوصی را برطرف کند که می تواند به تصویب محدود راه حل های ابری بپردازد. NVIDIA با ساختن مدل های جدید به عنوان NIMS ، استقرار و مدیریت استقرار ، اعم از در محل و یا در ابر را برای سازمانها آسانتر می کند.
رویکرد استدلال ترکیبی و مشروط نیز باید توجه داشته باشید زیرا به سازمان ها گزینه دیگری را برای انتخاب این نوع توانایی های نوظهور در اختیار سازمانها قرار می دهد. استدلال ترکیبی به شرکتها اجازه می دهد تا از نظر دقیق یا سرعت بهینه شوند ، صرفه جویی در تأخیر و محاسبه برای کارهای ساده تر در حالی که هنوز هم در صورت لزوم استدلال پیچیده ای را ایجاد می کنند.
از آنجا که شرکت هوش مصنوعی فراتر از برنامه های ساده به کارهای استدلال پیچیده تر حرکت می کند ، ارائه ترکیبی از NVIDIA از مدل های استدلال کارآمد و چارچوب های ادغام شرکت ها را برای استقرار عوامل پیشرفته تر هوش مصنوعی که می توانند ضمن حفظ انعطاف پذیری استقرار و راندمان هزینه ، بتوانند مشکلات منطقی چند مرحله ای را برطرف کنند.