انویدیا از نسخه جدید مدلهای هوش مصنوعی خود به نام Nemotron 3 رونمایی کرد. این خانواده جدید با هدف افزایش دقت در ساخت ایجنتهای هوش مصنوعی طراحی شده است. در ادامه مشخصات این مدلها را میخوانید.
انویدیا برای پوششدادن نیازهای مختلف این مدلها را در سه سایز متفاوت منتشر کرده است:
کارایی بالای این مدلها بهخاطر معماری ترکیبی آنهاست. انویدیا بهجای استفاده صرف از معماری ترنسفورمر (که در مدلهایی مثل GPT استفاده میشود) آن را با معماری Mamba ترکیب کرده است. این ترکیب باعث میشود برخلاف مدلهای قدیمی که برای هر کلمه نیاز به حافظه زیادی داشتند، این مدلها بسیار سبکتر اجرا شوند. همچنین طبق ادعای انویدیا، مدل نانو جدید تا ۴ برابر خروجی توکن سریعتری نسبت به نسل قبل دارد و هزینههای استنتاج را تا ۶۰ درصد کاهش میدهد.
برای مدلهای بزرگتر سوپر و اولترا، انویدیا از یک ترفند به نام «MoE هیبریدی» استفاده کرده است. «کاری بریسکی» (Kari Briski)، معاون نرمافزار انویدیا، این مفهوم را اینگونه تشبیه میکند: «تصور کنید چندین آشپز ماهر در یک آشپزخانه بزرگ کار میکنند. آنها همگی از یک هسته مشترک (مواد اولیه و اجاقها) استفاده میکنند، اما هرکدام قفسه ادویه مخصوص خود را دارند.» این روش باعث میشود مدلها مقیاسپذیرتر باشند و بدون افت دقت روی زیرساختهای فعلی اجرا شوند.
انویدیا میداند که مدل خام بهتنهایی کافی نیست. به همین دلیل محیطی شبیهسازیشده به نام NeMo Gym را راهاندازی کرده است. این فضا شبیه یک باشگاه بدنسازی برای هوش مصنوعی است. توسعهدهندگان میتوانند ایجنتهای خود را در این محیطهای شبیهسازیشده رها کنند تا با آزمون و خطا ورزیده شوند و عملکردشان را قبل از ورود به دنیای واقعی محک بزنند.
مدل Nemotron 3 Nano از امروز روی Hugging Face و همچنین از طریق پلتفرمهای مختلف مانند FriendliAI و OpenRouter در دسترس است.
