Nemotron 3 Super

Nemotron 3 Super، الذي أُطلق في 11 مارس 2026، هو نموذج اللغة الرائد من NVIDIA، ويعالج مباشرةً مشكلتين حرجتين في الذكاء الاصطناعي الإنتاجي: «ضريبة التفكير» (استخدام نماذج استدلال ضخمة لكل مهمة فرعية، رغم أن معظم المهام الفرعية بسيطة) و«انفجار السياق» (توليد الأنظمة متعددة الوكلاء عدداً من الرموز يفوق المحادثات القياسية بـ15 مرة، مما يؤدي إلى تضخم التكاليف وزمن الاستجابة). وبإجمالي 120B معلَمة، مع تفعيل 12B معلَمة فقط لكل رمز، يحقق معدل نقل أعلى بـ2.2 مرة من GPT-OSS-120B، وبـ5 مرات مقارنةً بـ Nemotron Super السابق.

تقدم البنية المعمارية عدة ابتكارات تعمل معاً لتحقيق الكفاءة. إذ تعمل آلية توجيه Latent MoE على ضغط الرموز قبل وصولها إلى شبكات الخبراء، مما يتيح للنظام استدعاء عدد من الخبراء المتخصصين يزيد 4 مرات بالتكلفة نفسها للاستدلال. ويتنبأ التنبؤ متعدد الرموز بعدة رموز مستقبلية في عملية تمرير أمامي واحدة، مما يتيح فك ترميز تخميني مدمجاً من دون الحاجة إلى نموذج مسودة منفصل. أما العمود الفقري الهجين، فيتناوب بين طبقات Mamba-2 (التي تتولى معظم معالجة التسلسل بالتعقيد الزمني الخطي) وطبقات انتباه Transformer في أعماق رئيسية لتحقيق استرجاع ترابطي دقيق، جامعاً بين كفاءة نماذج فضاء الحالة ودقة الانتباه.

ويُعد التدريب المسبق الأصلي باستخدام NVFP4 عاملاً مميزاً رئيسياً. فمن خلال التدريب أصلاً باستخدام أرقام فاصلة عائمة بدقة 4 بت على وحدات معالجة الرسومات NVIDIA Blackwell، يحقق Nemotron 3 Super تسارعاً قدره 4 مرات على B200 مقارنةً بـ FP8 على H100، مع الحفاظ على الدقة. وهذا ليس تكميمًا بعد التدريب؛ فقد دُرّب النموذج مسبقاً باستخدام NVFP4 منذ البداية، متجنباً تدهور الجودة الذي يصاحب عادةً التكميم المكثف.

دُرّب النموذج لاحقاً بالتعلم المعزز باستخدام NeMo Gym وNeMo RL عبر 21 إعداداً متنوعاً للبيئات، وبأكثر من 1.2 مليون عملية تشغيل، مما منحه قدرات قوية على الاستدلال الوكيلي تستند إلى إنجاز المهام الفعلية، لا إلى اتباع التعليمات فحسب. وفي PinchBench، يحقق النموذج نتيجة قدرها 85.6%، وهي أفضل نتيجة لنموذج مفتوح في معيار وكلاء OpenClaw. كما يتصدر نماذج الذكاء الاصطناعي المفتوحة في AIME 2025 وSWE-Bench وterminal-bench.

يجعل العمود الفقري الهجين Mamba-Transformer نافذة السياق التي تبلغ مليون رمز عمليةً عملية. إذ تتولى طبقات Mamba-2 معالجة التبعيات بعيدة المدى بتعقيد زمني خطي (O(n) بدلاً من O(n²))، بينما توفر طبقات انتباه Transformer المتداخلة في أعماق رئيسية الاسترجاع الترابطي الدقيق اللازم لمهام مثل العثور على معلومة محددة وسط كمية كبيرة من النص واسترجاع الاقتباسات حرفياً. ويتيح هذا النهج الهجين طول سياق Transformer مع خصائص معدل نقل نموذج فضاء الحالة.

يتميز Nemotron 3 Super بوجه خاص في الاستدلال الوكيلي، وتطوير البرمجيات، وفرز حالات الأمن السيبراني، والأنظمة متعددة الوكلاء التي تكون فيها إنتاجية المعالجة والكفاءة أمرين مهمين. ويجعل الجمع بين البنية الهجينة، والتحسين الأصلي لـ Blackwell، والتدريب المعزز واسع النطاق عبر 21 بيئة، وتحسين معدل النقل بمقدار 5 مرات مقارنةً بسلفه، هذا النموذج عرضاً فريداً في منظومة النماذج المفتوحة، إذ يقدم أداءً وكيلياً بمستوى النماذج الرائدة، وبجزء بسيط من تكلفة الاستدلال للنماذج الكثيفة المماثلة.