Новые модели Nemotron 3.5

Nvidia объявила о запуске трёх новых моделей из семейства Nemotron 3.5, ориентированных на агентные ИИ‑системы. Флагманская Nemotron 3.5 Super VL представляет собой открытую модель с 120 миллиардами параметров, созданную совместно с Nemotron Coalition. Она способна выполнять инструкции, использовать инструменты, выстраивать многоступенчатые бизнес‑воркфлоу и обрабатывать визуальную информацию при сопоставимой мощности с крупнейшими моделями reasoning Nvidia, но при пятой части их размера, что позволяет генерировать ответы почти в пять раз быстрее. Веса модели открыты, организации могут дообучать её на собственных данных и разворачивать внутри своей инфраструктуры, сохраняя суверенитет, конфиденциальность и безопасность. Для обучения использовано около 26 трлн токенов в предобучении иcontinued pretraining, дополнительно 3,8 млн примеров post‑training и подкрепление обучение в ста открытых окружениях.

Компактная версия Bolt 74B‑A9B 24 ГБ построена на той же архитектуре Super VL, но использует гибридную смесь экспертов, активируя лишь 9 миллиардов из 74 миллиардов параметров одновременно и применяя 2‑битную квантизацию, чтобы уложиться в 24 ГБ памяти. Это позволяет запускать модель на обычных рабочих станциях или ПК с GPU и выполнять локальные задачи, такие как написание и отладка кода, без передачи нагрузки в облако. Позже в этом месяце Nvidia планирует выпустить ещё более крошечную Bolt E4B 4 ГБ, предназначенную для развёртывания на устройствах GeForce RTX, Jetson и RTX/GTX Spark, что открывает возможности для физических ИИ‑агентов в носимых гаджетах, бытовой технике, точках обслуживания, автомобильных панелях и встроенных интерфейсах.

Значение для бизнеса и разработчиков

Источник новости: SiliconANGLE. Открытость новых моделей даёт компаниям возможность избежать привязки к одному поставщику и создавать стратегию model independence, переобучая ИИ под специфические рабочие нагрузки и держа данные внутри своего периметра. Высокая скорость inference и низкие требования к оборудованию делают такие модели привлекательными для внедрения в корпоративные серверы, edge‑устройства и даже потребительские гаджеты. Nvidia также анонсировала публикацию открытых наборов данных на Hugging Face по темам использования инструментов agentic систем, финансов, следования инструкциям, длинного контекста, безопасности, справедливости и понимания зрения‑языка, что упрощает дальнейшую кастомизацию и исследование. Таким образом, анонс Nemotron 3.5 укрепляет позицию Nvidia как поставщика гибкой, эффективной и доступной ИИ‑инфраструктуры для широкого спектра агентных приложений.