Крупнейшие технологические гиганты мира, NVIDIA и Microsoft, совершили стратегический прорыв, который переопределяет архитектуру искусственного интеллекта в бизнесе. В ходе совместного анонса компании подтвердили запуск первой в мире масштабируемой инфраструктуры для систем генеративного поиска (RAG), построенной исключительно на базе новейших чипов NVIDIA Blackwell. Это решение предназначено для обработки триллионов запросов в реальном времени, устраняя критические ограничения пропускной способности памяти, которые ранее тормозили развитие сложных ИИ-моделей в корпоративном секторе.

Архитектура Blackwell: решение проблемы пропускной способности памяти

Традиционные системы RAG часто сталкиваются с «узким местом» в виде пропускной способности памяти (memory bandwidth), что приводит к значительным затратам времени при извлечении и контекстуализации данных из огромных баз знаний. Новая инфраструктура, созданная на базе чипов Blackwell, использует революционную технологию шестого поколения NVLink и увеличенный объем памяти HBM3e, что позволяет передавать данные между процессором и памятью с невероятной скоростью.

Microsoft, интегрировавшая эту инфраструктуру в свои облачные сервисы Azure AI, заявила, что скорость обработки контекста для RAG-моделей выросла в 4,5 раза по сравнению с предыдущими поколениями чипов Hopper. Это означает, что ИИ-агенты теперь могут мгновенно анализировать миллионы документов, предоставляя пользователям точные ответы без задержек, характерных для старых систем.

Бизнес-императив: от экспериментов к триллионам запросов

Для бизнеса переход на инфраструктуру Blackwell является не просто техническим обновлением, а стратегической необходимостью. С ростом количества ИИ-агентов в компаниях, количество запросов к RAG-системам растет экспоненциально. Старые решения не могли справиться с нагрузкой, требуя огромных вычислительных ресурсов для обработки даже средних объемов данных.

Новая платформа позволяет обрабатывать триллионы запросов в реальном времени, что открывает возможности для создания автономных ИИ-агентов, способных управлять сложными бизнес-процессами, от логистики до финансового анализа, без участия человека. NVIDIA подчеркивает, что Blackwell разработан специально для таких задач, обеспечивая энергоэффективность, критически важную для масштабирования ИИ в облаке.

Источник новости: NVIDIA Official Blog.