IT & RAG / Модели LLM & SLM
Главная AI-новость по теме: IT & RAG: Модели LLM & SLM (it and rag; models)
В России создана первая открытая методология динамического тестирования RAG-систем на русском языке, что решает критическую проблему оценки качества генеративного ИИ с поиском в корпоративной среде.
Сводка
Главное за 15 секунд
- В России создана первая открытая методология динамического тестирования RAG-систем на русском языке, что решает критическую проблему оценки качества генеративного ИИ с поиском в корпоративной среде.
- Main В России создана первая открытая методология динамического тестирования RAG-систем на русском языке, что решает критическую проблему оценки качества генеративного ИИ с поиском в корпоративной среде.
- Исследователи из Сбера SberAI , МТС Web Services MWS AI и ведущих вузов разработали методологию DRAGOn Designing RAG on Periodically Updated Corpus , которая позволяет тестировать русскоязычные системы генеративного ИИ с
- Традиционные подходы к оценке RAG часто фокусируются лишь на качестве финального ответа, игнорируя сбои на этапе извлечения информации, что новая методология исправляет через измерение эффективности retrieval-слоя 4 .
Main
В России создана первая открытая методология динамического тестирования RAG-систем на русском языке, что решает критическую проблему оценки качества генеративного ИИ с поиском в корпоративной среде.
Исследователи из Сбера (SberAI), МТС Web Services (MWS AI) и ведущих вузов разработали методологию DRAGOn (Designing RAG on Periodically Updated Corpus), которая позволяет тестировать русскоязычные системы генеративного ИИ с поиском на постоянно обновляемых корпусах данных [4]. Традиционные подходы к оценке RAG часто фокусируются лишь на качестве финального ответа, игнорируя сбои на этапе извлечения информации, что новая методология исправляет через измерение эффективности retrieval-слоя [4].
Эволюция RAG в 2026 году
Современные RAG-системы трансформировались из простых «демо векторных баз» в сложные многоэтапные поисковые пайплайны, включающие переписывание запросов, гибридный поиск, реранкинг и фильтрацию шума [2]. Ключевым отличием новых систем стало смещение фокуса на сбор доказательств, а не на объем контекста: удаление дубликатов и сжатие данных позволяют модели работать с более релевантной информацией [2]. В enterprise-сценариях продвинутый RAG (с семантическим чанкингом и гибридным поиском) уже превосходит модели с длинным контекстом по точности recall и общей стоимости владения (TCO) [9].
Роль компактных моделей SLM
Развитие RAG-архитектур напрямую связано с ростом популярности компактных языковых моделей (SLM). Разрыв в качестве между SLM и LLM на математических бенчмарках сократился с 15–20 до менее 6 баллов за год, а стоимость инференса у SLM остается в 10–30 раз ниже [1]. SLM, содержащие от 1 млн до 20 млрд параметров, оптимизированы для конкретных профессиональных рабочих процессов и работают на ограниченных ресурсах, вплоть до одного GPU [3]. Это делает их рациональным выбором для типовых NLP-задач в RAG-системах, где разница в 2 п.п. в качестве компенсируется значительной экономией [1].
Технологический стек и инфраструктура
К 2026 году векторные базы данных перешли от работы исключительно с текстом к мультимодальным эмбеддингам для изображений, аудио и видео [10]. Гибридный подход, сочетающий векторный и классический keyword-поиск, стал фактическим стандартом для обеспечения точности извлечения [10]. Аппаратная часть также изменилась: на смену универсальным GPU пришли специализированные процессоры для сверхбыстрого векторного умножения, позволяющие выполнять семантический поиск в терабайтных базах практически мгновенно даже на edge-устройствах [10].
Источник новости: Habr (habr.com/ru/news/1014356/)
Обсуждение
Комментарии
Войдите через Google или Telegram, чтобы участвовать в обсуждении.