Смена парадигмы: от LLM к SLM

В отраслевых обзорах 2026 года, включая колонки генеральных директоров ведущих компаний для РБК, зафиксирован ключевой вектор развития: переход от LLM к SLM и стоимостная эффективность. Если ранее размер модели считался главным индикатором качества, то теперь приоритетом становится решение конкретной задачи с минимальными затратами ресурсов. SLM — это модели, специализирующиеся на узком классе задач, насчитывающие от 100 миллионов до 7–10 миллиардов параметров, в отличие от LLM с сотнями миллиардов параметров, претендующих на универсальность[11].

Архитектура FLM: приватность без потери качества

Инновационный подход Federative Language Models (FLM) объединяет периферийные SLM с облачными LLM, создавая гибридную систему для корпоративного ИИ. При использовании FLM SLM работает на периферии для генерации локальных данных, а LLM в облаке выполняет планирование сложных задач и сопоставление запроса с набором инструментов[1]. Цель этой архитектуры — реализовать агент Retrieval Augmented Generation (RAG) без необходимости передачи конфиденциального контекста мощным LLM, работающим в открытом доступе. Это позволяет решить проблемы конфиденциальности в корпоративных ИИ-приложениях, сохраняя контроль над данными[1].

Экономическая эффективность и скорость

Три ключевых фактора определяют переход бизнеса на маленькие модели: скорость, стоимость и контроль приватности. SLM, развернутые на граничных устройствах (Edge AI), генерируют ответ за 10–50 миллисекунд, тогда как облачные LLM требуют 300–2000 миллисекунд на первый токен[11]. Стоимость использования передовых LLM достигает 75 долларов за миллион токенов, а эффективные SLM обеспечивают сопоставимую точность менее чем за 1 доллар за миллион токенов — разница в десятки раз[11]. Разрыв в качестве между SLM и LLM за один год сократился с 15–20 до менее 6 баллов на математических бенчмарках, при этом стоимость инференса у SLM остается в 10–30 раз ниже[14].

RAG как основа гибридной системы

RAG (Retrieval-Augmented Generation) решает проблему за счет того, что отдает модели данные из внешних источников и контекст запроса, позволяя LLM генерировать релевантные, актуальные ответы без переобучения[7]. В технической формулировке схема выглядит как векторный поиск по базе документов, где топ-N кусков отдаются LLM как контекст для генерации ответа[4]. RAG не заменяет модель и не требует переобучения, просто соединяя поисковый механизм с генерацией так, чтобы каждый ответ строился на актуальных, проверенных данных[3].

Источник новости: itweek.ru