Ответ на рост затрат на инференс

Рост счетов за использование крупных языковых моделей заставляет корпорации пересматривать стратегии внедрения ИИ. Консалтинговый гигант Accenture недавно ограничил ежемесячные расходы сотрудников на Claude суммой в 29 долларов, что стало символом общего тренда: разработчикам приходится искать способы снизить стоимость владения моделями. Инференс — этап, когда обученная модель генерирует ответы — остается одной из самых затратных фаз жизненного цикла ИИ.

Стратегия открытого кода как конкурентное преимущество

DeepSeek, вызвавшая тревогу в Кремниевой долине в начале 2025 года выпуском модели R1, теперь делает ставку на открытый программный стек. Инструмент DeepInfer адаптирован под V4-1 Flash — более быструю и дешевую версию флагманской модели компании. В сообщении в X стартап заявил, что делится производственной инфраструктурой, чтобы сообщество могло сократить расходы на вычисления и энергию. Будущие модели DeepSeek будут добавляться в фреймворк по мере выпуска.

Контекст гонки открытых моделей

Шаг DeepSeek происходит на фоне расширения экосистемы открытого ИИ. Фонд PyTorch объявил о присоединении девяти новых участников, что подтверждает смещение центра гравитации в сторону открытых решений. Параллельно Meta и Apple анонсировали совместную модель с открытыми весами Muse Spark Open, способную работать локально на Mac Studio, пытаясь отвоевать инициативу у китайских лидеров — Z.ai с GLM 5.5, Moonshot AI с Kimi K3 и самой DeepSeek. По данным Artificial Analysis, Muse Spark Open опережает западные аналоги, но всё ещё уступает китайским флагманам.