Компания OvalEdge выпустила подробный анализ двух архитектурных подходов — Model Context Protocol (MCP) и Retrieval-Augmented Generation (RAG) — для внедрения генеративного ИИ в предприятиях. Публикация выходит на фоне активного обсуждения роли векторных баз данных и стратегий данных у крупных вендоров.
Стартап Inception Labs выпустил Mercury 3 — диффузионную языковую модель, которая генерирует 1068 токенов в секунду и превосходит GPT-6 Luna и Claude Haiku 5.5 по ключевым бенчмаркам при цене $0.35 за миллион выходных токенов.
На GTC Berlin Nvidia анонсировала принятие европейскими партнерами референсного дизайна DSX для построения AI-фábрик. Технология закрытого жидкостного охлаждения позволяет сократить потребление воды для охлаждения практически до нуля, а инструмент MaxLPS — снизить затраты электроэнергии до 30% при сохранении производительности.
Проект llm-d достиг версии 1.0 и готов к эксплуатации в продакшене: Kubernetes-нативный фреймворк позволяет разворачивать инференс любых моделей на любом железе и в любом облаке, снижая зависимость от проприетарных стеков.
По прогнозу SNS Insider, глобальный рынок технологий Retrieval-Augmented Generation (RAG) достигнет $47 млрд к 2035 году, растя с $1,94 млрд в 2025 году. Среднегодовой темп роста составит 37,6% — драйверами выступают внедрение генеративного ИИ в корпоративном секторе и потребность в контекстно-зависимых ответах на базе внутренних данных.
Эксперты GovTech предупреждают о феномене «LLM-инъекции» — скрытом добавлении возможностей больших языковых моделей в программное обеспечение госструктур через обычные обновления, что ведет к неконтролируемой передаче чувствительных данных сторонним провайдерам.
Контекст рубрики
IT & RAG — технический раздел DigestAI для разработчиков, ML/LLM-инженеров и CTO. Здесь собраны новости о моделях, retrieval augmented generation, inference, API, open source проектах, бенчмарках и практических ограничениях внедрения.
Cookies и данные
Cookies на DigestAI
Мы используем необходимые cookies для входа, защиты форм, настроек темы и стабильной работы сайта.
Аналитика и маркетинг не включаются без отдельного согласия.
Что входит в необходимые cookies
Сессия, CSRF-защита, выбранная тема, пользовательские настройки и технические журналы безопасности.
Если cookie позволяет определить пользователя, она считается частью обработки персональных данных.