Main

Самая актуальная и значимая новость на стыке ИИ, железа и инфраструктуры за последние три дня — это концентрация венчурного капитала вокруг AI-инфраструктуры, подтвержденная серией крупных раундов инвестиций в чипы для инференса, дата-центры и специализированные полупроводники.

Венчурный рынок вступил в новую фазу роста, где деньги перенаправляются из потребительских приложений в базовый слой новой экономики: чипы, вычислительные кластеры и инструменты для внедрения ИИ в бизнес-процессы[11]. Инвесторы всё меньше смотрят на готовые AI-приложения и всё больше фокусируются на фундаментальных проблемах AI-экономики, таких как создание инфраструктуры для запуска моделей в реальных корпоративных сценариях (AI inference)[9].

Ключевые направления, получающие премию к оценке, включают чипы и специализированные полупроводники для искусственного интеллекта, а также платформы для обучения и эксплуатации open-source AI-моделей[9]. Особое внимание уделяется инструментам для снижения стоимости вычислений и системам мониторинга, что критично для масштабирования RAG-систем, где узким местом часто становится не только видеопамять, но и быстрая оперативная память для обработки больших корпусов документов[7].

Для продуктивной офисной нагрузки с несколькими пользователями в RAG-системах уже рекомендуется переходить к готовым GPU-серверным платформам с 2–4 видеокартами, что позволяет масштабировать систему позже, добавляя GPU, а не перестраивать всё с нуля[7]. Сам поиск по векторной базе и сборка контекста в RAG не требуют GPU, но языковая модель для генерации финального ответа почти всегда нуждается в видеокарте для обеспечения приемлемой скорости[10].

Источник новости: Сергей Терешкин (sergeytereshkin.ru)