IT & RAG / Железо и инфраструктура
NVIDIA‑поддерживаемый стартап Upscale представил платформу Token Fabric для совместной работы чипов ИИ разных производителей
Стартап Upscale, получивший поддержку от NVIDIA, анонсировал сетевую платформу Token Fabric, которая должна обеспечить совместимость ускорителей ИИ от различных вендоров в одном data center.
Сводка
Главное за 15 секунд
- NVIDIA‑поддерживаемый стартап Upscale анонсировал платформу Token Fabric, объединяющую scale-up и scale-out сети для обеспечения совместной работы чипов ИИ разных производителей в одном data center.
- Стартап Upscale, получивший поддержку от NVIDIA, анонсировал сетевую платформу Token Fabric, которая должна обеспечить совместимость ускорителей ИИ от различных вендоров в одном data center.
- ## Проблема совместимости ускорителей Сегодня NVIDIA GPU доминируют в AI‑data center, но облачные провайдеры и специализированные стартапы активно разрабатывают собственные чипы и акселераторы.
- Для эффективной работы больших языковых моделей тысячам таких процессоров необходимо обмениваться огромными объёмами данных с низкой задержкой и без сетевых перегрузок.
Проблема совместимости ускорителей
Сегодня NVIDIA GPU доминируют в AI‑data center, но облачные провайдеры и специализированные стартапы активно разрабатывают собственные чипы и акселераторы. Для эффективной работы больших языковых моделей тысячам таких процессоров необходимо обмениваться огромными объёмами данных с низкой задержкой и без сетевых перегрузок. Традиционно используемые scale-up (соединение чипов внутри одной стойки) и scale-out (соединение стоек по всему дата‑центру) реализуются отдельными сетевыми средами, что создаёт сложности при смешивании оборудования разных производителей.
Как работает Token Fabric
Upscale предлагает объединить оба уровня в единой технологии Token Fabric. Платформа обеспечивает быстрые соединения с минимальной задержкой внутри стоек (scale‑up) и одновременно связывает стойки и системы по всему объекту (scale‑out). Такой подход позволяет данным свободно перемещаться между ускорителями любого типа, будь то GPU NVIDIA, пользовательские ASIC или другие акселераторы, без необходимости построения отдельных сетей для каждого класса железа.
Перспективы для data center
По заявлению компании, Token Fabric упрощает управление heterogeneous аппаратным обеспечением, снижает капитальные и операционные расходы на сетевую инфраструктуру и открывает возможность для облачных провайдеров предлагать клиентам более гибкий выбор ИИ‑чипов. Это особенно актуально в условиях растущего спроса на инференс‑нагрузки, где эффективное взаимодействие множества ускорителей становится критическим фактором производительности.
Источник новости: hpcwire.com
Обсуждение
Комментарии
Войдите через Google или Telegram, чтобы участвовать в обсуждении.