Заявление на Дублинском саммите

Гийом Принсен, руководитель международного направления Anthropic, заявил на недавнем AI-саммите в Дублине, что открытые весовые ИИ-модели по определению представляют повышенный риск безопасности по сравнению с закрытыми системами. Он отметил, что публикация параметров позволяет любому загружать, модифицировать и запускать такие модели на собственных вычислительных ресурсах, что увеличивает потенциал их misuse. Источник новости: Quartz.

Контекст и реакция отрасли

Принсен подчеркнул, что позиция Anthropic остается nuanced: генеральный директор Dario Amodei ранее отмечал, что модель без опасных возможностей может считаться общественным благом, а компания не выступает за полный запрет открытых весов. Тем не менее, Anthropic призывает замедлить темпы разработки ИИ до появления международных стандартов и единых методов оценки. В то же время компании вроде Mistral AI и китайские разработчики продолжают выпускать собственные открытые модели, усиливая конкуренцию и дискуссии о суверенном ИИ. Источник новости: Quartz.