IT & RAG / Open Source
Mistral выпускает открытые веса Large 4, предупреждая о рисках для кибербезопасности
Французский стартап Mistral AI опубликовал открытые веса триллионной модели Large 4, признав, что она может помочь злоумышленникам в реальных кибератаках. Защитные механизмы будут обновлены только в управляемом API, а скачанные копии останутся без изменений.
Сводка
Главное за 15 секунд
- Mistral выпустила открытые веса модели Large 4 (1 трлн параметров), признав риск использования для кибератак. Модель сравнялась с китайской GLM-5.3 по кодингу, но защитные механизмы обновятся только в API.
- Французский стартап Mistral AI опубликовал открытые веса триллионной модели Large 4, признав, что она может помочь злоумышленникам в реальных кибератаках.
- Защитные механизмы будут обновлены только в управляемом API, а скачанные копии останутся без изменений.
- ## Открытый релиз с оговорками В четверг Mistral AI сделала доступными для загрузки веса модели Mistral Large 4, получившей прозвище Le Chonk.
Открытый релиз с оговорками
В четверг Mistral AI сделала доступными для загрузки веса модели Mistral Large 4, получившей прозвище Le Chonk. В блоге компания написала, что в ходе предварительного тестирования модель отказывалась выполнять «чёрные ящики» атак против живых целей, однако существует «потенциал для усиления» возможности проведения реальных атак. Mistral уточнила, что будущие обновления гардрайлов коснутся только управляемого API и новых выпусков, а уже распространённые копии модели останутся в текущем состоянии.
Бенчмарки и гонка с китайскими моделями
Согласно данным Mistral, Large 4 набрала 41 % точности на тесте Terminal-Bench 4.0, сравнявшись с китайской моделью GLM-5.3, которая до недавнего времени считалась лучшей открытой моделью. После трёх недель дополнительного обучения с подкреплением точность выросла с 28 % до 41 %. При этом Large 4 тратит на 47 % меньше токенов на задачу, чем GLM-5.3. Модель обучалась на собственном кластере Mistral мощностью 10 МВт во Франции. Проприетарные модели вроде Anthropic Mythos 5.1 всё ещё опережают открытые аналоги (60,9 % на том же бенчмарке), но разрыв сокращается.
Дилемма открытых весов
Вице-президент по науке Пьер Сток назвал релиз «поворотным моментом для Европы», подчёркивая, что открытые веса невозможно отозвать удалённо, в отличие от проприетарных API. Эксперты по безопасности, в том числе Рэйф Пиллинг из Sophos, отмечают двойственную природу технологии: свободно распространяемые модели могут использоваться как для защиты, так и для атаки. Недавнее исследование Help Net Security показало, что GLM-5.3 успешно выполнила три ofensive-киберсценария, в 80 % случаев опираясь на запомненный код, что поднимает вопросы о достоверности бенчмарков и рисках открытого доступа.
Обсуждение
Комментарии
Войдите через Google или Telegram, чтобы участвовать в обсуждении.