Безопасность и Этика / Безопасность ИИ
В Евросоюзе вступили в силу новые требования к прозрачности ИИ-моделей общего назначения
Евросоюз начал применять новые правила прозрачности для моделей искусственного интеллекта общего назначения, включая системы, которые лежат в основе ChatGPT и других генеративных сервисов. Для разработчиков это означает обязанность раскрывать принципы работы моделей, а для компаний — более жесткий контур контроля за рисками и документированием безопасности.
Сводка
Главное за 15 секунд
- ЕС начал применять новые требования к прозрачности ИИ-моделей общего назначения.
- Разработчики должны раскрывать принципы работы моделей и данные обучения.
- Для моделей с системным риском усиливаются требования к безопасности и отчетности.
- Регуляторный фокус смещается к проверяемости, инцидентам и киберзащите.
Что произошло
Евросоюз с 2 августа ввел в действие требования к прозрачности для ИИ-моделей общего назначения, включая системы, которые используются для генерации текста, изображений и кода. По данным Deutsche Welle, разработчики обязаны раскрывать основные принципы работы моделей, а также данные, использованные при обучении; для моделей, которые могут представлять угрозу для населения, отдельно прописываются меры по обеспечению безопасности.[4]
Почему это важно для рынка
Новые правила становятся одним из первых крупных регуляторных тестов для индустрии генеративного ИИ. Forbes отмечает, что закон ЕС выстроен по риск-ориентированной модели: от минимального уровня контроля до полного запрета систем, признанных недопустимыми, а для провайдеров моделей с системным риском введены обязательства по оценке, уведомлению о серьезных инцидентах и киберзащите.[6]
Что меняется для компаний
Для бизнеса это означает переход от деклараций о «ответственном ИИ» к формализованной отчетности, внутренним процедурам и проверяемым документам. DW пишет, что за соблюдением норм будет следить European AI Office, а первые проверки новых моделей начнутся в августе 2026 года, что делает ближайший год переходным периодом для крупных поставщиков и корпоративных пользователей ИИ.[4]
Контекст
Регулирование ИИ в ЕС уже стало ориентиром и для других рынков: закон запрещает ряд практик, связанных с биометрией, эмоциями и социальным рейтингом, а за несоблюдение предусмотрены штрафы до €35 млн или 7% глобального оборота, напоминает Forbes.[6] На фоне роста числа корпоративных внедрений генеративных моделей акцент регулятора смещается от скорости развития к проверяемости, объяснимости и безопасности систем.
Обсуждение
Комментарии
Войдите через Google или Telegram, чтобы участвовать в обсуждении.