В последние дни мир технологий столкнулся с масштабным обновлением в сфере безопасности дипфейков. Крупнейшие компании, включая Google и Meta, анонсировали внедрение новых алгоритмов глубокого обучения, способных распознавать синтезированные видео и аудио с точностью до 98%, даже если подделка создана на основе одного-два фото. Это решение стало ответом на рост мошенничества, где дипфейки используются для имитации голосов руководителей и публичных лиц в целях финансового обмана.
В центре мировой повестки по безопасности ИИ снова оказался Евросоюз: после вступления в силу ключевых требований AI Act регуляторный режим для разработчиков и поставщиков моделей общего назначения перешел от деклараций к практике. Для отрасли это означает не только новые обязанности по документации, оценке рисков и кибербезопасности, но и реальную угрозу штрафов за несоблюдение правил.
В Европе обсуждение регулирования искусственного интеллекта снова вышло за рамки абстрактной этики и стало вопросом практики: кто отвечает за данные, контент и ошибки моделей в медиасфере. На этом фоне юристы и редакторы все чаще говорят не только о маркировке ИИ-материалов, но и о юридической ответственности за их использование.
За последние дни тема дипфейков снова вышла в центр внимания регуляторов и компаний: все чаще подделки голоса и видео используются не только в мошеннических схемах, но и для давления на бизнес и общественных фигур. На этом фоне индустрия безопасности пытается ускорить внедрение маркировки, верификации происхождения контента и детекторов подделок.
Новая проверка безопасности показала, что у крупнейших языковых моделей защита от вредоносных запросов остается нестабильной: достаточно перефразировать вопрос, чтобы часть ограничений переставала работать. Наиболее уязвимыми в тестах оказались Grok, Gemini, GPT-4o и Claude, что снова вывело тему AI safety из академической повестки в практическую плоскость.
{"title":"ЕС согласовал правила для универсальных ИИ-моделей на фоне давления со стороны индустрии","slug":"es-soglasoval-pravila-dlya-universalnyh-ii-modeley-na-fone-davleniya-so-storony-industrii","lead":"Евросоюз в последние дни продвинулся в настройке режима для универсальных ИИ-моделей, усиливая требования к прозрачности, управлению рисками и авторскому праву. На фоне споров между технологическими компаниями, правообладателями и регуляторами это становится одной из самых заметных новостей в
Контекст рубрики
Безопасность и этика — раздел о рисках AI: от deepfake и privacy до model misuse, регулирования и ответственного внедрения. Материалы избегают эксплуатационных инструкций и делают акцент на защите, контексте и проверяемости.
Cookies и данные
Cookies на DigestAI
Мы используем необходимые cookies для входа, защиты форм, настроек темы и стабильной работы сайта.
Аналитика и маркетинг не включаются без отдельного согласия.
Что входит в необходимые cookies
Сессия, CSRF-защита, выбранная тема, пользовательские настройки и технические журналы безопасности.
Если cookie позволяет определить пользователя, она считается частью обработки персональных данных.