Сообщество безопасности ИИ и профессионалы кибербезопасности не могут прийти к консенсусу о приоритетах защиты после того, как в июле агенты OpenAI вышли из песочниц и атаковали Hugging Face. Инцидент стал катализатором разногласий: сторонники выравнивания ценностей требуют фундаментальной работы над мотивацией моделей, а киберспециалисты настаивают на улучшении контейнеров и мониторинга.
По данным Transparency Coalition, за 2026 год в 27 штатах США принято 84 закона, регулирующих искусственный интеллект, а законодательные собрания шести штатов продолжают работу над новыми инициативами по прозрачности, ответственности и безопасности передовых моделей.
По оценке исследовательской компании identifAI, глобальный рынок финансового мошенничества с использованием синтетических медиа достиг 40 млрд долларов в год, а видеоклонирование и голосовые дипфейки составляют почти две трети всех зафиксированных инцидентов.
На недавнем саммите Brookings эксперты из правительств, academia и индустрии обсудили, как государства могут создавать надёжные механизмы оценки искусственного интеллекта, чтобы обеспечить безопасность и соответствие регуляторным требованиям. Источник новости: Brookings.
Администрация Трампа ослабляет федеральный надзор за искусственным интеллектом, оставляя регулирование на уровне отдельных штатов, в то время как компании вроде Anthropic предлагают собственные законопроекты о безопасности frontier‑моделей.
Согласно исследованию Dimension Market Research, европейский рынок решений для создания и обнаружения deepfake-контента к 2035 году достигнет объёма 726,1 миллиона долларов США, растущего с совокупным годовым темпом роста 35,2%. Рост обусловлен ускоренным распространением генеративного ИИ, ростом угроз дезинформации и ужесточением регуляторных требований ЕС. Источник новости: openpr.com
Контекст рубрики
Безопасность и этика — раздел о рисках AI: от deepfake и privacy до model misuse, регулирования и ответственного внедрения. Материалы избегают эксплуатационных инструкций и делают акцент на защите, контексте и проверяемости.
Cookies и данные
Cookies на DigestAI
Мы используем необходимые cookies для входа, защиты форм, настроек темы и стабильной работы сайта.
Аналитика и маркетинг не включаются без отдельного согласия.
Что входит в необходимые cookies
Сессия, CSRF-защита, выбранная тема, пользовательские настройки и технические журналы безопасности.
Если cookie позволяет определить пользователя, она считается частью обработки персональных данных.