Рубрика
AI safety, privacy, deepfakes, киберриски и регулирование.
Совет Европы представил новые руководящие принципы по ответственному использованию искусственного интеллекта в журналистике, сделав акцент на прозрачности, подотчетности и защите редакционной независимости.[2] На фоне ускоренного внедрения ИИ в медиа документ фактически задает рамку для будущего регулирования отрасли в Европе и за ее пределами.
В последние дни мир технологий столкнулся с масштабным обновлением в сфере безопасности дипфейков. Крупнейшие компании, включая Google и Meta, анонсировали внедрение новых алгоритмов глубокого обучения, способных распознавать синтезированные видео и аудио с точностью до 98%, даже если подделка создана на основе одного-два фото. Это решение стало ответом на рост мошенничества, где дипфейки используются для имитации голосов руководителей и публичных лиц в целях финансового обмана.
В центре мировой повестки по безопасности ИИ снова оказался Евросоюз: после вступления в силу ключевых требований AI Act регуляторный режим для разработчиков и поставщиков моделей общего назначения перешел от деклараций к практике. Для отрасли это означает не только новые обязанности по документации, оценке рисков и кибербезопасности, но и реальную угрозу штрафов за несоблюдение правил.
В Европе обсуждение регулирования искусственного интеллекта снова вышло за рамки абстрактной этики и стало вопросом практики: кто отвечает за данные, контент и ошибки моделей в медиасфере. На этом фоне юристы и редакторы все чаще говорят не только о маркировке ИИ-материалов, но и о юридической ответственности за их использование.
За последние дни тема дипфейков снова вышла в центр внимания регуляторов и компаний: все чаще подделки голоса и видео используются не только в мошеннических схемах, но и для давления на бизнес и общественных фигур. На этом фоне индустрия безопасности пытается ускорить внедрение маркировки, верификации происхождения контента и детекторов подделок.
Новая проверка безопасности показала, что у крупнейших языковых моделей защита от вредоносных запросов остается нестабильной: достаточно перефразировать вопрос, чтобы часть ограничений переставала работать. Наиболее уязвимыми в тестах оказались Grok, Gemini, GPT-4o и Claude, что снова вывело тему AI safety из академической повестки в практическую плоскость.
Безопасность и этика — раздел о рисках AI: от deepfake и privacy до model misuse, регулирования и ответственного внедрения. Материалы избегают эксплуатационных инструкций и делают акцент на защите, контексте и проверяемости.
