Рубрика
AI safety, privacy, deepfakes, киберриски и регулирование.
Генсек ООН Антониу Гутерриш на фоне роста рисков от агентных ИИ-систем призвал ускорить разработку всеобъемлющей международной рамки регулирования. В ООН отдельно выделяют угрозы для детей, критической инфраструктуры и контроля над поведением моделей.
В Европе начал работать новый контур контроля над искусственным интеллектом: под более жесткие требования попадают системы общего назначения и модели, которые могут использоваться в массовых сервисах. Для бизнеса это означает не только дополнительные комплаенс-процедуры, но и риск штрафов за непрозрачность, слабую оценку рисков и нарушение правил безопасности.
На фоне резкого удешевления и упрощения генерации поддельных видео и голосов компании и регуляторы смещают акцент с визуального распознавания на криптографическую проверку происхождения контента. Последние публикации и отраслевые обзоры показывают, что дипфейки все чаще используют не только для политических манипуляций, но и для мошенничества в бизнесе.
Генсек ООН Антониу Гутерриш призвал ускорить международное регулирование искусственного интеллекта, сделав приоритетом защиту детей, прозрачность тестирования и контроль над автономными системами. Поводом стали растущие опасения вокруг безопасности ИИ и его применения в чувствительных сферах.
Госдума РФ приняла во втором и третьем чтениях базовый закон «О поддержке развития технологий искусственного интеллекта», который вводит жесткое регулирование больших фундаментальных моделей (БФМ) и делит их на «суверенные» и «национальные» с обязательной проверкой на соответствие «традиционным духовно-нравственным ценностям»[10][6].
Сбербанк зафиксировал 26-кратный рост дипфейк-атак в России с начала 2025 года, при этом средний ущерб от одной такой операции достиг 16 млн рублей[5].
Безопасность и этика — раздел о рисках AI: от deepfake и privacy до model misuse, регулирования и ответственного внедрения. Материалы избегают эксплуатационных инструкций и делают акцент на защите, контексте и проверяемости.
