Main

Генеральный секретарь ООН Антониу Гутерриш призвал к срочному глобальному регулированию безопасности ИИ, требуя обязательной независимой проверки систем, доступных детям.

Новый стандарт защиты детей от ИИ

В рамках новой инициативы ООН разработчики искусственного интеллекта обязаны будут документально подтвердить безопасность своих алгоритмов для несовершеннолетних перед выпуском продукта на рынок [1]. Ни одна компания не сможет предлагать решения, доступные детям, без прохождения специальных тестов и получения одобрения от независимых контрольных органов [1]. Этот подход меняет парадигму с постфакт-регулирования на превентивную проверку, возлагая прямую ответственность на создателей технологий за потенциальные риски для уязвимой аудитории.

Нулевая терпимость к цифровому насилию

Инициатива вводит принцип нулевой терпимости к созданию ИИ-изображений сексуального насилия над детьми, что требует автоматического выявления, передачи данных компетентным органам и немедленного удаления подобных материалов [1]. Система должна работать в режиме реального времени, исключая человеческий фактор в процессе фильтрации контента. ООН подчеркивает, что такие материалы не просто нарушают этические нормы, но представляют прямую угрозу физической и психологической безопасности детей в цифровом пространстве.

Глобальный контекст регулирования

Параллельно с действиями ООН в США 42 штатные адвокаты генерального прокурора запустили скоординированное расследование OpenAI, фокусируясь на защите потребителей, использовании данных и рисках для несовершеннолетних [2]. В Европе уже действует Кодекс поведения, требующий от провайдеров ИИ машиночитаемого маркирования синтетического контента и наличия механизмов обнаружения [2]. Бизнес-организации, использующие ИИ, обязаны размещать стандартизированные предупреждающие labels, включая унифицированный символ «AI» ЕС, в точке первого контакта пользователя с системой [2].

Источник новости: news.un.org

Эти события формируют единый глобальный тренд на ужесточение контроля над ИИ, где безопасность детей становится приоритетом номер один для регуляторов от Нью-Йорка до Брюсселя.