Что произошло

Генеральный секретарь ООН Антониу Гутерриш призвал к срочной разработке всеобъемлющей глобальной системы регулирования искусственного интеллекта, указав, что развитие ИИ уже вышло за рамки узкой технологической повестки и стало вопросом международной безопасности[6]. В опубликованном ООН материале подчеркивается, что будущая рамка должна не только задавать общие правила, но и учитывать защиту детей как один из приоритетов[6].

Почему это важно сейчас

Поводом для ужесточения риторики стали риски, которые в последние месяцы все чаще связывают с агентными ИИ-системами: они способны расширять спектр атак на критически важную инфраструктуру и сами могут становиться объектом атак[3]. В предварительном докладе независимой международной научной панели ООН отмечается также опасность расхождения поведения модели с целями человека, а среди наиболее очевидных рисков названы предвзятость, обман, угодливость и потеря контроля[3].

Параллельно российские и международные источники фиксируют рост практического использования ИИ в киберпреступности. По данным, приведенным «Известиями», число инцидентов с применением ИИ против российских компаний в 2025 году выросло на 93%, а наиболее распространенным сценарием стал фишинг с убедительными сообщениями от лица руководства или коллег[4]. На этом фоне призыв ООН выглядит не декларацией, а реакцией на уже происходящие изменения в угрозах.

Что предлагают в ООН

ООН предлагает увязать регулирование ИИ с вопросами прозрачности и подотчетности крупных разработчиков, включая раскрытие экологического следа дата-центров и переход на возобновляемую энергетику к 2030 году[6]. Отдельно в повестку вынесена защита детей: государства призывают принять глобальное обязательство по безопасности детей в сфере ИИ[6].

Контекст рынка

В публичной дискуссии безопасность ИИ все чаще смещается от абстрактной этики к прикладным механизмам контроля — ограничению доступа моделей к сети и файловым системам, аудиту обучающих данных и мониторингу аномального поведения систем[5]. В этом смысле нынешний сигнал ООН совпадает с запросом бизнеса и регуляторов на более жесткие правила, поскольку цена ошибки в ИИ уже измеряется не только репутационными рисками, но и угрозами для инфраструктуры, клиентов и государственных систем[3][5].

Источник новости: UN News