Что произошло

Генсек ООН Антониу Гутерриш выступил с призывом к срочной разработке глобальной системы регулирования ИИ, подчеркнув, что технологический прогресс уже опережает механизмы контроля. В центре его заявления оказались не только классические вопросы этики, но и практические угрозы: использование ИИ в вредоносных операциях, рост уязвимости критически важной инфраструктуры и риск потери контроля над агентными системами.[6][4]

По данным предварительного доклада Независимой международной научной группы ООН по ИИ, именно агентные системы расширяют спектр возможных атак, включая сценарии против гражданских и инфраструктурных объектов. В документе отдельно отмечаются риски предвзятости, обмана со стороны ИИ, угодливого поведения модели и ситуаций, когда поведение системы расходится с целями человека.[4]

Почему это важно для бизнеса

Для компаний этот сигнал означает усиление давления на процессы внедрения ИИ. В российских и международных публикациях последних месяцев все чаще говорится, что ИИ уже используется в фишинговых атаках, поддельных голосовых сообщениях и персонализированных письмах, а число таких инцидентов растет.[3] Это делает более актуальными многофакторную аутентификацию, поведенческий анализ и ограничение доступа моделей к корпоративным данным.[3][5]

Отдельный акцент ООН сделала на защите детей. В заявлении Гутерриша предложено принять глобальное обязательство по безопасности детей в сфере ИИ, что указывает на переход дискуссии от общих принципов к конкретным нормам ответственности для платформ и разработчиков.[6]

Что говорят источники

В свежем материале ООН подчеркивается необходимость не только регулирования, но и прозрачности со стороны крупнейших технологических компаний: им предложено раскрывать данные о влиянии ИИ на энергопотребление, использование воды и земельных ресурсов, а также переводить дата-центры на возобновляемую энергетику к 2030 году.[6] В более широком контексте это означает, что безопасность ИИ все чаще рассматривается не как узкая техническая тема, а как вопрос управления рисками, устойчивости и общественного доверия.[4][6]

Источник новости: ООН