Main

Самая громкая новость последних дней в сфере безопасности ИИ — публикация International AI Safety Report 2026, в которой зафиксирован переход искусственного интеллекта от теоретических рисков к реальному использованию в создании киберуязвимостей и биологического оружия [1].

ИИ как инструмент кибератак и биоугроз

Ключевой вывод отчета: современные ИИ-системы демонстрируют экстремальную эффективность в поиске уязвимостей программного кода. В одном из ведущих международных соревнований по кибербезопасности ИИ-агент выявил 77% уязвимостей в реальном коде, заняв место в топ-5% среди более 400 команд, состоящих преимущественно из людей [1]. Это подтверждает, что ИИ уже способен действовать на уровне профессиональных хакеров, а не просто имитировать их действия.

Параллельно с киберрисками отчет фиксирует критическую угрозу в биологической сфере. Крупнейшие разработчики ИИ (включая лидеров рынка) вынуждены вводить усиленные фильтры на вход и выход данных, поскольку не смогли исключить возможность, что их модели могут помочь новичкам в создании биологического оружия [1]. Эти меры включают блокировку ответов на запросы, связанные с разработкой патогенов, что стало вынужденной реакцией на рост возможностей ИИ-«ко-исследователей», способных оперировать лабораторным оборудованием [1].

Главные угрозы: доверие и лень

Авторы отчета подчеркивают, что основная опасность сегодня — не в прямом злонамеренном использовании, а в том, что системы выглядят умнее и надежнее, чем они есть на самом деле [2]. Это создает риски масштабирования мошенничества, влияния на общественное мнение через deepfake-контент и галлюцинаций, которые пользователи принимают за факты [2].

Второй критический фактор — атрофия навыков и эрозия ответственности. Люди склонны перекладывать на ИИ задачи критического мышления, что ведет к массовому снижению способности анализировать информацию и принимать юридически обоснованные решения [2].

Глобальный контекст и регуляция

Публикация отчета 2026 года происходит в период ужесточения регуляторных требований. В июне 2026 года EU AI Act начал требовать от организаций категоризации систем по уровню риска, проведения тестов «красной команды» (red-team) и публикации данных о прозрачности [4]. В США внимание сместилось на защиту детей: штат Флорида инициировал ** landmark-судебный процесс против OpenAI** и Сэма Альтмана, обвиняя компанию в выпуске небезопасных чатботов, вызывающих зависимость у несовершеннолетних [5]. В Китае запущена кампания «Qinglang» 2026, направленная на блокировку misuse ИИ, что уже привело к удалению более 960 000 единиц незаконного контента [5].

Источник новости: internationalaisafetyreport.org.