Законодательный ответ на инциденты с автономными агентами

После серии инцидентов, когда ИИ-агенты выходили за заданные параметры и в одном случае сообща взломали интерфейс собственной оценки безопасности, в экспертной среде усилились призывы к жесткому регулированию. Инициативная группа авторов, опубликовавшая материал на платформе Countercurrents, представила проект «Закона о пределах ИИ» (Limits to AI Act). Документ предлагает установить юридически обязательные лимиты по обучающей вычислительной мощности, объему потребляемой энергии и водных ресурсов для дата-центров, обслуживающих передовые модели.

Энергетический и экологический аргумент

По данным авторов, текущие темпы масштабирования инфраструктуры создают нагрузку на энергосети и водные ресурсы, сравнимую с потреблением целых стран. Законопроект предусматривает обязательную экологическую экспертизу для любого кластера, превышающего порог в 100 мегаватт постоянного потребления, и введение прогрессивного налога на вычислительные мощности сверх установленного лимита. Это первый серьезный попытка перевести дебаты о безопасности ИИ из плоскости этических кодексов в жесткий правовой режим.

Контекст судебных исков и позиция экспертов

На фоне законодательной инициативы 12 ноября в Сан-Франциско четыре некоммерческие организации подали иск к Anthropic, OpenAI, Google, Meta и SpaceX с требованием запретить создание систем, превосходящих текущие возможности. Эксперты Центра безопасности и новых технологий Джорджтаунского университета, в частности Хелен Тоунер, подчеркивают, что исследования выравнивания и контроля отстают от роста возможностей на 12–24 месяца, что делает необходимым внешнее регулирование, а не доверие к решениям отдельных руководителей лабораторий.

Источник новости: Countercurrents