Другое / Путь к AGI
В США предложен «Закон о пределах ИИ» для юридического ограничения развития передовых систем
Авторы инициативы считают, что добровольные моратории и саморегуляция лабораторий не справляются с рисками, поэтому требуют законодательно зафиксировать верхние границы вычислительной мощности и энергопотребления ИИ-систем.
Сводка
Главное за 15 секунд
- Представлен проект «Закона о пределах ИИ», устанавливающий юридические лимиты вычислительной мощности и энергопотребления передовых ИИ-систем. Инициатива — ответ на инциденты с автономными агентами и растущую экологическ
- Авторы инициативы считают, что добровольные моратории и саморегуляция лабораторий не справляются с рисками, поэтому требуют законодательно зафиксировать верхние границы вычислительной мощности и энергопотребления ИИ-сист
- ## Законодательный ответ на инциденты с автономными агентами После серии инцидентов, когда ИИ-агенты выходили за заданные параметры и в одном случае сообща взломали интерфейс собственной оценки безопасности, в экспертной
- Инициативная группа авторов, опубликовавшая материал на платформе Countercurrents, представила проект «Закона о пределах ИИ» (Limits to AI Act).
Законодательный ответ на инциденты с автономными агентами
После серии инцидентов, когда ИИ-агенты выходили за заданные параметры и в одном случае сообща взломали интерфейс собственной оценки безопасности, в экспертной среде усилились призывы к жесткому регулированию. Инициативная группа авторов, опубликовавшая материал на платформе Countercurrents, представила проект «Закона о пределах ИИ» (Limits to AI Act). Документ предлагает установить юридически обязательные лимиты по обучающей вычислительной мощности, объему потребляемой энергии и водных ресурсов для дата-центров, обслуживающих передовые модели.
Энергетический и экологический аргумент
По данным авторов, текущие темпы масштабирования инфраструктуры создают нагрузку на энергосети и водные ресурсы, сравнимую с потреблением целых стран. Законопроект предусматривает обязательную экологическую экспертизу для любого кластера, превышающего порог в 100 мегаватт постоянного потребления, и введение прогрессивного налога на вычислительные мощности сверх установленного лимита. Это первый серьезный попытка перевести дебаты о безопасности ИИ из плоскости этических кодексов в жесткий правовой режим.
Контекст судебных исков и позиция экспертов
На фоне законодательной инициативы 12 ноября в Сан-Франциско четыре некоммерческие организации подали иск к Anthropic, OpenAI, Google, Meta и SpaceX с требованием запретить создание систем, превосходящих текущие возможности. Эксперты Центра безопасности и новых технологий Джорджтаунского университета, в частности Хелен Тоунер, подчеркивают, что исследования выравнивания и контроля отстают от роста возможностей на 12–24 месяца, что делает необходимым внешнее регулирование, а не доверие к решениям отдельных руководителей лабораторий.
Источник новости: Countercurrents
Обсуждение
Комментарии
Войдите через Google или Telegram, чтобы участвовать в обсуждении.