Безопасность и Этика / Безопасность ИИ
Бывший чиновник DHS предупреждает: ослабление госвласти в США ставит под угрозу безопасность ИИ
Бывший руководитель отдела DHS по противодействию угрозам химбиоруженению Мэри Эллен Каллахан утверждает, что размывание экспертизы в федеральных агентствах лишает Вашингтон инструментов контроля над рисками ИИ, в то время как Великобритания вкладывает 600 млн фунтов в безопасность технологий.
Сводка
Главное за 15 секунд
- Бывший руководитель DHS по CBRN-угрозам Мэри Эллен Каллахан предупреждает: потеря федеральной экспертизы делает США уязвимыми к рискам ИИ, включая снижение барьеров для создания оружия массового поражения.
- Великобритания анонсировала пакет £600 млн на безопасность ИИ, включая биобезопасность, киберзащиту и Институт безопасности ИИ, с поддержкой OpenAI и Anthropic.
- IPO-документы Anthropic выделяют 93 из 335 страниц на риски: создание смертоносного оружия, потеря контроля над моделями — сигнал рынка о серьезности угроз.
- Каллахан призывает к немедленному восстановлению госвласти в области ИИ-безопасности, иначе регуляторные инициативы останутся декларативными.
Экспертиза уходит, риски растут
Мэри Эллен Каллахан, возглавлявшая до января 2025 года подразделение Министерства внутренней безопасности по противодействию угрозам химического, биологического, радиологического и ядерного характера, опубликовала комментарий в Federal News Network с прямым предупреждением: способность правительства оценивать и сдерживать опасности от передовых моделей ИИ быстро эродирует. Её команда готовила отчёт, согласно которому искусственный интеллект снижает барьеры для злоупотребления CBRN-материалами, однако реальные ограничения всё ещё делали такую вероятность низкой. По словам Каллахан, эти ограничения теперь «уступают», а федеральная машина теряет кадровый резерв, необходимый для отслеживания динамики угроз.
Контраст с британской стратегией
На фоне американской неопределённости Великобритания 24 октября анонсировала пакет инвестиций свыше 600 млн фунтов стерлингов на развитие ИИ-безопасности. В состав входят 165 млн на Национальную инициативу по биобезопасности, 100 млн — на специализированную лабораторию, 120 млн — на Институт безопасности ИИ, а также средства на киберщит и центр уязвимостей критической инфраструктуры. OpenAI и Anthropic обязались предоставить до 200 млн фунтов в виде кредитов на модели и сопутствующей поддержки. Британский подход демонстрирует ставку на государственную координацию и публично-частное партнёрство там, где Вашингтон, по мнению Каллахан, разбирает институциональную память.
Признание рисков самим рынком
Дополнительный контекст дают недавние IPO-документы Anthropic: в 335-страничном проспекте 93 страницы посвящены факторам риска, включая возможность создания смертоносного оружия и потерю контроля над моделями. Для сравнения, у SpaceX раздел рисков занимал 38 из 250 страниц. Основатели Anthropic прямо пишут, что привлечение публичного капитала — это шаг к снижению экзистенциальных угроз, однако инвесторы получают сигнал: отрасль считает вероятность катастрофических сценариев достаточно высокой, чтобы выносить их в юридические раскрытия информации.
Институциональный вакуум
Каллахан подчёркивает: коллективные действия по безопасности ИИ невозможны без восстановления госэкспертизы, а процесс должен начаться немедленно. Пока Конгресс и исполнительная власть обсуждают регуляторные рамки, операционная способность агентств — от NIST до CISA — снижается за счёт кадровых сокращений и бюджетной неопределённости. В результате стража рисков, способная переводить технические прорывы в язык политики, фактически расформировывается в момент наивысшей нагрузки.
Обсуждение
Комментарии
Войдите через Google или Telegram, чтобы участвовать в обсуждении.