Экспертиза уходит, риски растут

Мэри Эллен Каллахан, возглавлявшая до января 2025 года подразделение Министерства внутренней безопасности по противодействию угрозам химического, биологического, радиологического и ядерного характера, опубликовала комментарий в Federal News Network с прямым предупреждением: способность правительства оценивать и сдерживать опасности от передовых моделей ИИ быстро эродирует. Её команда готовила отчёт, согласно которому искусственный интеллект снижает барьеры для злоупотребления CBRN-материалами, однако реальные ограничения всё ещё делали такую вероятность низкой. По словам Каллахан, эти ограничения теперь «уступают», а федеральная машина теряет кадровый резерв, необходимый для отслеживания динамики угроз.

Контраст с британской стратегией

На фоне американской неопределённости Великобритания 24 октября анонсировала пакет инвестиций свыше 600 млн фунтов стерлингов на развитие ИИ-безопасности. В состав входят 165 млн на Национальную инициативу по биобезопасности, 100 млн — на специализированную лабораторию, 120 млн — на Институт безопасности ИИ, а также средства на киберщит и центр уязвимостей критической инфраструктуры. OpenAI и Anthropic обязались предоставить до 200 млн фунтов в виде кредитов на модели и сопутствующей поддержки. Британский подход демонстрирует ставку на государственную координацию и публично-частное партнёрство там, где Вашингтон, по мнению Каллахан, разбирает институциональную память.

Признание рисков самим рынком

Дополнительный контекст дают недавние IPO-документы Anthropic: в 335-страничном проспекте 93 страницы посвящены факторам риска, включая возможность создания смертоносного оружия и потерю контроля над моделями. Для сравнения, у SpaceX раздел рисков занимал 38 из 250 страниц. Основатели Anthropic прямо пишут, что привлечение публичного капитала — это шаг к снижению экзистенциальных угроз, однако инвесторы получают сигнал: отрасль считает вероятность катастрофических сценариев достаточно высокой, чтобы выносить их в юридические раскрытия информации.

Институциональный вакуум

Каллахан подчёркивает: коллективные действия по безопасности ИИ невозможны без восстановления госэкспертизы, а процесс должен начаться немедленно. Пока Конгресс и исполнительная власть обсуждают регуляторные рамки, операционная способность агентств — от NIST до CISA — снижается за счёт кадровых сокращений и бюджетной неопределённости. В результате стража рисков, способная переводить технические прорывы в язык политики, фактически расформировывается в момент наивысшей нагрузки.