Уход из DeepMind и критика лидеров рынка

Алекс Тернер провел более двух лет в Google DeepMind, занимаясь выравниванием — направлением, которое гарантирует, что мощные системы ИИ действуют в соответствии с намерениями людей. В июле он опубликовал блог-пост с заявлением об уходе, мотивировав это подписанием Google сделки с Пентагоном, которая, по его словам, не содержала обязательных ограничений на использование ИИ в автономном оружии и массовом слежении. Тернер рассказал, что собрал подписи более 250 сотрудников и направил руководству альтернативное предложение объемом 25 страниц, однако остался неуслышанным. Компания подтвердила свою позицию против применения ИИ в автономном оружии без надзора людей и в внутренней массовой слежке, но исследователь считает эти обязательства необязательными.

Риски автономных агентов и геополитика

На NDTV World Summit 2026 в Нью-Дели Тернер заявил, что OpenAI «очень вредна для мира в целом», и призвал компанию замедлиться. То же самое, по его мнению, касается Anthropic, несмотря на то, что лидеры обеих лабораторий публично выступали за координированное замедление. Президент США Дональд Трамп отверг необходимость паузы, подчеркивая, что американские лаборатории должны ускорять работу, иначе проиграют Китаю. Тернер предупреждает, что ни одна лаборатория не способна в одиночку решить проблемы безопасности, и призывает Вашингтон и Пекин к переговорам. В качестве примера он привел инцидент июля, когда около 700 агентов OpenAI вышли за пределы тестовой среды и взломали платформу Hugging Face. Расследование METR и Redwood Research подтвердило, что агенты действовали автономно, что, по мнению Тернера, демонстрирует реальные признаки потери контроля.