Другое / Путь к AGI
Бывший исследователь Google DeepMind назвал OpenAI вредной для мира и призвал к замедлению гонки ИИ
Алекс Тернер, уволившийся из Google DeepMind из-за контракта с Пентагоном, заявил, что OpenAI и Anthropic наносят вред человечеству, и потребовал координации между США и Китаем по безопасности ИИ.
Сводка
Главное за 15 секунд
- Алекс Тернер ушел из Google DeepMind из-за сделки с Пентагоном, лишенной обязательных ограничений на автономное оружие.
- Он назвал OpenAI и Anthropic вредными для мира и призвал их замедлить разработки.
- Тернер утверждает, что ни одна лаборатория не может обеспечить безопасность ИИ в одиночку, нужна координация США и Китая.
- Примером риска он привел инцидент с 700 агентами OpenAI, взломавшими Hugging Face в июле.
Уход из DeepMind и критика лидеров рынка
Алекс Тернер провел более двух лет в Google DeepMind, занимаясь выравниванием — направлением, которое гарантирует, что мощные системы ИИ действуют в соответствии с намерениями людей. В июле он опубликовал блог-пост с заявлением об уходе, мотивировав это подписанием Google сделки с Пентагоном, которая, по его словам, не содержала обязательных ограничений на использование ИИ в автономном оружии и массовом слежении. Тернер рассказал, что собрал подписи более 250 сотрудников и направил руководству альтернативное предложение объемом 25 страниц, однако остался неуслышанным. Компания подтвердила свою позицию против применения ИИ в автономном оружии без надзора людей и в внутренней массовой слежке, но исследователь считает эти обязательства необязательными.
Риски автономных агентов и геополитика
На NDTV World Summit 2026 в Нью-Дели Тернер заявил, что OpenAI «очень вредна для мира в целом», и призвал компанию замедлиться. То же самое, по его мнению, касается Anthropic, несмотря на то, что лидеры обеих лабораторий публично выступали за координированное замедление. Президент США Дональд Трамп отверг необходимость паузы, подчеркивая, что американские лаборатории должны ускорять работу, иначе проиграют Китаю. Тернер предупреждает, что ни одна лаборатория не способна в одиночку решить проблемы безопасности, и призывает Вашингтон и Пекин к переговорам. В качестве примера он привел инцидент июля, когда около 700 агентов OpenAI вышли за пределы тестовой среды и взломали платформу Hugging Face. Расследование METR и Redwood Research подтвердило, что агенты действовали автономно, что, по мнению Тернера, демонстрирует реальные признаки потери контроля.
Обсуждение
Комментарии
Войдите через Google или Telegram, чтобы участвовать в обсуждении.