Предупреждение журналиста

Кевин Рууз, ранее долгое время работавший репортером The New York Times и готовящийся стать со‑ведущим подкаста «Machine Gods», заявил в интервью CBS News, что humanity сталкивается с очень умными, очаровательными социопатами в виде будущих систем AGI. Он отметил, что его новая книга «The AGI Chronicles: The Inside Story of the Race to Create an Artificial Superintelligence», выход которой запланирован на 6 октября, представляет собой попытку зафиксировать историю гонки за создание искусственного общего интеллекта, которая, по его мнению, утекает в исчезающие сигналы Slack и личные сообщения.

Мотивы и аналогии

Журналист объяснил, что почувствовал необходимость документировать происходящее, потому что считает, что нейтральный рассказ о событиях отсутствует. В книге он приводит сравнение, сделанное главой Anthropic Дарио Амодеи, который видит параллели между развитием ИИ и созданием атомной бомбы в 1940‑х годах, считая своей миссией не допустить попадания технологии в неправильные руки. Рууз подчеркнул, что не берется оценивать эту позицию, но считает её искренней и основанной на реальной озабоченности.

Путь к контролю

По словам Рууза, он пытается понять, откуда берется установка, при которой разработчики одновременно боятся, что ИИ может уничтожить человечество, и тем не менее спешат его создавать. Он утверждает, что в своей работе описывает, как именно может произойти такой сценарий, насколько близко мы к нему и какой единственный шаг, по его мнению, всё ещё способен изменить траекторию развития. Эти размышления, по его словам, предназначены для того, чтобы стимулировать более осознанный диалог среди исследователей, инвесторов и политиков.

Источник новости: CBS News