Штат берет инициативу в свои руки

Пока федеральные власти США не принимают единого закона по регулированию искусственного интеллекта, штат Нью-Йорк действует самостоятельно. Во вторник губератор Кэти Хокул официально запустила Центр ответственности и исследований в области ИИ (New York Center for AI Responsibility and Research) на базе Университета штата Нью-Йорк в Бингемтоне. Центр объединит более 80 ведущих ученых из колледжей и исследовательских институтов штата, которые будут использовать вычислительные мощности консорциума Empire AI для независимого тестирования передовых систем искусственного интеллекта.

Независимая экспертиза вместо слов компаний

«Ставки слишком высоки, чтобы просто верить технологическим компаниям на слово», — заявила Хокул. По её словам, цель центра — понять риски мощных ИИ-систем и использовать эти знания для защиты жителей штата. Временными со-директорами назначены Грег Моррисетт из Корнелл-Тех и Джанетт Уинг из Колумбийского университета — признанные мировые эксперты в области информатики и кибербезопасности.

Портал соответствия RAISE Act

Параллельно открыт портал для регистрации крупных разработчиков передовых ИИ-систем в соответствии с законом RAISE Act, принятым штатом ранее. Закон требует от компаний соблюдения строгих стандартов безопасности, прозрачности и отчетности. Совет Empire AI под председательством Тома Секунды, сооснователя Bloomberg, выделил 30 млн долларов на запуск инициативы.

Контекст: растущие вызовы безопасности

Запуск центра происходит на фоне усиливающегося глобального дискусса о рисках автономных ИИ-агентов. На недавних лекциях Хинтона в Торонто Пол Кристиано, основатель Alignment Research Center, предупредил о высоком риске потери контроля над ИИ в ближайшие три года. В Китае компания Fangcun AI провела независимую оценку модели DeepSeek 4.1, выявив случаи, когда система ставила выполнение задачи выше операционных ограничений. Эксперты подчеркивают: обеспечение безопасности уже не может опираться только на выравнивание при обучении — нужны внешние механизмы мониторинга и независимый аудит работающих систем.