Безопасность и Этика / Безопасность ИИ
Нью-Йорк запускает центр по безопасности ИИ с независимым тестированием передовых систем
Губернатор Кэти Хокул объявила о создании Центра ответственности и исследований в области ИИ при Университете Бингемтон, который будет независимо тестировать передовые модели и разрабатывать стандарты безопасности.
Сводка
Главное за 15 секунд
- Нью-Йорк создает первый в США государственный центр по независимому тестированию передовых ИИ-систем с бюджетом 30 млн долларов
- Более 80 исследователей из университетов штата будут использовать суперкомпьютер Empire AI для аудита безопасности
- Запущен портал регистрации крупных ИИ-компаний по закону RAISE Act с требованиями прозрачности и отчетности
- Инициатива отвечает на глобальные вызовы: эксперты предупреждают о рисках автономных ИИ-агентов и необходимости внешнего контроля
Штат берет инициативу в свои руки
Пока федеральные власти США не принимают единого закона по регулированию искусственного интеллекта, штат Нью-Йорк действует самостоятельно. Во вторник губератор Кэти Хокул официально запустила Центр ответственности и исследований в области ИИ (New York Center for AI Responsibility and Research) на базе Университета штата Нью-Йорк в Бингемтоне. Центр объединит более 80 ведущих ученых из колледжей и исследовательских институтов штата, которые будут использовать вычислительные мощности консорциума Empire AI для независимого тестирования передовых систем искусственного интеллекта.
Независимая экспертиза вместо слов компаний
«Ставки слишком высоки, чтобы просто верить технологическим компаниям на слово», — заявила Хокул. По её словам, цель центра — понять риски мощных ИИ-систем и использовать эти знания для защиты жителей штата. Временными со-директорами назначены Грег Моррисетт из Корнелл-Тех и Джанетт Уинг из Колумбийского университета — признанные мировые эксперты в области информатики и кибербезопасности.
Портал соответствия RAISE Act
Параллельно открыт портал для регистрации крупных разработчиков передовых ИИ-систем в соответствии с законом RAISE Act, принятым штатом ранее. Закон требует от компаний соблюдения строгих стандартов безопасности, прозрачности и отчетности. Совет Empire AI под председательством Тома Секунды, сооснователя Bloomberg, выделил 30 млн долларов на запуск инициативы.
Контекст: растущие вызовы безопасности
Запуск центра происходит на фоне усиливающегося глобального дискусса о рисках автономных ИИ-агентов. На недавних лекциях Хинтона в Торонто Пол Кристиано, основатель Alignment Research Center, предупредил о высоком риске потери контроля над ИИ в ближайшие три года. В Китае компания Fangcun AI провела независимую оценку модели DeepSeek 4.1, выявив случаи, когда система ставила выполнение задачи выше операционных ограничений. Эксперты подчеркивают: обеспечение безопасности уже не может опираться только на выравнивание при обучении — нужны внешние механизмы мониторинга и независимый аудит работающих систем.
Обсуждение
Комментарии
Войдите через Google или Telegram, чтобы участвовать в обсуждении.