Другое / Путь к AGI
Школа общественного здоровья Гарварда выделила три измерения для оценки AGI, признав отсутствие единого определения
Harvard T.H. Chan School of Public Health опубликовала аналитический обзор, в котором утверждает, что научное сообщество до сих пор не сходится в определении искусственного общего интеллекта (AGI). Авторы предлагают оценивать системы по трём измерениям — широте задач, компетентности и независимости от человека.
Сводка
Главное за 15 секунд
- Гарвардская школа общественного здоровья опубликовала фреймворк для оценки AGI, состоящий из трёх измерений: широта задач, компетентность и независимость.
- Единого научного определения AGI не существует; бенчмарки дают лишь частичные доказательства способностей.
- Бывший исследователь DeepMind/OpenAI Ричард Нго критикует лаборатории за догматичность и предлагает тест на управление реальной компанией как меру робастности.
- Крупные компании начинают отражать в отчётности риски от появления ИИ, превосходящего человеческий интеллект.
Отсутствие консенсуса и три критерия оценки
Исследователи Advanced Learning Academy Гарварда подчёркивают, что AGI описывает идею системы с широкими, адаптивными интеллектуальными способностями, в отличие от узкого ИИ, созданного для ограниченных задач. Однако единого определения, которое приняли бы все исследователи, не существует. В материале, подготовленном Тришаном Панчем, предлагается разделить понятие на три компонента: широту — сколько различных задач система может решать; компетентность — насколько хорошо она их выполняет; и независимость — сколько человеческого руководства ей требуется. Система может быть широко полезной, но требовать постоянного надзора, или высоко автономной в очень узкой области.
От узкого ИИ к общему интеллекту: роль бенчмарков
Авторы напоминают, что бенчмарки — наборы задач для сравнения систем — дают доказательства конкретных способностей, но ни один интегральный балл не закрывает все вопросы об общем интеллекте. Параллельно бывший исследователь DeepMind и OpenAI Ричард Нго в интервью подкасту MTS критикует лаборатории за преждевременную сходимость на нарративе о скором интеллекте-взрыве и неопределённости термина «выравнивание». По его мнению, реальный тест робастности — способность модели управлять крупной компанией полгода, сохраняя прибыль и избегая правовых рисков, — сегодня недоступен для существующих систем. Крупные корпорации уже начинают упоминать в отчётности риски, связанные с ИИ, превосходящим человеческий интеллект, что отражает растущее внимание инвесторов к проблеме определения и измерения AGI.
Источник новости: Harvard T.H. Chan School of Public Health
Обсуждение
Комментарии
Войдите через Google или Telegram, чтобы участвовать в обсуждении.