Отсутствие консенсуса и три критерия оценки

Исследователи Advanced Learning Academy Гарварда подчёркивают, что AGI описывает идею системы с широкими, адаптивными интеллектуальными способностями, в отличие от узкого ИИ, созданного для ограниченных задач. Однако единого определения, которое приняли бы все исследователи, не существует. В материале, подготовленном Тришаном Панчем, предлагается разделить понятие на три компонента: широту — сколько различных задач система может решать; компетентность — насколько хорошо она их выполняет; и независимость — сколько человеческого руководства ей требуется. Система может быть широко полезной, но требовать постоянного надзора, или высоко автономной в очень узкой области.

От узкого ИИ к общему интеллекту: роль бенчмарков

Авторы напоминают, что бенчмарки — наборы задач для сравнения систем — дают доказательства конкретных способностей, но ни один интегральный балл не закрывает все вопросы об общем интеллекте. Параллельно бывший исследователь DeepMind и OpenAI Ричард Нго в интервью подкасту MTS критикует лаборатории за преждевременную сходимость на нарративе о скором интеллекте-взрыве и неопределённости термина «выравнивание». По его мнению, реальный тест робастности — способность модели управлять крупной компанией полгода, сохраняя прибыль и избегая правовых рисков, — сегодня недоступен для существующих систем. Крупные корпорации уже начинают упоминать в отчётности риски, связанные с ИИ, превосходящим человеческий интеллект, что отражает растущее внимание инвесторов к проблеме определения и измерения AGI.

Источник новости: Harvard T.H. Chan School of Public Health