Что произошло

Еврокомиссия опубликовала первый проект Кодекса практики по маркировке и идентификации ИИ-контента, который призван конкретизировать требования прозрачности AI Act применительно к дипфейкам.[2] Для Европы это важный шаг: регулятор пытается заставить платформы и разработчиков не только распознавать синтетический контент, но и делать его происхождение понятным для пользователей и модераторов.[2]

Почему это стало срочно

Параллельно профильные публикации в России и за рубежом описывают новый этап эволюции дипфейков: видео стало заметно стабильнее по лицам и мимике, а для убедительной голосовой подделки теперь часто достаточно короткой записи.[1][6] Отдельные материалы указывают, что такие инструменты уже активно используются в мошеннических схемах, а переход к синтезу в реальном времени может усложнить проверку на видеозвонках и прямых эфирах.[1][3]

Что это значит для бизнеса и государства

Для компаний главный риск смещается от «странного ролика» к принятию решений на основе поддельного голоса или видео в режиме срочности.[3][11] Именно поэтому эксперты советуют отказываться от биометрии как единственного фактора проверки, вводить двойное подтверждение критических операций и использовать отдельные каналы верификации для платежей и доступа к данным.[3][7]

Регуляторный ответ при этом пока отстает от практики. В российских медиа уже сообщалось, что МВД тестирует ИИ для выявления дипфейков, а в рунете зафиксирован кратный рост синтетического контента.[10][5] Но даже наличие детекторов не отменяет того, что лучшее окно для атаки у мошенников остается там, где человек действует быстро и без перепроверки.[8][11]

Что дальше

Судя по текущим публикациям, рынок движется к модели, в которой доверие будет строиться не на «узнаваемости» лица или голоса, а на цифровых подписях, происхождении файла и многоуровневой проверке источника.[1][8] Для регуляторов это спор о стандартах, для корпораций — вопрос внутренней дисциплины, а для пользователей — новая норма осторожности при любой просьбе, пришедшей через мессенджер или видеосвязь.

Источник новости: Коммерсантъ.