Как произошел атака с использованием deepfake

Сотрудник гонконгской инженерной фирмы получил сообщение, которое, по внешнему виду, исходило от главного финансового офицера компании и содержало просьбу о нескольких финансовых переводах. Несмотря на первоначальные сомнения, он согласился после участия в видеоконференции, где все остальные участники, кроме него самого, оказались AI‑генерированными deepfake‑версиями реальных коллег. В результате фирма перевела мошенникам 25 миллионов долларов, не обнаружив подмены, поскольку атакующие не взломали сеть, а лишь убедили сотрудника следовать указаниям fabricated версий доверенных лиц.

Последствия для бизнеса и меры защиты

Инцидент показывает, что deepfake‑технологии способны подрывать традиционные сигналы доверия — голос и изображение — которые ранее считались достаточным доказательством подлинности личности. Как отмечают исследователи, zarówno люди, как и автоматические системы обнаружения испытывают трудности с надежной идентификацией таких подделок вне контролируемых условий, что делает защиту, основанную исключительно на распознавании знакомого голоса или лица, недостаточной. Тем не менее, существующие меры безопасности — фильтрация трафика, процедуры верификации и регулярное обучение — по‑прежнему снижают эффективность многих атак, связанных с ИИ‑социальной инженерией, хотя синтетические медиа требуют адаптации этих защит и отказа от рассмотрения знакомого аудиовизуального сигнала как доказательства личности.

В ответ на растущую угрозу компании инвестируют в технологии голосовой биометрии и обнаружения синтетических медиа. Например, стартап Modulate привлек 25 миллионов долларов в новом раунде финансирования, увеличив общий объем привлеченных средств до 60 миллионов, и заявляет, что его модели анализируют более десяти миллионов часов аудио в месяц и суммарно обработали свыше шестисот миллионов часов. Инвесторы видят в таких решениях потенциал для раннего выявления deepfake‑звонков, предотвращения мошенничества и надзора за AI‑голосовыми агентами, а прогнозы рынка голосовой биометрии указывают на объем проверок вблизи 5,5 миллиарда долларов к 2028 году.

Источник новости: Bloomberg Law