Безопасность и Этика / Дипфейки
Глубокие фейки обманули сотрудников гонконгской фирмы и привели к потерям в $25 млн
Сотрудник гонконгской инженерной компании перевел мошенникам 25 миллионов долларов после того, как в видеоконференции все остальные участники оказались AI‑генерированными deepfake‑версиями реальных коллег. Инцидент демонстрирует, как синтетические медиа подрывают традиционные сигналы доверия — голос и изображение — и ставит под вопрос эффективность существующих мер защиты. Источник новости: Bloomberg Law
Сводка
Главное за 15 секунд
- Статья описывает случай, когда deepfake‑звонок обманул сотрудника гонконгской фирмы, приведя к потерям в $25 млн. Эксперты отмечают, что синтетические медиа ослабляют аудиовизуальные сигналы доверия, делая традиционные м
- Сотрудник гонконгской инженерной компании перевел мошенникам 25 миллионов долларов после того, как в видеоконференции все остальные участники оказались AI‑генерированными deepfake‑версиями реальных коллег.
- Инцидент демонстрирует, как синтетические медиа подрывают традиционные сигналы доверия — голос и изображение — и ставит под вопрос эффективность существующих мер защиты.
- Источник новости: Bloomberg Law ## Как произошел атака с использованием deepfake Сотрудник гонконгской инженерной фирмы получил сообщение, которое, по внешнему виду, исходило от главного финансового офицера компании и со
Как произошел атака с использованием deepfake
Сотрудник гонконгской инженерной фирмы получил сообщение, которое, по внешнему виду, исходило от главного финансового офицера компании и содержало просьбу о нескольких финансовых переводах. Несмотря на первоначальные сомнения, он согласился после участия в видеоконференции, где все остальные участники, кроме него самого, оказались AI‑генерированными deepfake‑версиями реальных коллег. В результате фирма перевела мошенникам 25 миллионов долларов, не обнаружив подмены, поскольку атакующие не взломали сеть, а лишь убедили сотрудника следовать указаниям fabricated версий доверенных лиц.
Последствия для бизнеса и меры защиты
Инцидент показывает, что deepfake‑технологии способны подрывать традиционные сигналы доверия — голос и изображение — которые ранее считались достаточным доказательством подлинности личности. Как отмечают исследователи, zarówno люди, как и автоматические системы обнаружения испытывают трудности с надежной идентификацией таких подделок вне контролируемых условий, что делает защиту, основанную исключительно на распознавании знакомого голоса или лица, недостаточной. Тем не менее, существующие меры безопасности — фильтрация трафика, процедуры верификации и регулярное обучение — по‑прежнему снижают эффективность многих атак, связанных с ИИ‑социальной инженерией, хотя синтетические медиа требуют адаптации этих защит и отказа от рассмотрения знакомого аудиовизуального сигнала как доказательства личности.
В ответ на растущую угрозу компании инвестируют в технологии голосовой биометрии и обнаружения синтетических медиа. Например, стартап Modulate привлек 25 миллионов долларов в новом раунде финансирования, увеличив общий объем привлеченных средств до 60 миллионов, и заявляет, что его модели анализируют более десяти миллионов часов аудио в месяц и суммарно обработали свыше шестисот миллионов часов. Инвесторы видят в таких решениях потенциал для раннего выявления deepfake‑звонков, предотвращения мошенничества и надзора за AI‑голосовыми агентами, а прогнозы рынка голосовой биометрии указывают на объем проверок вблизи 5,5 миллиарда долларов к 2028 году.
Источник новости: Bloomberg Law
Обсуждение
Комментарии
Войдите через Google или Telegram, чтобы участвовать в обсуждении.