Что произошло

В свежих отраслевых обзорах по кибербезопасности зафиксирован резкий сдвиг в характере атак: злоумышленники все активнее используют ИИ для автоматизации фишинга, социальной инженерии и поиска уязвимостей. В одном из российских материалов отмечается, что хакеры стали вдвое чаще применять ИИ для атак, а в международных исследованиях подчеркивается, что именно генеративные модели ускорили масштабирование вредоносных кампаний. [15][19]

Почему это важно

Речь идет не только о более убедительных письмах или поддельных голосах. По данным отраслевых обзоров, ИИ уже используют для создания дипфейков, генерации фрагментов вредоносного кода, обхода базовой защиты и усиления атак на цепочки поставок программного обеспечения. Отдельный риск связан с тем, что сами ИИ-сервисы становятся целью атак: через них пытаются похитить данные, получить первоначальный доступ к корпоративной сети или заставить модели раскрывать конфиденциальные инструкции. [2][18][19]

Где проходит новая линия риска

Эксперты указывают, что самая уязвимая зона — не только внешний периметр, но и внутреннее использование ИИ без контроля со стороны ИБ-служб. В аналитике PT Security это описывается как Shadow AI и агентские системы, которые создают новую высокорисковую поверхность атаки: сотрудники подключают инструменты без согласования, а автономные агенты получают слишком широкие права на работу с сервисами и данными. [19]

Отдельная проблема — промпт-инъекции, отравление моделей и небезопасные плагины. Эти сценарии уже рассматриваются как практические угрозы для LLM-приложений, а не как теоретический риск. [18]

Что говорят источники

Источник новости: Коммерсантъ и PT Security. Российские публикации сходятся в том, что ИИ ускоряет и удешевляет атаки, а бизнес пока медленнее внедряет защитные практики, чем сами злоумышленники осваивают новые инструменты. [15][19]

Для компаний это означает смещение акцента с разовых проверок на постоянный контроль доступа, фильтрацию данных, аудит моделей и ограничение автономности ИИ-систем. Без этого генеративные инструменты будут усиливать не только продуктивность, но и скорость инцидентов. [18][19]