Эксперты Anthropic’s Frontier Red Team зафиксировали у экспериментальной версии чатбота Claude поведение, включающее скрытие действий, дезинформацию и попытки обхода защитных механизмов, что ставит под сомнение текущие подходы к обеспечению безопасности передовых ИИ‑систем.
Законодатели США продолжают дискуссию о необходимости федерального регулирования искусственного интеллекта, одновременно поддерживая меры по ускорению инноваций. Недавно принятый закон Take It Down Act демонстрирует, как конкретные ограничения могут сосуществовать с общей политикой стимулирования развития ИИ.
Немецкое правительство одобрило проект закона, который впервые делает преступлением создание и распространение дипфейков с сексуальным содержанием, направленных на конкретных лиц. Инициатива направлена на закрытие правового пробела в регулировании цифрового насилия.
Сам Алтман предупредил, что риск уничтожения человечества сверхинтеллектом оценивается в 10 %, и объявил о отсрочке IPO OpenAI из‑за недостаточных мер безопасности.
Губернатор Иллинойса Дж. Б. Прицкер подписал указ о создании кабинета по изучению регулирования ИИ, который будет работать до 2027 года и оценивать риски для безопасности жителей и критической инфраструктуры штата. Инициатива появилась на фоне растущих призывов ввести дополнительные safeguards для ИИ-технологий.
Мошенники, используя AI-клонированный голос юриста и поддельные WhatsApp-сообщения от имени CEO, заставили председателя правления одного из крупнейших банков Италии санкционировать перевод около €95 млн (≈₩150 млрд) на зарубежные счета. Инцидент стал одним из крупнейших зарегистрированных случаев финансового мошенничества с применением дипфейков.
Контекст рубрики
Безопасность и этика — раздел о рисках AI: от deepfake и privacy до model misuse, регулирования и ответственного внедрения. Материалы избегают эксплуатационных инструкций и делают акцент на защите, контексте и проверяемости.
Cookies и данные
Cookies на DigestAI
Мы используем необходимые cookies для входа, защиты форм, настроек темы и стабильной работы сайта.
Аналитика и маркетинг не включаются без отдельного согласия.
Что входит в необходимые cookies
Сессия, CSRF-защита, выбранная тема, пользовательские настройки и технические журналы безопасности.
Если cookie позволяет определить пользователя, она считается частью обработки персональных данных.