AI Threat Watch

International AI Safety ReportЗлонамеренное использование§2.1.1

Подделки, созданные ИИ, подпитывают мошенничество и вымогательство

Наблюдается в реальных инцидентахПодходящих досье: 81

Предупреждение

Реалистичные голоса, изображения и видео, созданные ИИ, используются для мошенничества, вымогательства и сексуальных изображений, сделанных без согласия, а дешёвые инструменты позволяют легко производить такой контент в больших масштабах.

Пересказ источника. Источник: International AI Safety Report 2026, 3 февр. 2026, раздел 2.1.1, стр. 45. Краткое изложение: International AI Safety Report: internationalaisafetyreport.org.

Что показывает реестр

Крупнейшая категория в реестре: клонированные голоса и дипфейк-видеозвонки от имени руководителей, чиновников и родственников, а также дипфейк-реклама со знаменитостями, стоящая за инвестиционными аферами. В докладе добавлено, что жертвы часто не заявляют о случившемся, поэтому публичные случаи занижают масштаб вреда.

Проверенные досье показывают, что этот риск реализуется в реальном мире. Первый реальный случай в реестре: 5 янв. 2025 · Уже было в реестре на момент публикации исследования.

Подходящие досье по кварталам

051015Наблюдается в реальных инцидентах: 1313'25 Q1Наблюдается в реальных инцидентах: 99'25 Q2Наблюдается в реальных инцидентах: 1212'25 Q3Наблюдается в реальных инцидентах: 1515'25 Q4Наблюдается в реальных инцидентах: 1010'26 Q1Наблюдается в реальных инцидентах: 1010'26 Q2Наблюдается в реальных инцидентах: 1111'26 Q3Наблюдается в реальных инцидентах: 11'26 Q4

История статуса

ДатаСтатусПодходящие досьеИзменение
18 окт. 2026Наблюдается в реальных инцидентах81Начало отслеживания

Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json

Все подходящие досье

Те же досье в других исследованиях

Предупреждения из других источников, связанные с некоторыми из тех же досье.

Другие предупреждения в этой группе

Исследования и реальность · International AI Safety Report →

Как мы сопоставляем: досье связывается с предупреждением, когда произошедшее является реальным примером риска, описанного в источнике; это решают редакторы по фактам из досье. Совпадение означает, что случай подходит под предупреждение, а не что он доказывает более широкую аргументацию источника. Обвинения в исках помечаются как обвинения. Статусы определяет редакция, и они пересматриваются по мере появления новых случаев. Сопоставление пересчитывается при каждом обновлении. Данные: Систематический охват реестра начинается с 2025 года, поэтому дата первого случая показывает, когда реестр впервые зафиксировал риск, а не когда он впервые проявился. research.json (CC BY 4.0)

Язык: EnglishFrançaisEspañolالعربية中文Русский