Злонамеренное использованиеCenter for AI Safety§2.3
ИИ заполняет информационное пространство целевой ложью
Наблюдается в реальных инцидентахПодходящих досье: 4
Предупреждение
ИИ может создавать персонализированную дезинформацию в масштабе, недоступном ни одной группе людей, разрушая общее для общества понимание реальности.
Пересказано по статье. Источник: An Overview of Catastrophic AI Risks, Center for AI Safety, Раздел 2.3, стр. 9.
Что показывает реестр
Сети влияния уже используют ИИ для фальшивых новостных сайтов и синтетических ведущих. Реестр фиксирует только случаи, значимые для безопасности, поэтому этот риск в нём занижен.
Проверенные досье показывают, что этот риск реализуется в реальном мире. Первый реальный случай в реестре: 23 янв. 2025.
Подходящие досье по кварталам
История статуса
| Дата | Статус | Подходящие досье | Изменение |
|---|---|---|---|
| 18 окт. 2026 | Наблюдается в реальных инцидентах | 4 | Начало отслеживания |
Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json
Все подходящие досье
- Сгенерированные ИИ ведущие в более чем 550 роликах TikTok распространяют ложные сведения о Сингапуре и Малайзии
- Полиция Нигерии арестовала автора вирусной ИИ-записи голоса, приписываемой президенту Тинубу
- AI-видео с «отставкой» президента Руто набирают 1,4 млн просмотров в TikTok во время протестов в Кении
- Storm-1516 наводняет выборы в Германии более чем 100 сайтами с написанными ИИ фейковыми новостями и дипфейками
Другие предупреждения в этой группе
- Пока нет записей ИИ упрощает создание биологического оружия
- Наблюдается в реальных инцидентах Люди будут запускать агентов ИИ, чтобы причинять вред
- Наблюдается в реальных инцидентах Доверие людей к ИИ-собеседникам оборачивается вредом
- Первые признаки ИИ помогает немногим сосредоточить власть через слежку