AI Threat Watch

MIT AI Risk InitiativeСемь областей рискаДомен 5

Взаимодействие человека и компьютера

Наблюдается в реальных инцидентахПодходящих досье: 45

Область риска

Люди, которые чрезмерно доверяют ИИ или зависят от него эмоционально или материально и передают ему решения так, что это ослабляет их собственную самостоятельность.

Пересказ источника. Источник: The AI Risk Repository: A Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence, MIT AI Risk Initiative, 14 авг. 2024, область 5, таблица 2, стр. 9. Краткое изложение: MIT AI Risk Initiative: airisk.mit.edu.

Что показывает реестр

Иски и дознание связывают разговоры с чат-ботами с самоубийствами и бредовыми состояниями, а инженер раскрыл конфиденциальные данные, последовав ошибочному совету агента ИИ. Большинство случаев с чат-ботами — это обвинения в суде, а не судебные выводы.

Проверенные досье показывают, что этот риск реализуется в реальном мире.

Подходящие досье по кварталам

051015'25 Q1Наблюдается в реальных инцидентах: 44'25 Q2Наблюдается в реальных инцидентах: 1111'25 Q3Наблюдается в реальных инцидентах: 1111'25 Q4Наблюдается в реальных инцидентах: 77'26 Q1Наблюдается в реальных инцидентах: 22'26 Q2'26 Q3Наблюдается в реальных инцидентах: 33'26 Q4

История статуса

ДатаСтатусПодходящие досьеИзменение
18 окт. 2026Наблюдается в реальных инцидентах26Начало отслеживания

Отслеживается с 18 окт. 2026. Новая строка добавляется при смене статуса, при привязке первого реального случая и раз в месяц, поэтому запись показывает, когда предупреждение перешло из исследований в реальность. research_history.json

Все подходящие досье

Те же досье в других исследованиях

Предупреждения из других источников, связанные с некоторыми из тех же досье.

Другие предупреждения в этой группе

Исследования и реальность · MIT AI Risk Repository →

Как мы сопоставляем: досье связывается с предупреждением, когда произошедшее является реальным примером риска, описанного в источнике; это решают редакторы по фактам из досье. Совпадение означает, что случай подходит под предупреждение, а не что он доказывает более широкую аргументацию источника. Обвинения в исках помечаются как обвинения. Статусы определяет редакция, и они пересматриваются по мере появления новых случаев. Сопоставление пересчитывается при каждом обновлении. Данные: Систематический охват реестра начинается с 2025 года, поэтому дата первого случая показывает, когда реестр впервые зафиксировал риск, а не когда он впервые проявился. research.json (CC BY 4.0)

Язык: EnglishFrançaisEspañolالعربية中文Русский