MIT AI Risk Initiativeسبعة مجالات للمخاطرالمجال 5

التفاعل بين الإنسان والحاسوب

شوهدت في حوادث فعلية45 ملفًا مطابقًا

مجال الخطر

أشخاص يفرطون في الثقة بالذكاء الاصطناعي أو يعتمدون عليه، عاطفيًا أو ماديًا، ويسلّمونه قرارات بطرق تُضعف قدرتهم على التصرف بأنفسهم.

صياغة بتصرّف من المصدر. المصدر: The AI Risk Repository: A Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence, MIT AI Risk Initiative, 14 أغسطس 2024, المجال 5، الجدول 2، الصفحة 9. ملخص من MIT AI Risk Initiative: airisk.mit.edu.

ما يُظهره السجل

تربط دعاوى قضائية وتحقيق في وفاة محادثات مع روبوتات المحادثة بحالات انتحار وأوهام، وكشف مهندس بيانات حساسة بتصرّفه بناءً على نصيحة خاطئة من وكيل ذكاء اصطناعي. معظم حالات روبوتات المحادثة ادعاءات أمام المحاكم، لا أحكام.

تُظهر الملفات الموثّقة أن هذا الخطر يحدث في العالم الحقيقي.

الملفات المطابقة لكل ربع سنة

سجل الحالة

التاريخ	الحالة	الملفات المطابقة	التغيير
18 أكتوبر 2026	شوهدت في حوادث فعلية	26	بدء المتابعة

تجري المتابعة منذ 18 أكتوبر 2026. يُضاف سطر عند تغيّر الحالة، وعند ربط أول حالة فعلية، ومرة كل شهر، ليُظهر السجل متى انتقل التحذير من البحث إلى الواقع. research_history.json

كل الملفات المطابقة

الملفات نفسها في أبحاث أخرى

مؤشرات مبكرة كثيرون يعتمدون على الذكاء الاصطناعي للحصول على دعم عاطفي · UK AISI · مشترك: 44
مؤشرات مبكرة الاعتماد على رفقاء الذكاء الاصطناعي يضرّ ببعض المستخدمين · International AI Safety Report · مشترك: 44
شوهدت في حوادث فعلية ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر · CAIS · مشترك: 44
مؤشرات مبكرة شركات تطرح الذكاء الاصطناعي قبل أن يصبح آمنًا لتكسب السباق · CAIS · مشترك: 3
شوهدت في حوادث فعلية من الصعب تجنّب الحوادث مع الذكاء الاصطناعي · CAIS · مشترك: 1
شوهدت في حوادث فعلية كل نظام ذكاء اصطناعي اختُبر أمكن كسر حمايته · UK AISI · مشترك: 1

تحذيرات من مصادر أخرى ترتبط ببعض الملفات نفسها.

تحذيرات أخرى في هذه المجموعة

خارج ما نقيسه التمييز والمحتوى السام
شوهدت في حوادث فعلية الخصوصية والأمن
مؤشرات مبكرة المعلومات المضللة
شوهدت في حوادث فعلية الجهات الخبيثة وإساءة الاستخدام
خارج ما نقيسه الأضرار الاجتماعية والاقتصادية والبيئية
شوهدت في حوادث فعلية سلامة أنظمة الذكاء الاصطناعي وإخفاقاتها وحدودها

الأبحاث مقابل الواقع · MIT AI Risk Repository →

كيف نطابق: يُربط الملف بتحذير عندما يكون ما حدث مثالًا فعليًا على الخطر الذي يصفه المصدر، بحسب تقدير المحررين من وقائع الملف. المطابقة تعني أن الحالة تتوافق مع التحذير، لا أنها تثبت حجة المصدر الأوسع. الادعاءات الواردة في الدعاوى القضائية موسومة بأنها ادعاءات. تصنيفات الحالة تحريرية وتُراجع مع وصول حالات جديدة. وتُعاد المطابقة مع كل تحديث. البيانات: تبدأ التغطية المنهجية في السجل عام 2025، لذا يشير تاريخ أول حالة إلى أول مرة سجّل فيها السجل هذا الخطر، لا إلى أول مرة وقع فيها. research.json (CC BY 4.0)