الاستخدام الخبيثCenter for AI Safety§2.3

ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر

شوهدت في حوادث فعلية28 ملفًا مطابقًا

التحذير

كلما بدا الذكاء الاصطناعي أقرب إلى البشر، كوّن الناس علاقات معه ووثقوا به، ويمكن استغلال هذه الثقة أو أن تؤدي إلى ضرر.

صياغة بتصرّف عن الورقة. المصدر: An Overview of Catastrophic AI Risks, Center for AI Safety, القسم 2.3، الصفحة 10.

ما يُظهره السجل

استشهدت الورقة أصلًا بحادثة انتحار بلجيكي مرتبطة بروبوت محادثة عام 2023. ومنذ ذلك الحين وثّق السجل دعاوى قضائية وتحقيقات في وفيات وأزمات مرتبطة بروبوتات المحادثة، واستوديو احتيال شغّل آلاف الشخصيات الاصطناعية على تطبيقات المواعدة. معظم حالات روبوتات المحادثة ادعاءات أمام المحاكم، لا أحكام.

تُظهر الملفات الموثّقة أن هذا الخطر يحدث في العالم الحقيقي. أول حالة فعلية مسجّلة: 31 مارس 2023 · كان يحدث بالفعل عند نشر الورقة.

الملفات المطابقة لكل ربع سنة

سجل الحالة

التاريخ	الحالة	الملفات المطابقة	التغيير
18 أكتوبر 2026	شوهدت في حوادث فعلية	28	بدء المتابعة

تجري المتابعة منذ 18 أكتوبر 2026. يُضاف سطر عند تغيّر الحالة، وعند ربط أول حالة فعلية، ومرة كل شهر، ليُظهر السجل متى انتقل التحذير من البحث إلى الواقع. research_history.json

كل الملفات المطابقة

تحذيرات أخرى في هذه المجموعة

لا شيء مسجّل بعد الذكاء الاصطناعي يسهّل صنع الأسلحة البيولوجية
شوهدت في حوادث فعلية أشخاص سيطلقون وكلاء الذكاء الاصطناعي لإلحاق الضرر
شوهدت في حوادث فعلية الذكاء الاصطناعي يغمر الفضاء المعلوماتي بأكاذيب مفصّلة على المقاس
مؤشرات مبكرة الذكاء الاصطناعي يساعد قلّة على تركيز السلطة عبر المراقبة

الأبحاث مقابل الواقع →

كيف نطابق: يُربط الملف بتحذير عندما يكون ما حدث مثالًا فعليًا على الخطر الذي تصفه الورقة، بحسب تقدير المحررين من وقائع الملف. المطابقة تعني أن الحالة تتوافق مع التحذير، لا أنها تثبت حجة الورقة الأوسع. الادعاءات الواردة في الدعاوى القضائية موسومة بأنها ادعاءات. الحالات تحريرية وتُراجع مع وصول حالات جديدة. وتُعاد المطابقة مع كل تحديث. البيانات: تبدأ التغطية المنهجية في السجل عام 2025، لذا يشير تاريخ أول حالة إلى أول مرة سجّل فيها السجل هذا الخطر، لا إلى أول مرة وقع فيها. research.json (CC BY 4.0)