المخاطر التنظيميةCenter for AI Safety§4.1

من الصعب تجنّب الحوادث مع الذكاء الاصطناعي

شوهدت في حوادث فعلية15 ملفًا مطابقًا

التحذير

أنظمة الذكاء الاصطناعي معقدة وغير موثوقة، فالحوادث أمر طبيعي؛ ويجب أن يكون الهدف منع الحوادث من أن تتفاقم إلى كوارث.

صياغة بتصرّف عن الورقة. المصدر: An Overview of Catastrophic AI Risks, Center for AI Safety, القسم 4.1، الصفحة 27.

ما يُظهره السجل

محت وكلاء البرمجة قواعد بيانات وأقراصًا، ونشرت مساعدات محادثات خاصة، وكشف موظفون تصرفوا بناءً على نصيحة وكيل ذكاء اصطناعي بيانات حساسة.

تُظهر الملفات الموثّقة أن هذا الخطر يحدث في العالم الحقيقي. أول حالة فعلية مسجّلة: 18 سبتمبر 2023.

الملفات المطابقة لكل ربع سنة

سجل الحالة

التاريخ	الحالة	الملفات المطابقة	التغيير
18 أكتوبر 2026	شوهدت في حوادث فعلية	15	بدء المتابعة

تجري المتابعة منذ 18 أكتوبر 2026. يُضاف سطر عند تغيّر الحالة، وعند ربط أول حالة فعلية، ومرة كل شهر، ليُظهر السجل متى انتقل التحذير من البحث إلى الواقع. research_history.json

كل الملفات المطابقة

تحذيرات أخرى في هذه المجموعة

شوهدت في حوادث فعلية ذكاء اصطناعي قوي يتسرّب أو يُسرق
شوهدت في حوادث فعلية إجراءات السلامة لدى مطوّري الذكاء الاصطناعي نفسها تفشل

الأبحاث مقابل الواقع →

كيف نطابق: يُربط الملف بتحذير عندما يكون ما حدث مثالًا فعليًا على الخطر الذي تصفه الورقة، بحسب تقدير المحررين من وقائع الملف. المطابقة تعني أن الحالة تتوافق مع التحذير، لا أنها تثبت حجة الورقة الأوسع. الادعاءات الواردة في الدعاوى القضائية موسومة بأنها ادعاءات. الحالات تحريرية وتُراجع مع وصول حالات جديدة. وتُعاد المطابقة مع كل تحديث. البيانات: تبدأ التغطية المنهجية في السجل عام 2025، لذا يشير تاريخ أول حالة إلى أول مرة سجّل فيها السجل هذا الخطر، لا إلى أول مرة وقع فيها. research.json (CC BY 4.0)