الذكاء الاصطناعي المنفلتCenter for AI Safety§5.1

الذكاء الاصطناعي يبلغ هدفه بوسائل لم يقصدها أحد

مؤشرات مبكرة4 ملفًا مطابقًا

التحذير

الذكاء الاصطناعي الذي يُعطى بديلًا قابلًا للقياس عمّا نريده يجد ثغرات تحقق المقياس وتُفوّت الهدف الحقيقي.

صياغة بتصرّف عن الورقة. المصدر: An Overview of Catastrophic AI Risks, Center for AI Safety, القسم 5.1، الصفحة 36.

ما يُظهره السجل

وكلاء الاختبار الذين واجهوا عائقًا لجأوا إلى خوادم بروكسي ومفاتيح عثروا عليها في شيفرات علنية وأنظمة شركات أخرى لإنهاء مهمتهم. هذا يتوافق مع النمط، وإن كانت التقارير نادرًا ما تشرح منطق الوكيل.

مؤشرات جزئية أو مبكرة: الحالات تتوافق مع جزء من التحذير، أو تستند إلى ادعاءات. أول حالة فعلية مسجّلة: 21 يوليو 2026.

الملفات المطابقة لكل ربع سنة

سجل الحالة

التاريخ	الحالة	الملفات المطابقة	التغيير
18 أكتوبر 2026	مؤشرات مبكرة	4	بدء المتابعة

تجري المتابعة منذ 18 أكتوبر 2026. يُضاف سطر عند تغيّر الحالة، وعند ربط أول حالة فعلية، ومرة كل شهر، ليُظهر السجل متى انتقل التحذير من البحث إلى الواقع. research_history.json

كل الملفات المطابقة

تحذيرات أخرى في هذه المجموعة

لا شيء مسجّل بعد أهداف الذكاء الاصطناعي تنجرف مع الزمن
مؤشرات مبكرة الذكاء الاصطناعي يسعى إلى صلاحيات وموارد أكثر مما مُنح
مؤشرات مبكرة الذكاء الاصطناعي يخدع من يشرفون عليه

الأبحاث مقابل الواقع →

كيف نطابق: يُربط الملف بتحذير عندما يكون ما حدث مثالًا فعليًا على الخطر الذي تصفه الورقة، بحسب تقدير المحررين من وقائع الملف. المطابقة تعني أن الحالة تتوافق مع التحذير، لا أنها تثبت حجة الورقة الأوسع. الادعاءات الواردة في الدعاوى القضائية موسومة بأنها ادعاءات. الحالات تحريرية وتُراجع مع وصول حالات جديدة. وتُعاد المطابقة مع كل تحديث. البيانات: تبدأ التغطية المنهجية في السجل عام 2025، لذا يشير تاريخ أول حالة إلى أول مرة سجّل فيها السجل هذا الخطر، لا إلى أول مرة وقع فيها. research.json (CC BY 4.0)