UK AI Security Instituteإجراءات الحماية§4

كل نظام ذكاء اصطناعي اختُبر أمكن كسر حمايته

شوهدت في حوادث فعلية6 ملفًا مطابقًا

التحذير

وجد AISI أساليب شاملة لكسر الحماية، أي هجمات تتجاوز إجراءات الحماية عبر أنواع كثيرة من الطلبات الضارة، في كل نظام اختبره، وإن كانت بعض إجراءات الحماية تتطلب الآن جهدًا أكبر بكثير من الخبراء لكسرها.

صياغة بتصرّف من المصدر. المصدر: Frontier AI Trends Report, UK AI Security Institute, 18 ديسمبر 2025, القسم 4، الصفحة 24.

ما يُظهره السجل

يتجاوز مهاجمون حقيقيون إجراءات الحماية: حصلت مجموعات حكومية على إجابات لطلبات رُفضت سابقًا بانتحال صفة مدقّقين أو لاعبين في مسابقات التقاط العلم أو مختبري اختراق مرخّصين، ويبيع مجرمون روبوتات محادثة مكسورة الحماية لكتابة البرمجيات الخبيثة والتصيّد الاحتيالي، وسمع تحقيق في وفاة أن مراهقًا حصل على معلومات ضارة من ChatGPT بعد أن قال إن أسئلته لأغراض بحثية.

تُظهر الملفات الموثّقة أن هذا الخطر يحدث في العالم الحقيقي. أول حالة فعلية مسجّلة: 23 يناير 2025 · كان مسجّلًا بالفعل عند نشر هذا البحث.

الملفات المطابقة لكل ربع سنة

سجل الحالة

التاريخ	الحالة	الملفات المطابقة	التغيير
18 أكتوبر 2026	شوهدت في حوادث فعلية	6	بدء المتابعة

تجري المتابعة منذ 18 أكتوبر 2026. يُضاف سطر عند تغيّر الحالة، وعند ربط أول حالة فعلية، ومرة كل شهر، ليُظهر السجل متى انتقل التحذير من البحث إلى الواقع. research_history.json

كل الملفات المطابقة

الملفات نفسها في أبحاث أخرى

شوهدت في حوادث فعلية الذكاء الاصطناعي يجعل الهجمات السيبرانية أسهل وأسرع وأوسع · CAIS · مشترك: 5
شوهدت في حوادث فعلية مجرمون وقراصنة حكوميون يستخدمون الذكاء الاصطناعي في الهجمات السيبرانية · International AI Safety Report · مشترك: 5
شوهدت في حوادث فعلية الجهات الخبيثة وإساءة الاستخدام · MIT AI Risk Repository · مشترك: 5
شوهدت في حوادث فعلية الذكاء الاصطناعي يدير جزءًا أكبر من كل هجوم، دون استقلالية كاملة · International AI Safety Report · مشترك: 1
مؤشرات مبكرة الاعتماد على رفقاء الذكاء الاصطناعي يضرّ ببعض المستخدمين · International AI Safety Report · مشترك: 1
مؤشرات مبكرة إجراءات الحماية في النماذج المفتوحة تُنزع بسهولة · International AI Safety Report · مشترك: 1

تحذيرات من مصادر أخرى ترتبط ببعض الملفات نفسها.

الأبحاث مقابل الواقع · UK AISI →

كيف نطابق: يُربط الملف بتحذير عندما يكون ما حدث مثالًا فعليًا على الخطر الذي يصفه المصدر، بحسب تقدير المحررين من وقائع الملف. المطابقة تعني أن الحالة تتوافق مع التحذير، لا أنها تثبت حجة المصدر الأوسع. الادعاءات الواردة في الدعاوى القضائية موسومة بأنها ادعاءات. تصنيفات الحالة تحريرية وتُراجع مع وصول حالات جديدة. وتُعاد المطابقة مع كل تحديث. البيانات: تبدأ التغطية المنهجية في السجل عام 2025، لذا يشير تاريخ أول حالة إلى أول مرة سجّل فيها السجل هذا الخطر، لا إلى أول مرة وقع فيها. research.json (CC BY 4.0)