مسرد أنواع حوادث أمن الذكاء الاصطناعي
تعريفات بلغة واضحة للأنواع التسعة المستخدمة لتصنيف كل ملف في هذا الموقع، مع رابط إلى حالات كل نوع.
حقن الأوامر
حقن الأوامر هجوم يتضمّن فيه نص يقرأه نموذج ذكاء اصطناعي، مثل صفحة ويب أو مستند أو بريد إلكتروني، تعليمات ينفّذها النموذج كما لو كانت من مستخدمه أو مشغّله. قد يدفع المساعد إلى تسريب بيانات أو تنفيذ إجراءات غير مرغوبة أو تجاهل قواعد السلامة. وهو أكثر فئات الهجوم شيوعًا على الأنظمة المبنية على نماذج اللغة الكبيرة.
احتيال بالتزييف العميق
يستخدم الاحتيال بالتزييف العميق صوتًا أو فيديو أو صورًا مولّدة بالذكاء الاصطناعي لانتحال شخصية حقيقية، غالبًا مدير تنفيذي أو قريب أو شخصية عامة، بهدف خداع الضحية. من الحالات النموذجية مكالمات فيديو مزيفة تُجيز دفعات مالية وأصوات مستنسخة تُستخدم في مكالمات نصب. وغالبًا ما تُعلن الخسائر من الشرطة أو المحاكم لا من الضحية.
برمجيات خبيثة بمساعدة الذكاء الاصطناعي
البرمجيات الخبيثة بمساعدة الذكاء الاصطناعي برامج ضارة كُتبت أو عُدّلت أو شُغّلت بمساعدة نماذج ذكاء اصطناعي. يشمل ذلك الشيفرات التي تولّدها المساعدات، والبرمجيات التي تستدعي نموذجًا أثناء التشغيل لتقرير خطوتها التالية، والأدوات الإجرامية المبنية على نماذج اللغة. يقلّل الذكاء الاصطناعي المهارة والوقت اللازمين لإنتاج شيفرة هجوم فعّالة.
سلسلة توريد الذكاء الاصطناعي
تُخلّ حادثة سلسلة توريد الذكاء الاصطناعي بمكوّن تعتمد عليه أنظمة الذكاء الاصطناعي: ملف نموذج، أو مجموعة بيانات، أو أداة تطوير، أو إضافة، أو سجل حزم، أو منصة استضافة. مكوّن خبيث أو مُعرَّض واحد قد يصل إلى كل مشروع يثبّته. تشمل الحالات حزمًا مسمومة ونماذج بأبواب خلفية ومساعدات برمجة مُختَرقة.
تسريب نماذج وبيانات
يكشف تسريب النماذج والبيانات معلومات يحتفظ بها نظام ذكاء اصطناعي: محادثات المستخدمين، أو مفاتيح API، أو بيانات التدريب، أو أوزان النموذج، أو الإعدادات الداخلية. تتراوح الأسباب بين قواعد بيانات ومخازن سيئة الإعداد وثغرات في التطبيق المحيط بالنموذج. ويُقاس الضرر بما كُشف ولكم من الوقت.
اختطاف نماذج اللغة
اختطاف نماذج اللغة هو سرقة الوصول إلى نماذج ذكاء اصطناعي مدفوعة، عادةً عبر بيانات اعتماد سحابية أو مفاتيح API مسروقة. يشغّل المهاجمون أعباءهم الخاصة أو يبيعون الوصول بينما تتلقى الضحية الفاتورة. وهو المعادل في الذكاء الاصطناعي لاختطاف التعدين.
اختطاف الوكلاء
يستولي اختطاف الوكلاء على وكيل ذكاء اصطناعي، أي نموذج مزوَّد بأدوات مثل متصفح أو سطر أوامر أو بريد إلكتروني أو أنظمة دفع، ويجعله يتصرّف ضد مالكه. نقطة الدخول غالبًا حقن أوامر أو أداة مُختَرقة، وتصبح صلاحيات الوكيل صلاحيات المهاجم. تشمل الأضرار ملفات محذوفة وبيانات مسرّبة وإجراءات غير مصرّح بها تُنفَّذ آليًا.
تصيّد بالذكاء الاصطناعي
يستخدم التصيّد بالذكاء الاصطناعي نماذج اللغة لكتابة رسائل احتيالية وترجمتها وتخصيصها على نطاق واسع، أو لبناء مواقع وروبوتات محادثة مزيفة تجمع بيانات الاعتماد. النص سليم ومُوجَّه، فتختفي علامات التحذير التقليدية مثل الأخطاء الإملائية. تشمل الحالات حملات ضد مسؤولين وشركات ومستهلكين.
عمليات دول بالذكاء الاصطناعي
عمليات الدول بالذكاء الاصطناعي هي استخدام مجموعات مرتبطة بحكومات للذكاء الاصطناعي في التجسس أو حملات التأثير أو الهجمات السيبرانية. تأتي التقارير غالبًا من مزوّدي الذكاء الاصطناعي الذين يكشفون الحسابات المعنية ويعطّلونها، ومن الجهات الحكومية. ويُسجَّل الإسناد كما ذكره المصدر مع مستوى ثقته.