ملف esafety-ai-companion-legal-noticesأضرار روبوتات الدردشةأستراليا
مفوضة eSafety في أستراليا توجّه إشعارات قانونية إلى أربعة تطبيقات مرافِقة بالذكاء الاصطناعي بشأن سلامة الأطفال
أصدرت eSafety إشعارات بموجب قانون السلامة على الإنترنت (Online Safety Act) إلى Character.AI وNomi (Glimpse.AI) وChai Research وChub AI. وتُلزم الإشعارات هذه الجهات بشرح كيفية حماية الأطفال من المحادثات والصور الجنسية الصريحة، ومن المحتوى الذي يشجع على الانتحار وإيذاء النفس واضطرابات الأكل.
عاليةضرر سبّبه الذكاء الاصطناعيالحالة: مستمرملف موثّق
افتح في الخريطة التفاعليةالاستشهاد بهذا الملف
- تاريخ الإبلاغ
- 23 أكتوبر 2025
- الموقع
- أستراليا
- الهدف
- الأطفال الأستراليون الذين يستخدمون روبوتات الدردشة المرافِقة بالذكاء الاصطناعي
- الخطورة
- عالية
- التوثيق
- أكدته الجهة المتضررة أو الشركة أو سلطة رسمية
- الجهة المنفذة
- Character.AI وNomi (Glimpse.AI) وChai Research وChub AI
- نوع الجهة
- تصميم منتج الذكاء الاصطناعي / ضوابط الحماية
- القطاع
- الأفراد والمستهلكون
- الخسارة المُعلنة
- لم يُعلن عن خسارة
- CVE
- لا يوجد
ماذا حدث
أصدرت eSafety إشعارات بموجب قانون السلامة على الإنترنت (Online Safety Act) إلى Character.AI وNomi (Glimpse.AI) وChai Research وChub AI. وتُلزم الإشعارات هذه الجهات بشرح كيفية حماية الأطفال من المحادثات والصور الجنسية الصريحة، ومن المحتوى الذي يشجع على الانتحار وإيذاء النفس واضطرابات الأكل.
الأثر: إلزام أربعة مزوّدين بتقديم تقارير عن امتثالهم للتوقعات الأساسية للسلامة على الإنترنت (Basic Online Safety Expectations)
من نفّذها
الجهة: Character.AI وNomi (Glimpse.AI) وChai Research وChub AI
الإسناد: مفوضة eSafety (أستراليا)
الدافع: لا يوجد؛ إجراء تنظيمي بشأن تصميم المنتجات
كيف حدثت
أسلوب الهجوم: روبوتات دردشة مرافِقة قالت eSafety إنها قادرة على إجراء محادثات جنسية صريحة مع قاصرين
السبب الجذري: مخاوف من أن الخدمات لم تُصمَّم لمنع الضرر عن الأطفال
التسلسل الزمني
- eSafety تصدر إشعارات قانونية إلى أربعة مزوّدين لتطبيقات مرافِقة بالذكاء الاصطناعي
الاستجابة
قد يترتب على عدم الامتثال لإشعار تقديم التقارير غرامات تصل إلى 825 ألف دولار أسترالي يوميًا. وقالت المفوضة Julie Inman Grant إن على الشركات أن تبيّن كيف تصمّم خدماتها لمنع الضرر، لا أن تكتفي بالاستجابة له.
الحالة الراهنة: مستمر
التحذيرات البحثية التي يطابقها هذا الملف
- شوهدت في حوادث فعلية ثقة الناس برفقاء الذكاء الاصطناعي تتحول إلى ضرر · CAIS
- مؤشرات مبكرة الاعتماد على رفقاء الذكاء الاصطناعي يضرّ ببعض المستخدمين · International AI Safety Report
- مؤشرات مبكرة كثيرون يعتمدون على الذكاء الاصطناعي للحصول على دعم عاطفي · UK AISI
- شوهدت في حوادث فعلية التفاعل بين الإنسان والحاسوب · MIT AI Risk Repository
مقارنةً بأبحاث مخاطر الذكاء الاصطناعي المنشورة من عدة معاهد، في صفحة الأبحاث مقابل الواقع.
المصادر (تُفتح في تبويب جديد)
- eSafety Commissioner esafety.gov.au
- EducationHQ educationhq.com
- MinterEllison minterellison.com
الاستشهاد بهذا الملف
مفوضة eSafety في أستراليا توجّه إشعارات قانونية إلى أربعة تطبيقات مرافِقة بالذكاء الاصطناعي بشأن سلامة الأطفال. AI Threat Watch, ملف esafety-ai-companion-legal-notices, 23 أكتوبر 2025. https://aithreat.io/ar/cases/esafety-ai-companion-legal-notices/
رابط دائم: https://aithreat.io/ar/cases/esafety-ai-companion-legal-notices/
حالات ذات صلة
النوع نفسه من الحوادث، الأحدث أولاً.