Dossier esafety-ai-companion-legal-noticesPréjudice causé par un chatbotAustralie
La eSafety Commissioner australienne adresse des avis juridiques à quatre applications de compagnons IA au sujet de la protection des enfants
L’eSafety a émis des avis en vertu de l’Online Safety Act à l’intention de Character.AI, Nomi (Glimpse.AI), Chai Research et Chub AI. Ces avis leur imposent d’expliquer comment elles protègent les enfants contre les conversations et images sexuellement explicites, ainsi que contre les contenus encourageant le suicide, l’automutilation et les troubles du comportement alimentaire.
ÉlevéePréjudice causé par l’IAStatut: En coursDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 23 oct. 2025
- Lieu
- Australie
- Cible
- Enfants australiens utilisant des chatbots de compagnie fondés sur l’IA
- Gravité
- Élevée
- Vérification
- Confirmé par la victime, l’éditeur ou une autorité
- Déclenché par
- Character.AI, Nomi (Glimpse.AI), Chai Research, Chub AI
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
L’eSafety a émis des avis en vertu de l’Online Safety Act à l’intention de Character.AI, Nomi (Glimpse.AI), Chai Research et Chub AI. Ces avis leur imposent d’expliquer comment elles protègent les enfants contre les conversations et images sexuellement explicites, ainsi que contre les contenus encourageant le suicide, l’automutilation et les troubles du comportement alimentaire.
Impact: Quatre fournisseurs tenus de rendre compte de leur conformité aux Basic Online Safety Expectations
Qui l’a déclenché
Acteur: Character.AI, Nomi (Glimpse.AI), Chai Research, Chub AI
Attribution: eSafety Commissioner (Australie)
Mobile: Aucun ; action d’un régulateur portant sur la conception des produits
Comment c’est arrivé
Vecteur d’attaque: Chatbots de compagnie qui, selon l’eSafety, peuvent tenir des conversations sexuellement explicites avec des mineurs
Cause racine: Crainte que les services n’aient pas été conçus pour prévenir les préjudices causés aux enfants
Chronologie
- L’eSafety émet des avis juridiques à l’intention de quatre fournisseurs de compagnons IA
Réponse
Le non-respect d’un avis de déclaration peut entraîner des sanctions pouvant atteindre 825 000 AUD par jour. La commissaire Julie Inman Grant a déclaré que les entreprises devaient démontrer comment elles conçoivent leurs services pour prévenir les préjudices, et pas seulement y réagir.
Statut actuel: En cours
Mises en garde de la recherche auxquelles ce cas correspond
- Observée dans des incidents réels La confiance dans les compagnons d’IA tourne au drame · CAIS
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report
- Signes précoces Beaucoup de gens comptent sur l’IA pour un soutien émotionnel · UK AISI
- Observée dans des incidents réels Interaction humain-machine · MIT AI Risk Repository
Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.
Sources (nouvel onglet)
- eSafety Commissioner esafety.gov.au
- EducationHQ educationhq.com
- MinterEllison minterellison.com
Citer ce dossier
La eSafety Commissioner australienne adresse des avis juridiques à quatre applications de compagnons IA au sujet de la protection des enfants. AI Threat Watch, dossier esafety-ai-companion-legal-notices, 23 oct. 2025. https://aithreat.io/fr/cases/esafety-ai-companion-legal-notices/
Lien permanent: https://aithreat.io/fr/cases/esafety-ai-companion-legal-notices/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.