Dossier italy-garante-replika-5m-finePréjudice causé par un chatbotItalie
L’Italie inflige à Luka, éditeur de Replika, une amende de 5 millions d’euros, notamment pour l’absence de vérification de l’âge
Le Garante italien a infligé à Luka Inc. une amende de 5 millions d’euros, dans une décision adoptée le 10 avril 2025. Il a constaté que Replika n’avait mis en place aucune vérification de l’âge avant février 2023, alors que le service affirmait exclure les mineurs, et que les contrôles actuels demeuraient défaillants.
ÉlevéePréjudice causé par l’IAStatut: En coursDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 19 mai 2025
- Lieu
- Italie
- Cible
- Utilisateurs de Replika en Italie, y compris des mineurs
- Gravité
- Élevée
- Vérification
- Confirmé par la victime, l’éditeur ou une autorité
- Déclenché par
- Luka Inc. (Replika)
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Particuliers et consommateurs
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Le Garante italien a infligé à Luka Inc. une amende de 5 millions d’euros, dans une décision adoptée le 10 avril 2025. Il a constaté que Replika n’avait mis en place aucune vérification de l’âge avant février 2023, alors que le service affirmait exclure les mineurs, et que les contrôles actuels demeuraient défaillants.
Impact: Amende de 5 millions d’euros et injonction de mettre le traitement en conformité avec le RGPD
Qui l’a déclenché
Acteur: Luka Inc. (Replika)
Attribution: Garante per la protezione dei dati personali, décision définitive résumée par l’EDPB
Mobile: Aucun ; manquements réglementaires dans la conception du produit
Comment c’est arrivé
Vecteur d’attaque: Inscription et utilisation d’un chatbot de compagnie sans contrôle d’âge effectif
Cause racine: Absence de base juridique pour le traitement, politique de confidentialité inadéquate et absence de vérification de l’âge à l’inscription comme pendant l’utilisation
Chronologie
- Le Garante ordonne le blocage de Replika en Italie
- Le Garante adopte la décision d’amende de 5 millions d’euros
- Annonce de l’amende
Réponse
Le Garante a ouvert une enquête distincte sur les bases juridiques du système d’IA générative qui sous-tend Replika.
Statut actuel: En cours
Mises en garde de la recherche auxquelles ce cas correspond
- Observée dans des incidents réels La confiance dans les compagnons d’IA tourne au drame · CAIS
- Signes précoces La dépendance aux compagnons d’IA nuit à certains utilisateurs · International AI Safety Report
- Signes précoces Beaucoup de gens comptent sur l’IA pour un soutien émotionnel · UK AISI
- Observée dans des incidents réels Interaction humain-machine · MIT AI Risk Repository
Comparé aux recherches publiées par plusieurs instituts sur les risques de l’IA, sur la page Recherche et réalité.
Sources (nouvel onglet)
- European Data Protection Board edpb.europa.eu
- Silicon UK silicon.co.uk
Citer ce dossier
L’Italie inflige à Luka, éditeur de Replika, une amende de 5 millions d’euros, notamment pour l’absence de vérification de l’âge. AI Threat Watch, dossier italy-garante-replika-5m-fine, 19 mai 2025. https://aithreat.io/fr/cases/italy-garante-replika-5m-fine/
Lien permanent: https://aithreat.io/fr/cases/italy-garante-replika-5m-fine/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.