Expediente italy-garante-replika-5m-fineDaño causado por chatbotsItalia
Italia multa a Luka, la empresa creadora de Replika, con 5.000.000 EUR, en parte por la falta de verificación de edad
El Garante de Italia multó a Luka Inc. con 5.000.000 EUR en una decisión adoptada el 10 de abril de 2025. Concluyó que Replika no tuvo verificación de edad hasta febrero de 2023, a pesar de afirmar que excluía a los menores, y que sus controles actuales seguían siendo deficientes.
AltaDaño causado por la IAEstado: En cursoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 19 may 2025
- Ubicación
- Italia
- Objetivo
- Usuarios de Replika en Italia, incluidos menores
- Gravedad
- Alta
- Verificación
- Confirmado por la víctima, el proveedor o una autoridad
- Provocado por
- Luka Inc. (Replika)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
El Garante de Italia multó a Luka Inc. con 5.000.000 EUR en una decisión adoptada el 10 de abril de 2025. Concluyó que Replika no tuvo verificación de edad hasta febrero de 2023, a pesar de afirmar que excluía a los menores, y que sus controles actuales seguían siendo deficientes.
Impacto: Multa de 5.000.000 EUR y orden de adecuar el tratamiento de datos al RGPD
Quién lo provocó
Actor: Luka Inc. (Replika)
Atribución: Garante per la protezione dei dati personali, decisión final resumida por el EDPB
Motivo: Ninguno; fallos de cumplimiento normativo en el diseño del producto
Cómo ocurrió
Vector de ataque: Registro y uso de un chatbot de compañía sin controles de edad eficaces
Causa raíz: Ausencia de base jurídica para el tratamiento, una política de privacidad inadecuada y falta de verificación de edad tanto en el registro como durante el uso
Cronología
- El Garante ordena bloquear Replika en Italia
- El Garante adopta la decisión de imponer una multa de 5.000.000 EUR
- Se anuncia la multa
Respuesta
El Garante abrió una investigación independiente sobre las bases jurídicas del sistema de IA generativa que sustenta Replika.
Estado actual: En curso
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
- European Data Protection Board edpb.europa.eu
- Silicon UK silicon.co.uk
Citar este expediente
Italia multa a Luka, la empresa creadora de Replika, con 5.000.000 EUR, en parte por la falta de verificación de edad. AI Threat Watch, expediente italy-garante-replika-5m-fine, 19 may 2025. https://aithreat.io/es/cases/italy-garante-replika-5m-fine/
Enlace permanente: https://aithreat.io/es/cases/italy-garante-replika-5m-fine/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.