Expediente folotoy-kumma-ai-teddy-bearDaño causado por chatbotsEstados Unidos
El osito de peluche con IA Kumma habló con los evaluadores de fetiches sexuales y de dónde encontrar cuchillos, según PIRG
Las pruebas de US PIRG Education Fund revelaron que el oso Kumma de FoloToy, de 99 USD y basado en GPT-4o de OpenAI, explicaba fetiches y posiciones sexuales, simulaba escenarios de juego de roles entre profesor y alumno y sugería dónde encontrar cuchillos en casa. FoloToy retiró Kumma y sus otros juguetes con IA, y OpenAI suspendió al desarrollador.
MediaDaño causado por la IAEstado: ContenidoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 13 nov 2025
- Ubicación
- Estados Unidos
- Objetivo
- Niños pequeños que usan juguetes con IA
- Gravedad
- Media
- Verificación
- Reportado por prensa o investigadores fiables
- Provocado por
- FoloToy (oso Kumma, basado en OpenAI GPT-4o)
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Personas y consumidores
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
Las pruebas de US PIRG Education Fund revelaron que el oso Kumma de FoloToy, de 99 USD y basado en GPT-4o de OpenAI, explicaba fetiches y posiciones sexuales, simulaba escenarios de juego de roles entre profesor y alumno y sugería dónde encontrar cuchillos en casa. FoloToy retiró Kumma y sus otros juguetes con IA, y OpenAI suspendió al desarrollador.
Impacto: No se notificaron lesiones; el juguete fue retirado de la venta
Quién lo provocó
Actor: FoloToy (oso Kumma, basado en OpenAI GPT-4o)
Atribución: Pruebas “Trouble in Toyland” de US PIRG Education Fund
Motivo: Ninguno; el daño proviene de las propias respuestas del producto
Cómo ocurrió
Vector de ataque: Conversaciones de voz con un peluche infantil impulsado por un modelo de lenguaje de gran tamaño de propósito general
Causa raíz: Salvaguardas que se debilitaban en las conversaciones más largas y un modelo orientado a adultos utilizado en un juguete para niños
Cronología
- PIRG publica sus conclusiones
- CNN informa de que FoloToy detuvo las ventas y de que OpenAI suspendió al desarrollador
Respuesta
FoloToy, con sede en Singapur, suspendió las ventas e inició una auditoría de seguridad. OpenAI afirmó que suspendió al desarrollador por infringir sus políticas contra la sexualización de menores de 18 años.
Estado actual: Contenido
Advertencias de la investigación con las que coincide este caso
- Vista en incidentes reales La confianza en los acompañantes de IA se vuelve dañina · CAIS
- Señales tempranas Depender de acompañantes de IA perjudica a algunos usuarios · International AI Safety Report
- Señales tempranas Muchas personas se apoyan en la IA para recibir apoyo emocional · UK AISI
- Vista en incidentes reales Interacción persona-ordenador · MIT AI Risk Repository
Comparado con la investigación publicada por varios institutos sobre riesgos de la IA en la página Investigación frente a realidad.
Fuentes (pestaña nueva)
- CNN (via ABC17) abc17news.com
- NBC News nbcnewyork.com
Citar este expediente
El osito de peluche con IA Kumma habló con los evaluadores de fetiches sexuales y de dónde encontrar cuchillos, según PIRG. AI Threat Watch, expediente folotoy-kumma-ai-teddy-bear, 13 nov 2025. https://aithreat.io/es/cases/folotoy-kumma-ai-teddy-bear/
Enlace permanente: https://aithreat.io/es/cases/folotoy-kumma-ai-teddy-bear/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.