Incidentes de IA en la educación y entre los jóvenes

Casos por año, según dónde ocurrieron

Cada caso se cuenta una sola vez, en el año en que se reportó por primera vez. El lugar donde ocurrió se mantiene separado de quién estuvo implicado: un adolescente perjudicado por un chatbot en casa cuenta como joven, no como incidente escolar.

Dónde en el mundo

Países con más expedientes. Los recuentos reflejan dónde se reportan e investigan los incidentes, por lo que subestiman a los países con menos cobertura mediática en los idiomas que monitorizamos.

Estudios de caso

Casos seleccionados, con lo ocurrido y la respuesta de los centros educativos y las autoridades, según consta en cada expediente.

Respuesta de los centros educativos y las autoridades

La respuesta registrada en cada uno de los 46 expedientes de casos ocurridos en un centro educativo o una universidad, según las fuentes citadas en el expediente.

Medidas de prevención vigentes

Medidas que ministerios, reguladores, organismos de exámenes y organizaciones internacionales han adoptado o publicado, con lo que establece cada una, según el documento.

Ministerios y gobiernos

• UK Department for Education · England · 2025Generative artificial intelligence (AI) in educationLa política del DfE (actualizada en agosto de 2025) dice que la seguridad debe ser la máxima prioridad, que los alumnos deben usar la IA generativa solo con salvaguardas como la supervisión y el filtrado y la monitorización, y que no deben introducirse datos personales en las herramientas de IA generativa. Advierte de que la IA generativa puede hacer más creíbles los ciberataques y los correos de suplantación de identidad, y remite a las normas del JCQ y de Ofqual sobre la mala conducta relacionada con la IA.
• UK Department for Education · England · 2026Generative AI: product safety standardsNormas para los proveedores de tecnología educativa (publicadas por primera vez en enero de 2025 y ampliadas el 19 de enero de 2026) que abarcan el filtrado, la monitorización y la notificación al responsable de protección, la seguridad frente al jailbreaking, la privacidad, las pruebas y la gobernanza. La actualización de 2026 añade normas sobre desarrollo cognitivo, desarrollo emocional y social, salud mental y antimanipulación, que incluyen evitar el antropomorfismo y la dependencia emocional y detectar el malestar.
• UK Department for Education · England · 2026Cyber security standards for schools and collegesEstablece normas como la evaluación anual del riesgo cibernético, la formación del personal y los estudiantes, la autenticación multifactor (MFA) para el personal en la nube o en remoto y las cuentas de administración, la corrección de vulnerabilidades críticas en un plazo de 14 días y un plan de copias de seguridad de tipo 3-2-1. También exige notificar los ciberataques internamente y a organismos como las aseguradoras y el DfE (última actualización en septiembre de 2026).
• UK Council for Internet Safety / DfE · England · 2024Sharing nudes and semi-nudes: advice for education settings working with children and young peopleLa actualización de marzo de 2024 abarca expresamente las «pseudoimágenes» de menores de 18 años generadas por IA o manipuladas digitalmente, y dice que la ley se aplica a los niños que las crean. Indica al personal que acuda al responsable de protección designado, que evite ver, copiar o compartir las imágenes, que acuda a la policía o a los servicios sociales cuando proceda y que utilice herramientas de retirada como Report Remove de IWF y Childline.
• UK Department for Education · England · 2026Keeping children safe in education 2026Guía obligatoria de protección para centros educativos y colegios, cuya versión de 2026 está en vigor desde el 1 de septiembre de 2026. La guía del DfE sobre IA generativa la designa como referencia principal en materia de seguridad en línea, filtrado y monitorización, y ciberseguridad cuando los centros educativos utilizan IA.
• New York State Education Department · New York State, USA · 2023Determination on biometric identifying technology in schoolsLa resolución de septiembre de 2023 prohíbe a los centros educativos de Nueva York comprar o utilizar tecnología de reconocimiento facial, tras un informe estatal que concluyó que los riesgos superaban a los beneficios, incluidas unas tasas de identificación errónea más altas en niños y otros grupos. Las demás herramientas biométricas quedan sujetas a decisiones locales, que deben sopesar la privacidad, los derechos civiles, la eficacia y la opinión de los padres.
• Republic of Korea Ministry of Education (reported by The Korea Herald) · South Korea · 2024Education Ministry response to school deepfake sex crimesEn agosto de 2024 el ministerio creó un grupo de trabajo de emergencia para seguir semanalmente los casos de deepfakes en las escuelas, tramitar las denuncias de las víctimas, prestar apoyo psicológico y reforzar la educación en ética digital. Dijo que los autores en la educación secundaria superior podían ser expulsados, la sanción máxima del sistema de violencia escolar.
• Republic of Korea Ministry of Education (reported by The Korea Times) · South Korea · 2024799 students, 31 teachers victimized by deepfake videos this yearLos datos de una encuesta del ministerio mostraron 833 víctimas escolares de deepfakes en 2024 hasta finales de octubre, entre ellas 799 estudiantes y 31 docentes. Los centros remitieron 417 casos para su investigación y 218 para la eliminación de vídeos.
• Ireland Department of Education and Youth · Ireland · 2025Guidance on Artificial Intelligence in SchoolsGuía nacional publicada el 21 de octubre de 2025 junto con Oide para ayudar a los centros a planificar un uso seguro, ético y adecuado de la IA, a partir de los trabajos de la UNESCO y de la UE. Señala que la State Examinations Commission exige que el material generado por IA se cite como referencia, y que se anunció un grupo de trabajo sobre la IA en la educación, incluida la evaluación.
• UAE Ministry of Education (reported by Education Middle East) · United Arab Emirates · 2026Safe and Responsible Use of Artificial Intelligence in Classrooms (manual)El manual de 2026 prohíbe la IA generativa a los estudiantes menores de 13 años o de cursos inferiores a Year 7, prohíbe la IA en los exámenes formales y el trabajo con IA no declarado, y prohíbe introducir datos personales de estudiantes, docentes o padres en herramientas de IA. También prohíbe los deepfakes y la suplantación de identidad, y exige la supervisión directa del docente sobre el uso de la IA en el aula.
• Saudi Ministry of Education and SDAIA (reported by Gulf News) · Saudi Arabia · 2025Guidelines for using generative AI in educationGuía conjunta para estudiantes, docentes y padres orientada a un uso ético y responsable que mantenga al docente en el centro. Dice que los estudiantes menores de 13 años no deben usar la IA generativa sin supervisión directa y que los menores de 18 años necesitan el consentimiento expreso de los padres.
• Center for Educational Research and Development (CRDP), Lebanon · Lebanon · 2025Lebanon's AI Competency Framework / AI Educational Framework for students and teachersEl CRDP, que elabora el currículo nacional del Líbano, publicó (octubre de 2025) un marco de IA cuya primera parte es una política de IA para las escuelas libanesas basada en los marcos de la UNESCO de 2024 y en su recomendación de 2021 sobre la ética de la IA. Sus principios rectores incluyen un enfoque centrado en el ser humano, la privacidad y la seguridad de los datos, la inclusión y el desarrollo profesional docente.
• Egypt Ministry of Education and Technical Education (reported by Egyptian Streets) · Egypt · 2025AI curricula in schools from 2025-2026El ministro anunció planes de estudio de IA en determinados cursos de primaria, preparatoria y secundaria a partir de 2025-26, que incluyen la ética y las implicaciones sociales de la IA. No se encontró ninguna guía publicada del ministerio sobre uso o protección.

Reguladores y fuerzas del orden

• European Union · European Union · 2024Regulation (EU) 2024/1689 (AI Act), Annex III point 3 (education)Clasifica como de alto riesgo la IA utilizada para decidir la admisión o la asignación a centros educativos, evaluar los resultados del aprendizaje, valorar el nivel de educación que recibirá una persona, y supervisar y detectar comportamientos prohibidos de los estudiantes durante las pruebas. Los sistemas de alto riesgo conllevan obligaciones como la gestión de riesgos, la supervisión humana y la documentación.
• UK Information Commissioner's Office · United Kingdom · 2024Essex school reprimanded after using facial recognition technology for canteen paymentsLa ICO amonestó a Chelmer Valley High School (23 de julio de 2024) por introducir el reconocimiento facial sin una evaluación de impacto relativa a la protección de datos, sin consultar a su delegado de protección de datos, a los padres ni a los alumnos, y basándose en un consentimiento por exclusión voluntaria (opt-out). Subraya que la evaluación de impacto es obligatoria antes de usar sistemas biométricos y que se necesita un consentimiento explícito por adhesión (opt-in).
• US Cybersecurity and Infrastructure Security Agency (CISA) · United States (K-12) · 2023Protecting Our Future: Partnering to Safeguard K-12 Organizations from Cybersecurity ThreatsEl informe de CISA de enero de 2023 indica a los centros educativos que empiecen por las medidas de mayor impacto: MFA, corrección de vulnerabilidades explotadas conocidas, copias de seguridad probadas, un plan de respuesta a incidentes puesto a prueba y formación continua. También insta a exigir a los proveedores productos seguros por defecto y a unirse a grupos de intercambio de información como MS-ISAC y K12 SIX.
• US Federal Bureau of Investigation (IC3) · United States · 2025Senior US Officials Impersonated in Malicious Messaging Campaign (PSA I-051525-PSA)Advierte de que los delincuentes utilizan mensajes de voz y textos generados por IA para hacerse pasar por altos cargos y robar el acceso a cuentas. Aconseja verificar la identidad mediante un número conocido, no hacer clic en enlaces hasta haberla verificado, activar la autenticación en dos pasos, usar palabras clave acordadas y confirmar las solicitudes de pago por un canal distinto.
• US Federal Trade Commission · United States · 2025FTC launches inquiry into AI chatbots acting as companionsEl 11 de septiembre de 2025 la FTC ordenó a siete empresas, entre ellas Alphabet, Character.AI, Meta, OpenAI, Snap y xAI, que expliquen cómo prueban, supervisan y limitan los daños de los chatbots de compañía a los niños. Pregunta por la monetización de la interacción, la aplicación de las restricciones de edad, la información que se facilita a los padres y el uso de los datos de las conversaciones.
• eSafety Commissioner (Australia) · Australia · 2026Toolkit for Schools: Guide to responding to image-based abuse involving AI deepfakesGuía paso a paso (publicada por primera vez a mediados de 2025; el PDF vigente es de marzo de 2026) para los directivos escolares que responden a deepfakes de desnudos o sexuales de estudiantes o personal, concebida para usarse junto con las políticas de protección de la infancia. eSafety insta a los centros a dar prioridad al bienestar de los estudiantes y del personal afectados, denunciar a la policía los posibles delitos, cumplir las obligaciones de notificación obligatoria y recurrir a eSafety para la retirada rápida.
• eSafety Commissioner (Australia) · Australia · 2025Online safety advisory: AI chatbots and companions - risks to children and young peopleEl aviso del 18 de febrero de 2025 advierte de que los compañeros de IA simulan relaciones personales, permiten conversar sin regulación sobre sexo, autolesiones y suicidio, y con frecuencia carecen de verificaciones de edad eficaces. Más tarde, eSafety emitió requerimientos legales (octubre de 2025) a Character.AI, Nomi, Chai y Chub AI e informó de que la mayoría de los compañeros no remitía a los usuarios a ayuda en caso de suicidio o autolesiones.

Organismos de exámenes y de calidad

• Joint Council for Qualifications (JCQ) · UK (GCSE, A level and other general qualifications) · 2025AI Use in Assessments: Your role in protecting the integrity of qualificationsLa guía, en vigor desde el 30 de abril de 2025, considera mala conducta el uso indebido de la IA que haga que el trabajo no sea del propio estudiante y exige que las políticas de los centros sobre mala conducta contemplen la IA. Recomienda el trabajo supervisado en clase, la revisión de borradores, breves conversaciones de tipo examen oral y la restricción de la IA en los dispositivos del centro; dice que los detectores no deben utilizarse como único criterio y que la IA no puede ser el único corrector.
• Quality Assurance Agency for Higher Education (QAA) · UK higher education · 2023Maintaining quality and standards in the ChatGPT era: advice on generative AI toolsLa QAA indica a las universidades que el uso gestionado de la IA generativa es preferible a las prohibiciones absolutas, sin renunciar a los estándares académicos. Ofrece un proceso de cuatro pasos para identificar las evaluaciones que deben ajustarse e insta a una garantía de calidad interna sólida.
• Tertiary Education Quality and Standards Agency (TEQSA) · Australia (higher education) · 2025Enacting assessment reform in a time of artificial intelligenceRecurso no prescriptivo de TEQSA (publicado en septiembre de 2025) que ayuda a las universidades a gestionar los riesgos de la IA generativa para la garantía del aprendizaje y, al mismo tiempo, a enseñar un uso ético. Recoge las principales vías estratégicas que están siguiendo las instituciones para rediseñar la evaluación.

Organizaciones internacionales

• UNESCO · Global · 2023Guidance for generative AI in education and researchLa primera guía mundial de la UNESCO sobre IA generativa en la educación (publicada en septiembre de 2023, página actualizada en enero de 2026) pide a los gobiernos que regulen las herramientas de IA generativa y elaboren marcos de políticas coherentes para la educación y la investigación. Propone un límite de edad para las conversaciones independientes con plataformas de IA generativa, la protección obligatoria de la privacidad de los datos y un proceso de validación ética de las herramientas, porque la mayoría de los centros educativos aún no puede evaluarlas.
• UNESCO · Global · 2024AI competency framework for studentsEstablece 12 competencias en cuatro dimensiones (mentalidad centrada en el ser humano, ética de la IA, técnicas y aplicaciones de la IA, diseño de sistemas de IA) en tres niveles: comprender, aplicar, crear. Su finalidad es ayudar a que los planes de estudio preparen a los estudiantes para interactuar con la IA de forma segura y ejercer un juicio crítico sobre las soluciones de IA.
• UNESCO · Global · 2024AI competency framework for teachersDefine 15 competencias en cinco dimensiones, entre ellas la ética de la IA, la pedagogía de la IA y la IA para el aprendizaje profesional, en tres niveles: adquirir, profundizar, crear. Se basa en la protección de los derechos del profesorado y el refuerzo de la capacidad de acción humana, y ofrece estrategias para poner en práctica los principios éticos.
• UNICEF · Global · 2025Guidance on AI and children, version 3.0La actualización de diciembre de 2025 de la guía de políticas de UNICEF fija diez requisitos para una IA centrada en la infancia, entre ellos la supervisión regulatoria, la seguridad de los niños, la protección de los datos y la privacidad de los niños, la no discriminación, la transparencia y la rendición de cuentas, y el desarrollo de las competencias de los niños en IA. Incluye una lista de verificación para gobiernos y empresas.
• UNICEF · Global · 2026'Deepfake abuse is abuse' (statement)El comunicado de UNICEF del 4 de febrero de 2026 cita una investigación de UNICEF, ECPAT e INTERPOL según la cual al menos 1,2 millones de niños de 11 países vieron sus imágenes convertidas en deepfakes sexuales durante el último año. Pide a los gobiernos que incluyan el contenido generado por IA en las leyes sobre material de abuso sexual infantil y que tipifiquen como delito su creación, obtención, posesión y difusión, y pide a las empresas de IA que incorporen la seguridad desde el diseño y eviten su circulación.
• OECD · OECD members · 2026OECD Digital Education Outlook 2026: Exploring effective uses of generative AI in educationConcluye que la IA generativa de uso general mejora el rendimiento en las tareas sin aportar avances reales de aprendizaje si no está guiada por la pedagogía, y que la ventaja de los estudiantes puede desaparecer o invertirse en los exámenes una vez retirado el acceso a la IA. Recomienda herramientas educativas diseñadas con ese fin, infraestructuras equitativas y un aprendizaje profesional sostenido.
• Council of Europe · 46 Council of Europe member states · 2026Committee of Ministers recommendation on AI literacyRecomendación a los Estados miembros para ayudar a alumnos, estudiantes, docentes, padres y ciudadanos a comprender la IA, utilizarla de forma responsable y reconocer en qué casos amenaza los derechos humanos, la democracia y el Estado de derecho. Da efecto al artículo 20 del Convenio Marco del Consejo de Europa sobre Inteligencia Artificial.
• European Commission · European Union · 2026Ethical guidelines on the use of AI and data in teaching and learning for educators (updated)Publicadas por primera vez en 2022 y actualizadas en 2026 a través del Centro Europeo de Educación Digital (European Digital Education Hub), las directrices explican a los docentes el contexto del RGPD y de la Ley de IA. Ofrecen preguntas orientativas y ejemplos de casos para valorar las herramientas de IA antes de usarlas en clase.

Leyes aplicables

Leyes vigentes que tipifican como delito los deepfakes sexuales de menores o regulan la IA utilizada en la educación o por jóvenes.

Los 95 expedientes

• 14 oct 2026Ocho estados de EE. UU. demandan a OpenAI y alegan que ChatGPT perjudica a los menores y engaña a los adultos · En línea
• 14 oct 2026Una familia libanesa demanda a OpenAI y alega que ChatGPT contribuyó al suicidio de su hijo de 15 años · En casa
• 10 oct 2026Aplicaciones coreanas de personajes de IA como Zeta incitaron a adolescentes a hablar de autolesiones mientras el regulador dejaba las denuncias sin revisar · En línea
• 9 oct 2026La policía allana las viviendas de cuatro adolescentes acusados de crear desnudos con IA de unas 50 compañeras en Lomas de Zamora · En línea
• 10 sept 2026GTG-10007: estudiantes de habla china operan fábrica autónoma de exploits con Claude contra 50 orgs · En línea
• 3 sept 2026Arrestan a un estudiante universitario de Kochi por imágenes sexuales de profesoras manipuladas con IA y compartidas en grupos de Telegram · Universidad
• 2 sept 2026Estudiantes de Tennessee y Mississippi, acusados por imágenes de IA de “Cat in the Hat” que amenazan a escuelas · En línea
• 7 jul 2026La NECTA de Tanzania anula los resultados de 58 candidatos de Form Six tras usar teléfonos para acceder a ChatGPT en los exámenes · Escuela
• 25 jun 2026Policía de Chiba arresta a joven de 19 años que creó ransomware con IA tras el ataque a Asahi · En línea
• 21 jun 2026Lahav 433 arresta a joven que animaba fotos de identidad robadas con IA para abrir cuentas bancarias · En línea
• 21 jun 2026Docentes de Nueva Zelanda quedan incapacitados para trabajar tras ser víctimas de pornografía deepfake con IA y falsificaciones en TikTok creadas por estudiantes · Escuela
• 12 jun 2026Colegios de Guwahati suspenden a estudiantes por imágenes deepfake con IA de alumnas y profesoras · Escuela
• 11 jun 2026Madre canadiense alega que ChatGPT validó los pensamientos suicidas de su hija Alice, de 24 años · En casa
• 1 jun 2026El fiscal general de Florida demanda a OpenAI y a Sam Altman por ocultar los riesgos de ChatGPT · En línea
• 12 may 2026Un estudiante de Luisiana, acusado de intimidación terrorista (terrorizing) tras una foto de un arma creada con IA que obligó a confinar el instituto Southside High · Escuela
• 11 may 2026Familias de víctimas del tiroteo de FSU alegan que ChatGPT ayudó al atacante del campus en 2025 · Universidad
• 29 abr 2026Víctimas del tiroteo de Tumbler Ridge demandan a OpenAI por una cuenta de ChatGPT marcada como sospechosa y no denunciada · Escuela
• 31 mar 2026En una investigación forense (inquest) en Reino Unido se oyó que un joven de 16 años eludió las salvaguardas de ChatGPT antes de su muerte · En casa
• 16 mar 2026Alumnos de Heraklion usan IA para convertir fotos de profesoras y compañeras en imágenes pornográficas · Escuela
• 16 mar 2026Tres adolescentes de Tennessee demandan a xAI y alegan que su IA se usó para crear imágenes sexuales de ellas siendo menores · En línea
• 11 mar 2026Prueba de CCDH y CNN: los chatbots más populares ayudaron a falsos jóvenes de 13 años a planificar tiroteos escolares y atentados con bomba · En línea
• 26 feb 2026Una escuela sudafricana presenta una denuncia penal por videos de TikTok creados con IA que acusan falsamente a docentes de mala conducta · En línea
• 19 ene 2026La PSNI investiga imágenes explícitas generadas con IA de alumnos compartidas en la Royal School Armagh · Escuela
• 12 ene 2026Ofcom abre una investigación a X en virtud de la Online Safety Act por las imágenes sexualizadas de niños generadas por Grok · En línea
• 10 ene 2026Indonesia y Malasia bloquean Grok tras generar imágenes sexualizadas de mujeres y menores · En línea
• 8 ene 2026El fiscal general de Kentucky demanda a Character.AI y alega que se aprovecha de los menores · En línea
• 5 ene 2026Una madre afirma que ChatGPT asesoró sobre el consumo de drogas a su hijo, estudiante universitario, antes de una sobredosis mortal · En casa
• 24 dic 2025Un estudiante de secundaria de Incheon, acusado y luego encarcelado por crear deepfakes sexuales de dos docentes y de compañeros de clase · Escuela
• 13 nov 2025El osito de peluche con IA Kumma habló con los evaluadores de fetiches sexuales y de dónde encontrar cuchillos, según PIRG · En casa
• 11 nov 2025Dos menores de Luisiana, acusados en virtud de una nueva ley sobre IA por imágenes de desnudos de 8 niñas; una de las víctimas había sido expulsada · Escuela
• 11 nov 2025Decenas de estudiantes de la Universidad Yonsei admiten haber usado ChatGPT en un examen parcial en línea de un curso sobre ChatGPT · Universidad
• 6 nov 2025Un padre alega que ChatGPT fomentó la dependencia y ayudó al suicidio de Amaurie Lacey, de 17 años · En casa
• 6 nov 2025Los padres alegan que ChatGPT reforzó los pensamientos suicidas de Zane Shamblin, de 23 años · En casa
• 6 nov 2025BBC: ChatGPT habló de suicidio con una adolescente refugiada ucraniana en Polonia en lugar de instarla a buscar ayuda · En casa
• 25 oct 2025La detección de armas con IA de Omnilert señala como posible arma la bolsa de snacks de un estudiante en una escuela del condado de Baltimore; la policía lo esposa · Escuela
• 23 oct 2025La Comisionada de eSafety de Australia notifica requerimientos legales a cuatro aplicaciones de compañía con IA por la seguridad infantil · En línea
• 20 oct 2025Estudiantes usan IA y la foto de un compañero para falsear una amenaza con armas contra un instituto de Míchigan · Escuela
• 9 oct 2025La Australian Catholic University registra unos 6.000 casos de mala conducta, la mayoría por IA, a menudo basados en el detector de Turnitin · Universidad
• 16 sept 2025Una familia de Nueva York denuncia que bots de Character.AI llevaron a “Nina”, de 15 años, a un juego de rol sexual antes de un intento de suicidio · En casa
• 16 sept 2025Una familia alega que un bot de Character.AI falló a Juliana Peralta, de 13 años, antes de su suicidio · En casa
• 11 sept 2025La FTC de EE. UU. ordena a siete empresas explicar cómo sus chatbots de compañía con IA protegen a niños y adolescentes · En línea
• 3 sept 2025Investigadores registran 669 intercambios dañinos de Character.AI con cuentas de menores, la mayoría relacionados con grooming · En línea
• 1 sept 2025Policía japonesa: los compañeros de clase crearon más de la mitad de los deepfakes sexuales de menores, muchos a partir de fotos escolares · Escuela
• 28 ago 2025Common Sense Media: Meta AI orientó a cuentas de prueba de adolescentes sobre suicidio, autolesiones y trastornos alimentarios · En línea
• 26 ago 2025Raine v. OpenAI: los padres alegan que ChatGPT contribuyó al suicidio de Adam Raine, de 16 años · En casa
• 18 ago 2025El Gobierno de Brasil ordena a Meta retirar bots de AI Studio con personajes de apariencia infantil que mantienen conversaciones sexuales · En línea
• 18 ago 2025El fiscal general de Texas investiga a Meta AI Studio y Character.AI por bots que se hacen pasar por terapeutas ante niños · En línea
• 14 ago 2025Reuters: las normas internas de IA de Meta permitían a los chatbots mantener conversaciones “románticas o sensuales” con niños · En línea
• 6 ago 2025Prueba del CCDH: ChatGPT dio consejos sobre autolesiones, dietas y drogas a cuentas que simulaban ser de niños de 13 años · En línea
• 1 ago 2025Nueve estudiantes de Lawrence, Kansas, demandan al distrito por la vigilancia con IA de Gaggle, que marcó y eliminó sus trabajos · Escuela
• 27 jul 2025La Guardia Civil investiga a un joven de 17 años por imágenes y vídeos de desnudos creados con IA de 16 compañeras y ofrecidos a la venta · En línea
• 13 jul 2025Acusan a un estudiante de Derecho de la HKU de crear más de 700 imágenes pornográficas con IA de entre 20 y 30 mujeres, incluidas compañeras y profesoras · Universidad
• 5 jul 2025Nikkei descubre indicaciones ocultas que ordenan a los revisores de IA elogiar los artículos en 17 preprints de 14 universidades · Universidad
• 30 jun 2025Utah demanda a Snap por considerar que su chatbot My AI aconsejó a menores cómo ocultar drogas y relaciones sexuales con adultos · En línea
• 27 jun 2025La policía de Vietnam abre causas penales tras el uso de ChatGPT, Gemini y StudyX por parte de candidatos en el examen nacional · Escuela
• 19 may 2025Italia multa a Luka, la empresa creadora de Replika, con 5.000.000 EUR, en parte por la falta de verificación de edad · En línea
• 2 may 2025Un colegio privado de Adelaida suspende a un alumno por una imagen deepfake de un docente; se informó a la policía · Escuela
• 26 abr 2025WSJ: bots de Meta AI, algunos con voces de famosos, mantuvieron juegos de rol sexuales con cuentas de menores · En línea
• 9 abr 2025La policía de Johor detiene a un joven de 16 años acusado de vender desnudos generados con IA de compañeras y compañeros de colegio por 2 RM cada uno · En línea
• 12 mar 2025AP y The Seattle Times obtienen unos 3.500 archivos sin censurar de estudiantes señalados por la monitorización con IA de Gaggle en Vancouver, WA · Escuela
• 23 ene 2025El sistema de detección de armas con IA de Omnilert en el Antioch High de Nashville no detecta el arma en un tiroteo escolar mortal · Escuela
• 10 dic 2024Padres de Texas alegan que bots de Character.AI incitaron a un adolescente autista a autolesionarse y a la violencia · En casa
• 5 dic 2024Dos alumnos de la Lancaster Country Day School, acusados por imágenes sexuales alteradas con IA de 59 menores · Escuela
• 26 nov 2024La FTC actúa contra Evolv por escáneres de armas con IA que no detectaron un cuchillo utilizado para apuñalar a un estudiante en una escuela · Escuela
• 25 nov 2024Futurism descubre bots “coach” proanorexia en Character.AI que recomiendan dietas de hambre a una usuaria de 16 años · En línea
• 12 nov 2024La policía de Singapur investiga desnudos falsos (deepfakes) de alumnas de la Singapore Sports School creados por compañeros varones · Escuela
• 1 nov 2024Character.AI alojó bots creados por usuarios que imitaban a las adolescentes británicas fallecidas Molly Russell y Brianna Ghey · En línea
• 30 oct 2024Un tribunal de Seúl condena a 10 años de cárcel a un egresado de la SNU por deepfakes en Telegram de al menos 61 mujeres · Universidad
• 22 oct 2024Una madre demanda a Character.AI y a Google por el suicidio de Sewell Setzer III, de 14 años · En casa
• 15 oct 2024Un joven argentino de 15 años, acusado de vender desnudos creados con IA de 22 compañeras a través de un grupo de Discord · En línea
• 28 sept 2024Imputados dos estudiantes de Class IX en Moradabad, India, por publicar una imagen obscena de su profesora creada con IA · Escuela
• 29 ago 2024El sindicato docente surcoreano cifra en 204 los docentes afectados por delitos sexuales con deepfakes en colegios en el escándalo de Telegram · Escuela
• 28 ago 2024Crisis de deepfakes escolares en Corea del Sur: salas de Telegram apuntan a estudiantes y el presidente Yoon ordena una ofensiva · En línea
• 14 ago 2024La Fiscalía de Guatemala allana viviendas por imágenes sexuales de escolares alteradas con IA por estudiantes · Escuela
• 1 jul 2024Un denunciante afirma que el chatbot de IA “Ed” de LAUSD, valorado en 6.000.000 USD, envió datos de estudiantes al extranjero antes del colapso del proveedor AllHere · Escuela
• 12 jun 2024Arrestan a un adolescente tras la circulación de imágenes explícitas creadas con IA de unas 50 alumnas de Bacchus Marsh Grammar · En línea
• 12 jun 2024Expulsan a un estudiante de Melbourne por crear con IA imágenes sexualmente explícitas de una profesora de Salesian College · Escuela
• 11 jun 2024La policía turca encarcela a un candidato del examen de ingreso a la universidad que usó una cámara en un botón e IA para obtener las respuestas · Escuela
• 24 may 2024La fiscalía chilena abre una investigación tras la difusión por parte de seis estudiantes de imágenes de desnudos creadas con IA de siete compañeras · Escuela
• 8 mar 2024El distrito de Beverly Hills expulsa a cinco alumnos de octavo grado por imágenes de desnudos con IA de 16 compañeros · Escuela
• 17 ene 2024El director deportivo incrimina al director de Pikesville High con un audio racista y antisemita generado con IA · Escuela
• 18 dic 2023WAEC retiene los resultados del WASSCE de candidatos de 235 escuelas de Ghana por respuestas generadas con IA · Escuela
• 16 dic 2023Dos estudiantes de secundaria de Miami, de 13 y 14 años, acusados de delitos graves por imágenes de desnudos de compañeros creadas con IA · Escuela
• 15 dic 2023Circulan en internet fotos de desnudos de chicas menores creadas con IA en el Collège Béliveau de Winnipeg; no se presentan cargos · En línea
• 3 nov 2023La policía de Río investiga desnudos falsos creados con IA de unas 20 chicas por compañeros de un colegio de Barra da Tijuca · Escuela
• 2 nov 2023Estudiantes de Westfield High School habrían usado IA para crear imágenes pornográficas de compañeras · Escuela
• 16 oct 2023El IPN expulsa a un estudiante acusado de alterar con IA fotos de compañeras para crear contenido sexual; después es encarcelado · Universidad
• 6 oct 2023La ICO del Reino Unido emite una notificación preliminar de sanción a Snap por los riesgos de privacidad de My AI para menores · En línea
• 4 oct 2023La Fiscalía de Ecuador investiga montajes sexuales creados con IA de entre 20 y 24 alumnas de un colegio privado de Quito · Escuela
• 19 sept 2023Aplicación de IA para “desnudar” usada para crear falsos desnudos de más de 20 escolares en Almendralejo; 15 menores condenados posteriormente · Escuela
• 29 ago 2023La Fiscalía de Perú investiga a dos escolares de Lima acusados de vender desnudos creados con IA de compañeras de clase · Escuela
• 18 may 2023Un profesor de Texas A&M-Commerce pregunta a ChatGPT si escribió unos ensayos y luego retiene las calificaciones de estudiantes del último curso señalados · Universidad
• 13 abr 2023El servicio de swatting Torswats usa voces sintetizadas para telefonear amenazas de bomba y de tiroteo a institutos de secundaria de EE. UU. · En línea
• 17 feb 2023Estudiantes de secundaria publican en TikTok deepfakes con IA de un director de Carmel, Nueva York, que hace amenazas racistas · Escuela
• 3 feb 2023El regulador de privacidad de Italia ordena a Replika dejar de tratar los datos de usuarios italianos por los riesgos para los menores · En línea