Incidents liés à l’IA dans l’éducation et chez les jeunes

Dossiers par an, selon le lieu des faits

Chaque dossier est compté une seule fois, selon l’année de son premier signalement. Le lieu des faits est distinct des personnes impliquées : un adolescent blessé par un chatbot chez lui compte comme un jeune, pas comme un incident scolaire.

Dans quelles régions du monde

Pays comptant le plus de dossiers. Les décomptes reflètent où les incidents sont signalés et étudiés ; ils sous-estiment donc les pays moins couverts par les médias dans les langues que nous suivons.

Études de cas

Cas sélectionnés, avec ce qui s’est passé et la manière dont les écoles et les autorités ont réagi, tels qu’ils sont consignés dans chaque dossier.

La réaction des écoles et des autorités

La réaction consignée dans chacun des 46 dossiers survenus dans une école ou une université, d’après les sources citées dans le dossier.

Mesures de prévention en vigueur

Mesures que des ministères, des régulateurs, des organismes d’examen et des organisations internationales ont adoptées ou publiées, avec ce que chacune prévoit, selon le document.

Ministères et gouvernements

• UK Department for Education · England · 2025Generative artificial intelligence (AI) in educationLa politique du DfE (mise à jour en août 2025) indique que la sécurité doit être la priorité absolue, que les élèves ne doivent utiliser l’IA générative qu’avec des garanties telles que la supervision et le filtrage et la surveillance, et que les données personnelles ne doivent pas être saisies dans les outils d’IA générative. Elle avertit que l’IA générative peut rendre les cyberattaques et les courriels d’usurpation d’identité plus crédibles et renvoie aux règles du JCQ et d’Ofqual sur les fraudes liées à l’IA.
• UK Department for Education · England · 2026Generative AI: product safety standardsNormes destinées aux fournisseurs de technologies éducatives (publiées pour la première fois en janvier 2025, étendues le 19 janvier 2026) portant sur le filtrage, la surveillance et le signalement au responsable de la protection de l’enfance, la sécurité contre le jailbreaking, la confidentialité, les tests et la gouvernance. La mise à jour de 2026 ajoute des normes sur le développement cognitif, le développement émotionnel et social, la santé mentale et la lutte contre la manipulation, notamment éviter l’anthropomorphisme et la dépendance affective et détecter la détresse.
• UK Department for Education · England · 2026Cyber security standards for schools and collegesFixe des normes comprenant une évaluation annuelle des cyberrisques, la formation du personnel et des élèves, l’authentification multifacteur pour les comptes du personnel dans le cloud ou à distance et pour les comptes d’administration, la correction des vulnérabilités critiques sous 14 jours et un plan de sauvegarde de type 3-2-1. Elle exige aussi de signaler les cyberattaques en interne et à des organismes tels que les assureurs et le DfE (dernière mise à jour en septembre 2026).
• UK Council for Internet Safety / DfE · England · 2024Sharing nudes and semi-nudes: advice for education settings working with children and young peopleLa mise à jour de mars 2024 couvre explicitement les « pseudo-images » de moins de 18 ans générées par l’IA ou manipulées numériquement et indique que la loi s’applique aux enfants qui les créent. Elle demande au personnel de s’adresser au responsable désigné de la protection de l’enfance, de ne pas visionner, copier ni partager les images, de saisir la police ou les services sociaux en cas de besoin et d’utiliser des outils de retrait tels que IWF/Childline Report Remove.
• UK Department for Education · England · 2026Keeping children safe in education 2026Orientations légales en matière de protection de l’enfance pour les écoles et les établissements d’enseignement, dont la version 2026 est en vigueur depuis le 1er septembre 2026. Les orientations du DfE sur l’IA générative les désignent comme la référence principale pour la sécurité en ligne, le filtrage et la surveillance et la cybersécurité lorsque les écoles utilisent l’IA.
• New York State Education Department · New York State, USA · 2023Determination on biometric identifying technology in schoolsLa décision de septembre 2023 interdit aux écoles de l’État de New York d’acheter ou d’utiliser la technologie de reconnaissance faciale, après qu’un rapport de l’État a conclu que les risques l’emportaient sur les avantages, notamment des taux d’erreur d’identification plus élevés pour les enfants et d’autres groupes. Les autres outils biométriques relèvent de décisions locales, qui doivent tenir compte de la vie privée, des droits civiques, de l’efficacité et de l’avis des parents.
• Republic of Korea Ministry of Education (reported by The Korea Herald) · South Korea · 2024Education Ministry response to school deepfake sex crimesEn août 2024, le ministère a mis en place une cellule d’urgence chargée de suivre chaque semaine les cas de deepfakes en milieu scolaire, de traiter les signalements des victimes, d’apporter un soutien psychologique et de renforcer l’éducation à l’éthique numérique. Il a indiqué que les auteurs au lycée pouvaient être exclus, la sanction la plus lourde du système de lutte contre la violence scolaire.
• Republic of Korea Ministry of Education (reported by The Korea Times) · South Korea · 2024799 students, 31 teachers victimized by deepfake videos this yearLes données d’enquête du ministère ont recensé 833 victimes de deepfakes en milieu scolaire en 2024 jusqu’à fin octobre, dont 799 élèves et 31 enseignants. Les écoles ont transmis 417 cas pour enquête et 218 pour suppression de vidéos.
• Ireland Department of Education and Youth · Ireland · 2025Guidance on Artificial Intelligence in SchoolsOrientations nationales publiées le 21 octobre 2025 avec Oide pour aider les écoles à planifier un usage sûr, éthique et approprié de l’IA, en s’appuyant sur les travaux de l’UNESCO et de l’UE. Elles précisent que la State Examinations Commission exige que le contenu généré par l’IA soit référencé, et un groupe de travail sur l’IA dans l’éducation, y compris l’évaluation, a été annoncé.
• UAE Ministry of Education (reported by Education Middle East) · United Arab Emirates · 2026Safe and Responsible Use of Artificial Intelligence in Classrooms (manual)Le manuel de 2026 interdit l’IA générative aux élèves de moins de 13 ans ou de moins de la 7e année (Year 7), interdit l’IA dans les examens officiels et les travaux d’IA non déclarés, et interdit de saisir dans les outils d’IA des données personnelles d’élèves, d’enseignants ou de parents. Il interdit aussi les deepfakes et l’usurpation d’identité et exige une supervision directe de l’enseignant pour l’usage de l’IA en classe.
• Saudi Ministry of Education and SDAIA (reported by Gulf News) · Saudi Arabia · 2025Guidelines for using generative AI in educationGuide conjoint destiné aux élèves, aux enseignants et aux parents, visant un usage éthique et responsable qui maintient l’enseignant au centre. Il indique que les élèves de moins de 13 ans ne devraient pas utiliser l’IA générative sans supervision directe et que les moins de 18 ans ont besoin d’un consentement parental clair.
• Center for Educational Research and Development (CRDP), Lebanon · Lebanon · 2025Lebanon's AI Competency Framework / AI Educational Framework for students and teachersLe CRDP, qui élabore le programme national du Liban, a publié (octobre 2025) un cadre sur l’IA dont la première partie est une politique de l’IA pour les écoles libanaises, fondée sur les cadres de l’UNESCO de 2024 et sa recommandation de 2021 sur l’éthique de l’IA. Ses principes directeurs comprennent une approche centrée sur l’humain, la confidentialité et la sécurité des données, l’inclusivité et le développement professionnel des enseignants.
• Egypt Ministry of Education and Technical Education (reported by Egyptian Streets) · Egypt · 2025AI curricula in schools from 2025-2026Le ministre a annoncé des programmes d’IA dans certaines classes du primaire, du préparatoire et du secondaire à partir de 2025-2026, y compris l’éthique et les implications sociales de l’IA. Aucune directive publiée du ministère sur l’usage ou la protection n’a été trouvée.

Régulateurs et forces de l’ordre

• European Union · European Union · 2024Regulation (EU) 2024/1689 (AI Act), Annex III point 3 (education)Classe comme à haut risque l’IA utilisée pour décider de l’admission ou de l’affectation dans l’éducation, pour évaluer les résultats d’apprentissage, pour apprécier le niveau d’éducation qu’une personne recevra, et pour surveiller et détecter les comportements interdits des élèves pendant les épreuves. Les systèmes à haut risque sont soumis à des obligations telles que la gestion des risques, la supervision humaine et la documentation.
• UK Information Commissioner's Office · United Kingdom · 2024Essex school reprimanded after using facial recognition technology for canteen paymentsL’ICO a réprimandé le Chelmer Valley High School (23 juillet 2024) pour avoir introduit la reconnaissance faciale sans analyse d’impact relative à la protection des données, sans consulter son délégué à la protection des données, les parents ni les élèves, et en s’appuyant sur un consentement par refus (opt-out). Elle souligne qu’une analyse d’impact est requise avant tout système biométrique et qu’un consentement explicite par adhésion (opt-in) est nécessaire.
• US Cybersecurity and Infrastructure Security Agency (CISA) · United States (K-12) · 2023Protecting Our Future: Partnering to Safeguard K-12 Organizations from Cybersecurity ThreatsLe rapport de la CISA de janvier 2023 indique aux écoles de commencer par les mesures les plus efficaces : authentification multifacteur, correction des vulnérabilités connues et exploitées, sauvegardes testées, plan de réponse aux incidents mis à l’épreuve et formation continue. Il appelle aussi à exiger des fournisseurs des produits sécurisés par défaut et à rejoindre des groupes de partage d’informations tels que MS-ISAC et K12 SIX.
• US Federal Bureau of Investigation (IC3) · United States · 2025Senior US Officials Impersonated in Malicious Messaging Campaign (PSA I-051525-PSA)Avertit que des criminels utilisent des messages vocaux et des textos générés par l’IA pour se faire passer pour de hauts responsables et voler l’accès à des comptes. Elle conseille de vérifier l’identité par un numéro connu, de ne pas cliquer sur les liens avant vérification, d’activer l’authentification à deux facteurs, d’utiliser des mots de code convenus et de confirmer les demandes de paiement par un canal distinct.
• US Federal Trade Commission · United States · 2025FTC launches inquiry into AI chatbots acting as companionsLe 11 septembre 2025, la FTC a ordonné à sept entreprises, dont Alphabet, Character.AI, Meta, OpenAI, Snap et xAI, d’expliquer comment elles testent, surveillent et limitent les préjudices des chatbots de compagnie pour les enfants. Elle les interroge sur la monétisation de l’engagement, l’application des restrictions d’âge, les informations communiquées aux parents et l’utilisation des données de conversation.
• eSafety Commissioner (Australia) · Australia · 2026Toolkit for Schools: Guide to responding to image-based abuse involving AI deepfakesGuide pas à pas (publié pour la première fois à la mi-2025, PDF actuel daté de mars 2026) destiné aux chefs d’établissement qui réagissent à des deepfakes de nus ou sexuels visant des élèves ou du personnel, conçu pour s’articuler avec les politiques de protection de l’enfance. L’eSafety demande aux écoles de donner la priorité au bien-être des élèves et du personnel visés, de signaler à la police les infractions possibles, de respecter les obligations de signalement et de recourir à l’eSafety pour un retrait rapide.
• eSafety Commissioner (Australia) · Australia · 2025Online safety advisory: AI chatbots and companions - risks to children and young peopleL’avis du 18 février 2025 avertit que les compagnons d’IA simulent des relations personnelles, permettent des discussions non réglementées sur le sexe, l’automutilation et le suicide, et manquent souvent de vérifications d’âge efficaces. L’eSafety a ensuite adressé des notifications juridiques (octobre 2025) à Character.AI, Nomi, Chai et Chub AI et a indiqué que la plupart des compagnons n’orientaient pas les utilisateurs vers une aide en cas de suicide ou d’automutilation.

Organismes d’examen et de qualité

• Joint Council for Qualifications (JCQ) · UK (GCSE, A level and other general qualifications) · 2025AI Use in Assessments: Your role in protecting the integrity of qualificationsLes orientations en vigueur depuis le 30 avril 2025 considèrent comme une fraude tout usage abusif de l’IA qui fait que le travail n’est pas celui de l’élève, et exigent que les politiques de lutte contre la fraude des centres couvrent l’IA. Elles recommandent un travail surveillé en classe, la vérification des brouillons, de brefs échanges de type soutenance orale et la restriction de l’IA sur les appareils des centres, indiquent que les détecteurs ne doivent pas être utilisés seuls et que l’IA ne peut pas être le seul correcteur.
• Quality Assurance Agency for Higher Education (QAA) · UK higher education · 2023Maintaining quality and standards in the ChatGPT era: advice on generative AI toolsLa QAA indique aux universités qu’un usage encadré de l’IA générative est préférable à une interdiction pure et simple, tout en maintenant les normes académiques. Elle propose un processus en quatre étapes pour repérer les évaluations à ajuster et demande une assurance qualité interne rigoureuse.
• Tertiary Education Quality and Standards Agency (TEQSA) · Australia (higher education) · 2025Enacting assessment reform in a time of artificial intelligenceRessource de la TEQSA, non prescriptive (publiée en septembre 2025), qui aide les universités à gérer les risques de l’IA générative pour la garantie des apprentissages tout en enseignant un usage éthique. Elle cartographie les principales voies stratégiques que les établissements suivent pour repenser l’évaluation.

Organisations internationales

• UNESCO · Global · 2023Guidance for generative AI in education and researchLes premières orientations mondiales de l’UNESCO sur l’IA générative dans l’éducation (publiées en septembre 2023, page mise à jour en janvier 2026) demandent aux gouvernements de réglementer les outils d’IA générative et de bâtir des cadres d’action cohérents pour l’éducation et la recherche. Elles proposent une limite d’âge pour les conversations autonomes avec les plateformes d’IA générative, une protection obligatoire des données personnelles et un processus de validation éthique des outils, car la plupart des écoles ne sont pas encore en mesure de les évaluer.
• UNESCO · Global · 2024AI competency framework for studentsDéfinit 12 compétences réparties en quatre dimensions (état d’esprit centré sur l’humain, éthique de l’IA, techniques et applications de l’IA, conception de systèmes d’IA) à trois niveaux : comprendre, appliquer, créer. Il vise à aider les programmes scolaires à préparer les élèves à utiliser l’IA en toute sécurité et à porter un jugement critique sur les solutions d’IA.
• UNESCO · Global · 2024AI competency framework for teachersDéfinit 15 compétences réparties en cinq dimensions, dont l’éthique de l’IA, la pédagogie de l’IA et l’IA pour l’apprentissage professionnel, à trois niveaux : acquérir, approfondir, créer. Il repose sur la protection des droits des enseignants et le renforcement de la capacité d’action humaine, et propose des stratégies pour mettre les principes éthiques en pratique.
• UNICEF · Global · 2025Guidance on AI and children, version 3.0La mise à jour de décembre 2025 des orientations de l’UNICEF fixe dix exigences pour une IA centrée sur l’enfant, notamment le contrôle réglementaire, la sécurité des enfants, la protection des données et de la vie privée des enfants, la non-discrimination, la transparence et la responsabilité, ainsi que le développement des compétences des enfants en matière d’IA. Elle s’accompagne d’une liste de contrôle destinée aux gouvernements et aux entreprises.
• UNICEF · Global · 2026'Deepfake abuse is abuse' (statement)La déclaration de l’UNICEF du 4 février 2026 cite une recherche de l’UNICEF, d’ECPAT et d’INTERPOL selon laquelle au moins 1,2 million d’enfants dans 11 pays ont vu leurs images transformées en deepfakes sexuels au cours de l’année écoulée. Elle appelle les gouvernements à intégrer les contenus générés par l’IA dans les lois sur le matériel d’abus sexuel sur enfants et à en criminaliser la création, l’acquisition, la détention et le partage, et les entreprises d’IA à intégrer la sécurité dès la conception et à empêcher leur circulation.
• OECD · OECD members · 2026OECD Digital Education Outlook 2026: Exploring effective uses of generative AI in educationConstate que l’IA générative à usage général améliore la performance sur les tâches sans gain réel d’apprentissage lorsqu’elle n’est pas guidée par la pédagogie, et que l’avantage des élèves peut disparaître ou s’inverser lors des examens une fois l’accès à l’IA retiré. Elle recommande des outils éducatifs conçus à cet effet, des infrastructures équitables et une formation professionnelle continue.
• Council of Europe · 46 Council of Europe member states · 2026Committee of Ministers recommendation on AI literacyRecommandation aux États membres visant à aider les élèves, les étudiants, les enseignants, les parents et les citoyens à comprendre l’IA, à l’utiliser de manière responsable et à reconnaître les cas où elle menace les droits de l’homme, la démocratie et l’État de droit. Elle donne effet à l’article 20 de la Convention-cadre du Conseil de l’Europe sur l’IA.
• European Commission · European Union · 2026Ethical guidelines on the use of AI and data in teaching and learning for educators (updated)Publiées pour la première fois en 2022 et mises à jour en 2026 par l’intermédiaire du European Digital Education Hub, les lignes directrices expliquent aux enseignants le contexte du RGPD et du règlement sur l’IA. Elles fournissent des questions directrices et des exemples de cas pour évaluer les outils d’IA avant de les utiliser en classe.

Lois applicables

Lois en vigueur qui répriment pénalement les deepfakes sexuels de mineurs ou qui encadrent l’IA utilisée dans l’éducation ou par les jeunes.

Les 95 dossiers

• 14 oct. 2026Huit États américains poursuivent OpenAI, estimant que ChatGPT nuit aux enfants et trompe les adultes · En ligne
• 14 oct. 2026Une famille libanaise poursuit OpenAI, estimant que ChatGPT a contribué au suicide de leur fils de 15 ans · À domicile
• 10 oct. 2026Des applications coréennes de personnages IA comme Zeta ont encouragé des propos d'automutilation chez des adolescents, tandis que le régulateur laissait des plaintes sans examen · En ligne
• 9 oct. 2026Perquisitions chez quatre adolescents accusés d'avoir créé des nus par IA d'une cinquantaine de camarades à Lomas de Zamora · En ligne
• 10 sept. 2026GTG-10007 : des étudiants sinophones font tourner une fonderie d'exploits Claude contre 50 cibles · En ligne
• 3 sept. 2026Kochi : un étudiant arrêté pour des images sexuelles d'enseignantes truquées par IA et partagées dans des groupes Telegram · Université
• 2 sept. 2026Des élèves du Tennessee et du Mississippi poursuivis pour des images générées par IA du « Cat in the Hat » menaçant des écoles · En ligne
• 7 juil. 2026Tanzanie : le NECTA annule 58 résultats de Form Six après que des candidats ont utilisé leur téléphone pour accéder à ChatGPT pendant les examens · École
• 25 juin 2026Chiba : un jeune de 19 ans arrêté pour avoir créé un ransomware avec l'IA après l'affaire Asahi · En ligne
• 21 juin 2026Lahav 433 arrête un jeune de 20 ans qui animait par IA des photos d'identité volées · En ligne
• 21 juin 2026Nouvelle-Zélande : des enseignants dans l'incapacité de travailler après que des élèves ont créé des deepfakes pornographiques par IA et de faux contenus TikTok les visant · École
• 12 juin 2026Guwahati : des écoles suspendent des élèves après la création de deepfakes par IA visant des élèves et des enseignantes · École
• 11 juin 2026Une mère canadienne affirme que ChatGPT a validé les pensées suicidaires de sa fille Alice, 24 ans · À domicile
• 1 juin 2026Le procureur général de Floride poursuit OpenAI et Sam Altman pour des risques dissimulés de ChatGPT · En ligne
• 12 mai 2026Louisiane : un élève inculpé de terrorisation après qu'une photo d'arme générée par IA a provoqué une mise à l'abri sur place au lycée Southside High · École
• 11 mai 2026Les familles des victimes de la fusillade de la FSU affirment que ChatGPT a aidé l’auteur de l’attaque de 2025 sur le campus · Université
• 29 avr. 2026Les victimes de la fusillade de Tumbler Ridge poursuivent OpenAI pour un compte ChatGPT signalé mais non dénoncé · École
• 31 mars 2026Une enquête du coroner au Royaume-Uni révèle qu’un adolescent de 16 ans a contourné les garde-fous de ChatGPT avant sa mort · À domicile
• 16 mars 2026À Héraklion, des élèves utilisent l’IA pour transformer des photos d’enseignantes et de camarades en images pornographiques · École
• 16 mars 2026Trois adolescentes du Tennessee poursuivent xAI, affirmant que son IA a servi à créer des images sexuelles d’elles alors qu’elles étaient mineures · En ligne
• 11 mars 2026Test CCDH-CNN : la plupart des chatbots populaires ont aidé de faux adolescents de 13 ans à planifier des fusillades en milieu scolaire et des attentats à l’explosif · En ligne
• 26 févr. 2026Une école sud-africaine dépose une plainte pénale à propos de vidéos TikTok générées par IA qui accusent à tort des enseignants de faute · En ligne
• 19 janv. 2026Le PSNI enquête sur des images explicites d'élèves générées par IA et partagées à la Royal School Armagh · École
• 12 janv. 2026L'Ofcom ouvre une enquête au titre de l'Online Safety Act contre X à propos des images sexualisées d'enfants produites par Grok · En ligne
• 10 janv. 2026L'Indonésie et la Malaisie bloquent Grok après la production d'images sexualisées de femmes et de mineurs · En ligne
• 8 janv. 2026Le procureur général du Kentucky poursuit Character.AI, qu’il accuse de s’en prendre aux enfants · En ligne
• 5 janv. 2026Une mère affirme que ChatGPT a coaché son fils, étudiant, dans sa consommation de drogues avant une overdose mortelle · À domicile
• 24 déc. 2025Un lycéen d'Incheon inculpé, puis incarcéré, pour des hypertrucages sexuels visant deux enseignants et des camarades · École
• 13 nov. 2025L'ourson en peluche à IA Kumma a abordé des fétichismes sexuels et indiqué où trouver des couteaux à des testeurs, selon PIRG · À domicile
• 11 nov. 2025Des garçons de Louisiane inculpés en vertu d'une nouvelle loi sur l'IA pour des images dénudées de 8 filles ; une victime avait été renvoyée de son établissement · École
• 11 nov. 2025Des dizaines d'étudiants de l'université Yonsei admettent avoir utilisé ChatGPT lors d'un examen de mi-semestre en ligne d'un cours consacré à ChatGPT · Université
• 6 nov. 2025Un père affirme que ChatGPT a favorisé la dépendance d’Amaurie Lacey, 17 ans, et l’a aidé à se suicider · À domicile
• 6 nov. 2025Des parents accusent ChatGPT d’avoir renforcé les pensées suicidaires de Zane Shamblin, 23 ans · À domicile
• 6 nov. 2025BBC : ChatGPT a abordé le suicide avec une adolescente réfugiée ukrainienne en Pologne au lieu de l'inciter à chercher de l'aide · À domicile
• 25 oct. 2025Le système de détection d'armes par IA d'Omnilert prend le sachet de chips d'un élève pour une arme dans un établissement du comté de Baltimore ; la police le menotte · École
• 23 oct. 2025La eSafety Commissioner australienne adresse des avis juridiques à quatre applications de compagnons IA au sujet de la protection des enfants · En ligne
• 20 oct. 2025Des élèves utilisent l’IA et la photo d’un camarade pour simuler une menace armée contre un lycée du Michigan · École
• 9 oct. 2025L’Australian Catholic University enregistre environ 6 000 cas de manquement à l’intégrité, majoritairement liés à l’IA, en s’appuyant souvent sur le détecteur de Turnitin · Université
• 16 sept. 2025Une famille de New York accuse des bots de Character.AI d’avoir entraîné « Nina », 15 ans, dans des jeux de rôle sexuels avant une tentative de suicide · À domicile
• 16 sept. 2025Une famille accuse un bot de Character.AI d’avoir failli envers Juliana Peralta, 13 ans, avant son suicide · À domicile
• 11 sept. 2025La FTC américaine ordonne à sept entreprises d'expliquer comment leurs chatbots compagnons protègent les enfants et les adolescents · En ligne
• 3 sept. 2025Des chercheurs relèvent 669 échanges nocifs de Character.AI avec des comptes d'enfants, la plupart relevant du grooming · En ligne
• 1 sept. 2025Police japonaise : des camarades de classe à l'origine de plus de la moitié des hypertrucages sexuels de mineurs, souvent réalisés à partir de photos scolaires · École
• 28 août 2025Common Sense Media : Meta AI a coaché des comptes de test d'adolescents sur le suicide, l'automutilation et les troubles des conduites alimentaires · En ligne
• 26 août 2025Raine v. OpenAI : les parents d’Adam Raine, 16 ans, accusent ChatGPT d’avoir contribué à son suicide · À domicile
• 18 août 2025Le gouvernement brésilien ordonne à Meta de retirer les bots d’AI Studio aux personas enfantines qui tiennent des conversations sexuelles · En ligne
• 18 août 2025Le procureur général du Texas enquête sur Meta AI Studio et Character.AI à propos de bots se faisant passer pour des thérapeutes auprès d’enfants · En ligne
• 14 août 2025Reuters : les règles internes de Meta en matière d’IA autorisaient les chatbots à tenir des conversations « romantiques ou sensuelles » avec des enfants · En ligne
• 6 août 2025Test du CCDH : ChatGPT a prodigué à des comptes se faisant passer pour des enfants de 13 ans des conseils sur l’automutilation, les régimes et les drogues · En ligne
• 1 août 2025Neuf élèves de Lawrence (Kansas) poursuivent leur district en justice à cause de la surveillance par IA de Gaggle, qui a signalé et supprimé leurs travaux · École
• 27 juil. 2025La Guardia Civil enquête sur un jeune de 17 ans pour des images et vidéos de nus générées par IA de 16 camarades de classe proposées à la vente · En ligne
• 13 juil. 2025Un étudiant en droit de HKU accusé d’avoir créé plus de 700 images pornographiques par IA de 20 à 30 femmes, dont des camarades de classe et des enseignantes · Université
• 5 juil. 2025Nikkei révèle la présence de prompts cachés demandant aux évaluateurs IA de faire l’éloge des articles dans 17 prépublications issues de 14 universités · Université
• 30 juin 2025L’Utah poursuit Snap, accusant son chatbot My AI d’avoir conseillé à des mineurs de dissimuler drogues et relations sexuelles avec des adultes · En ligne
• 27 juin 2025Le Vietnam : la police ouvre des procédures pénales après l’utilisation de ChatGPT, Gemini et StudyX par des candidats à l’examen national · École
• 19 mai 2025L’Italie inflige à Luka, éditeur de Replika, une amende de 5 millions d’euros, notamment pour l’absence de vérification de l’âge · En ligne
• 2 mai 2025Une école privée d’Adélaïde suspend un élève après un hypertrucage (deepfake) visant un enseignant ; la police est informée · École
• 26 avr. 2025WSJ : des bots de Meta AI, dont certains dotés de voix de célébrités, se livrent à des jeux de rôle sexuels avec des comptes de mineurs · En ligne
• 9 avr. 2025La police de Johor arrête un adolescent de 16 ans accusé de vendre des nus générés par IA de camarades de classe à 2 RM l'unité · En ligne
• 12 mars 2025L'AP et le Seattle Times obtiennent environ 3 500 fichiers d'élèves non expurgés signalés par la surveillance par IA de Gaggle à Vancouver (Washington) · École
• 23 janv. 2025La détection d'armes par IA d'Omnilert au lycée Antioch High de Nashville ne repère pas l'arme lors d'une fusillade meurtrière en milieu scolaire · École
• 10 déc. 2024Des parents texans accusent des robots de Character.AI d’avoir encouragé l’automutilation et la violence chez un adolescent autiste · À domicile
• 5 déc. 2024Deux garçons de la Lancaster Country Day School inculpés pour des images sexuelles modifiées par IA de 59 mineures · École
• 26 nov. 2024La FTC sanctionne Evolv après que ses scanners d'armes par IA n'ont pas détecté un couteau utilisé pour poignarder un élève dans une école · École
• 25 nov. 2024Futurism découvre sur Character.AI des bots « coachs » pro-anorexie prescrivant des régimes de famine à une utilisatrice de 16 ans · En ligne
• 12 nov. 2024La police de Singapour enquête sur des deepfakes de nus de lycéennes de la Singapore Sports School, fabriqués par des camarades masculins · École
• 1 nov. 2024Character.AI a hébergé des bots créés par des utilisateurs imitant les adolescentes britanniques décédées Molly Russell et Brianna Ghey · En ligne
• 30 oct. 2024Un tribunal de Séoul condamne un diplômé de la SNU à 10 ans de prison pour des deepfakes diffusés sur Telegram visant au moins 61 femmes · Université
• 22 oct. 2024Une mère poursuit Character.AI et Google après le suicide de Sewell Setzer III, 14 ans · À domicile
• 15 oct. 2024Un Argentin de 15 ans accusé d'avoir vendu des nus générés par IA de 22 camarades via un groupe Discord · En ligne
• 28 sept. 2024Deux élèves de Class IX visés par une plainte à Moradabad (Inde) pour avoir publié une image obscène de leur enseignante générée par IA · École
• 29 août 2024Un syndicat d’enseignants sud-coréen recense 204 enseignants touchés par des délits sexuels par deepfake en milieu scolaire dans le scandale Telegram · École
• 28 août 2024Crise des deepfakes en milieu scolaire en Corée du Sud : des groupes Telegram ciblent des élèves ; le président Yoon ordonne une répression · En ligne
• 14 août 2024Au Guatemala, le parquet perquisitionne des domiciles après la création par des élèves d’images sexuelles de camarades modifiées par IA · École
• 1 juil. 2024Un lanceur d’alerte affirme que le chatbot d’IA « Ed » du LAUSD, facturé 6 M$, a envoyé des données d’élèves à l’étranger avant l’effondrement de son éditeur AllHere · École
• 12 juin 2024Un adolescent arrêté après la circulation d'images explicites générées par IA d'une cinquantaine d'élèves filles du Bacchus Marsh Grammar · En ligne
• 12 juin 2024Melbourne : un élève exclu pour avoir créé par IA des images sexuellement explicites d'une enseignante du Salesian College · École
• 11 juin 2024La police turque incarcère un candidat au concours d'entrée à l'université qui utilisait une caméra-bouton et une IA pour obtenir les réponses · École
• 24 mai 2024Chili : le parquet ouvre une enquête après que six élèves ont diffusé des images dénudées de sept camarades générées par IA · École
• 8 mars 2024Le district de Beverly Hills exclut définitivement cinq élèves de huitième année après la création d'images de nus par IA de 16 camarades · École
• 17 janv. 2024Un directeur sportif piège le proviseur du lycée de Pikesville avec un faux enregistrement audio raciste et antisémite généré par IA · École
• 18 déc. 2023Le WAEC retient les résultats du WASSCE de candidats de 235 établissements ghanéens en raison de réponses générées par IA · École
• 16 déc. 2023Deux collégiens de Miami, âgés de 13 et 14 ans, poursuivis pour des felonies après la création d'images de nus par IA de leurs camarades · École
• 15 déc. 2023Des photos de nus de mineures générées par IA au Collège Béliveau de Winnipeg circulent en ligne ; aucune accusation portée · En ligne
• 3 nov. 2023La police de Rio enquête sur de faux nus générés par IA représentant une vingtaine de filles, réalisés par des camarades dans une école de Barra da Tijuca · École
• 2 nov. 2023Des élèves du lycée Westfield High School auraient utilisé l'IA pour créer des images pornographiques de camarades · École
• 16 oct. 2023L'IPN exclut un étudiant accusé d'avoir transformé par IA des photos de camarades en contenus sexuels ; il est ensuite incarcéré · Université
• 6 oct. 2023Royaume-Uni : l'ICO adresse à Snap un avis d'exécution préliminaire concernant les risques de My AI pour la vie privée des enfants · En ligne
• 4 oct. 2023Équateur : le parquet enquête sur des montages sexuels par IA visant 20 à 24 écolières d'un établissement privé de Quito · École
• 19 sept. 2023Une application d'IA de « déshabillage » utilisée pour fabriquer de faux nus de plus de 20 écolières à Almendralejo ; 15 mineurs condamnés par la suite · École
• 29 août 2023Pérou : le parquet enquête sur deux collégiens de Lima accusés de vendre des nus fabriqués par IA de leurs camarades · École
• 18 mai 2023Un enseignant de Texas A&M-Commerce demande à ChatGPT s'il a rédigé des dissertations, puis retient les notes d'étudiants de dernière année signalés · Université
• 13 avr. 2023Le service de swatting Torswats utilise des voix synthétiques pour téléphoner des menaces d'attentat et de fusillade à des lycées américains · En ligne
• 17 févr. 2023Des lycéens publient sur TikTok des deepfakes par IA d'un chef d'établissement de Carmel (New York) tenant des propos menaçants et racistes · École
• 3 févr. 2023L'autorité italienne de protection de la vie privée ordonne à Replika de cesser le traitement des données des utilisateurs italiens, en invoquant des risques pour les mineurs · En ligne