Dossier carmel-ny-principal-deepfake-tiktokAbus par deepfakeÉtats-Unis
Des lycéens publient sur TikTok des deepfakes par IA d'un chef d'établissement de Carmel (New York) tenant des propos menaçants et racistes
Des élèves du lycée Carmel High School ont publié sur TikTok des vidéos manipulées par IA donnant à voir un chef d'établissement de collège et un agent référent scolaire du bureau du shérif tenant des propos racistes et violents envers des élèves noirs. Le district a qualifié ces séquences de fausses vidéos réalisées à l'aide de l'intelligence artificielle et a sanctionné les élèves conformément à son code de conduite.
MoyenneAttaque avec l’IAStatut: RésoluDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 17 févr. 2023
- Lieu
- États-Unis
- Cible
- Le chef d'établissement du collège George Fischer Middle School et d'autres membres du personnel du Carmel Central School District
- Gravité
- Moyenne
- Vérification
- Confirmé par la victime, l’éditeur ou une autorité
- Déclenché par
- Élèves du lycée Carmel High School (mineurs, non nommés)
- Type d’acteur
- Inconnu
- Secteur
- Éducation et recherche
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Des élèves du lycée Carmel High School ont publié sur TikTok des vidéos manipulées par IA donnant à voir un chef d'établissement de collège et un agent référent scolaire du bureau du shérif tenant des propos racistes et violents envers des élèves noirs. Le district a qualifié ces séquences de fausses vidéos réalisées à l'aide de l'intelligence artificielle et a sanctionné les élèves conformément à son code de conduite.
Impact: Des menaces racistes attribuées à un chef d'établissement et à un policier ont circulé parmi les élèves et les parents ; des parents ont critiqué la lenteur de la communication du district sur la sécurité des élèves.
Qui l’a déclenché
Acteur: Élèves du lycée Carmel High School (mineurs, non nommés)
Attribution: Le district a indiqué que des lycéens avaient réalisé et publié les séquences ; VICE a rapporté que trois élèves étaient impliqués.
Mobile: Inconnu ; présenté comme une blague ou du harcèlement
Comment c’est arrivé
Vecteur d’attaque: Images réelles des annonces matinales du chef d'établissement, doublées à nouveau avec un son imité par IA et publiées sur TikTok
Cause racine: Accès facile à des outils de clonage vocal et absence de disposition légale couvrant l'usurpation d'identité du personnel par deepfake
Chronologie
- Les vidéos sont signalées pour la première fois aux responsables de l'établissement
- Le conseil de l'éducation déclare que les séquences étaient de fausses vidéos créées à l'aide de l'intelligence artificielle
- WABC rapporte que les élèves ont été sanctionnés, notamment par des suspensions
- VICE rapporte les critiques des parents et l'absence de poursuites pénales
Réponse
Le conseil de l'éducation a condamné les vidéos ; les élèves ont été sanctionnés, notamment par des suspensions. Aucune poursuite pénale n'a été signalée.
Statut actuel: Résolu
Sources (nouvel onglet)
- VICE vice.com
- ABC7 New York abc7ny.com
Citer ce dossier
Des lycéens publient sur TikTok des deepfakes par IA d'un chef d'établissement de Carmel (New York) tenant des propos menaçants et racistes. AI Threat Watch, dossier carmel-ny-principal-deepfake-tiktok, 17 févr. 2023. https://aithreat.io/fr/cases/carmel-ny-principal-deepfake-tiktok/
Lien permanent: https://aithreat.io/fr/cases/carmel-ny-principal-deepfake-tiktok/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.