MIT AI Risk InitiativeSept domaines de risqueDomaine 1

Discrimination et contenus toxiques

Hors de ce que nous mesuronsAucun dossier correspondant pour l’instant.

Le domaine de risque

Une IA qui traite injustement certains groupes, fonctionne moins bien pour certains d’entre eux, ou expose des personnes à des contenus nuisibles comme les discours de haine ou les images abusives.

Paraphrase de la source. Source: The AI Risk Repository: A Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence, MIT AI Risk Initiative, 14 août 2024, domaine 1, tableau 2, page 8. Synthèse par MIT AI Risk Initiative: airisk.mit.edu.

Ce que montre le registre

Pour l’essentiel hors du champ d’un registre de sécurité : les biais et les performances inégales ne sont pas des incidents de sécurité. Quelques dossiers touchent aux images abusives, comme des vidéos explicites d’une chanteuse créées par l’IA.

Un risque qu’un registre d’incidents de sécurité ne peut pas mesurer.

Historique du statut

Date	Statut	Dossiers correspondants	Changement
18 oct. 2026	Hors de ce que nous mesurons	0	Début du suivi

Suivi depuis le 18 oct. 2026. Une ligne est ajoutée quand le statut change, quand le premier cas réel est rattaché, et une fois par mois : l’historique montre ainsi quand un avertissement est passé de la recherche à la réalité. research_history.json

Tous les dossiers correspondants

Aucun dossier correspondant pour l’instant.

Autres mises en garde de ce groupe

Observée dans des incidents réels Vie privée et sécurité
Signes précoces Mésinformation
Observée dans des incidents réels Acteurs malveillants et usages abusifs
Observée dans des incidents réels Interaction humain-machine
Hors de ce que nous mesurons Préjudices socio-économiques et environnementaux
Observée dans des incidents réels Sûreté des systèmes d’IA, défaillances et limites

Recherche et réalité · MIT AI Risk Repository →

Notre méthode d’association : un dossier est rattaché à une mise en garde lorsque ce qui s’est passé est une illustration réelle du risque décrit par la source, selon l’appréciation de la rédaction à partir des faits du dossier. Une association signifie que le cas correspond à la mise en garde, pas qu’il prouve l’argumentation plus large de la source. Les allégations formulées dans les procès sont signalées comme des allégations. Les statuts sont éditoriaux et réexaminés à mesure que de nouveaux cas arrivent. Les associations sont recalculées à chaque mise à jour. Données : La couverture systématique du registre commence en 2025 : la date du premier cas indique quand le registre a consigné le risque pour la première fois, pas quand il s’est produit pour la première fois. research.json (CC BY 4.0)