MIT AI Risk InitiativeSiete dominios de riesgoDominio 1

Discriminación y contenido tóxico

Fuera de lo que medimosAún no hay expedientes coincidentes.

El dominio de riesgo

IA que trata a grupos de forma injusta, funciona peor para algunos grupos o expone a las personas a contenido dañino como discursos de odio o imágenes abusivas.

Paráfrasis de la fuente. Fuente: The AI Risk Repository: A Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence, MIT AI Risk Initiative, 14 ago 2024, dominio 1, tabla 2, página 8. Resumen publicado por MIT AI Risk Initiative: airisk.mit.edu.

Lo que muestra el registro

Sobre todo fuera del ámbito de un registro de seguridad: el sesgo y el rendimiento desigual no son incidentes de seguridad. Algunos expedientes tocan las imágenes abusivas, como vídeos explícitos de una cantante creados con IA.

Un riesgo que un registro de incidentes de seguridad no puede medir.

Historial del estado

Fecha	Estado	Expedientes coincidentes	Cambio
18 oct 2026	Fuera de lo que medimos	0	Inicio del seguimiento

Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json

Todos los expedientes coincidentes

Aún no hay expedientes coincidentes.

Otras advertencias de este grupo

Vista en incidentes reales Privacidad y seguridad
Señales tempranas Información errónea
Vista en incidentes reales Actores maliciosos y uso indebido
Vista en incidentes reales Interacción persona-ordenador
Fuera de lo que medimos Daños socioeconómicos y ambientales
Vista en incidentes reales Seguridad de los sistemas de IA, fallos y limitaciones

Investigación frente a realidad · MIT AI Risk Repository →

Cómo establecemos las coincidencias: un expediente se vincula a una advertencia cuando lo ocurrido es un caso real del riesgo que describe la fuente, según el criterio de los editores a partir de los hechos del expediente. Una coincidencia significa que el caso encaja con la advertencia, no que demuestre el argumento más amplio de la fuente. Las alegaciones en demandas se señalan como alegaciones. Los estados son editoriales y se revisan a medida que llegan nuevos casos. Las coincidencias se recalculan en cada actualización. Datos: La cobertura sistemática del registro empieza en 2025, así que la fecha del primer caso indica cuándo el registro recogió el riesgo por primera vez, no cuándo ocurrió por primera vez. research.json (CC BY 4.0)