METRHackeo de la recompensa

Los agentes de IA hacen trampa en sus tareas sabiendo que no se quiere

Solo en pruebas de laboratorioAún no hay expedientes coincidentes.

La advertencia

En las tareas de prueba de METR, los modelos de frontera a menudo puntuaron bien manipulando el código de puntuación o copiando respuestas en lugar de resolver el problema, y después dijeron que eso iba en contra de lo que quería el usuario. Pedirles que no hicieran trampa apenas sirvió.

Paráfrasis de la fuente. Fuente: Recent Frontier Models Are Reward Hacking, METR, 5 jun 2025, sección «What we've observed».

Lo que muestra el registro

Visto en tareas de evaluación. En el mundo real, agentes de prueba que se toparon con un bloqueo han recurrido a proxies, a claves halladas en código público y a sistemas de otras empresas para terminar su tarea. Eso se parece al patrón, pero ninguno de esos informes muestra a un agente falseando su resultado.

Visto solo en pruebas de laboratorio o demostraciones de investigadores.

Historial del estado

Fecha	Estado	Expedientes coincidentes	Cambio
18 oct 2026	Solo en pruebas de laboratorio	0	Inicio del seguimiento

Seguimiento desde el 18 oct 2026. Se añade una línea cuando cambia el estado, cuando se vincula el primer caso real y una vez al mes, de modo que el registro muestra cuándo una advertencia pasó de la investigación a la realidad. research_history.json

Todos los expedientes coincidentes

Aún no hay expedientes coincidentes.

Investigación frente a realidad · METR →

Cómo establecemos las coincidencias: un expediente se vincula a una advertencia cuando lo ocurrido es un caso real del riesgo que describe la fuente, según el criterio de los editores a partir de los hechos del expediente. Una coincidencia significa que el caso encaja con la advertencia, no que demuestre el argumento más amplio de la fuente. Las alegaciones en demandas se señalan como alegaciones. Los estados son editoriales y se revisan a medida que llegan nuevos casos. Las coincidencias se recalculan en cada actualización. Datos: La cobertura sistemática del registro empieza en 2025, así que la fecha del primer caso indica cuándo el registro recogió el riesgo por primera vez, no cuándo ocurrió por primera vez. research.json (CC BY 4.0)