Expediente texas-am-commerce-chatgpt-false-accusationFallo de herramienta de IAEstados Unidos
Un profesor de Texas A&M-Commerce pregunta a ChatGPT si escribió unos ensayos y luego retiene las calificaciones de estudiantes del último curso señalados
Un profesor pegó ensayos de estudiantes en ChatGPT, le preguntó si los había escrito y asignó un cero o una calificación incompleta a los estudiantes señalados, con lo que los diplomas de algunos estudiantes a punto de graduarse quedaron en suspenso. ChatGPT no puede detectar de forma fiable texto generado por IA; la universidad indicó que varios estudiantes quedaron exonerados, que uno admitió haber usado ChatGPT y que nadie suspendió ni se vio impedido de graduarse.
MediaDaño causado por la IAEstado: ResueltoExpediente verificado
Abrir en el mapa interactivoCitar este expediente
- Reportado
- 18 may 2023
- Ubicación
- Estados Unidos
- Objetivo
- Estudiantes de una clase de ciencia animal en Texas A&M University-Commerce
- Gravedad
- Media
- Verificación
- Confirmado por la víctima, el proveedor o una autoridad
- Provocado por
- ChatGPT, utilizado por un profesor como detector de texto generado por IA
- Tipo de actor
- Diseño del producto de IA / salvaguardas
- Sector
- Educación e investigación
- Pérdida reportada
- Ninguna reportada
- CVE
- Ninguno
Qué ocurrió
Un profesor pegó ensayos de estudiantes en ChatGPT, le preguntó si los había escrito y asignó un cero o una calificación incompleta a los estudiantes señalados, con lo que los diplomas de algunos estudiantes a punto de graduarse quedaron en suspenso. ChatGPT no puede detectar de forma fiable texto generado por IA; la universidad indicó que varios estudiantes quedaron exonerados, que uno admitió haber usado ChatGPT y que nadie suspendió ni se vio impedido de graduarse.
Impacto: Calificaciones y diplomas de estudiantes a punto de graduarse retenidos temporalmente
Quién lo provocó
Actor: ChatGPT, utilizado por un profesor como detector de texto generado por IA
Atribución: Comunicado de Texas A&M University-Commerce; reportaje de The Washington Post
Motivo: Ninguno (uso indebido de la IA como detector)
Cómo ocurrió
Vector de ataque: Se pidió a un chatbot que juzgara la autoría de trabajos de estudiantes
Causa raíz: Confianza en la afirmación poco fiable de un chatbot sobre la autoría como prueba de trampa
Cronología
- Se informa de las acusaciones y de la retención de diplomas; la universidad emite un comunicado
Respuesta
La universidad investigó caso por caso, exoneró a varios estudiantes y comenzó a elaborar políticas sobre IA
Estado actual: Resuelto
Fuentes (pestaña nueva)
- The Washington Post via Anchorage Daily News adn.com
- Interesting Engineering interestingengineering.com
Citar este expediente
Un profesor de Texas A&M-Commerce pregunta a ChatGPT si escribió unos ensayos y luego retiene las calificaciones de estudiantes del último curso señalados. AI Threat Watch, expediente texas-am-commerce-chatgpt-false-accusation, 18 may 2023. https://aithreat.io/es/cases/texas-am-commerce-chatgpt-false-accusation/
Enlace permanente: https://aithreat.io/es/cases/texas-am-commerce-chatgpt-false-accusation/
Casos relacionados
El mismo tipo de incidente, del más reciente al más antiguo.