Dossier texas-am-commerce-chatgpt-false-accusationDéfaillance d’un outil d’IAÉtats-Unis
Un enseignant de Texas A&M-Commerce demande à ChatGPT s'il a rédigé des dissertations, puis retient les notes d'étudiants de dernière année signalés
Un enseignant a collé des dissertations d'étudiants dans ChatGPT en lui demandant s'il les avait écrites, puis a attribué un zéro ou une note d'incomplet aux étudiants signalés, mettant en suspens le diplôme de certains étudiants en dernière année. ChatGPT ne peut pas détecter de manière fiable un texte généré par IA ; l'université a indiqué que plusieurs étudiants avaient été innocentés, qu'un avait admis avoir utilisé ChatGPT, et que personne n'avait échoué ni été empêché d'obtenir son diplôme.
MoyennePréjudice causé par l’IAStatut: RésoluDossier vérifié
Ouvrir dans la carte interactiveCiter ce dossier
- Signalé le
- 18 mai 2023
- Lieu
- États-Unis
- Cible
- Étudiants d'un cours de sciences animales à la Texas A&M University-Commerce
- Gravité
- Moyenne
- Vérification
- Confirmé par la victime, l’éditeur ou une autorité
- Déclenché par
- ChatGPT utilisé par un enseignant comme détecteur de textes générés par IA
- Type d’acteur
- Conception du produit IA / garde-fous
- Secteur
- Éducation et recherche
- Perte déclarée
- Aucune déclarée
- CVE
- Aucun
Ce qui s’est passé
Un enseignant a collé des dissertations d'étudiants dans ChatGPT en lui demandant s'il les avait écrites, puis a attribué un zéro ou une note d'incomplet aux étudiants signalés, mettant en suspens le diplôme de certains étudiants en dernière année. ChatGPT ne peut pas détecter de manière fiable un texte généré par IA ; l'université a indiqué que plusieurs étudiants avaient été innocentés, qu'un avait admis avoir utilisé ChatGPT, et que personne n'avait échoué ni été empêché d'obtenir son diplôme.
Impact: Notes et diplômes d'étudiants en dernière année temporairement retenus
Qui l’a déclenché
Acteur: ChatGPT utilisé par un enseignant comme détecteur de textes générés par IA
Attribution: Communiqué de la Texas A&M University-Commerce ; reportage du Washington Post
Mobile: Aucun (mauvais usage de l'IA comme détecteur)
Comment c’est arrivé
Vecteur d’attaque: Chatbot sollicité pour juger de la paternité de travaux d'étudiants
Cause racine: Recours à l'affirmation peu fiable d'un chatbot sur la paternité d'un texte comme preuve de tricherie
Chronologie
- Les accusations et la retenue des diplômes sont rapportées ; l'université publie un communiqué
Réponse
L'université a examiné les dossiers au cas par cas, innocenté plusieurs étudiants et commencé à élaborer des politiques sur l'IA
Statut actuel: Résolu
Sources (nouvel onglet)
- The Washington Post via Anchorage Daily News adn.com
- Interesting Engineering interestingengineering.com
Citer ce dossier
Un enseignant de Texas A&M-Commerce demande à ChatGPT s'il a rédigé des dissertations, puis retient les notes d'étudiants de dernière année signalés. AI Threat Watch, dossier texas-am-commerce-chatgpt-false-accusation, 18 mai 2023. https://aithreat.io/fr/cases/texas-am-commerce-chatgpt-false-accusation/
Lien permanent: https://aithreat.io/fr/cases/texas-am-commerce-chatgpt-false-accusation/
Dossiers liés
Le même type d'incident, du plus récent au plus ancien.