案例 texas-am-commerce-chatgpt-false-accusationAI 工具误判2023年5月18日美国

Texas A&M-Commerce 一名讲师询问 ChatGPT 论文是否为其所写，随后扣留被标记的毕业班学生的成绩

一名讲师将学生的论文粘贴到 ChatGPT 中，询问是否由其撰写，并给被标记的学生打零分或记为未完成，导致部分毕业班学生的毕业证被搁置。ChatGPT 无法可靠地检测 AI 文本；校方称有数名学生已被证明清白，一名学生承认使用了 ChatGPT，没有人挂科或被禁止毕业。

中AI 造成的伤害状态: 已解决已核实案例档案

在交互式地图中打开引用此案例

报道日期: 2023年5月18日
地点: 美国
目标: Texas A&M University-Commerce 动物科学课程的学生
严重程度: 中
核实状态: 经受害方、厂商或官方确认
发起者: 被一名讲师用作 AI 文本检测器的 ChatGPT
行为者类型: AI 产品设计 / 安全防护
行业: 教育与科研
已报告损失: 未报告
CVE: 无

发生了什么

影响: 毕业班学生的成绩和毕业证被暂时扣留

谁发起了攻击

行为者: 被一名讲师用作 AI 文本检测器的 ChatGPT

归因: Texas A&M University-Commerce 的声明；《华盛顿邮报》（Washington Post）的报道

动机: 无（将 AI 误用作检测器）

如何发生

攻击途径: 让聊天机器人判断学生作业的作者身份

根本原因: 依赖聊天机器人关于作者身份的不可靠说法，并将其作为作弊证据

时间线

2023年5月18日指控和毕业证被搁置的情况被报道；校方发表声明

应对

校方逐案调查，证明数名学生清白，并开始制定 AI 政策

当前状态: 已解决

来源（在新标签页打开）

The Washington Post via Anchorage Daily News adn.com
Interesting Engineering interestingengineering.com

引用此案例

Texas A&M-Commerce 一名讲师询问 ChatGPT 论文是否为其所写，随后扣留被标记的毕业班学生的成绩. AI Threat Watch, 案例 texas-am-commerce-chatgpt-false-accusation, 2023年5月18日. https://aithreat.io/zh/cases/texas-am-commerce-chatgpt-false-accusation/

永久链接: https://aithreat.io/zh/cases/texas-am-commerce-chatgpt-false-accusation/