Досье texas-am-commerce-chatgpt-false-accusationСбой ИИ-инструмента18 мая 2023США

Преподаватель Texas A&M-Commerce спросил ChatGPT, не он ли написал эссе, и задержал оценки у выпускников, попавших под подозрение

Преподаватель вставил эссе студентов в ChatGPT, спросил, не писал ли их чат-бот, и поставил отмеченным студентам ноль или неполную оценку, из-за чего выдача дипломов некоторым выпускникам была приостановлена. ChatGPT не способен надёжно распознавать текст, написанный ИИ; в университете заявили, что с нескольких студентов обвинения сняли, один признался в использовании ChatGPT, а никто не получил неудовлетворительную оценку и не был лишён права на выпуск.

СредняяВред, причинённый ИИСтатус: УстранёнПроверенное досье

Открыть на интерактивной карте Цитировать это досье

Дата сообщения: 18 мая 2023
Локация: США
Цель: Студенты курса по зоотехнике в Texas A&M University-Commerce
Критичность: Средняя
Проверка: Подтверждено жертвой, вендором или ведомством
Инициатор: ChatGPT, использованный преподавателем в качестве детектора ИИ-текста
Тип субъекта: Дизайн ИИ-продукта / защитные механизмы
Сектор: Образование и наука
Заявленные убытки: Не заявлены
CVE: Нет

Что произошло

Последствия: Оценки и дипломы выпускников временно задержаны

Кто стоит за инцидентом

Субъект: ChatGPT, использованный преподавателем в качестве детектора ИИ-текста

Атрибуция: Заявление Texas A&M University-Commerce; материалы Washington Post

Мотив: Отсутствует (неверное использование ИИ в качестве детектора)

Как это произошло

Вектор атаки: Чат-боту предложили определить авторство студенческих работ

Первопричина: Опора на ненадёжное утверждение чат-бота об авторстве как на доказательство списывания

Хронология

18 мая 2023Сообщения об обвинениях и задержке дипломов; университет публикует заявление

Реагирование

Университет разбирал каждый случай отдельно, снял обвинения с нескольких студентов и приступил к разработке политик по использованию ИИ

Текущий статус: Устранён

Источники (открываются в новой вкладке)

The Washington Post via Anchorage Daily News adn.com
Interesting Engineering interestingengineering.com

Цитировать это досье

Преподаватель Texas A&M-Commerce спросил ChatGPT, не он ли написал эссе, и задержал оценки у выпускников, попавших под подозрение. AI Threat Watch, досье texas-am-commerce-chatgpt-false-accusation, 18 мая 2023. https://aithreat.io/ru/cases/texas-am-commerce-chatgpt-false-accusation/

Постоянная ссылка: https://aithreat.io/ru/cases/texas-am-commerce-chatgpt-false-accusation/