Досье evolv-ftc-school-weapons-scannerСбой ИИ-инструмента26 нояб. 2024США

FTC принимает меры против Evolv: ИИ-сканеры оружия не обнаружили нож, которым в школе ударили ученика

Федеральная торговая комиссия США (FTC) утверждает, что Evolv ввела клиентов в заблуждение, заявляя, будто её сканеры Evolv Express на базе ИИ обнаруживают любое оружие, и приводит случай октября 2022 года, когда в школе не был обнаружен семидюймовый нож, которым затем ударили ученика. Evolv обязана позволить некоторым клиентам из сегмента K-12 расторгнуть контракты, и ей запрещено делать необоснованные заявления об обнаружении с помощью ИИ.

ВысокаяВред, причинённый ИИСтатус: УстранёнПроверенное досье

Открыть на интерактивной карте Цитировать это досье

Дата сообщения: 26 нояб. 2024
Локация: США
Цель: Школы K-12, использующие ИИ-сканеры оружия Evolv Express (более 800 школ)
Критичность: Высокая
Проверка: Подтверждено жертвой, вендором или ведомством
Инициатор: Evolv Technologies
Тип субъекта: Дизайн ИИ-продукта / защитные механизмы
Сектор: Образование и наука
Заявленные убытки: Не заявлены
CVE: Нет

Что произошло

Последствия: Ученика ударили ножом, который сканер не обнаружил; школы оказались связаны многолетними контрактами; доля ложных срабатываний достигала 50% после повышения чувствительности

Кто стоит за инцидентом

Субъект: Evolv Technologies

Атрибуция: Жалоба Федеральной торговой комиссии США и приказ, согласованный сторонами

Мотив: Коммерческий (завышение возможностей ИИ)

Как это произошло

Вектор атаки: ИИ-досмотр на оружие на входах в школы

Первопричина: Сканеры пропускали оружие и давали много ложных срабатываний, хотя продавались как точные благодаря ИИ

Хронология

1 окт. 2022Сканер пропускает нож, которым позже в школе ударили ученика (сообщается только месяц)
26 нояб. 2024FTC объявляет о подаче жалобы и предлагаемом мировом соглашении

Реагирование

Предложенный приказ позволяет клиентам K-12, подписавшим контракты с апреля 2022 по июнь 2023 года, расторгнуть их; денежной компенсации не предусмотрено

Текущий статус: Устранён

Источники (открываются в новой вкладке)

US Federal Trade Commission ftc.gov
KSL ksl.com

Цитировать это досье

FTC принимает меры против Evolv: ИИ-сканеры оружия не обнаружили нож, которым в школе ударили ученика. AI Threat Watch, досье evolv-ftc-school-weapons-scanner, 26 нояб. 2024. https://aithreat.io/ru/cases/evolv-ftc-school-weapons-scanner/

Постоянная ссылка: https://aithreat.io/ru/cases/evolv-ftc-school-weapons-scanner/