Развитие систем искусственного интеллекта в правоохранительных органах привело к возникновению опасного феномена: полиция все чаще принимает вероятностные выводы алгоритмов за неоспоримые факты. Ошибки ИИ уже становятся причиной травмирующих задержаний и длительных тюремных заключений для невиновных граждан.
Содержание
Реальные последствия алгоритмических галлюцинаций
В октябре 2025 года в штате Мэриленд 17-летний студент Таки Аллен был задержан полицией после того, как камера наблюдения с поддержкой ИИ ошибочно идентифицировала пачку чипсов в его кармане как огнестрельное оружие. Подростка заставили встать на колени под прицелом пистолетов, однако обыск показал, что «угрозой» был обычный пакет Doritos.
Другой инцидент произошел с Анджелой Липпс из Теннесси, которая провела пять месяцев в тюрьме. Система распознавания лиц неверно связала ее с мошенничеством в Северной Дакоте — штате, в котором женщина никогда не бывала. Ее арестовали, когда она присматривала за четырьмя внуками.
В обзоре экспертов из Университета Вирджинии отмечается, что проблема кроется в самой природе ИИ. Системы выдают лишь статистическую вероятность, но люди на местах склонны воспринимать эти данные как абсолютную истину.
Вероятность против фактов
Современные модели, такие как ChatGPT или Claude, не ищут информацию в базе данных в привычном понимании. Они предсказывают наиболее вероятный ответ на основе паттернов в обучающих данных. Этот принцип работы, называемый генеративным ИИ, применим и к полицейским инструментам:
- Алгоритмы анализируют исторические данные о преступности и вычисляют «горячие точки» на карте.
- Системы оценивают вероятность нахождения преступника в определенном районе.
- Программы распознавания лиц ищут похожие черты, присваивая совпадению определенный коэффициент уверенности.
По мнению исследователей, как только система подает сигнал о возможной угрозе, вопрос о степени достоверности прогноза часто отходит на второй план. Статистический показатель мгновенно превращается в оперативное решение о задержании.
Проблема «порога уверенности»
ИИ-системы редко дают бинарный ответ «да» или «нет». Вместо этого инженеры устанавливают порог уверенности — уровень чувствительности алгоритма. Если порог установлен низко, система будет находить больше потенциальных угроз, но число ложных срабатываний резко возрастет. Высокий порог снижает риск ошибок, но может привести к пропуску реальной опасности.
В медицине подобные настройки регулируются строгими этическими нормами и профессиональными стандартами. Например, диагностические инструменты могут быть откалиброваны на избыточное обнаружение инфекций, чтобы не пропустить больного, но за этим всегда следует проверка врачом-специалистом. В полицейской практике такие алгоритмические настройки часто остаются скрытыми от общественности и не подвергаются внешнему аудиту.
Юридические стандарты в эпоху технологий
Правовая система опирается на четкие стандарты доказывания, такие как «обоснованное подозрение» или «отсутствие разумных сомнений». В отличие от человека, модель ИИ обычно не сообщает о своих сомнениях — она выдает результат с определенной степенью математической уверенности, даже если этот результат неверен.
Специалисты по праву и государственному управлению подчеркивают, что разработчики должны создавать системы, способные открыто демонстрировать неопределенность своих выводов. В демократическом обществе решение о применении силы или ограничении свободы должно оставаться за человеком, понимающим разницу между статистическим прогнозом и доказанным фактом.
