Предиктивная полиция: сможешь ли ты разгадать алгоритм?

Исследование, опубликованное в апреле 2025 года на портале arXiv, выявляет, что алгоритмы машинного обучения усиливают предубеждения, содержащиеся в исторических полицейских данных. Это создает порочный круг «смещения отбора», когда прогнозы основываются на паттернах прошлых арестов, а не на реальном уровне преступности.

Когда алгоритм предсказывает преступления в районе X, полиция усиливает там патрулирование. В результате офицеры, находясь на месте, фиксируют больше нарушений. Эти данные затем поступают обратно в систему, что приводит к "подтверждению" первоначального прогноза. Таким образом, система самостоятельно создаёт доказательства своей правоты, независимо от реального уровня преступности в районе.

Согласно статье The Guardian, опубликованной в апреле 2025 года, "эффект черного ящика" относится к сложности понимания того, как сложные алгоритмы (особенно в глубоком обучении) приходят к тому или иному выводу. Внутренняя работа системы настолько запутана, что даже ее создатели не всегда могут четко объяснить, почему был выдан конкретный прогноз. Это создает серьезные проблемы для правосудия, поскольку подрывает право человека на справедливое судебное разбирательство и оспаривание доказательств, использованных против него.

Согласно статье, опубликованной на портале IGNESA в августе 2024 года, предиктивные системы эффективны для прогнозирования преступлений с четкими пространственно-временными закономерностями. Бытовые преступления, возникающие из личных конфликтов, не поддаются прогнозированию, поскольку не имеют устойчивых паттернов и часто совершаются в частных пространствах, не охваченных полицейской статистикой.

Системы вроде PredPol показывают свои прогнозы на карте, где красным или оранжевым цветом выделены небольшие участки с высокой вероятностью преступлений. Это помогает полиции направлять патрули именно в эти "горячие точки" в определенное время.