🤔 🚨 Полиция Бристоля отказалась от ИИ-оценки рисков
Полиция Эйвона и Сомерсета вместе с городским советом Бристоля перестала использовать две ИИ-модели для оценки риска преступлений против детей. Причина — системы оказались неточными, а проверить их работу было почти невозможно.
Независимые аудиторы не смогли найти ни исходный код, ни список переменных, на основе которых модели делали выводы. Как пишет WIRED, это выяснилось после анализа сотен страниц документов.
– Модели показали низкую точность в реальной работе
– Разработчики не предоставили прозрачной документации
– Аудит упёрся в стену: код и метрики оказались закрыты
Кейс вышел на фоне запуска PoliceAI — национального центра для тестирования ИИ-инструментов в полиции Англии и Уэльса. Прежде чем внедрять алгоритмы, нужно научиться их проверять. Иначе «умная» система рискует стать дорогой и опасной игрушкой.
