Мичиган внедряет ИИ-платформу Recidiviz для классификации заключенных

Департамент исправительных учреждений штата Мичиган начинает пилотное использование программного обеспечения от некоммерческой организации Recidiviz. Данная платформа, изначально зародившаяся как проект компании Google, предназначена для стандартизации данных в сфере уголовного правосудия. С декабря текущего года система внедряется в нескольких мужских тюрьмах штата для распределения осужденных.

• С декабря в мужских тюрьмах Мичигана запускается ИИ-платформа Recidiviz.
• Алгоритм распределяет заключенных по пяти уровням режима и программам.
• Разработчики заявляют о росте точности прогноза на 30%, но методика скрыта.
• Критики опасаются алгоритмической предвзятости и дискриминации.

Принцип работы новой системы и замена комиссий

Раньше вопросы перевода и определения условий содержания заключенных решались специальной комиссией сотрудников тюрьмы, назначаемых ее начальником. Теперь же ключевым фактором в оптимизации размещения станет искусственный интеллект. Программа будет классифицировать людей по пяти уровням режима содержания, определяя их окружение и доступ к программам реабилитации на весь срок пребывания.

Представители ведомства утверждают, что внедрение ИИ способно улучшить прогнозирование риска насилия примерно на 30 процентов. Тем не менее, официальные лица пока отказываются раскрывать детальную информацию о том, на основе каких конкретно данных и метрик была получена эта оценка эффективности.

Риски алгоритмической предвзятости и прецеденты

Проблема использования искусственного интеллекта в пенитенциарной системе уже имеет тревожные прецеденты. Широко известное расследование издания ProPublica в Луизиане продемонстрировало сбои аналогичного ПО, когда 70-летний слепой инвалид-колясочник с идеальным дисциплинарным досье был ошибочно классифицирован как «умеренный риск» рецидива, что лишило его шансов на условно-досрочное освобождение.

Хотя разработчики мичиганской системы заявляют, что она нацелена лишь на распределение по корпусам, а не на прямое освобождение, независимые эксперты выражают серьезные опасения. Исторические данные, используемые для обучения алгоритмов, часто пронизаны социально-экономическими и расовыми искажениями, что может усилить общую несправедливость.

Цели разработчиков и вопросы к прозрачности проекта

Сама некоммерческая организация Recidiviz позиционирует свою миссию как создание инструментов для помощи заключенным. Платформа призвана выявлять лиц, имеющих законное право на образовательные программы, профессиональную переквалификацию или освобождение, а также координировать доступ к ресурсам вроде трудоустройства.

Однако полное отсутствие независимой валидации алгоритма и засекреченность методологии сбора данных оставляют открытым главный вопрос. Общественность и эксперты продолжают спорить о том, станет ли этот технологический шаг реальным инструментом гуманизации и реабилитации или превратится в скрытый механизм дискриминации.