Уряд Великої Британії розробляє суперечливий Інструмент передбачення вбивств, що базується на штучному інтелекті

Уряд Великої Британії працює над суперечливим проєктом, який за допомогою штучного інтелекту спробує передбачити, хто може скоїти вбивство у майбутньому.

Про існування програми стало відомо завдяки запитам на інформацію відповідно до закону про свободу інформації, які отримала група-спостерігач Statewatch.

Їхні висновки вказують на те, що використовується чутлива особиста інформація. Серед неї – медичні записи, інформація про психічне здоров’я, історія залежностей, а також дані про людей, які не були засуджені за жодні злочини.

Statewatch повідомляє, що цей план очолює Міністерство юстиції (MoJ), яке аналізує існуючі записи органів влади про людей, щоб запобігти вчиненню серйозних злочинів.

Початково названий проект “прогнозування вбивств”, зараз він називається “обмін даними для поліпшення оцінки ризику”. Наразі проект перебуває в стадії досліджень, але активісти та захисники приватності висловлюють свої стурбованість, як повідомляє Statewatch.

Однак, офіційники це заперечують. The Guardian повідомляє, що речник Міністерства юстиції заявив: “Цей проект проводиться лише для дослідницьких цілей. Він був розроблений за допомогою існуючих даних, якими володіє Відомство в’язниць та умовного засудження Її Величності та поліцейські сили щодо засуджених злочинців, щоб допомогти нам краще розуміти ризик вчинення серйозного насильства людьми, які перебувають на умовному засудженні. Звіт буде опубліковано в найближчий час.”

Згідно з інформацією від Statewatch, поліція в Більшому Манчестері поділилася даними про близько півмільйона людей. Це включає жертв, підозрюваних, а також осіб, що опинилися в уразливих ситуаціях.

Софія Лайял, дослідниця з Statewatch, жорстко критикувала проект, говорячи: “Спроба Міністерства юстиції створити цю систему прогнозування вбивств – це останній страшний та дистопічний приклад наміру уряду розробляти так звані системи ‘прогнозування’ злочинів”.

Вона попереджала, що система посилить расову та класову дискримінацію: “Ця остання модель, яка використовує дані від нашої поліції та Міністерства внутрішніх справ, заховані за інституційним расизмом, посилить та збільшить структурну дискримінацію, що лежить в основі кримінальної правової системи.”

“Використання таких чутливих даних про психічне здоров’я, залежність та інвалідність є вкрай вторгненням в приватне життя і непокоїть,” – додала вона.

Уряд стверджує, що такі інструменти можуть поліпшити роботу служб умовно-досудового контролю з оцінки ризику та запобігання насильницьким злочинам. Однак критики говорять, є ризик, що через недоліки та упередженість даних система може неправильно позначати людей як потенційних вбивць.

Уряд стверджує, що ці інструменти допоможуть службам умовно-досудового контролю краще оцінювати ризик та запобігати вчиненню насильницьких злочинів. Критики, однак, попереджають, є ризик, що система може помилково підозрювати людей у потенційному вбивстві через погані та упереджені дані.

Хоча система досі знаходиться у стадії розробки, Statewatch повідомляє, що в документах згадується про “майбутнє впровадження” цієї системи, що викликає обговорення щодо можливості її найближчого використання в реальних поліцейських рішеннях.