UK-regeringen Utvecklar Kontroversiellt AI ‘Mordprognos’ Verktyg

Den brittiska regeringen arbetar på ett kontroversiellt projekt som använder AI för att förutsäga vem som kan komma att begå mord i framtiden.

Programmets existens kom i ljuset genom informationsfrihetsförfrågningar som erhölls av övervakningsgruppen Statewatch.

Deras rön antyder att känslig personlig information används. Detta inkluderar hälsojournaler, information om psykisk hälsa, missbruksanamnes och data om personer som inte har dömts för några brott.

Statewatch rapporterar att Justitieministeriet (MoJ) leder denna plan, genom att granska befintliga myndighetsregister över personer för att förhindra att allvarliga brott inträffar.

Ursprungligen döpt till ”mordprognosprojektet” kallas det nu för ”datadelning för att förbättra riskbedömning”. Projektet befinner sig för närvarande i en forskningsfas, men kampanjarbetare och integritetsförespråkare har uttryckt oro, som rapporterats av Statewatch.

Myndigheterna förnekar dock detta. The Guardian rapporterar att en talesperson för justitieministeriet uttalade: ”Detta projekt genomförs endast för forskningsändamål. Det har utformats med hjälp av befintliga data som HM Prison and Probation Service och polisstyrkor har om dömda brottslingar, för att hjälpa oss att bättre förstå risken för att personer på villkorlig frigivning kommer att begå allvarligt våld. En rapport kommer att publiceras inom en snar framtid.”

Enligt Statewatch delade polisen i Greater Manchester data om upp till en halv miljon människor. Detta inkluderade offer, misstänkta och människor i utsatta situationer.

Sofia Lyall, forskare på Statewatch, kritiserade starkt projektet och sa: ”Justitieministeriets försök att bygga detta mordsprognossystem är det senaste kusliga och dystopiska exemplet på regeringens avsikt att utveckla så kallade brotts-‘förutsägelse’-system.”

Hon varnade för att systemet skulle fördjupa ras- och klassdiskriminering: ”Denna senaste modell, som använder data från vår institutionellt rasistiska polis och inrikesministerium, kommer att förstärka och förstora den strukturella diskrimineringen som ligger till grund för det kriminella rättssystemet.”

”Att använda sådan känslig data om psykisk hälsa, missbruk och funktionshinder är mycket intrångsfullt och oroande”, tillade hon.

Regeringen hävdar att verktyg som detta kan förbättra hur frivården bedömer risk och förebygger våldsbrott. Men kritiker menar att systemet kan leda till att människor orättvist märks ut som potentiella mördare på grund av felaktiga och partiska data.

Regeringen hävdar att dessa verktyg kommer att förbättra frivårdens förmåga att utvärdera risk och stoppa våldsbrott från att inträffa. Kritiker varnar dock för att systemet riskerar att märka människor som potentiella mördare genom dåliga och partiska data.

Även om systemet fortfarande är under utveckling rapporterar Statewatch att dokument nämner systemets ”framtida operativisering”, vilket väcker oro för att det snart kan komma att användas i verkliga polisbeslut.