「黑鏡」真實上演?英政府靠演算法 打造「殺人犯預測系統」

英國政府正秘密研發「謀殺預測系統」,透過演算法分析數千人個資,試圖提前辨識「最有可能成為殺人犯的人」。此舉引發人權團體強烈批評,指控該系統「冷酷且反烏托邦」,恐加劇對弱勢與少數族群的歧視。
衛報報導,該計畫原名「謀殺預測計畫」(Homicide Prediction Project),後改稱為「共享資料以改善風險評估」(Sharing Data to Improve Risk Assessment)。儘管英國司法部強調此計畫仍處於研究階段,且僅分析有犯罪紀錄者的資料,但揭露此事的公民監督團體Statewatch指出,當中涉及的資料範圍極廣,包括家庭暴力受害者、自殘、精神健康與成癮紀錄等敏感資訊,甚至可能涵蓋無犯罪紀錄民眾。
根據Statewatch透過資訊公開法取得的文件顯示,該計畫所涉資料來自更早前的大曼徹斯特警方(GMP)和更廣泛的犯罪資料庫,除了姓名、出生年月日、性別、族裔等基本資料,也包含與警方初次接觸的年齡、是否曾為受害者(例如家暴)、身心健康紀錄等。相關資料還會與全國警政電腦系統連結。
Statewatch研究員萊爾(Sofia Lyall)痛批,這套「預測犯罪」的系統根本無法信任,且會「制度性強化原本就存在的種族與貧窮偏見」,是對少數族群與弱勢人口的嚴重侵害。
她表示:「將人自動分類為潛在的暴力罪犯本就錯誤,更何況這些判斷還建立在身心健康與成癮等極度敏感的資訊之上。」
英國司法部發言人則回應稱:「這項研究僅用於風險評估研究目的,僅分析有定罪紀錄的資料,用以協助了解假釋犯再犯暴力罪的風險。未來將會公布研究報告。」
報導指出,該計畫由前首相蘇納克任內主導,目的是提升現行風險評估工具的準確性,進一步保護民眾安全。
FB留言