英司法省（MoJ：Ministry of Justice）は、データに基づき、個人の犯罪リスクをアルゴリズムで「予測」する、プロファイリングツールを利用している。これに対して人権擁護団体Statewatchは、偏見を含むデータを用いることで、社会の制度や仕組みに組み込まれた差別が深刻化する恐れがあると警告する。MoJはどのようなツールを利用、開発しているのか。 Statewatchは情報公開制度を通じて入手した文書を基に、MoJが利用中の再犯リスク予測ツールに欠陥があることを指摘。殺人を犯す可能性のある人物を予測する別のツールを開発中であることも問題視線する。 MoJは、犯罪予測ツールを使うことで、人員をより効率的に配分できるようになると主張する。だが一部の批評家は、実際には貧困層や特定の人種的マイノリティーの集団を集中的に取り締まりの対象にするために使われていると批判する。これらの集団は歴史的に、他の集団よりも頻繁な職務質問、捜索、逮捕対象といった「過剰な警察活動」の対象になってきた結果、それ以外の集団と比べて、警察のデータベースに過剰なほど多くのデータが残っているからだ。 この仕組みが負のループを生み出している。過剰な警察活動のデータを基にした犯罪予測ツールは、特定の集団や地域に対する過剰な監視を助長する。その結果、特定の集団や地域に対するデータがさらに蓄積され、既存の差別が強化、悪化するのだ。 2018年の共著『Police: A Field Guide』で警察の犯罪予測ツールの問題を追跡したデービッド・コレイア氏とタイラー・ウォール氏は、次のように論じる。「犯罪予測ツールは、法執行機関が差別的な警察活動を続けるために『一見すると客観的なデータ』を提供し、『人種プロファイリングとは無関係』という体裁も整えてしまう」 コレイア氏とウォール氏は、「貧困層を過剰に取り締まってきた過去のデータを用いて学習する以上、アルゴリズムが『未来の危険人物は現在の貧困層の中にいる』という結論を出すのは当然だ」との見解も示す。