Les algorithmes d’aide à la décision en justice sont utilisés pour aider les juges à prendre des décisions concernant la libération conditionnelle, la probation, la détention provisoire et la fixation des peines. Ces algorithmes utilisent des données historiques sur les condamnations précédentes pour prédire le risque de récidive d’un individu.

Un exemple d’algorithme utilisé en justice est le logiciel COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), développé par une entreprise américaine appelée Equivant. COMPAS évalue le risque de récidive d’un individu en utilisant des données sur les antécédents criminels, l’âge, le genre, la race, l’éducation et d’autres facteurs. Les résultats de l’évaluation sont présentés sous forme de score de risque, qui peut être utilisé par les juges pour prendre des décisions sur la détention provisoire et la fixation des peines.

Cependant, l’utilisation de l’algorithme COMPAS a été critiquée pour son manque de transparence et de responsabilité. Des études ont montré que l’algorithme était biaisé contre les Noirs américains, qui étaient plus susceptibles d’être considérés comme présentant un risque élevé de récidive même s’ils n’avaient pas commis de crime violent. Les défenseurs des droits civiques ont également critiqué l’utilisation de l’algorithme pour prendre des décisions de détention provisoire, car cela peut entraîner la détention d’individus qui sont en fait peu susceptibles de commettre un nouveau crime.

Ces préoccupations ont conduit à des enquêtes et à des actions en justice contre l’utilisation de l’algorithme COMPAS. D’autres algorithmes d’aide à la décision en justice sont également critiqués pour leur manque de transparence et leur potentiel de discrimination. Il est donc important que ces algorithmes soient surveillés pour s’assurer qu’ils sont équitables et justes.