La technologie de « police prédictive » fait son apparition dans les communautés à travers le pays

De nombreux organismes chargés de l’application des lois utilisent des logiciels qui analysent les statistiques sur la criminalité, les appels au 911 et d’autres données pour essayer de prédire où les crimes sont susceptibles de se produire. L’idée est que cela peut les aider à savoir où déployer des ressources rares.

Une récente enquête menée par Gizmodo et The Markup s’est penchée sur l’une des sociétés qui le font, PredPol, et a découvert que le logiciel ciblait certains quartiers de manière disproportionnée.

Aaron Sankin est un journaliste de The Markup et l’un des auteurs. Ce qui suit est une transcription éditée de notre conversation.

Aaron Sankin : Ce système avait tendance à produire des prédictions qui se concentraient dans les zones où vivent les Noirs, les Latinos et les personnes à faible revenu, tout en ne suggérant pas que le même niveau d’examen soit accordé aux zones où vivent davantage de Blancs ou de personnes à revenu moyen ou élevé.

Kimberly Adams : Ce sont, pourrait-on dire, les communautés qui ont déjà tendance à avoir une surreprésentation de la présence policière. En quoi ce qui se passe avec le logiciel est-il différent ?

Sankin : Fondamentalement, qu’un officier se trouve à un endroit parce que ce n’est que leur propre idée préconçue de l’endroit où ils devraient être, ou que les responsables du département leur ont dit d’aller à cet endroit ou que c’était un programme informatique qui le faisait – l’effet final est le même , c’est qu’il va y avoir plus de policiers dans une zone donnée. Et ce que cela signifie sera différent dans chaque communauté. Il y a des collectivités où, j’en suis sûr, les gens veulent dans l’ensemble plus de policiers, et il y a d’autres collectivités, comme nous l’avons vu lors de la vague de protestations de l’année dernière dans tout le pays, où les habitants de ces collectivités n’étaient pas particulièrement satisfaits du niveau de présence policière dans leur région. Et lorsque la police se trouve dans une zone, elle a souvent des interactions avec les résidents de cette zone. Et ces interactions peuvent devenir négatives, et lorsque ces interactions deviennent négatives, elles peuvent avoir des conséquences négatives pour les gens. Des recherches criminologiques montrent que si des adolescents sont arrêtés par la police, à l’avenir, [they] signaler des niveaux plus élevés de détresse psychologique et émotionnelle, puis adopter un comportement plus déviant. Ou même des choses comme avoir beaucoup d’arrêts de police dans une zone pourraient alors amener les gens dans cette zone, étant simplement moins susceptibles de s’engager avec le gouvernement du tout – pour faire des sortes de services civiques de base comme signaler au 311 qu’il doit y avoir des nids-de-poule remplis dans leurs communautés.

Adams : Eh bien, cela est également lié à cette conversation sur le biais algorithmique, car si c’est ce qui alimente l’algorithme pour déterminer où la police devrait aller, est-ce que cela aide ? Ou renforce-t-elle, peut-être, des préjugés préexistants ?

Sankin : L’idée derrière un système comme PredPol est qu’il est censé éliminer le parti pris individuel d’un policier donné de l’équation. Il y a des problèmes autour de la façon dont tous les crimes qui se produisent, et toutes les victimisations qui se produisent, ne deviennent pas un élément d’un rapport sur un crime ou un élément de données sur la criminalité qui est introduit dans le système. Si un policier conduit dans une zone donnée parce qu’il pense qu’il y a un crime là-bas, il est plus susceptible de voir un crime se produire, ce qui crée ensuite un rapport de crime et génère plus de prédictions que dans des zones où il ne le serait pas autrement. Donc, je pense que toutes ces choses agissant en tandem créent une poussée dans une direction pour – si vous regardez simplement cela, ces données qui sont même en dehors de l’ensemble des préjugés d’un policier individuel pourraient toujours reproduire le même type de patrouille emplacements qu’ils avaient auparavant.

Adams : Et cela ne prend même pas vraiment en compte les crimes qui se produisent hors de la vue du public, comme la violence domestique et de nombreux types d’agressions sexuelles.

Sankin : Ouais, et c’est quelque chose que nous avons trouvé aussi. Dans notre ensemble de données, nous avons pu voir pour quels crimes sont prédits, et c’est quelque chose qui est défini par chaque service de police. Et nous avions vu un certain nombre de services de police prédire des crimes comme des agressions sexuelles, puis lorsque nous avons apporté cela, nous avons contacté PredPol et lui avons dit : « Hé quoi, qu’est-ce qui se passe ici ? » ils ont dit: « Ce n’est pas quelque chose que nous conseillons à nos clients d’utiliser pour prédire. » Parce que, comme vous l’avez dit, comme, ces choses ne sont pas, elles se produisent en dehors de la vue du public, cela ne va généralement pas créer, comme, un grand effet dissuasif en collant un officier de police, vous savez, en bas du pâté de maisons d’où cela se produit. Je pense donc qu’à ce point, comme vous, ce n’est pas exactement un instrument contondant qui pourrait être utilisé pour tous les types de crimes. Et en même temps, nous avons également trouvé environ quatre départements différents utilisant cela pour prédire les crimes liés à la drogue, ce que la direction de PredPol a déclaré dans des déclarations publiques précédentes qu’ils ne conseillaient pas à leurs clients de le faire simplement parce qu’il y a une longue histoire de racisme. application biaisée des délits liés à la drogue. Et la direction de PredPol a déclaré qu’elle ne voulait pas que cela se produise. Mais nous avons quand même constaté que cela se produisait dans une poignée de départements.

Adams : Pouvez-vous me donner une idée du coût d’un logiciel comme celui-ci et de la taille de l’industrie dans son ensemble, même au-delà de PredPol ?

Sankin : Donc, en termes de PredPol, en examinant en quelque sorte les données sur les marchés publics, nous avons trouvé que cela allait d’environ 10 000 $ pour les petits ministères à quelques centaines de milliers de dollars pour les grands ministères. Mais je pense que la police prédictive, comme le fait PredPol, et d’autres entreprises qui font ce genre de choses spécifiques basées sur le lieu, elles font partie d’un sous-ensemble plus large de l’industrie de la technologie policière. Et l’idée de recueillir des données sur où, quand et à qui les crimes se produisent, puis de les utiliser pour informer en quelque sorte comment les services de police peuvent être proactifs, n’est pas quelque chose que je pense, qui va disparaître de sitôt.

Adams : J’ai remarqué dans votre article que dans ces données que vous avez extraites, vous avez également trouvé des preuves que ce logiciel est également utilisé pour d’autres types de surveillance, comme une manifestation à Bahreïn et le vol de pétrole, je pense, étaient les exemples que vous aviez.

Sankin : Oh oui. Nous avons trouvé quelques séries de rapports dans le monde, au Venezuela et au Bahreïn. Nous ne sommes pas allés enquêter particulièrement sur ceux-ci, simplement parce que quoi, nous essayions vraiment de limiter notre analyse sur l’application de la loi aux États-Unis, mais ces données sont là. Et nous l’avons fait, nous l’avons en fait trouvé. Cela suggère donc que ce type de technologie est utilisé à l’échelle mondiale et, potentiellement, de nombreuses manières différentes en dehors de, vous savez, essayer d’empêcher les cambriolages de voitures dans des villes données à travers les États-Unis.

Adams : Je ne peux pas te laisser partir sans poser cette question. Alors, à quel point sommes-nous proches du livre et du film « Minority Report », où les gens sont arrêtés avant même de commettre le crime ?

Sankin : Eh bien, il y a donc en quelque sorte deux parties différentes de la police prédictive, n’est-ce pas ? Et fondamentalement, ce sont vraiment deux technologies assez différentes qui ont la même chose, ce genre de groupe sous le même nom, ce que nous recherchions, c’est que nous examinons ce sont vraiment des choses basées sur le lieu. Donc, c’est vraiment comme si vous définissiez où ils pensent que le crime pourrait se produire. Mais il existe, vous savez, un autre ensemble de technologies policières prédictives qui examinent l’individu, qui essaient de trouver qui sera la prochaine victime d’un crime ou qui commettra un crime. Et ces technologies ont été utilisées par les services de police, à des fins, je pense, très controversées et souvent assez nocives. Donc, vous savez, je pense qu’il est difficile de dire où nous en sommes là-dedans – je pense que n’importe qui serait avisé d’avoir un bon degré de scepticisme quant à l’efficacité réelle, vous savez, que nous pouvons être pour prédire pratiquement n’importe quoi. Vous savez, comme l’a dit Yogi Berra, « Il est difficile de faire des prédictions, en particulier sur l’avenir. » Et je pense que c’est vrai aussi bien pour les humains que pour les algorithmes.

Liens connexes : Plus d’informations sur Kimberly Adams

Nous avons un lien vers l’enquête complète. Attention : c’est une longue lecture, mais elle explique en profondeur comment l’équipe est tombée sur la mine de données qui ont révélé ces tendances, et la méthodologie, y compris les formules que l’équipe a utilisées pour mesurer l’impact des algorithmes.

Nous avons également un lien vers le site de PredPol, où la société affirme que son logiciel est utilisé pour aider à protéger 1 personne sur 33 aux États-Unis.

PredPol indique également qu’en utilisant une approche basée sur les données pour déployer des agents, les communautés sont en mesure d’économiser de l’argent, d’augmenter la transparence et potentiellement de réduire la criminalité.

Et le PDG de l’entreprise, Brian MacDonald, nous a indiqué des recherches montrant que la criminalité a tendance à se concentrer dans des domaines spécifiques et qu’aider la police à déterminer où se trouvent ces domaines est logique. Dans un courriel, il a écrit :

« De nombreuses études montrent que la criminalité a systématiquement tendance à se concentrer dans des zones géographiques étroites. C’est ce qu’on appelle communément la « loi de la concentration du crime », proposée pour la première fois par le sociologue David Weisburd. Vous pouvez en savoir plus à ce sujet ici. Nos conseils de patrouille sont basés sur les crimes signalés par les victimes elles-mêmes. Nous n’avons aucune donnée sur la démographie ou l’économie sous-jacente des zones sous patrouille, et nous n’utilisons jamais d’informations personnellement identifiables. Les seules données que nous collectons et utilisons sont le type de crime, le lieu du crime et la date et l’heure du crime. C’est ça. Ce sont les données les plus objectives que nous connaissons. Étant donné que l’objectif principal de la police est la protection des personnes et des biens, il est logique qu’il soit préférable de passer son temps dans les zones où les taux de criminalité sont les plus élevés. Nous aidons nos agences à identifier ces emplacements de hotspot.