opinionsJustice

Justice et intelligence artificielle : rêve ou cauchemar ?

20/03/2021

OPINION. L’utilisation de l’intelligence artificielle pour prédire des comportements criminels et les empêcher n’est plus de la fiction. Le développement de ce procédé est déjà à un stade avancé dans nos sociétés occidentales. Mais les pires dérives déjà observables en Chine peuvent-elles nous faire renoncer à ce rêve, qui ressemble beaucoup à une dystopie ?

Justice et intelligence artificielle : rêve ou cauchemar ?

Connaissez-vous Norman ? Nommé d’après le personnage de fiction Norman Bates, le type qui tue des femmes sous la douche dans le film Psychoses de Hitchcock, Norman est la première intelligence artificielle psychopathe jamais inventée selon la description même de ceux qui l’ont créée.

Élevé de façon isolée par des chercheurs du Massachusetts Institute of Technology, Norman est un réseau de neurones auto-apprenant qui a été nourri de descriptions écrites de photos et vidéos explicitement violentes.

Norman a appris à reconnaître les choses, mais il l’a fait à partir de données bien spéciales. Une autre intelligence artificielle, un autre réseau auto-apprenant dénommé Inkblot a, quant à lui, été nourri avec des images de fleurs, de chats et de jolies familles. Norman et Inkblot ont ensuite été confrontés à une tâche d’encre similaire à celles utilisées dans les tests psychologiques humains.

Ils n’ont pas reconnu la même chose : là ou Inkblot reconnaissait «un vase rempli de fleurs», Norman reconnaissait « un homme en train de se faire tirer dessus ». Là ou Inkblot voyait des oiseaux sur un arbre, Norman voyait une personne en train de se faire électrocuter. L’objectif de l’expérience ? Comprendre la façon dont les données influencentla soi-disant neutralité des intelligences artificielles et leur capacité supposée à repérer des schémas.

Connaissez-vous Compas ? Correctional Offender Management Profiling for Alternative Sanctions, ou plus simplement Compas, est un outil de gestion et de profilage des délinquants en milieu judiciaire pour l’orientation des sanctions alternatives, est un outil informatique d'évaluation des risques et des besoins fondés sur la recherche qui aide les praticiens de la justice pénale à placer, superviser et gérer les délinquants.

Utilisé dans de nombreux États nord-américains, Compas permet de placer les détenus dans les programmes appropriés. Par exemple :

● En donnant la priorité de...

Contenu disponible gratuitement

83 % de ce contenu restent à découvrir !

Pour accéder à la totalité des contenus gratuits, vous devez vous connecter ou créer un compte.

Chargement des commentaires...

Vous aimerez aussi

FP+