Connaissez-vous Norman ? Nommé d’après le personnage de fiction Norman Bates, le type qui tue des femmes sous la douche dans le film Psychoses de Hitchcock, Norman est la première intelligence artificielle psychopathe jamais inventée selon la description même de ceux qui l’ont créée.

Élevé de façon isolée par des chercheurs du Massachusetts Institute of Technology, Norman est un réseau de neurones auto-apprenant qui a été nourri de descriptions écrites de photos et vidéos explicitement violentes.

Norman a appris à reconnaître les choses, mais il l’a fait à partir de données bien spéciales. Une autre intelligence artificielle, un autre réseau auto-apprenant dénommé Inkblot a, quant à lui, été nourri avec des images de fleurs, de chats et de jolies familles. Norman et Inkblot ont ensuite été confrontés à une tâche d’encre similaire à celles utilisées dans les tests psychologiques humains.

Ils n’ont pas reconnu la même chose : là ou Inkblot reconnaissait «un vase rempli de fleurs», Norman reconnaissait « un homme en train de se faire tirer dessus ». Là ou Inkblot voyait des oiseaux sur un arbre, Norman voyait une personne en train de se faire électrocuter. L’objectif de l’expérience ? Comprendre la façon dont les données influencentla soi-disant neutralité des intelligences artificielles et leur capacité supposée à repérer des schémas.

Connaissez-vous Compas ? Correctional Offender Management Profiling for Alternative Sanctions, ou plus simplement Compas, est un outil de gestion et de profilage des délinquants en milieu judiciaire pour l’orientation des sanctions alternatives, est un outil informatique d'évaluation des risques et des besoins fondés sur la recherche qui aide les praticiens de la justice pénale à placer, superviser et gérer les délinquants.

Utilisé dans de nombreux États nord-américains, Compas permet de placer les détenus dans les programmes appropriés. Par exemple :

● En donnant la priorité de traitement la plus élevée à ceux qui...