Des règles sur mesure

Si le profilage algorithmique est désormais omniprésent, on aurait tort d’y voir une technologie fondamentalement nouvelle : son avènement et son perfectionnement s’étalent en réalité sur plus d’un siècle et demi. Nathan Genicot propose dans cet ouvrage une histoire de cette pratique, depuis son émergence dans les domaines du travail, de l’assurance et du crédit jusqu’aux méthodes contemporaines reposant sur l’intelligence artificielle. Mobilisant tant la science juridique que l’histoire et la sociologie des sciences et des techniques, l’auteur retrace la généalogie des pratiques constitutives du profilage – confection de tests d’intelligence, estimation statistique du risque de décès, etc. – et des débats que celles-ci ont suscités. Il décrit ainsi comment une série d’évolutions techniques ont permis une explosion du nombre de données produites et analysées, favorisant le déploiement par les autorités publiques et les grandes entreprises de dispositifs qui prétendent prédire de façon automatique les comportements futurs. Surtout, il montre comment le profilage algorithimique, en remplaçant les instruments juridiques traditionnels par des règles algorithmiques individualisées, se trouve à même de transformer durablement l’art et la pratique du droit, constituant une menace pour le principe d’égalité : il produit en effet une société dans laquelle les droits et obligations des individus sont déterminés sur la base de prédictions ; une société où la règle de droit serait faite « sur mesure » c’est-à-dire qu’elle varierait dans son application selon les spécificités de chaque individu.