Loyalty of algorithmic decisions

Loyauté des Décisions Algorithmiques

Philippe Besse (1) , Céline Castets-Renard (2) , Aurélien Garivier (1)

1 IMT - Institut de Mathématiques de Toulouse UMR5219
2 UT Capitole - Université Toulouse Capitole

L'éthique des algorithmes s'inscrit dans des débats plus larges : éthique et nouvelles technologies, éthique et technologie du numérique, éthique et déontologie. Les retracer rapidement permet de préciser la notion de loyauté appliquée à celle de décision algorithmique. Le cadre juridique de la « décision individuelle prise sur le fondement d'un traitement algorithmique » est alors précisé. Il apparaît que, dans ce contexte, les notions de précision, transparence ou explicabilité des décisions, biais des algorithmes, sont centrales pour aborder la « loyauté » de ces derniers et les questions éthiques qu'ils soulèvent. Après avoir explicitées puis illustrées ces questions par des exemples (justice prédictive, biologie et santé), leurs propriétés sont ensuite confrontées aux textes juridiques en cours et à venir pour montrer le peu d'adéquation de ces derniers à la grande complexité des algorithmes concernés. Sont finalement envisagées les actions possibles : évolution des textes juridiques, contrôle ou audit des algorithmes mais pourquoi et par qui ? L'acceptabilité de ces nouvelles technologies par les utilisateurs, citoyens et consommateurs, reste encore la principale motivation ou la rare contrainte des industriels du secteur pour moraliser leur pratique.

Mots clés: Apprentissage machine; Statistique; Droit; Ethique

Domaines: Statistiques [math.ST]; Apprentissage [cs.LG]

Philippe Besse, Céline Castets-Renard, Aurélien Garivier. Loyauté des Décisions Algorithmiques : Contribution au débat public initié par la CNIL : Éthique et Numérique. 2017. ⟨hal-01544701⟩