Le problème du videur : la crédibilité des explications de l’IA en question

Erwan Le Merrer (1) , Gilles Trédan (2)

1 WIDE - the World Is Distributed Exploring the tension between scale and coordination
2 LAAS-TSF - Équipe Tolérance aux fautes et Sûreté de Fonctionnement informatique

Nous sommes de plus en plus confrontés à des décisions prises par des algorithmes d'intelligence artificielle. Mais ces décisions prises par des machines sont souvent obscures et peuvent entraîner une certaine méfiance de l'utilisateur. Une piste envisagée pour augmenter la confiance est l'explicabilité des systèmes d’intelligence artificielle. Cette solution est apparemment séduisante, mais est-elle suffisante pour nous rassurer? Pas si simple...

Mots clés: Intelligence Artificielle; Prise de Décision; algorithme décisionnel; Explicabilité; confiance utilisateur; classifieur

Domaines: Intelligence artificielle [cs.AI]

Erwan Le Merrer, Gilles Trédan. Le problème du videur : la crédibilité des explications de l’IA en question. Interstices, 2021. ⟨hal-03310970⟩