Peut-on faire confiance aux IA ?
Résumé
Les algorithmes d’intelligence artificielle (IA) ont commencé à assister les humains dans des tâches courantes : conduire une voiture, conseiller un client, orienter un élève vers une filière d’enseignement supérieur, décider d’octroyer un prêt.
Le Règlement Général sur la Protection des Données (RGPD) autorise ainsi la « prise de décisions individuelles automatisée », à condition qu’elle ne produise pas des « effets juridiques » ou affecte « de manière significative » la personne concernée. Dans toute autre situation, un algorithme d’IA ne peut émettre qu’un avis à destination d’un humain chargé de prendre la décision.
Face à ces tendances qui vont considérablement se renforcer, peut-on avoir confiance dans les décisions prises, les avis émis ou plus généralement les traitements effectués par les IA ? La réponse à cette question est avant tout de nature légale, éthique et sociale. L’« IA de confiance » devra respecter cinq grands principes : explicabilité, sûreté de fonctionnement, équité, protection de la vie privée, et viabilité écologique et sociale. Le respect de ces principes et la détermination des responsabilités en cas de non-respect passent par la recherche active de solutions techniques en France et en Europe.
