Respect des droits humains, de la justice sociale et de la dignité
 

Principes fondamentaux de l’éthique

1- Bienveillance

L’IA doit viser à améliorer la condition humaine, sans causer de tort ni remplacer inutilement l’humain dans des fonctions essentielles à sa dignité.

La dignité est « le fait que la personne ne doit jamais être traitée seulement comme un moyen, mais toujours aussi comme une fin en soi ».
 

2- Responsabilité

Toute décision ou action d’une IA doit être traçable jusqu’à un humain ou une entité légale responsable. C'est vers elle que le client se retourne en cas de litige. 
 

3- Transparence

Les algorithmes doivent être explicables : on doit pouvoir comprendre comment une IA prend ses décisions (même partiellement).

La transparence algorithmique ne se résume pas à la publication des codes sources. 

L’ouverture des codes sources constitue déjà une démarche remarquable de transparence. Mais, la mise à disposition de documents aussi techniques est loin d’avoir réglé les craintes des citoyens quant à la manière dont ils sont administrés. 

D’autant plus que, derrière ces cas sonores, il existe une multitude d’algorithmes organisant la vie publique : pour la tarification des droits d’accès aux services publics (transports, d’accès à l’eau ou de logement social) ; de détection automatisée des infractions routières (stationnement illégal, franchissement de feux) ; les algorithmes de calcul (des salaires des agents publics, des impôts, des amendes, des aides sociales, des droits à la retraite). La vie publique est donc profondément structurée par des algorithmes, dont le public n'a souvent connaissance que lorsqu’ils dysfonctionnent. 

Le deuxième alinéa de l'article 47 de la loi du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés fixe l’horizon d’attente de l’explication des décisions administratives utilisant des algorithmes. Elles doivent être individualisées, détaillées et intelligibles par la personne concernée. Cependant, dans la pratique, toutes ces décisions algorithmiques ne font pas l’objet d’explication et, lorsque c'est le cas, elles se caractérisent par leur brièveté, voire un certain hermétisme. Par exemple, bien que le bulletin de paie des agents publics soit relativement détaillé et individualisé, qui est capable de déchiffrer les mécanismes de calcul de ses cotisations sociales ?

Exemple d'interface pour expliquer un traitement algorithmique

Partant d'un état des lieux des pratiques administratives en France, nous estimons qu’aucune forme explicative des décisions automatisées déployée ne remplit les exigences de la loi pour l'informatique et les libertés. Notre rapport de recherche propose d'élargir la conception de l'explicabilité des algorithmes publics, afin de la rendre plus opérationnalisable par les administrations. 

Nous affirmons ainsi que l'explicabilité des algorithmes publics n'est pas seulement un enjeu externe (de redevabilité vis-à-vis des personnes physiques et morales impliquées par ces traitements administratifs, ni même vis-à-vis de la société politique dans son ensemble comme l'a montré), mais qu'il s'agit, dans le même temps, d'un enjeu interne à l'administration (pour la maîtrise de ses systèmes d'information).

Pour contribuer à cette réflexion critique et renouveler les termes du débat, nous explorons la faisabilité d'une production automatique d'explications individualisées, détaillées et intelligibles par les parties prenantes du contrôle interne et externe du système de décision algorithmique.

Premièrement, le système technique d'explication de la décision doit être aligné sur le système technique de prise de cette décision. Deuxièmement, le système de prise de décision doit être adossé sur les éléments qui fondent et justifient le traitement, et en particulier le droit qui spécifie, de manière plus ou moins détaillée, la plupart des décisions prises par les administrations. 

4- Justice et équité

L’IA ne doit pas reproduire ou aggraver des discriminations (raciales, sociales, genrées, etc.). Les données doivent être représentatives et diversifiées.

La justice est liée aux droits et à la qualité de ce qui est juste en termes de ce qui est moralement bien. L'équité s'applique à ce qui est juste dans un sens comparatif 
 

5- Autonomie humaine

L’humain doit garder le contrôle et le dernier mot, notamment dans les décisions critiques (justice, médecine, guerre…).
 

Domaines d’application de l’éthique

Domaine

Enjeu éthique principal

Santé

Ne pas discriminer / Respect du secret médical

Justice

Non-biais, droit au recours humain

Éducation

Respect des rythmes et singularités d’apprentissage

Travail

Substitution juste, formation, non-surveillance abusive

Sécurité

Respect des libertés individuelles

Art / Création

Droit d’auteur, reconnaissance de l’humain
 

6- Instruments éthiques existants

RGPD (Europe) : pour la protection des données.

UNESCO : Recommandation mondiale sur l’éthique de l’IA (2021).

Charte de Montréal pour une IA responsable.

Principes d’Asilomar (plus prospectifs).
 

7- Pistes d’action pour une éthique opérationnelle

Comités d’éthique IA dans les institutions et entreprises.

Audit d’algorithmes régulier et indépendant.

Labels IA éthique (comme les produits bio !).

Formation des citoyens à l’IA et à ses enjeux.

Déclaration de droits numériques (droit à l’explication, à l’oubli…).
 

8- Proposition de définition simple (version 1)

L’éthique désigne l’ensemble des principes, pratiques et garde-fous visant à garantir que les intelligences artificielles soient conçues, utilisées et régulées dans le respect des droits humains, de la justice sociale et de la dignité.

L'éthique laïque est une branche de philosophie morale où l'éthique est basée seulement sur les facultés humaines telles la logique, la raison ou l'intuition morale, et non-pas dérivée d'une religion. L'éthique laïque se définit comme tout système éthique qui ne s'appuie pas sur le surnaturel : elle englobe l'humanisme, la laïcité et la libre-pensée.

Principes de l'éthique laïque 

Malgré l'étendue et la diversité de leurs opinions philosophiques, les partisans d'une éthique séculière partagent généralement un ou plusieurs des principes suivants :

Les êtres humains, grâce à leur capacité d'empathie, sont capables de définir des fondements éthiques.

Le bien-être de chacun est une valeur centrale pour prendre des décisions éthiques.

Les êtres humains, grâce à la logique et à la raison, sont capables de dégager des principes normatifs de comportement.

Cela peut conduire à un comportement préférable à celui qui est propagé ou toléré au nom de textes religieux. D'autre part, cela peut conduire à la défense d'un système de principes moraux sur lequel de plus larges groupes de personnes, qu'elles soient religieuses ou non, sont capables de se mettre d'accord.

Les êtres humains ont la responsabilité morale de veiller à ce que les sociétés et les individus agissent sur la base de ces principes éthiques.

Les sociétés peuvent et doivent, dans la mesure du possible, progresser d'une situation moins éthique et moins juste vers une situation plus éthique et plus juste.
 

Nombre de ces principes sont recherchés par les sciences morales, c'est-à-dire par l'utilisation de démarches scientifiques et philosophiques pour répondre aux questions morales. Divers penseurs ont défini la morale comme une affaire de vérité empirique à explorer dans un contexte scientifique. En philosophie morale, cette démarche est liée au naturalisme moral, un type de réalisme moral.

Éthique laïque et religions

Certains déclarent que la religion n'est pas nécessaire au comportement moral de chacun[1]. Selon le Dalaï Lama, la compassion et l'affection sont des valeurs humaines indépendantes des religions : « Nous avons besoin de ces valeurs humaines. Je les appelle valeurs éthiques laïques, ou convictions laïques. Elles sont sans relation avec une religion particulière. Même sans religion, même agnostique, nous avons la capacité pour promouvoir ces valeurs. »[2] Le dalaï-lama a consacré un livre complet à l'éthique laïque, intitulé Sagesse ancienne, monde moderne - Éthique pour le nouveau millénaire[3]. Le 7 juin 2009, il donne une conférence à Paris sur ce thème[4].
 

Questionnement sur le statut de l'homme ou son action
 

Le clonage, la thérapies géniques, les OGM, le changement climatique, la dérégulation de la finance, la procréation médicalement assistée, la sécurité alimentaire, la médecine prédictive, les inégalités sociales, les nanotechnologies, les nouvelles technologies de l'information et de la communication, la raréfaction des ressources naturelles, la bien-être animal,...: la liste des sujets où le statut de l'homme ou son action font l'objet de questionnements est longue.

Si les progrès scientifiques et médicaux ont eu tendance pendant longtemps à concentrer l'attention, notamment en raison de leur impact sur l'être humain, l'émergence des problématiques environnementales a entraîné plus récemment un débat autour des conséquences de l'activité humaine et mis l'accent sur la question de la responsabilité, particulièrement sur le long terme, vis-à-vis des générations futures.

Face à ces questions, le recours à la réflexion éthique permet de dépasser une logique d'action purement technique en aidant à définir le sens de ce que nous - individu et société - voulons faire. Elle contribue à éclairer la décision, particulièrement lorsque les actions humaines suscitent un conflit de valeurs.

Les valeurs sont au centre de la réflexion éthique. C'est à ce titre que ce que nous appellerons le « projet européen » - Union européenne et Conseil de l'Europe réunis - recouvre une dimension éthique, et ce dès l'origine. Ses fondations reposent en effet sur l'affirmation de valeurs issues d'un héritage historique commun : le respect des droits de l'Homme, le respect de la dignité humaine, la liberté, la démocratie, l'égalité, l'État de droit. Elles forment l'identité commune des États membres de l'Union européenne et de ceux du Conseil de l'Europe.

Face à une demande sociale croissante en matière d'éthique, le projet européen, en s'appuyant sur ses valeurs, peut-il être le lieu et l'instrument d'un « mieux-disant » éthique ?

Si l'éthique ne relève pas de leurs compétences, l'Union européenne et le Conseil de l'Europe manifestent une véritable préoccupation sur les sujets éthiques. Dans cette perspective, il s'interrogera sur la mesure exacte du rôle joué par ces deux ensembles institutionnels en matière éthique et analysera les enjeux qui en découlent dans le cadre de leurs relations avec les États membres. Dans un dernier développement, il s'intéressera aux orientations possibles pour faire de la démarche éthique un atout en matière de gouvernance.

Mais avant d'aborder ces sujets, il est important de mieux cerner la nature du concept d'« éthique » et sa dimension européenne.

DÉFINITION ET RÉALITÉ EUROPÉENNE DU CONCEPT D'ÉTHIQUE

Le terme d'« éthique » peut souvent donner lieu à des incompréhensions. Chacun, en fonction de sa position ou de son domaine de compétence, ne lui attribue pas le même contenu ni la même réalité.

Certains considèrent que l'éthique ne s'applique qu'aux problèmes suscités par le progrès scientifique, en particulier dans le domaine des sciences de la vie et de la santé, tandis que d'autres en ont une conception moins restrictive et estiment qu'elle intéresse tous les domaines de l'activité humaine et de la société. De même, pour certains, l'éthique constitue une démarche qui a vocation à trouver une traduction normative (sous forme de recommandations, de règles de bonnes pratiques, de mesures réglementaires ou législatives) alors que d'autres ne lui accordent qu'une dimension réflexive visant à interroger nos choix et nos décisions dans le but de les éclairer.

Il est donc indispensable, dans un premier temps, de poser quelques repères afin de mieux cerner ce que le terme d'« éthique » peut recouvrir - sans prétendre en épuiser ici la définition ou avoir la volonté de clore les débats, toujours féconds, qui entourent cette question. Dans un second temps, puisque ce rapport s'inscrit dans une perspective européenne, il sera intéressant de mettre en lumière la dimension éthique du projet européen.