La responsabilité numérique - le 21 juin 2019 à Paris

La légitimité du développement de la responsabilité numérique

Texte rédigé par Christian BYK, juge à la Cour d’appel de Paris, Président du Comité intergouvernemental de bioéthique à l’UNESCO.

En intitulant le rapport que lui avait confié le Premier Ministre « Donner un sens à l’intelligence artificielle » (2018, https://www.aiforhumanity.fr/pdfs/9782111457089_Rapport_Villani_accessible.pdf), le mathématicien et député Cédric Villani a souhaité indiquer que l’intelligence artificielle devait avoir une signification pour l’humanité et devait notamment reposer sur un débat et des valeurs éthiques.

Mais, si cette approche fait entrer le numérique dans la logique de l’éthique, « cette branche de la philosophie qui ...tente de distinguer le bien du mal, l’idéal vers lequel tendre et les chemins qui nous en éloignent » (rapport p.139), on doit cependant se demander si la quête d’une telle légitimité, qui certes implique « la nécessité d’articuler les potentialités offertes par ces techno-logies avec le respect de nos valeurs et normes sociales » (rapport id .), est suffisante.

Ne faut-il pas , pour conforter cette incitation au bien agir qu’une autre légitimité soit reconnue : celle d’un système normatif de responsabilité doté de mécanismes susceptibles de concrétiser l’enracinement des valeurs sociales dans le concret des réalités de l’activité humaine dans le domaine du numérique ?

Or, cette légitimité est bien plus difficile à construire car son développement remet en cause des logiques d’intérêts et de pouvoir que les acteurs puissants et divers du numérique ne tiennent pas à voir contrôler de trop près.

Il en est ainsi des intérêts de ces prétendus nouveaux mentors de l’Humanité que constituent les GAFAM mais aussi des Etats pour lesquels le numérique est un outil dans une stratégie de puissance mondiale à l’extérieur et de contrôle social à l’intérieur.

C’est pourquoi, posant la question « quelle éthique pour l’Intelligence artificielel », le rapport affirme que pour « faire émerger des technologies d’IA conformes à nos valeurs et normes sociales, il faut agir dès à présent en mobilisant la communauté scientifique, les pouvoirs publics, les industriels, les entrepreneurs et les organisations de la société civile » (ibid.).
Prenant toutefois acte que « la loi ne peut pas tout...car le temps du droit est beaucoup plus long que le temps du code (numérique) » (rapport,p.140), le rapport insiste sur l’indispensable mise en « place (d’) un débat proprement politique sur l’intelligence artificielle et ses conséquences » et sur une pratique de transparence car « une grande partie des considérations éthiques soulevées par l’IA tiennent à l’opacité de ces technologies » (rapport,id.). Il s’agit,en effet, de pouvoir « penser l’éthique dès la conception » (rapport, p.146).

A cette fin, C.Villani affirme que « la capacité d’évaluation et d’audit des IA ne peut être réservée à un organe public, mais doit aussi provenir de la société civile » (rapport,p.144) et que « pour éviter ces dérives, il convient, en premier lieu, d’informer les citoyens sur leurs droits » (rapport, p.151). Et, comme le souligne le Pr.Claude Huriet , « depuis peu, un changement de climat est perceptible. Un vent de régulation commence à souffler et l’enthousiasme cède la place à la défiance (Mars 2017, Colloque organisé par l’université de Chicago). La question commence à se poser : « tout ce qui est bon pour la Silicon Valley est-il bon pour les États-Unis ? » et le monde ? Au niveau européen, le projet récent de taxation des géants de l’Internet est appelé à se renforcer. Corrélativement, une partie de l’opinion commence à s’interroger sur l’utilisation des données médicales. Afin de redonner aux citoyens le contrôle de leurs données sensibles, un règlement général sur la protection des données personnelles - le RGPD- s’applique en Europe (depuis) mai 2018 » (Claude Huriet,Le transhumanisme:une utopie réaliste ?, Journal international de biéothique et d’éthique des sciences, Transhumanisme, 2018,n°3-4,p.12-13).

C’est sur cette conjonction surprenante d’intérêts aussi catégoriels qu’apparemment contradictoires que le développement de la légitimité de la responsabilité numérique commence à prendre racine.

En témoignent les discrets mais continus travaux que l’UNESCO mène depuis quelques années dans le cadre de la Commission mondiale d’éthique des connaissances scientifiques et technologiques (COMEST) : il s’agit du rapport sur l’éthique de la robotique (SHS/YES/COMEST-10/17/2 REV. 14 septembre 2017), de la note conceptuelle sur les implications éthiques de l’internet des objets (SHS/COMEST-10EXT/18/3Paris,16 juillet 2018) et de l’étude préliminaire sur l’éthique de l’IA (SHS/COMEST/EXTWG-ETHICS-AI/2019/1, 26 février 2019)

A la suite de cette étape d’analyse, une seconde étape dans l’acquisition de la légitimité internationale de la question de la responsabilité numérique devrait s’ouvrir d’ici peu. A la fin de l’année 2019 ,la Conférence générale, qui est l’organe suprême de décision de l’UNESCO, ddoit se prononcer sur le projet de la Directrice générale, Mme Audrey Azoulay, de rédiger une Recommandation de principes universels relatifs à l’IA et dont déjà quelques prémices se trouvent dans l’étude préliminaire de la COMEST.

Mais , cette étape devra aussi aborder la question du changement de logique résultant du fonctionnement de l’IA au regard de la protection des droits car nous rappelle le rapport Villani, « il faut adapter (désormais) la protection des droits et des libertés au regard des abus potentiels liés à l’utilisation des systèmes d’apprentissage machine. (dans la mesure où) la législation actuelle, centrée sur la protection de l’individu, n’est pas en phase avec la logique introduite par ces systèmes – c’est-à-dire l’analyse d’une masse considérable d’information afin d’identifier des tendances et des comportements masqués – et leurs effets sur des groupes d’individus. Pour combler ce décalage, il est nécessaire d’agir en créant des droits collectifs sur les données » (rapport,p.140).

Sans doute, ces éléments sont-ils la raison pour laquelle Claude Huriet conclut ainsi ses propos initialement pessimistes : « on peut espérer que le proche avenir confirmera ce retournement de tendance… » (Claude Huriet, Le transhumanisme:une utopie réaliste ?, Journal international de bioéthique et d’éthique des sciences, Transhumanisme, 2018,n°3-4,p.9-16). Je me réjouis , pour ma part, de préférer un pessimisme actif à un optimisme béat.


JPEG PNG JPEG PNG
PNG

publié le 13/06/2019

haut de la page