Publication du rapport CNFU-MGEN sur "l’Éthique de l’Intelligence Artificielle, des Données et du Transhumanisme"

Introduction

La Commission nationale française pour l’UNESCO (CNFU) et le groupe MGEN ont conjointement mené un travail de prospective sur le triple terrain des données, de l’intelligence artificielle (IA) et du transhumanisme (c’est-à-dire d’un mouvement culturel et intellectuel mondial prônant l’amélioration des capacités humaines par les sciences et les techniques).

Afin d’élaborer la réponse la plus informée qui soit, un travail d’audition d’experts (39 auditions) et de consultations publiques nationales (602 contributions) a été mené.

Les valeurs, principes et axes stratégiques opérationnels esquissés ont ainsi l’ambition de contribuer, par leurs orientations éthiques, à guider la formulation de législation, de politiques ou d’autres instruments liés à l’IA, en regarde de l’avant-projet de recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle.

Consulter le rapport de synthèse CNFU-MGEN - ÉTHIQUE DE L’INTELLIGENCE ARTIFICIELLE, DES DONNÉES ET DU TRANSHUMANISME -  :

(PDF - 5.9 Mo)

Approche pluraliste et pluridisciplinaire

Les consultations CNFU-MGEN fournissent une expertise complémentaire dans les domaines du droit, de l’éthique, de la médecine, de la culture, de la philosophie, de la politique, de la technologie et du management. Ont notamment été abordés : les encadrements éthiques et réglementaires déjà existants et relatifs à l’IA ; les enjeux et dangers potentiels du transhumanisme, notamment dans une perspective d’amélioration de l’individu ; la spécificité du courant transhumaniste français dit « technoprogressiste » ; les défis futurs et actuels du système mutualiste et de l’économie de la santé en contexte français ; les promesses et fantasmes portés par la robotique ; la personnalisation des soins de santé et ses risques afférents.

Valeurs

Les consultations CNFU-MGEN ont identifié des valeurs communes. Parmi ces valeurs figurent celles de la dignité humaine, des droits humains et des libertés fondamentales, de l’inclusion et la non-discrimination, de la vie en harmonie et de la durabilité. Les consultations CNFU-MGEN mettent particulièrement l’accent sur l’accès et l’impact différentiels de l’IA dans les sous-groupes et les personnes, en particulier les femmes et les filles.

Ces travaux relèvent cependant l’absence, problématique, de définition consensuelle internationale de l’expression « dignité humaine ». Certains experts consultés par la CNFU-MGEN suggèrent par ailleurs l’adoption d’une nouvelle Déclaration universelle, placée au service de l’intérêt commun.

Principes

Les consultations CNFU-MGEN ont établi des principes essentiels, tels que la surveillance humaine, le respect la vie privée, l’équité, la transparence et l’explicabilité, la sûreté, la sécurité, et la responsabilité.

L’avant-projet de Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle met en exergue des principes à ce jour inédits, parmi lesquels la proportionnalité et l’innocuité, qui permettent de garantir que les technologies d’IA utilisées correspondent aux objectifs fixés, n’induisent pas de risques excessifs, restent adaptées au contexte, et reposent sur de rigoureuses bases scientifiques.

Dans leur ensemble, les consultations CNFU-MGEN affirment qu’il est du devoir de l’UNESCO de ne pas s’en tenir à de simples valeurs et principes abstraits, mais de déployer des mesures stratégiques dans toute leur pluralité.

Axes stratégiques

Les consultations CNFU-MGEN soulignent des axes essentiels : la promotion de la diversité, de l’égalité des genres et de l’inclusion ; l’atténuation des impacts négatifs sur la société, la culture, l’éducation, la recherche, l’économie, le travail, la santé et l’environnement ; l’adoption d’une politique en matière de données ; la mise en place d’une coopération internationale.

Ces axes nécessitent des approches novatrices, notamment dans les champs de la gouvernance et de la gestion éthiques. Les consultations CNFU-MGEN soulignent ainsi qu’il incombe aux États membres de contribuer à instituer des mécanismes inclusifs, transparents, multilatéraux et multipartites, et à veiller à ce que toutes les parties prenantes, telles que les organisations internationales, les sociétés transnationales, les entreprises du secteur privé, les établissements universitaires ou la société civile, y adhèrent.

L’avant-projet de Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle met ainsi l’accent sur l’évaluation de l’impact en matière d’éthique et le renforcement des capacités. Selon cette perspective, il développe les aspects liés aux processus de suivi et d’évaluation des politiques, des programmes et des mécanismes relatifs à l’éthique de l’IA : notamment, méthodologie d’évaluation des conséquences éthiques (ECE).

Conclusion

Les actions politiques et axes stratégiques qui ont émergé au fil des consultations CNFU-MGEN traduisent en très grande partie les valeurs et principes énoncés dans l’avant-projet de Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle. Cet avant-projet de Recommandation et les consultations CNFU-MGEN font pareillement état de la nécessité d’un instrument éthique mondial, lequel constituera une étape décisive vers une réflexion systématique et une orientation normative des technologies de l’IA.

Consulter le rapport de synthèse CNFU-MGEN - ÉTHIQUE DE L’INTELLIGENCE ARTIFICIELLE, DES DONNÉES ET DU TRANSHUMANISME -  :

(PDF - 5.9 Mo)

Suite à la plateforme sur la thématique de l’Intelligence Artificielle (IA) et du transhumanisme mise en place par le groupe MGEN et la CNFU donnant la parole aux Français via une grande consultation publique, une série de vidéos d’experts est également diffusée sur la chaine youtube de la MGEN.