Dossier
L’éthique, un attribut d’artifice?

Par Laure Dupraz

Qui s’intéresse à l’Intelligence Artificielle constate que les notions d’éthique ou de morale ne sont pas encore réellement débattues dans ce domaine de recherche, et qu’elles le sont encore moins au niveau des sphères publique ou politique. Ce sont davantage les questions technologiques ou techniques qui intéressent aujourd’hui le monde scientifique. La jeunesse des recherches sur la vie artificielle fait que les questions éthiques sont encore prématurées, en comparaison avec les développements fulgurants de la recherche médicale ou génétique. Toutefois, ces questions se poseront si l’on parvient à intégrer au sein des machines des principes du vivant ou si l’intégrité corporelle humaine est négligée.

Denis Müller, professeur d’éthique à l’Université de Lausanne, estime que cette absence de débat est en grande partie due au caractère hermétique des disciplines et au manque de passerelles entre elles. «Je pense que cela tient avant tout à la très faible conscience de ces débats scientifiques et philosophiques dans la réflexion universitaire actuelle. La science a besoin de plus de philosophie et de plus d’éthique pour se poser des questions intelligentes qui soient à la hauteur de la complexité de la production scientifique. A l’inverse, parmi tous philosophes, théologiens, juristes et éthiciens qui opèrent dans le domaine de l’éthique, il serait bon que certains d’entre eux travaillent sur ces questions d’Intelligence Artificielle.»
«Il n’y a pour l’instant pas d’urgence», estime Jean-Gabriel Ganascia, professeur d’informatique, d’Intelligence Artificielle et de sciences cognitives à l’Université Pierre et Marie Curie, à Paris. «Les questions d’éthique sont moins présentes dans le domaine de l’Intelligence Artificielle que les questions relatives à la biologie parce que les enjeux sont moins pressants. Il n’y a pas la même urgence à traiter de l’Intelligence Artificielle que du génie génétique. Les dangers sont à l’horizon des possibles, mais très éloignés de la réalité actuelle. Or, l’éthique répond à des questions pratiques; lorsque nous devons faire face à des situations concrètes comme la procréation assistée, les manipulations génétiques, le clonage. Et actuellement, rien de tel n’existe en Intelligence Artificielle.»

L’Intelligence Artificielle: une ruse humaine
Aux fantasmes des cyborgs, nourris en grande partie par la littérature et le cinéma de science-fiction, et aux peurs liées à la création de robots qui dépasseraient l’intelligence humaine, le professeur Ganascia répond que «l’Intelligence Artificielle doit être entendue comme une ruse par laquelle nous prêtons de l’intelligence aux machines afin de mieux les maîtriser, à la fois pour les soumettre à nos besoins et pour comprendre l’intelligence humaine. La soumission des machines à nos besoins ne pose pas, par elle-même, de problèmes éthiques; la compréhension de l’intelligence humaine non plus. En revanche, les problèmes éthiques existent lorsque nous confions aux machines le soin d’exécuter des tâches quotidiennes. Elles prennent à notre insu une part de plus en plus grande dans notre vie et risquent de modifier notre mémoire, notre intelligence et nos rapports sociaux dans des limites que nous mesurons assez mal. Aujourd’hui, les risques sont plus d’ordres sociaux et politiques que d’ordre éthique.»
Toutefois, rappelle-t-il, les questions éthiques sur ce sujet ont déjà été posées il y a deux ans aux Etats-Unis. Bill Joy, directeur d’une grande firme informatique, expliquait, dans un article qui a défrayé la chronique, «Why the future don’t need us» (voir page 52), que les techniques issues de la robotique et des nanotechnologies constituaient un risque non négligeable pour le futur de l’espèce humaine. Et d’ajouter que «le jour où les ordinateurs ne seront plus faits uniquement de circuits électroniques, mais qu’ils feront appel aux nanotechnologies, et qu’ils auront recours à des principes biologiques ou chimiques, alors les questions éthiques se poseront avec acuité».

Quelle frontière entre l’homme et la machine?
Ainsi, les questions éthiques pointeront-elles leur nez lorsque les interactions entre l’homme et la machine se feront plus étroites? ou lorsque la frontière entre les deux deviendra plus floue? Des études récentes ont montré qu’une machine pouvait être contrôlée par la pensée par le biais d’une puce connectée aux neurones du cerveau. Les premières expériences dans ce domaine permettent de manipuler un bras robotisé par l’activation de certains neurones. Deux neurophysiologistes de l’Université d’Emory à Atlanta ont réalisé des expériences d’implants dans le cortex de personnes souffrant de paralysie. Ces patients pouvaient ainsi avoir accès à certaines fonctions d’un ordinateur, comme déplacer un curseur sur un écran par la pensée.
Ces deux études posent la question de la limite entre l’homme et la machine. L’homme est-il toujours un homme à part entière si certaines de ses fonctions sont remplacées par des machines? Marc Jeannerod, neurophysiologiste et professeur de physiologie à l’Institut des sciences cognitives du CNRS, à Bron, se veut rassurant. Pour lui, ces études ne posent pas de problème éthique. Il les compare à l’invention de microscopes hyperpuissants permettant à l’homme de voir des objets inaccessibles à sa vue normale. «Cette invention nous pose-t-elle un problème éthique? Non. Il en est de même pour les moyens d’amplification de signaux électriques musculaires pour animer des prothèses, par exemple. Nous savons maintenant recueillir des signaux en relation avec des actions imaginées, signaux qui sont localisés aux mêmes endroits que ceux en relation avec l’exécution proprement dite de ces mêmes actions. Ces signaux pourront permettre à un sujet paralysé d’activer des systèmes externes à volonté selon ses besoins» (in Nature, 14 mars 2002, p. 141).
«Les réalités actuelles de l’Intelligence Artificielle ne permettent pas de confondre l’homme et la machine», estime Jean-Gabriel Ganascia. «La capacité d’adaptation de l’homme, la généralité de son intelligence, la somme de ses connaissances, sa maîtrise du langage sont très éloignées de ce que savent faire les machines d’aujourd’hui. Les machines sont loin d’atteindre les capacités des animaux les plus performants, qui eux-mêmes demeurent assez dissemblables des hommes. Là encore, je crains que le danger éthique ne soit pas dans la réalité de l’Intelligence Artificielle, ni de la bio-informatique, mais dans une tendance assez commune aujourd’hui à brouiller les frontières entre l’humain et le non-humain. De ce point de vue, le film de Spielberg paru il y a un an, «AI - Artificial Intelligence», est révélateur et inquiétant. Dans ce film, les robots auraient des droits car ils éprouvent des émotions comme les humains.»

Quelle intégrité corporelle?
Interrogeons-nous dès lors sur la notion d’intégrité corporelle. Si le corps est manipulé, si la dignité de la personne humaine est touchée, il semble que les questions éthiques devraient intervenir. «Lorsque l’Intelligence Artificielle propose de greffer des micro-robots de silicium sur le corps humain, les questions éthiques se posent», estime Jean-Gabriel Ganascia. Jusqu’où resterons-nous nous-mêmes? La pharmacologie est à l’origine de questions toutes semblables: jusqu’où l’exploit sportif reste-t-il celui de l’homme?» Pour Olivier Maulini, chargé d’enseignement à la Faculté de psychologie et des sciences de l’éducation de l’Université de Genève, la question corporelle est d’abord une question symbolique, une question philosophique, une question politique. Le corps n’est pas un enjeu technique, mais un enjeu éthique.
Enfin, Denis Müller rappelle qu’il ne faut pas utiliser trop vite le terme de manipulation, aussi bien en éthique de la génétique qu’en éthique de l’Intelligence Artificielle. Et de rappeler la responsabilité du scientifique: «Il est clair que les chercheurs doivent être constamment éduqués et responsabilisés dans le sens du respect dû au corps humain. L’anthropologie philosophique et théologique contemporaine nous a appris, entre autres choses, que le sujet humain n’a pas seulement un corps; mais qu’il est aussi son corps. Ces risques de manque de respect au corps ne sont d’ailleurs pas seulement le fait des chercheurs en Intelligence Artificielle ou en génie génétique; la médecine universitaire contemporaine souffre d’un éclatement conceptuel du corps; l’être humain est vu à travers ses organes, ses tissus ou ses gènes, comme un corps en miettes; nous avons perdu le sens de l’unité du corps humain et du lien spirituel, personnel et esthétique qui unit le corps et le sujet vivant.»

Retour au sommaire