L’erreur de Descartes et les robots

L

e feuilleton Real humans met en scène des robots, les hubots, plus humains que nature dans leur apparence.

Certains sont rassurants par leur absence de liberté de penser, d’autres semblent faire preuve de cœur voire de compassion pour leur propriétaire.

Il y a aussi des rebelles capables de libre arbitre et qui pourraient présenter un réel danger pour l’humanité d’autant qu’ils prennent rapidement conscience du caractère souvent irrationnel des réactions humaines.

Dans son ouvrage «L’erreur de Descartes», Antonio Damasio met en exergue le rôle prédominant des émotions, inséparable des cognitions. Le «je pense donc je suis» devenant une sorte de «je ressens et je pense donc je suis»

La faiblesse apparente des hommes sur les hubots ne vient-elle pas de ce que les «créateurs» de ces robots ont négligé l'interaction dans le phénomène de conscience des émotions et des cognitions.

Ils ont imaginé des êtres imparfaits parce que parfaits.

Les pensées qui nous apparaissent comme réactions à nos interactions avec le monde, les autres voire lors de l'évocation de nos expériences passées sont inséparables des sentiments.

Dès lors, des êtres "parfaits" au sens de parfaitement programmés pour s'adapter à l'autre, pour s'oublier dans une altérité qui n’est pas sous l’emprise des émotions, produisent des comportements basés sur un modèle cognitif de la pensée et donc réducteur mais beaucoup plus rationnel que ceux des hommes.

On ne peut s’empêcher à l’évocation de cette évocation de robots humanoïdes au follement ambitieux Human Brain project.

L’idée de vouloir même partiellement «simuler» le fonctionnement du cerveau c'est-à-dire de construire une machine capable d’avoir des comportements similaires à l’homme est assez vertigineuse et semble même presqu’épistémologiquement impossible.

Même si l’objectif d’étudier des maladies est fortement mis en avant par ses promoteurs, les problèmes qui se posent sont évidement d’abord scientifiques et techniques mais ils sont inséparables des questions éthiques et philosophiques que posent l’apparition possible de «consciences» fabriquées ayant leurs propres capacités d’apprentissage et dont on peut se demander quelle serait la relation avec les humains, si elles n’auront pas la capacité de s’affranchir un jour du joug de ses créateurs.

Les capacités sensorielles de tels «organismes» pourraient être démultipliées par rapport à celles des hommes avec donc une «vision» des autres et du monde construit à partir d’un corpus informationnel infiniment plus important en volume et en nature que celui qui nous permet dans un processus d’apprentissage qui dure des années à construire notre conscience.

On notera aussi que le rythme d’apprentissage pourrait être énormément plus rapide que dans le cas du petit d’homme prisonnier d’une évolution biologique à laquelle les machines ne sont pas contraintes.

Les robots seront d’abord de gentilles aides pour l’homme lui facilitant la vie avec des comportements programmés adaptés à des taches spécifiques.

Mais les progrès dans la compréhension des mécanismes d’adaptation à l’environnement feront probablement apparaître des machines aux comportements adaptatifs et la frontière entre les hommes et ces aides deviendra de plus en plus difficile à distinguer.

D’abord parce qu’un grand nombre d’entre elles 0seront de plus en plus intimement liées physiquement à l’homme comme on peut le voir avec toutes ces prothèses permettant soit de suppléer des handicaps, soit de multiplier nos capacités sensorielles.

Ensuite parce que les machines autonomes seront de plus en plus «intelligentes» c'est-à-dire capable de s’adapter à leur environnement sans intervention humaine.

La fable que nous raconte Real Humans est probablement assez peu réaliste dans l’aspect anthropomorphique de ces créatures mais elle soulève tout de même le problème du rapport de plus en plus intime que nous aurons avec des objets nés des progrès attendus des neurosciences, des nanotechnologies et des technologies de l’information et des communications.

Le danger c’est le fossé grandissant entre les avancées scientifiques et techniques et la réflexion déontologique, sociétale et philosophique qui devrait les accompagner.

Nous n’avons peut-être pas trop de scientifiques mais certainement pas assez de penseurs et de philosophes.

Patrice Leterrier

12 avril 2013

Fichier PDF