Livret-1 Les machines pensent-elles

Les machines pensent-elles ?

Propos autour du spectacle
de Jean-François Peyret
" Histoire naturelle de l'esprit
(suite et fin) "

Propos de Mario Borillo, Henri Prade et Jean-Luc Soubie
recueillis et édités par Catherine Gadon
en juin 2000

Les livrets du Service Culture UPS n°1

Jean-François Peyret et sa troupe ont, au printemps 2000 donné à voir successivement à Rennes, Bobigny et Toulouse avec " Histoire Naturelle de l'Esprit (suite et fin) ", un spectacle original conçu à partir de la vie d'Alan Turing, un des pères de l'informatique et des précurseurs de l'intelligence artificielle.

Le spectacle théâtral de deux heures est conçu à partir de textes de scientifiques (biologistes, mathématiciens, etc.), de philosophes (en particulier Hannah Arendt) et d'éléments biographiques de la vie d'Alan Turing. Sa mise en scène originale fait appel à une technologie de pointe (traitement d'image et projection vidéo simultanée) et s'appuie sur un décor de cubes (clin d'oeil au système informatique de dialogue en langage naturel SHRDLU de Terry Winograd ?) de sièges et lampadaires à roulettes, renvoyant à une dimension ludique de l'enfance. Le corps, l'esprit et leur relation (si douloureusement vécue par Alan Turing) sont au coeur des interrogations portées par le spectacle, qui renvoie également à la problématique du théâtre et au jeu des acteurs.

Jean François Peyret s'est lui-même exprimé sur ce sujet à l'occasion du spectacle donné au Théâtre National de Toulouse (TNT) dans un entretien avec Sébastien Bournac :

" Au théâtre, on entre des textes dans les corps des comédiens (input) ; on ne sait pas si ce qui ressort est mécanique ou vivant (output)(...)
C'est vrai que réfléchir sur le monde infernal de la machine, sur l'idée qu'une machine pourrait penser et dépasser l'homme, sur l'idée qu'il pourrait ne pas y avoir de différence entre un homme qui pense et une machine qui pense, nous a étrangement renvoyés au théâtre. La question essentielle étant : " est-ce que penser c'est manipuler des symboles ? ", sachant que le théâtre lui-même ne fait pas autre chose que manipuler des symboles, jouer avec des codes, nous ne pouvions esquiver la question de savoir si la machine théâtrale pense ou ne pense pas. (...)
Le comédien dit un texte, le traite sans avoir à le penser, et les spectateurs qui le reçoivent ne le pensent pas non plus. Mais n'en va-t-il pas toujours ainsi, même hors du théâtre, même sur la scène de la pensée professionnelle ? Qu'est-ce que comprendre ? qu'est-ce que penser ? En tout cas, cette question m'intéresse autant que celle de la psychologie des personnage (...)
Que l'homme fabrique des machines " intelligentes " bouleverse nécessairement la définition qu'on se fait de l'esprit. Que l'homme n'ait peut-être plus le monopole de la pensée n'est pas sans conséquence sur nos définitions de l'humain et de l'inhumain dès lors que l'esprit était l'apanage de l'homme. Il y a cette hypothèse, que je caresse volontiers, que si l'homme perd le privilège de la pensée, il ne lui restera plus que ses passions à traiter, (...) "

Le texte et de nombreux éléments sur la gestation et la conception du spectacle ont été rendus accessibles sur le site de la compagnie : (http://www.tf2.asso.fr/total.htm).

Les dialogues qui suivent ne visent pas à donner une idée et encore moins une analyse d'un spectacle très riche qui pendant près de deux heures a mis en scène, bien au-delà de l'anecdote biographique, une multiplicité de textes et de points de vue autour de questions telles que " Les machines pensent-elles ? " ou " Faut-il un corps pour penser ? ". Ils se bornent à reprendre l'essentiel des propos tenus par trois chercheurs en intelligence artificielle de l'Institut de Recherche en Informatique de Toulouse (IRIT, CNRS - Univ. P. Sabatier - ENSEEIHT) lors d'un débat organisé à Toulouse le 12 avril 2000 à la suite d'une des représentations, au Théâtre National de Toulouse, du spectacle conçu et réalisé par Jean-François Peyret. Car cela n'est pas la moindre des vertus de ce spectacle de faire réagir, s'exprimer et réfléchir le chercheur sur sa propre discipline et les questions souvent inédites qu'ouvrent ses travaux.

Qu'un metteur en scène utilise une matière scientifique difficile comme argument d'un spectacle, cela est assez inhabituel. Qu'il en joue d'une manière ludique, esthétique, et qui donne à réfléchir et à rêver, cela est encore plus remarquable. Que la science soit considérée comme partie intégrante de la culture contemporaine, qu'elle puisse contribuer à nourrir l'imaginaire de chacun, s'inscrire dans des recherches d'ordre esthétique, ne peut que faciliter sa vulgarisation, en l'aidant à sortir d'un isolement d'autant plus redoutable qu'elle est en train de bouleverser le monde.

M. B., H.P., J-L. S.

Les machines pensent-elles

Jean-Luc Soubie :

La question centrale autour de laquelle tourne la pièce de J.-F. Peyret " Histoire naturelle de l'esprit " est : " Les machines pensent-elles ? "
A cette interrogation il nous est demandé d'apporter le point de vue du chercheur en informatique.

Mario Borillo :

Pour la recherche scientifique proprement dite, en particulier celle qui est associée aux " machines ", c'est à dire à l'informatique précisément, la " pensée " en tant que telle, holistique, aux contours mal définis, territoire de la philosophie de l'esprit... n'est pas en soi un objet d'investigation. Mais nos travaux reposent implicitement sur des présupposés liant telle ou telle forme précise de pensée et des hypothèses sur la représentation et le calcul.

Henri Prade :

C'est en effet une question que, paradoxalement, l'intelligence Artificielle n'aborde pas frontalement.

Jean-Luc Soubie :

Il n'existe évidemment pas de réponse péremptoire par oui ou non, fut-elle argumentée, à une telle question. Cependant, dans son activité quotidienne, le chercheur est conduit à s'interroger sur le rapport qu'entretiennent les résultats qu'il produit avec ce type d'interrogation de nature un peu fantasmatique.

Mario Borillo :

Ce que nous étudions en vue de leur reproduction par des machines sont des phénomènes plus spécifiques, par exemple des formes de raisonnement que nous mettons en jeu dans la vie quotidienne (le " sens commun " !), d'apprentissage de procédures, de reconnaissance de formes, de " compréhension " du langage... Ces phénomènes relèvent à coup sûr de la vie mentale, et ce sont des phénomènes cognitifs singuliers qui n'avaient pas fait l'objet jusqu'ici de ce type d'approche scientifique. Avec des résultats troublants, dont on peut parfois trouver l'écho dans la presse.
Songez à Deep Blue, devenu grand maître échiquéen après avoir battu Kasparov !

Jean-Luc Soubie :

Peut-être est-il insuffisant d'affirmer que penser est une activité humaine qui exclut que tout autre agent que l'humain puisse l'exercer. Cependant, toute définition de la pensée appelle la convocation d'une de ses caractéristiques troublantes, la réflexivité. En effet, la pensée ne se conçoit pas sans la conscience d'elle-même ; peut-on penser sans avoir conscience que l'on pense, alors que l'on peut agir sans avoir conscience que l'on a pensé pour agir. Ainsi de suite, jusqu'au vertige, si l'on pense qu'on pense, alors on pense qu'on pense qu'on pense...

Henri Prade :

Les machines peuvent être dotées de capacités de raisonnement et de prise de décision de plus en plus sophistiquées. La production de conclusions chez ces machines peut aller bien au-delà de la pure déduction logique, et permettre l'induction, le raisonnement par analogie, le raisonnement par défaut, l'extrapolation, notamment. Les machines peuvent ainsi, par exemple, calculer, évaluer des situations, faire des diagnostics, planifier, répondre à des questions, (re) découvrir des lois mathématiques, mettre en évidence des régularités dans des données, percevoir l'environnement grâce à des capteurs, se mouvoir en évitant des obstacles, imiter des comportements humains, aider à la créativité, à la conception de nouveaux objets, voire faire des réalisations artistiques obéissant à des lois de composition et à de l'aléatoire.
Les machines effectuent leurs opérations souvent plus rapidement et de manière plus fiable que l'homme en exploitant efficacement de plus grandes masses d'informations. L'exemple récent de Deep Blue, vainqueur de Kasparov est effectivement là pour en attester.
Les machines commencent aussi à pouvoir réfléchir sur ce qu'elles sont en train de faire et ainsi à pouvoir faire évoluer leur comportement. Sans doute demain pourront-elles résumer des textes, appréhender des émotions, des intentions, voire faire des évaluations touchant à l'esthétique.

Jean-Luc Soubie :

Les informaticiens ont créé des mécanismes qui permettent de prendre en compte au sein d'une machine, au moyen de la récursivité, une accumulation, possiblement infinie, de fonctions s'appliquant à elles-mêmes. L'exemple classique est le calcul de la factorielle, définie à chaque étape relativement à sa valeur à l'étape précédente n ! = n(n-1) !. L'un des problèmes est la définition de la condition d'arrêt de ces calculs qui, mal définie, peut conduire au blocage de la machine dans une boucle sans fin. L'humain sain d'esprit prend en compte le plus souvent, des éléments de son environnement pour adapter ces conditions d'arrêt, ce qu'il est pour longtemps impossible de faire faire à une machine hors d'un ensemble déterminé de critères définis à priori.

Mario Borillo :

Pour l'Intelligence Artificielle, il faut souligner que de telles performances qu'il s'agisse d'interpréter des textes, de reconnaître des formes, de résoudre des problèmes logiques, d'apprendre des procédures... ne sont possibles que dans la mesure où ses recherches ont pour premier objectif de construire des modèles formels de ses phénomènes cognitifs à partir de leur observation chez l'homme. Ces modèles permettent d'écrire des programmes, qui, implantés sur des machines, font que celles-ci " se comportent ", pour le phénomène modélisé - restriction essentielle - comme le ferait un sujet humain. On parlera alors, à juste titre, de simulation... Il est important de souligner, du point de vue philosophique, que pour la première fois dans l'Histoire, des fonctions mentales importantes sont implantées dans de la matière étrangère à notre corps et que les conséquences à terme de cette percée techno-scientifique ne peuvent manquer d'être extrêmement graves. Mais ceci est un tout autre problème, qu'il va falloir affronter parce qu'il aura des conséquences non seulement économiques on le voit déjà mais aussi civilisationnelles. Pour revenir à l'objet du débat, comme l'a dit Jean-Luc, conscience et réflexivité, par exemple, semblent être étrangères aux machines. Ceci sur le plan philosophique. Mais il ne faut pas oublier que de telles recherche ouvrent aussi, sur le plan théorique, des horizons nouveaux à l'informatique comme science de la représentation et du calcul.

Henri Prade :

Dans toutes les activités réalisées par la machine le paradigme est toujours le même : La machine ne fait que résoudre des problèmes... .souvent difficiles... que l'homme lui pose et qui sont exprimables dans un cadre formel, éventuellement très général. Même si une seule machine avait toutes les capacités qu'on vient d'évoquer, on ne pourrait sans doute pas encore dire qu'elle pense.
En effet la machine ne pense pas au sens où elle ne peut pas ultimement décider de ses buts ni sans doute imaginer de nouvelles représentations du monde... même si la machine peut formuler des sous-problèmes, dans un espace prédéfini, par rapport à une tâche poursuivie qu'on lui a assignée... Une machine n'hésite jamais, ne doute pas ! Elle n'imagine, ni ne rêve.
Clairement au fur et à mesure que l'intelligence artificielle... et l'informatique... développent des machines capables d'effectuer des tâches réputées intelligentes, cela pose, par différence, la question de la nature, de la spécificité de la pensée humaine, qui est sans doute davantage que des capacités de raisonnement et de réflexion en relation avec la gestion de sensations et d'émotions.

Jean-Luc Soubie :

La question qui semble raisonnablement pouvoir être posée aujourd'hui serait plutôt : quel rôle peut-on faire jouer à la machine comme support des activités humaines ? Il suffit de regarder derrière nous pour constater la fantastique évolution, permise en premier lieu par la technologie, des registres d'intervention des machines dans l'accompagnement des activités humaines : de la calculatrice initiale, on est arrivé à l'outil de communication ou d'accès à des données produites dans le monde entier, voire à la prothèse professionnelle capable de résoudre des problèmes compliqués mais routiniers ou encore au partenaire de jeu. On voit bien que cette évolution peut s'inscrire sur un axe allant de l'objet matériel à l'homme et que le point de vue pris par les concepteurs des outils se rapproche de plus en plus de l'homme. Cependant, cette tendance conduit-elle à concevoir des machines qui, grâce à leurs capacités issues d'une démarche anthropomorphique, auront vocation à se substituer à l'humain dans ce qu'il a encore de spécifique : la pensée ? Ou bien l'homme doit-il cultiver sa spécificité et utiliser la machine dans ce qu'elle sait le mieux faire, les tâches répétitives et lourdes, pouvant faire appel à des raisonnements complexes ?

Mario Borillo :

Les recherches que nous évoquons ici s'inscrivent de plus en plus clairement dans un mouvement scientifique plus général qui est celui des sciences de la cognition, où elles retrouvent un spectre très large de disciplines comme l'ensemble des neurosciences cognitives, la psychologie, l'ergonomie, la linguistique, la philosophie de l'esprit... Ces recherches sont fondamentalement pluridisciplinaires, à la fois empiriques (expérimentales) pour produire des données observationnelles, et théoriques dans la définition des modèles formels et computationnels. Elles contribuent in fine, sur un plan plus général, à concevoir des manières d'associer la complexité de lunivers mental -de ses activités rationnelles à ses états émotionnels- aux structures et fonctions biologiques. Parvenus à ce point, une question cruciale ne peut manquer d'émerger : Quelle nouvelle conception de l'homme et de son " esprit ", de ses rapports avec la " machine ", biologique et non-biologique, se dégagera de ce mouvement et de ses résultats, aussi bien scientifiques que technologiques ? Avec quelles conséquences non seulement sur le plan de la connaissance mais aussi de limpact sur léconomie et la société.

Henri Prade :

La compréhension de la nature de la pensée nous échappe encore largement et peut-être pour longtemps. L'homme a depuis plus de trois siècles volontiers comparé son corps et son cerveau à la machine la plus sophistiquée qu'il était parvenu à construire... les horloges au XVIIème siècle, puis bientôt les automates, et aujourd'hui les ordinateurs et les robots..., pour se forger la représentation qu'il se faisait de lui-même en tant qu'individu ou que membre d'une société d'agents... développant une " intelligence collective ". Cette comparaison sert sans doute aussi son besoin de se confirmer dans sa supériorité sur la machine ! Inversement, les capacités de l'esprit humain constituent, sans doute encore pour longtemps, un ensemble de défis pour les chercheurs en Intelligence Artificielle dans leurs tentatives de les comprendre, de les formaliser et de les reproduire.

Jean-Luc Soubie :

Lorsqu'on constate la difficulté rencontrée par les chercheurs pour définir les méthodes de constitution de connaissances de base quel que soit le domaine, sous forme d'ontologie formelle, indispensable pour envisager une future autonomie de la machine dans le domaine considéré, on est fondé à penser que longtemps encore les logiciels réalisés sur ces machines seront conçus dans un objectif bien déterminé. Cette démarche guidée par le but est seule garante de la faisabilité de systèmes informatiques de complexité maîtrisée. Ainsi à capacité de calcul égale, on pourra différencier deux machines par leur aptitude à s'adapter à l'activité de ceux qui les utilisent. On retrouve ici la problématique du travail coopératif, avec deux partenaires capables de réaliser ensemble une tâche complexe. Viser un comportement coopératif pour la machine, c'est lui incorporer et faire vivre en son sein une représentation valide de ce qu'elle est elle-même capable de réaliser, mais aussi une représentation de son partenaire en termes cognitifs et sociaux et enfin une représentation du contexte... physique, social et organisationnel... dans lequel est située cette activité coopérative. Les problèmes posés par la poursuite de cet objectif sont très difficiles à résoudre et font l'objet de recherches pluridisciplinaires associant psychologues, informaticiens et sociologues.

Mario Borillo :

Ce qui se dégage factuellement des recherches actuelles, leurs méthodologies et leurs objectifs originaux, leurs résultats surprenants, appellent aussi, et de manière urgente compte tenu de la gravité de leurs enjeux, à une réflexion d'une autre nature, enracinée dans les faits et connaissances disponibles, mais plus aventurée puisque soucieuse de leurs projections sur le plan sociétal, éthique...Ce qui exige de développer sans tarder une profonde et dynamique philosophie de la cognition et du calcul associant de manière critique non seulement le biologique, le mental, le computationnel, mais aussi l'anthropologique et léthique.

Jean-Luc Soubie :

On a aujourd'hui du mal à discerner les limites de cette association homme-machine dans leur nature et dans leurs effets possibles. C'est pourtant de cette confrontation que viendront les évolutions les plus importantes de la machine vers l'autonomie.

Henri Prade :

La machine reste un outil -surpuissant- en principe au service de l'homme. Cependant de nouvelles questions émergent, difficilement imaginables du temps de Turing : En quoi une possibilité d'accès plus massive à l'information, à des capacités de résolution de problèmes toujours accrues, peut-elle influer sur nos manières de penser, de se comporter ? En quoi le compagnonnage personne/machine peut-il transformer l'homme -et la société-, le mettre en position d'assisté, le submerger par la vitesse de la machine, la quantité d'informations brassées, le rendre " homme machinal " ? Jusqu'où peuvent nous mener les couplages cerveau/ordinateur ou biologie/informatique ?

Mario Borillo :

Pour conclure sur mes réactions de scientifique et d'homme tout court à un théâtre mettant en scène un matériau scientifique de cette nature, je veux souligner qu'il s'agit pour moi d'un événement précurseur, extrêmement important. En effet, il offre l'occasion rare de débattre en public sur des questions encore étrangères à la culture que nous partageons et susceptibles pourtant de changer nos " visions du monde " et de nous-mêmes un questionnement fondamental. Question dont nous savons aussi qu'elles vont avoir, à travers la technique, le travail, l'économie, la culture, la guerre... un impact civilisationnel considérable mais encore largement imprévisible. Comment ne pas souhaiter que s'établisse par tous les moyens une confrontation indispensable, analogiquement comparable par sa difficulté et ses enjeux à celle qui s'est déjà instaurée pour la biologie et les biotechnologies. Mais qui risque de se révéler ici beaucoup plus complexe, puisque l'univers mental comporte une dimension abstraite essentielle.

Jean-Luc Soubie :

Le spectacle de Jean François Peyret pose au travers d'éléments de biographie et de dialogues philosophiques un ensemble de questions fondamentales, qui n'appellent ni ne reçoivent de réponse, mais dont l'immense mérite est de provoquer la réflexion de celui qui restera longtemps le seul capable de la mener : L'humain.

Henri Prade :

La science est une dimension intégrante de la culture. Au delà d'un " théâtre d'idée " -- un genre que le spectacle de Jean-François Peyret renouvelle complètement -- la science peut contribuer à nourrir l'imaginaire de chacun, s'inscrire dans des recherches d'ordre esthétique. Cela ne peut que contribuer à sa vulgarisation, à la sortir d'un certain 'ghetto', et ainsi à entretenir des relations fructueuses entre art et science.

Le texte du présent livret constitue la version définitive d'un article paru dans le n°43 du Bulletin de l'AFIA (Association française d'Intelligence Artificielle) pp 7-10, octobre 2000.

Mario Borillo est Directeur de Recherche Emérite au CNRS (IRIT). Il travaille sur les relations entre langage, cognition et calcul et sur l'impact des techno-sciences de la cognition sur les processus créatifs ;

Henri Prade est Directeur de Recherche au CNRS (IRIT). Il s'intéresse notamment aux logiques du flou et de l'incertain, à la formalisation des raisonnements et des processus de décision ;

Jean-Luc Soubie est Ingénieur de Recherche à l'INRIA. Il poursuit des recherches sur les systèmes à base de connaissances coopératifs, dans un cadre pluridisciplinaire.

Tous les trois sont membres du département Intelligence Artificielle et Systèmes cognitifs de l'Institut de Recherche en Informatique de Toulouse (IRIT), à l'Université Paul Sabatier.

Catherine Gadon est responsable Culture à l'Université Paul Sabatier.