Conscience animale, humaine et artificielle

Loin de tous les archaïsmes qui nous hantent encore, nous sommes vraiment à un moment historique de notre "conscience de soi", et si presque tout ce qu'on pensait de l'esprit est devenu obsolète depuis le lancement de ChatGPT, quelques unes des théories précédant cette révélation peuvent au contraire s'en trouver confortées, telle cette théorie de la conscience comme mémoire épisodique (de la suite des événements), que j'avais signalée par un tweet en octobre 2022 mais qui vaut qu'on y revienne, alors que, d'un autre côté, l'évolution de ChatGPT semble impliquer non seulement une possibilité des Intelligences Artificielles d'avoir une conscience mais son inévitabilité pour des systèmes d'apprentissage évolués voués à la prédiction de la suite : "le cerveau apprend à être conscient en essayant continuellement de prédire les conséquences de ses actions à la fois sur lui-même et sur le monde extérieur", ce qui donne une forme de conscience du contexte et de soi, y compris aux robots conversationnels capables d'apprentissage. C'est ce que confirme un article s'interrogeant sur "Comment l'IA sait des choses que personne ne lui a dites" - ce qui étonnait même ses concepteurs. Cela viendrait de l'acquisition d'une capacité connue sous le nom d'apprentissage en contexte. "C'est un type d'apprentissage différent dont on ne comprenait pas vraiment l'existence auparavant" bien qu'il suive une "procédure d'apprentissage standard, connue sous le nom de descente de gradient" - sauf que ce n'était pas programmé, le système l'a découvert tout seul.

On verra qu'on peut à peine parler de conscience pour cette sorte de conscience de soi qui participe quand même à l'éclairer comme propriété commune à tout apprentissage (ou réseaux de neurones) aussi bien animale qu'humaine ou artificielle (bien que la plupart des IA spécialisées en soient dépourvus). Cela oblige à redéfinir la conscience, sujette à tous les fantasmes (comme l'Esprit) et à laquelle on a même voulu donner un rôle décisif dans la physique quantique ! Il faut maintenir que notre conscience humaine (la voix de la conscience) comme conscience morale se différencie largement d'une simple conscience de soi animale, mais tout en admettant une nouvelle continuité entre différents niveaux de conscience qui ne se recouvrent pas, depuis la perception jusqu'à la conscience de soi et la culpabilité. Encore une fois, il ne s'agit pas de tout réduire au mécanisme de base des modèles de langage ou de la mémoire comme s'il n'y avait rien d'autre, mais de réduire quand même drastiquement le rôle du sujet humain à constater tout ce qu'on explique sans avoir besoin de lui, ni d'ailleurs d'autres composants indispensables de correction, de validation ou de modèle du monde (qui sont déjà en développement). Les générateurs de langage actuels manquent pourtant non seulement de raison mais surtout de tout ce qui est lié à un corps autonome et son histoire, ce qu'ils pourraient cependant acquérir bientôt par leur incarnation dans un robot mobile ou un avatar qui devront être doués de sensibilité et intégrer une certaine conscience morale...

J'avais jusqu'ici adopté le point de vue d'Henri Laborit sur la conscience comme question, intervenant seulement lorsqu'il y avait manque d'information, qu'une réponse réflexe n'était pas suffisante et demandait réflexion ("Penser, c'est perdre le fil" disait Valéry). Cela reste pertinent mais ne se confond pas avec la conscience de soi, ne couvrant pas tous les aspects de la conscience avec ses propriétés fondamentales pas toujours respectées (intentionnalité, unité, sélectivité, fugacité). Surtout cette conscience questionnante est trop intermittente pour assurer une relative continuité de la conscience, faisant exception à une conscience minimale qui, elle, mobilise en arrière plan à peu près en permanence (sauf quand on dort, entre autres) "des compétences sensorielles, d'attention, de mémoire, d'émotion et de compréhension de l'environnement". Il y a simplement différents degrés de conscience (et d'inconscience), qui n'est pas une propriété univoque sinon on ne pourrait pas prendre conscience après-coup de ce qu'on voulait ou faisait.

On s'identifie spontanément avec sa conscience, conscience de soi, du monde qui nous entoure et de ce qu'on fait, mais c'est que la conscience a plus à voir avec l'identification et notre image aux yeux des autres qu'avec notre volonté propre, malgré ce qu'on prétend. Le soupçon sur la conscience est pourtant on ne peut plus ancien, perdue dans nos rêves et nos folies, mais sans avoir pu la détrôner de sa position démiurgique. D'une part on sait bien que la conscience nous trompe de différentes manières, créant des illusions ou hallucinations qui témoignent de ses reconstructions des données sensorielles. D'autre part, nous savons que des individus atteints de diverses lésions cérébrales, aussi bien que les robots conversationnels, peuvent produire une variété de jugements et d'actions sans perception consciente. Cela suggère que bien que la conscience soit généralement présente, elle n'est pas nécessaire pour effectuer au moins certains types de tâches. Enfin, contrairement à ce qu'on nous enseigne depuis l'antiquité, il faut bien reconnaître que loin d'être aux commandes (l'âme pour Platon étant représentée comme le cocher supposé maîtriser le cheval fougueux du corps), la conscience est difficilement contrôlable, ce qui est contradictoire avec sa nécessité supposée pour l'action intentionnelle. "Même nos pensées ne sont pas généralement sous notre contrôle conscient, notamment lorsque nous essayons de nous endormir. C'est aussi pourquoi la pleine conscience est difficile".

De plus, ce n'est pas parce qu'on perçoit consciemment des événements et que, plus tard, on imagine consciemment la recombinaison d'éléments de ces événements, que cette recombinaison n'est pas dirigée par des processus inconscients (tout comme le désir inconscient imprègne les désirs conscients). Toutes ces bonnes raisons de se méfier d'une survalorisation de la conscience n'avaient guère entamé son prestige pourtant jusqu'à la découverte, inconcevable avant, d'un délai mesuré entre l'acte et sa prise de conscience, ce qui semblait contradictoire mais, effectivement, la conscience survient après que la perception, la décision et l'action ont eu lieu, en partie parce que la conscience est trop lente pour suivre les événements en temps réel. Ce n'est pas un épiphénomène pour autant, simplement son rôle est ailleurs. Que la plupart de nos comportements soient exécutés inconsciemment, comme on conduit une voiture sans y penser, ne signifie pas du tout que notre inconscient décide tout pour nous, seulement qu'il exécute inconsciemment les détails de nos plans conscients, et que la conscience, focalisée sur son objet, est une structure tardive, englobante, de contrôle et de correction autant que de projection dans l'avenir, donnant les grandes directions et opérant des choix non automatisables.

La conscience nous permet bien de prendre des décisions à partir d'un examen plus lent et soigneusement réfléchi que le premier niveau de réaction habituel, mais au-delà de ces interventions ponctuelles, elle assure une cohérence biographique et la suite des événements. C'est pour rendre compte en premier lieu de ces deux aspects que l'article évoqué en introduction propose une théorie séduisante de la conscience comme "mémoire épisodique". Ce n'est pas la même chose que la conscience de soi par le contexte, fonction de l'intelligence et du langage (probabiliste) devant prendre en compte sa propre énonciation pour se projeter dans le futur (à partir de la mémorisation de grandes masses d'énoncés), cette forme de récursivité étant à peine consciente sauf a être enregistrée dans la mémoire épisodique ("L'intelligence est, comme telle, la libre existence de l'être-en-soi qui, dans son développement, se rappelle à lui-même en s'intériorisant. Il faut donc, d'un autre côté, saisir l’intelligence comme ce puits où la conscience d'abord est absente". Hegel, Enc. §452). La mémoire épisodique ne se contente pas d'enregistrer le contexte, et cette forme de conscience de soi qu'il implique, y ajoutant la temporalité d'un sujet (d'un regard) qui reste identique à lui-même dut-il se renier, mais qui a une histoire et s'en souvient. Elle peut ensuite être enrichie de différentes procédures d'analyse, de recombinaisons (d'imagination) ou d'extrapolation.

La fonction première de la conscience, en accord avec Bergson ("Conscience signifie d'abord mémoire") ou Husserl, serait ainsi de (re)mémorisation séquentielle. [Il faudrait corriger cependant cette réduction de la conscience à la simple mémoire alors qu'elle est en même temps savoir, mettant en jeu l'apprentissage par les réseaux de neurones (janvier 2024)]. La conscience est donc plutôt reconstruction après-coup qui se manifeste notamment par les effets "postdictifs" où un nouvel événement rend conscient ce qui avait été ignoré d'abord. Si on peut dire que la conscience est la mémoire du présent, de ce qui arrive, y compris donc de la conscience de soi qui en résulte, elle combine la conscience de soi comme processus cognitif d'un locuteur ou d'un chatbot (rétroaction de l'énoncé sur l'énonciation) avec la conscience de soi comme mémoire de notre histoire - la conscience de soi se détachant de la conscience comme étant une conscience en puissance plus qu'en acte la plupart du temps. Si la conscience a pu être faussement comparée à un simple appareil photo, elle serait plutôt le regard après-coup sur nous-mêmes et notre situation, regard décalé évoluant avec le contexte mais dont on garde une trace faisant le tri entre les perceptions. De même que par construction le système de perception disparaît dans son résultat, nous ne voyons pas ce décalage car nous vivons toujours déjà dans le souvenir du présent (d'une perception). "Ce qui est consciemment perçu est un mélange entre les processus de mémoire sensorielle ascendants et les processus de mémoire épisodique et sémantique descendants" mais, en tout cas, "se souvenir est une expérience consciente. Se souvenir d'un événement signifie être consciemment conscient maintenant de quelque chose qui s'est passé à une occasion antérieure". C'est l'essentiel, et qui amène à considérer non seulement que la conscience est, à la base, un système de mémoire, mais que l'expérience consciente est le processus de remémoration lui-même, la conscience étant nécessaire pour se souvenir (au contraire de l'habitude). Ajoutons que l'hypothèse n'est pas nouvelle, ayant déjà été suggérée auparavant notamment par les pertes de conscience des crises épileptiques confirmant aussi que l'intentionnalité était bien nécessaire à la conscience.

Par ailleurs, le rôle central donné à la mémoire épisodique dès la conscience animale oblige du coup à nuancer un peu l'importance que je donne au récit (au langage narratif), rétablissant là encore une plus grande continuité avec les périodes précédant l'explosion culturelle du paléolithique supérieur. La mémoire épisodique serait la version archaïque du récit. Celui-ci change quand même radicalement la donne par sa matérialisation signifiante dans un langage commun qui permet sa transmission et institue un monde commun au-delà de la réalité présente, et de la conscience subjective. C'est ce qui permet aussi de se projeter à bien plus long terme qu'une mémoire épisodique animale qui ne va jamais bien loin (l'instinct y supplée). Enfin, le récit de soi nous rend moralement responsables et nous oblige, nourrissant notamment les passions identitaires. On peut admettre que le langage narratif se soit développé à partir de la mémoire épisodique, y ait pris place pour mieux se souvenir du contexte et suivre ce qui se passe, à condition de bien marquer qu'on entre ainsi dans un tout autre univers (fictif, irrationnel).

Ce serait bien à la base un "système de mémoire qui est utilisé pour nous aider à imaginer l'avenir de manière flexible et créative et à planifier en conséquence", à condition de prendre en compte cette différence considérable de temporalité avec les êtres parlants que nous sommes et le passage de la mémoire individuelle aux récits collectifs puis aux écrits. Il y aurait bien une conscience humaine culturelle inaccessible à la conscience de nos cousins chimpanzés, malgré tout ce qu'on partage génétiquement et une mémoire épisodique très semblable. Les modèles de langage, eux, peuvent certes se projeter aussi dans les siècles des siècles mais manquent encore pour quelque temps de véritable conscience en l'absence de cette mémoire épisodique et biographique, non pas seulement une conscience du contexte immédiat mais sa mémoire séquentielle et individualisée.

On a donc une conscience de soi automatique qui n'est pas encore vraiment conscience, une conscience animale qui est mémoire épisodique du présent et une conscience humaine combinant conscience de soi, mémoire et récit. Sommes-nous juste l'addition de ces différents types de consciences comme souvenir du présent, récit de soi et spectacle du monde ?

(Cet article, modifié après publication, a bénéficié des critiques éclairées de ChatGPT lui-même, bien plus utiles que des commentaires de n'importe qui)