La folie de la "conscience machine"

Nov 11, 2023

La conscience n'émerge-t-elle que chez les êtres biologiques ? Ou est-il possible qu'un ordinateur qui observe, interagit et se représente son propre état interne puisse également donner naissance à la conscience ? Telles étaient quelques-unes des questions posées à Bernardo Kastrup, Susan Schneider et Donald Hoffman lors d'un récent débat pour l'IAI, « La conscience dans la machine ». Bernardo Kastrup revient sur le débat et son désaccord avec Susan Schneider.

J'ai récemment participé à un débat organisé par l'IAI - avec Donald Hoffman et Susan Schneider, à côté de votre humble serviteur - sur la question de savoir si les ordinateurs en silicium exécutant des logiciels d'intelligence artificielle (IA) deviendront un jour conscients. En tant qu'idéaliste métaphysique, je crois que la conscience n'est générée par aucun substrat – biologique ou autre – car elle est primaire. Mais la vie intérieure consciente privée, apparemment séparée du reste de la nature et délimitée par les limites d'une entité physique, est clairement quelque chose qui a émergé en conjonction avec la biologie. Donc, pour moi, la question se traduit par : la conscience privée peut-elle potentiellement se produire en association avec des ordinateurs en silicium ?

Cette question me tient à cœur, car je suis ingénieur en informatique depuis plus longtemps que je ne suis philosophe. Pour moi, l'hypothèse de "l'IA consciente" est à peu près aussi plausible que celle du Monstre Spaghetti Volant (FSM). Certes, je ne peux pas réfuter catégoriquement l'hypothèse, pour la même raison que je ne peux pas réfuter catégoriquement le FSM. Mais tout comme le FSM, je ne pense pas que nous ayons de bonnes raisons de prendre l'hypothèse au sérieux. Voici pourquoi.

LECTURE SUGGÉRÉE Les grandes technologies ne veulent pas que l'IA devienne consciente Par Susan Schneider

Je peux exécuter une simulation détaillée de la fonction rénale, extrêmement précise jusqu'au niveau moléculaire, sur l'iMac même que j'utilise pour écrire ces mots. Mais aucune personne sensée ne pensera que mon iMac pourrait soudainement uriner sur mon bureau lors de l'exécution de la simulation, aussi précise soit-elle. Après tout, une simulation de la fonction rénale n'est pas la fonction rénale ; c'en est une simulation, sans commune mesure avec la chose simulée. Nous comprenons tous sans difficulté cette différence dans le cas de la production d'urine. Mais lorsqu'il s'agit de conscience, certains perdent soudainement leur capacité de raisonnement critique : ils pensent qu'une simulation des schémas de flux d'informations dans un cerveau humain pourrait en fait devenir consciente comme le cerveau humain. Comment particulier.

D'où vient cet abandon d'un sens sain de la vraisemblance ? Ceux qui prennent au sérieux l'hypothèse d'une IA consciente le font sur la base d'une notion effroyablement biaisée d'isomorphisme - une correspondance de forme ou de similitude - entre la façon dont les humains pensent et les ordinateurs IA traitent les données. Pour trouver cette similitude, cependant, il faut franchir plusieurs étapes d'abstraction loin de la réalité concrète et empirique. Après tout, si vous posez un vrai cerveau humain et un vrai ordinateur en silicium ouverts sur une table devant vous, vous serez submergé par leur différence structurelle et fonctionnelle. Un cerveau humide est basé sur le carbone, brûle l'ATP pour l'énergie, fonctionne par le biais du métabolisme, traite les données par le biais de libérations de neurotransmetteurs, etc. Un ordinateur sec, en revanche, est basé sur le silicium, utilise un différentiel de potentiel électrique pour l'énergie, fonctionne en déplaçant les charges électriques, traite les données en ouvrant et en fermant des interrupteurs électriques appelés transistors, etc.

Le vague isomorphisme entre les ordinateurs IA et les cerveaux biologiques ne se trouve qu'à des niveaux très élevés d'abstraction purement conceptuelle - assez déconnectés de la réalité concrète et empirique - dans lesquels des modèles désincarnés de flux d'informations sont comparés. Par conséquent, pour croire en une « IA consciente », il faut écarter arbitrairement les dissemblances écrasantes à des niveaux plus concrets, puis - tout aussi arbitrairement - choisir de ne prendre en compte qu'un niveau d'abstraction très spécifique et élevé où de vagues similitudes peuvent être trouvées. Cela peut-il être décrit comme autre chose qu'un vœu pieux?

___

En faisant appel à la complexité, on ne fait que s'engager dans des gestes furieux de la main et se cacher derrière le summum de l'imprécision

___

Vous voyez, tout ce qu'un ordinateur fait peut, en principe, être fait avec des tuyaux, des soupapes de pression et de l'eau ordinaires et prêts à l'emploi. Les tuyaux jouent le rôle de conduits électriques, ou de traces ; les valves de pression jouent le rôle d'interrupteurs, ou de transistors ; et l'eau joue le rôle d'électricité. La loi d'Ohm, la règle fondamentale qui détermine le comportement des circuits électriques, établit une correspondance entre la pression de l'eau et les relations de débit. En effet, la raison pour laquelle nous construisons des ordinateurs avec du métal, du silicium et de l'électricité - au lieu de tuyaux en PVC et d'eau - est que les premiers sont beaucoup, beaucoup plus petits et moins chers à fabriquer. Les puces informatiques actuelles ont des dizaines de milliards de transistors et un nombre encore plus grand de traces individuelles. Pouvez-vous imaginer la taille et le coût d'un ordinateur à base d'eau comprenant des dizaines de milliards de tuyaux et de soupapes de pression ? Pouvez-vous imaginer la quantité d'énergie nécessaire pour pomper l'eau à travers elle ? Vous ne seriez pas en mesure de vous le permettre ou de le transporter dans votre poche. C'est la raison pour laquelle nous calculons avec de l'électricité, au lieu de l'eau. Au-delà de cela, il n'y a rien de fondamentalement différent entre un ordinateur à base d'eau et un ordinateur électronique, du point de vue du calcul. L'électricité n'est pas un substrat magique pour le calcul, mais simplement un substrat pratique.

Maintenant, pensez-vous que nous avons de bonnes raisons de croire qu'un système composé de tuyaux, de vannes et d'eau, comme le système d'assainissement de votre maison, pourrait devenir conscient s'il y a suffisamment de tuyaux et de vannes assemblés de la bonne manière ? Sinon, il en va de même pour les ordinateurs AI. La seule différence entre le système d'assainissement de votre maison et mon ordinateur imaginaire à base d'eau est une complexité - combien de tuyaux et de vannes le constituent, et comment ils sont interconnectés - pas de nature ou d'essence. En fait, le système d'assainissement domestique typique met en œuvre la fonctionnalité d'environ 5 à 10 transistors.

Certains croient que la complexité est la clé ici. Ils maintiendront que, bien qu'un simple système d'assainissement domestique soit certes inconscient, si vous continuez à y ajouter des tuyaux et des vannes, à un moment donné, le système deviendra conscient. Mais c'est de la pensée magique, à moins que l'on ne puisse expliquer comment - explicitement, logiquement et précisément, même si c'est juste en principe - la simple addition de plusieurs des mêmes tuyaux et vannes peut permettre l'apparition d'une vie intérieure consciente privée alors qu'il n'y en avait pas auparavant. Même les scénarios d'intégration de l'information à la mode ces jours-ci n'apportent rien à cet égard, car ce sont de simples observations et non des explications. Ainsi, en faisant appel à la complexité, on ne fait que s'engager dans des gestes furieux de la main et se cacher derrière le summum de l'imprécision.

VISIONNAGE SUGGÉRÉ Le canular de l'IA avec Mazzita Chirimuta

D'autres entendent des mots à la mode comme "l'informatique neuromorphique" et pensent qu'un substrat informatique fondamentalement nouveau et de pointe - plus proche du cerveau humain que des ordinateurs traditionnels - peut offrir une percée réaliste vers "l'IA consciente" à l'avenir. Mais cela aussi, encouragé comme il l'est par le marketing d'entreprise sensationnaliste, reflète un profond manque de compréhension de la façon dont ces choses fonctionnent.

Il n'y a pas de différence fondamentale entre votre bon vieux PC domestique et les machines d'IA complexes ; pas même ceux projetés pour l'avenir. Les algorithmes d'IA s'exécutent sur des cœurs de traitement d'informations parallèles du type que nous avons dans les cartes graphiques de nos PC depuis des décennies ; ils utilisent simplement des cœurs plus nombreux et plus rapides. On voit mal quel miracle pourrait faire en sorte que des composants plus nombreux et plus rapides du même genre conduisent au saut extraordinaire et intrinsèquement discontinu de l'inconscience à la conscience. Et les logiciels ne le feront pas non plus : tout ce discours sur les «neurones artificiels» - si vous comprenez ce que cela signifie réellement - n'est qu'un raccourci à la mode pour les opérations vectorielles standard que nous faisons depuis des siècles.

Au niveau fondamental dont il s'agit ici, même les ordinateurs neuromorphiques n'impliquent aucune différence de nature. Eux aussi sont des dispositifs MOS (Metal Oxide Semiconducting) comme ceux de votre téléphone, déplaçant des charges électriques comme leurs prédécesseurs ; ils doivent l'être, afin de rester compatibles avec les infrastructures et le savoir-faire de fabrication existants et exorbitants. Que les processeurs neuromorphiques soient analogiques, au lieu de numériques, n'aide pas non plus : les ordinateurs numériques déplacent des charges tout comme leurs homologues analogiques ; la seule différence réside dans la manière dont les informations résultant de ces mouvements de charge sont interprétées : les micro-interrupteurs des ordinateurs numériques appliquent un seuil à la quantité de charge avant de décider de sa signification, contrairement aux ordinateurs analogiques. Mais au-delà de cette étape d'interprétation - triviale pour les besoins du point de discorde - les ordinateurs analogiques et numériques incarnent essentiellement le même substrat. Si déplacer des charges électriques ne rend pas votre téléphone conscient aujourd'hui, il ne le fera pas non plus à l'avenir.

___

Certains lecteurs peuvent penser qu'il est inconvenant de ma part de m'opposer si fermement à la simple hypothèse ou à la discussion sur « l'IA consciente ». Pourtant, parfois, il est impératif de crier « folie !'

___

La pensée magique totalement déconnectée de la raison semble prévaloir parmi ceux qui colportent « l'IA consciente ». J'ai entendu l'« argument » suivant avancé par des personnes par ailleurs intelligentes et éduquées : « Si les cerveaux sont conscients, pourquoi les ordinateurs ne peuvent-ils pas l'être aussi ? À cela, je réponds par une question tout aussi rhétorique : si les oiseaux peuvent voler en battant des membres supérieurs, pourquoi les humains ne peuvent-ils pas voler en battant des bras ?

Au cours du débat sur l'IAI, Susan Schneider, dans l'un de ces mouvements rhétoriques qui semblent intelligents dans le langage mais qui manquent de force lorsqu'on y regarde de plus près, a donné à l'analogie ci-dessus une tournure différente : elle a souligné que, si les frères Wright avaient cru que seuls les oiseaux pouvaient voler, ils n'auraient pas pris la peine d'essayer de construire un avion. Son argument était qu'un phénomène - dans ce cas, le vol - peut avoir plusieurs instanciations dans la nature, dans différents substrats, tels que les oiseaux et les avions. Ergo – du moins c'est ce qu'on pense – bien que les ordinateurs au silicium soient différents de la biologie, en principe, les deux pourraient instancier le phénomène de la vie intérieure consciente privée.

La validité de son propos est simplement logique : en effet, nous ne sommes pas logiquement obligés de limiter les instanciations de la conscience privée à un seul substrat biologique. Mais cela ne signifie presque rien, car il existe un grand nombre d'hypothèses absurdes qui sont également logiquement cohérentes, comme le monstre en spaghetti volant : il est logiquement et même physiquement sain d'imaginer qu'il y a un monstre noodly flottant dans une dimension supérieure de l'espace - invisible pour nous, flatlanders - déplaçant les planètes autour de leurs orbites avec ses appendices invisibles. Les preuves sont cohérentes avec cette hypothèse, car les planètes se déplacent autour de leurs orbites, même si aucune force ne leur est transmise par contact physique visible. Plus forte encore, l'hypothèse semble expliquer nos observations du mouvement planétaire sans avoir à faire appel à des courbures abstraites de l'espace-temps. Alors, devrions-nous maintenant prendre au sérieux le monstre noodly?

Voici une autre hypothèse logiquement et physiquement cohérente : il pourrait y avoir une théière du XIXe siècle dans l'orbite de Saturne en ce moment. Des extraterrestres sont peut-être venus sur Terre au XIXe siècle, ont subrepticement volé la théière dans la salle à manger d'une vieille dame sans méfiance, puis l'ont jetée à proximité de Saturne sur le chemin du retour, après quoi la malheureuse théière a été capturée par le champ de gravité de Saturne. Devrions-nous donc prendre notre lunaire en porcelaine aussi au sérieux que certains prennent aujourd'hui "l'IA consciente" ?

LECTURE SUGGÉRÉE L'IA de Google n'est pas sensible. Pas même légèrement Par Gary Marcus

Évidemment non, car ce qui importe ici n'est pas la possibilité logique, ni même physique, mais la vraisemblance naturelle. En d'autres termes, ce que nous devons nous demander, ce n'est pas ce qui est logiquement possible ou ce qui ne peut pas être réfuté catégoriquement - il y a une quantité infinie d'absurdités qui ne peuvent pas être réfutées catégoriquement - mais ce que nous avons de bonnes raisons d'admettre comme hypothèse. Avons-nous de bonnes raisons de croire qu'un ordinateur en silicium exécutant un logiciel d'IA pourrait être conscient comme un cerveau vivant ? Pas du tout. Le tout est une mascarade et représente une indulgence inquiétante pour la fantaisie et la pensée magique d'un genre qui, malheureusement, n'a été que trop courant tout au long de l'histoire humaine, en particulier dans des contextes religieux.

Il serait certes compréhensible que vous réagissiez à mon affirmation ci-dessus par un appel à l'autorité : il existe de nombreux informaticiens hautement qualifiés qui ne prennent pas seulement «l'IA consciente» au sérieux, mais gagnent même leur vie en en parlant. Cela signifie-t-il qu'ils peuvent être sur quelque chose ici, même si nous ne comprenons pas très bien comment ?

Ce que la plupart des gens ne réalisent pas, c'est que beaucoup - j'ose même dire la grande majorité - des informaticiens ne sont pas des experts en informatique ; ils ne sont que des utilisateurs expérimentés d'ordinateurs, avec une compréhension vague et très limitée de ce qui se passe sous le capot. En effet, historiquement parlant, l'informatique est une branche de la logique mathématique, pas de l'ingénierie. Des générations d'informaticiens sont maintenant sortis de leur formation en sachant comment utiliser une hiérarchie volumineuse de bibliothèques de logiciels et d'outils pré-construits - destinés précisément à les isoler des détails sales que nous appelons la réalité - mais sans avoir la moindre idée de comment concevoir et construire un ordinateur. Ils pensent entièrement dans un domaine d'abstraction conceptuelle, rendu possible par l'outillage et déconnecté de la réalité (électrique) des circuits intégrés et du matériel. De leur point de vue, puisque le CPU - l'unité centrale de traitement, le "cerveau" de l'ordinateur - est une mystérieuse boîte noire alimentée par la magie tout aussi mystérieuse de l'électricité, il est facile d'y projeter tous leurs fantasmes. Ils comblent ainsi le vide laissé par leur incompréhension par des vœux pieux et magiques. La psychologie ici est carrément banale.

Ceux qui savent comment construire non seulement un processeur mais un ordinateur dans son ensemble - comme Federico Faggin, père du microprocesseur et inventeur de la technologie de porte en silicium MOS - ont tendance à rejeter la mode de "l'IA consciente" tout comme moi, car ils comprennent qu'un ordinateur est un automate, un simple mécanisme, pas différent en nature de votre système d'assainissement domestique. Et oui, je suis sûr qu'il y a des exceptions notables à cette affirmation, car le fantasme déséquilibré est une condition qui n'épargne aucune démographie. Mais ce sont les exceptions proverbiales qui confirment la règle, car les docteurs en abstraction conceptuelle sont loin des docteurs en réalité.

___

Le vague isomorphisme entre les ordinateurs IA et les cerveaux biologiques ne se trouve qu'à des niveaux très élevés d'abstraction purement conceptuelle - assez déconnectés de la réalité concrète et empirique - dans lesquels des modèles désincarnés de flux d'informations sont comparés

___

Certains lecteurs peuvent penser qu'il est inconvenant de ma part de m'opposer si fermement à la simple hypothèse ou à la discussion sur « l'IA consciente ». Pourtant, parfois, il est impératif de crier « folie ! quand la folie commence à s'infiltrer dans notre culture d'une manière apparemment innocente. L'ouverture d'esprit incontrôlée et le politiquement correct confèrent une plausibilité indue à un radotage absolu. Et une fois cette porte ouverte, où s'arrête-t-elle ? Quelle sera la prochaine absurdité scandaleuse dont nous devrons débattre avec un visage impassible et une main pensive dans nos mentons, à la vue de nos enfants ?

Alors permettez-moi d'essayer d'être aussi clair que possible : non, nous n'avons aucune bonne raison de prendre au sérieux « l'IA consciente ». Il s'agit d'un fantasme non étayé par la raison ou la preuve ; un simple artefact de l'état chaotique de notre philosophie, dans lequel la conscience elle-même - la seule donnée empirique de la nature - est en quelque sorte devenue une anomalie.

Divertir une « IA consciente » est contre-productif ; il légitime la dépense de ressources humaines rares - y compris l'argent des contribuables - sur des problèmes qui n'existent pas, tels que l'éthique et les droits des entités d'IA. Il met en danger la santé mentale de notre culture en déformant notre sens naturel de la plausibilité et en confondant la réalité avec la (mauvaise) fiction. Les IA sont des outils complexes, comme une centrale nucléaire est un outil complexe. Nous devrions prendre des précautions de sécurité concernant les IA tout comme nous prenons des précautions de sécurité concernant les centrales nucléaires, sans avoir de discussions éthiques sur les droits des centrales. Tout ce qui va au-delà n'est qu'un non-sens fantastique et doit être traité comme tel.

Vous voulez entendre l'autre côté de l'argument? Lire la réponse de Susan Schneider à l'article de Bernardo Kastrupici.

S'inscrirepour obtenir un accès exclusif.

Accédez en illimité à des milliers d'articles et de vidéos

Commencer l'essai gratuit

Déjà abonné ? Connexion

S'identifierpour poster des commentaires ouinscrivez-vous maintenant (ne prend qu'un instant). Don't have an account? Sign in with Facebook, Twitter or Google to get started: -->