dimanche 24 juillet 2016

Selon David Gelernter, l'ordinateur ne serait pas capable de recréer la subjectivité

David Gelernter, 61 ans, enseigne l’informatique à l’université Yale (États-Unis). En 1976, il obtint sa maîtrise d’hébreu classique à l’université Yale. En 1982, il décrocha un doctorat à l’université de Stony Brook (État de New York) et contribua de façon importante aux études sur le calcul parallèle, notamment au système de programmation Linda. En 1993, il fut grièvement blessé à la main et à l’œil par un colis piégé envoyé par un mathématicien psychopathe surnommé Unabomber, auteur d’une vague d’attentats visant des scientifiques et des chercheurs. Dans son dernier ouvrage, The Tides of Mind [« Les marées de l’esprit », non traduit en français*], David Gelernter explique pourquoi les ordinateurs et l’intelligence artificielle ne sont pas capables de sonder les profondeurs de la subjectivité humaine.

Der Spiegel — Vous vous êtes d’abord lancé dans des études juives et hébraïques, avant de vous intéresser, depuis trente ans, à l’informatique. Qu’est-ce qui vous a poussé à changer ainsi de discipline ?

David Gelernter — L’informatique a toujours attiré les sociopathes.

— Jolie formule, mais vous-même n’entrez clairement pas dans cette catégorie ?

— L’informatique nous confère un pouvoir phénoménal. À lui seul, avec son clavier, un bon programmeur peut concevoir énormément de choses avant de leur donner vie d’une simple pression sur un bouton. Les technophiles sont sous l’emprise de ces machines. Leur vie dépend d’elles, leur activité intellectuelle tourne entièrement autour d’elles. C’est la raison pour laquelle ils souhaitent que ces machines soient les meilleures, les plus puissantes et les plus performantes possible — comme un accomplissement d’eux-mêmes. Qu’elles règnent en maîtres dans l’univers de l’esprit.

— L’ordinateur serait le cerveau idéal, l’esprit humain le logiciel, et la tête le matériel ?

— Cette analogie est déterminante dans le computationnalisme [théorie qui conçoit l’esprit comme un système de traitement de l’information]. Ce serait une explication merveilleusement limpide de l’esprit humain, si elle s’avérait fondée. En simplifiant un problème éminemment complexe, elle donne l’impression de percer le secret scientifique du mystère de l’Univers. Et c’est précisément la raison pour laquelle elle a fait beaucoup de mal à la pensée.

— Parviendra-t-on un jour à créer un véritable esprit au moyen d’un logiciel, un esprit complet, qui ne serait pas uniquement capable de compter ? N’est-ce qu’une question de temps avant que nous ne voyions l’avènement de superordinateurs suffisamment performants pour faire tourner le logiciel « esprit », et donc s’émanciper de la simple exécution de commandes pour penser par eux-mêmes ?

— Ce type d’ordinateur finira par voir le jour, je n’ai aucun doute là-dessus, mais l’ordinateur classique n’aura jamais de conscience comparable à celle de l’homme, il ne sera jamais équipé d’un mode « dasein » [l’« être-là », la présence au monde telle que la définit le philosophe allemand Martin Heidegger], il n’éprouvera aucune émotion, ne sera pas en mesure de ressentir le monde, ni de se le représenter. Qui pourrait croire une chose pareille ? Les cerveaux artificiels manquent pour cela d’un rapport au corps. Les technologues sont des matérialistes de l’esprit, mais, paradoxalement, ils ne sont pas suffisamment matérialistes : on ne peut pas faire abstraction de la biologie. Nous pensons aussi avec notre corps. Il est la caisse de résonance de l’esprit.

Chacun sait que l’esprit humain ne se limite pas à la pensée rationnelle, arithmétique. Pourtant, l’homme range la rationalité tout en haut de la pyramide mentale.

Mes facultés intellectuelles sont liées à mon état émotionnel. Quand je suis en pleine possession de mes moyens, je suis capable d’aborder des problèmes de manière complètement abstraite, purement intellectuelle, et d’agir en conséquence. De façon analytique, sans être entravé par des sentiments — c’est le processus que le rationalisme occidental a érigé en idéal. Or l’esprit humain ne devient pas alerte d’une simple pression sur un bouton. Il se fatigue, se débranche, vagabonde, se perd en associations, somnole, se met à rêvasser. Dans une journée, il passe par plusieurs phases de conscience, qui vont de la raison pure aux hallucinations en passant par les cauchemars. C’est ce que j’appelle les « marées de l’esprit », comme le flux et le reflux de la mer. Et l’état biologique s’y manifeste systématiquement.

— Mais ne serions-nous pas capables de créer une conscience artificielle en envoyant tout simplement les commandes appropriées à l’ordinateur ? Un esprit sans lien avec notre propre conscience, mais qui serait capable de percevoir le monde, de ressentir et de vivre les choses, comme un être humain ?

— Il est possible de simuler la conscience et les sentiments par informatique. De même que les êtres humains peuvent feindre les sentiments, les ordinateurs sont capables de simuler. Cela peut nous apprendre une foule de choses, du moment que nous ne sommes pas assez naïfs pour confondre simulation et réalité. Le comédien qui joue Faust ou Hamlet reste un comédien, si puissante son interprétation soit-elle. Or cette frontière s’estompe chez le scientifique dont la conception du monde s’appuie exclusivement sur l’informatique. Les adeptes du computationnalisme sont intellectuellement corrompus — non pas par l’argent, mais par leur fantasme de pouvoir. Lequel se trouve encore stimulé par le fait que le secteur du traitement de données brasse énormément d’argent. Le vieux dicton qui veut que « savoir, c’est pouvoir » a pris une ampleur inquiétante.

— L’intelligence artificielle a fait des progrès considérables. Ce qu’on appelle la pensée rationnelle ou raisonnée ne serait-elle pas en définitive la même chose que le calcul, c’est-à-dire la conformation à des règles dans les différentes étapes d’un processus ? Et n’est-ce pas ce vers quoi l’homme tend ?

— En partie seulement. C’est la raison pour laquelle ce domaine de spécialité porte le nom d’intelligence artificielle et non pas d’esprit artificiel, de pensée artificielle ou de raison artificielle. La rationalité n’est qu’une strate de l’esprit humain. La strate supérieure. Si je descends dans les strates inférieures, jusqu’à l’état de somnolence et jusqu’au rêve, mon monde intérieur sera toujours vivant, mais ma pensée sera en quelque sorte impure.

Les scientifiques n’ont que mépris pour ces strates inférieures, ils délaissent complètement la pensée esthétique ou émotionnelle. Et, quand ils veulent s’y essayer, ils ne font encore une fois que rationaliser. Or vous ne pouvez pas expliquer le sens artistique par les processus biochimiques ou neurophysiologiques à l’œuvre dans le cerveau.

— Mais, en tant que mode d’expression de l’intelligence, la pensée rationnelle n’est-elle pas la caractéristique principale de l’esprit humain ? Les animaux, eux aussi, ont des sentiments.

— Mais pas de conscience, c’est-à-dire d’aptitude à l’introspection de l’intellect. Un ordinateur pourrait avoir un quotient intellectuel mille fois supérieur à celui d’un être humain, il resterait, philosophiquement parlant, un zombie.

— S’il peut exprimer et mettre en pratique son intelligence artificielle dans un aussi large éventail de domaines, l’ordinateur ne sera-t-il pas capable également, par mimétisme, de recréer la partie de l’esprit qui lui manque ?

— À l’instar de philosophes comme John Searle, Thomas Nagel ou Colin McGinn, je suis de l’avis (hétérodoxe) que l’ordinateur n’est pas capable de recréer la subjectivité — c’est-à-dire le monde qui est dans notre tête, la vie spirituelle qui nous est propre, la sphère intellectuelle privée qu’aucun autre que nous ne peut arpenter. Je peux demander à un robot : « As-tu une conscience ? » Et il pourra me répondre : « Évidemment, quelle question, qu’est-ce que tu crois ? » Je peux lui demander comment il se sent, et il pourra me répondre : « À merveille, tu es mon interlocuteur préféré. » Mais je ne peux pas le rendre heureux en lui proposant des fraises à la crème. Ce serait idiot. Il n’a pas conscience du bonheur. Il n’y a pas d’esprit dans une machine, pas de présence d’esprit, comme chez un être humain. Il n’y a rien.

La vraie question qui se pose est la suivante : dans quelle mesure nous laissons-nous duper par les performances des ordinateurs ? Sommes-nous sous le charme de leur magie ?

— La pensée magique, au moins, serait inconnue de l’ordinateur. Les frontières de la technologie semblent pouvoir être repoussées à l’infini. L’esprit humain capitule-t-il devant l’intelligence artificielle ?

— Les performances des machines dépassent notre imagination. Mais c’était déjà vrai de la puissance des moteurs. Certes, nous avons l’impression d’assister, avec l’intelligence artificielle, à la création d’un esprit surnaturel, d’avoir trouvé la pierre philosophale. En réalité, encore aujourd’hui, nous ne comprenons pas la conscience. Nous ne sommes pas capables d’expliquer la subjectivité, peut-être ne le pourrons-nous d’ailleurs jamais.

— Vous en jugez le naturalisme ou la science matérialiste incapables. Mais il existe des explications métaphysiques, religieuses ou spirituelles.

— Elles sont insatisfaisantes. Les sentiments gouvernent l’esprit. Le corps et l’âme se reflètent l’un l’autre. La conscience se compose de deux sphères : une extérieure et une intérieure. L’extérieure est déterminée par des perceptions, l’intérieure par l’expérience et le souvenir. La conscience, c’est à la fois ce qui est vu et ce qui voit, l’observé et l’observateur. Comme une chambre avec vue. De la chambre on voit aussi bien le monde extérieur que la sphère privée, à l’intérieur. Le problème vient de cette position singulière à l’intérieur même du phénomène que nous essayons de comprendre.

— Quel rôle les sciences humaines jouent-elles dans l’exploration de la conscience ?

— La littérature, la poésie, l’art mais aussi la philosophie et la psychologie des profondeurs de Freud sont autant de clés qui permettent de pénétrer à l’intérieur de la conscience. Aujourd’hui, Freud a pour ainsi dire disparu de la sphère scientifique. Dans les universités, les sciences humaines sont de plus en plus cloisonnées et pressurées. La pression culturelle pousse les étudiants vers la partie analytique, scientifico-objective du domaine de l’esprit. Le résultat, c’est une atrophie de l’existence émotionnelle et des échanges communicatifs, comme on peut déjà le constater sur les réseaux sociaux, mais aussi dans le monde de l’art et dans l’industrie du divertissement. Il fut un temps où on pouvait reconnaître d’un simple coup d’œil, devant un manuscrit ou une lettre, si l’écriture était celle d’un homme ou d’une femme. Aujourd’hui, la communication est en grande partie désincarnée. On observe une distorsion du même ordre dans notre rapport à l’art. L’art moderne est jugé à l’aune de sa valeur marchande. L’œuvre d’art est devenue un objet qui s’adresse à la raison, au lieu de créer un nouveau rapport au monde.

— La communication et l’art ne sont pourtant pas devenus vides de sentiments pour autant, si ?

— La pensée est exprimée par le langage. Les sentiments, eux, le sont d’abord par le corps : par nos mimiques, le ton de notre voix, nos gestes, et ainsi de suite. Ils sont généralement communiqués sans passer par le langage : c’est sur ce principe que repose l’art. Le bonheur ou la tristesse sont des états de l’être et ne sont de ce fait pas mesurables. L’esprit englobe la pensée et l’être. Or un logiciel est incapable de produire de l’être. C’est la raison pour laquelle le computationnalisme ne tient pas la route.

— La rationalité a plutôt réussi à l’humanité. La suprématie de la civilisation occidentale tient à ses découvertes scientifiques.

— Tout ce que nous appelons progrès se passe dans le registre rationnel de l’esprit. Mais nous sommes arrivés au point où nous courons le risque de sacrifier l’humanisme — un autre acquis de la pensée occidentale — sur l’autel de la technologie et du scientisme.

— Est-ce la raison pour laquelle vous tenez Freud en si haute estime, au point de le ranger aux côtés des grands dramaturges et des grands poètes ?

— Quand j’étais jeune, et puis pendant mes études, j’aimais lire Freud. Mon intérêt pour les choses de l’esprit venait de lui, au départ. Freud était un observateur méticuleux. Il nous montrait que nous pouvions apprendre des choses sur ce qui se passait dans notre esprit en nous intéressant à nos rêves et à nos pensées au moment de l’endormissement. Surtout, Freud avait une obsession que je partage : la religion.

— C’était un athée qui tentait d’explorer les origines de la religion par la psychanalyse. Cela n’avait rien à voir avec de la théologie.

— Il était de ces athées que Dieu ne laisse pas indifférents. Le sentiment le plus refoulé et le plus passé sous silence dans le monde occidental est la foi en Dieu. On ne peut pas tuer Dieu. Dans notre univers spirituel, Dieu est une conception à la fois répandue et réprimée. Les scientistes aimeraient bien venir à bout des croyances, de même que la sphère rationnelle de l’esprit aimerait bien en déloger la sphère spirituelle. Il faut aussi y voir une réaction de peur devant le pouvoir, pas forcément de l’irrationnel, mais du non-logique.

— Le fait de se représenter Dieu n’est pas une preuve de son existence.

— Non, la présence de Dieu dans l’esprit n’a rien à voir avec l’existence ou la non-existence de Dieu. Dieu n’est ni une chose ni une personne.

— Sommes-nous incapables de nous passer de Dieu ou de concepts métaphysiques, de pensée mythique, pour tenter d’expliquer ce qu’est l’esprit ?

— Je ne sais pas. Je n’ai pas de réponse métaphysique à la question de l’être. Mais je ne peux pas non plus réduire le sentiment de bonheur à de simples processus biochimiques ou neurophysiologiques à l’intérieur du cerveau. La science matérialiste est forcément impuissante face à la conscience puisqu’elle passe à côté de ce qui est vraiment important. Je crois que nous devons ouvrir davantage notre pensée. Depuis cinquante ou soixante ans, la science exacte est devenue la nouvelle religion de notre temps : un formidable vecteur de pouvoir qui est si imbu de lui-même que, comme la religion avant lui, il exclut les non-croyants et les sceptiques, accusés d’hérésie, et impose son dogme. C’est la dernière idéologie.

— Une nouvelle forme de spiritualisme ou de religiosité ne serait-elle pas une trahison des Lumières ?

— Là n’est pas la question. Un retour à la tradition européenne de l’éducation humaniste ne voudrait pas dire renoncer au rationalisme, mais reconnaître la radicalité de la raison appliquée à tous les domaines de la vie.

— Où trouver alors le contrepoids qui permettrait d’endiguer la perte de sens ?

— Par exemple dans la réappropriation de l’art, de la poésie et de la philosophie. Si je pouvais, je prescrirais à tous les scientifiques en herbe un tronc commun de sciences humaines avant qu’ils n’ouvrent un manuel de neurophysiologie ou d’informatique. Dans mes cours d’introduction, à l’université, je m’appuie sur des exemples tirés de l’art et de la littérature ; la plupart de mes confrères sont dubitatifs et estiment que ces références n’ont pas leur place en cours d’informatique. Si je voulais les initier à Dieu ou au concept d’âme, la plupart de mes étudiants prendraient sans doute leurs jambes à leur cou. Ils fuiraient la subjectivité.

— Parce que le monde de la science pure a engendré une ère glaciaire dans le registre émotionnel ?

— La rationalité pure ne crée pas de lien. Le scientiste, qui obéit au froid langage de la pensée logique, arithmétique, est apatride parce qu’il perd de vue la globalité de la vie et donc le sentiment de soi, de son identité. Avec la foi en Dieu, la nostalgie est sans doute le sentiment personnel le plus refoulé chez l’homme moderne, la nostalgie d’un jardin d’Eden, d’un lieu à soi qui n’existe plus. Nous voulons avoir un endroit où nous nous sentons à notre place, nous sentir en sécurité dans une partie d’un tout.

— N’est-il pas présomptueux, et dangereux, de chercher un sens à la présence de l’homme sur Terre ?

— Le sentiment de perte de sens n’est pas moins dangereux. La souffrance, la colère et la frustration peuvent être tout à fait salutaires. On ne peut pas occulter longtemps la part d’ombre de l’esprit.

— La politique non plus n’est pas purement rationnelle. Quand on décompose un problème à l’infini, on finit par perdre de vue l’objectif.

— C’est que l’on n’a pas d’idéal. Les dirigeants politiques, en tout cas aux États-Unis, doivent proposer un idéal, faute de quoi ils n’auront pas le charisme nécessaire. Le succès d’un énergumène comme Donald Trump aux primaires américaines montre que les Américains attendent de l’émotion d’un homme politique. Ils n’élisent pas un calculateur. On ne peut pas bannir les émotions de la vie en société et, si les populistes ont du succès, ce n’est pas en dépit, mais bien en raison du fait qu’ils s’opposent à la rationalité. On doit à Wittgenstein cette maxime célèbre : « Ce dont on ne peut parler, il faut le taire. » Dans la vraie vie, on pourrait la décliner de la manière suivante : « Ce qu’on ne peut pas exprimer de façon logique, il faut le ressentir. » Les populistes comme Donald Trump donnent une voix à ces sentiments. Ils nous rappellent que notre esprit peut certes calculer, mais également s’égarer, divaguer, s’emporter, rêver et halluciner. Chaque nuit, notre esprit nous rappelle qui nous sommes aussi, qui nous sommes encore. Et, chaque matin, nous l’oublions à nouveau.

— Merci de nous avoir accordé cet entretien, monsieur Gelernter.

Source : Der Spiegel



L’avancée des machines

« Après beaucoup de faux départs, l’intelligence artificielle prend enfin de l’essor. Cela va-t-il causer davantage de chômage, voire la perte de l’humanité ? » se demande The Economist dans son édition du 25 juin.

Le magazine britannique consacre un grand dossier aux progrès de l’intelligence artificielle. C’est le « deep learning », l’apprentissage profond, une méthode qui permet au programme d’apprendre par lui-même, qui a révolutionné le secteur. Dès lors, « les machines sont en marche », titre le magazine. Et cela suscite l’angoisse : et si elles s’apprêtaient à prendre nos emplois, comme le pensent certains cabinets de conseil ? Et si, surtout, elles se mettaient à penser par elles-mêmes et se retournaient contre leur créateur ? Une question existentielle.




Dix fois plus rapide que la révolution industrielle

C’est le rythme auquel la révolution de l’intelligence artificielle transforme notre société, selon l’Institut McKinsey, un cercle de réflexion américain qui analyse les tendances macroéconomiques. Mais son impact, lui, serait 300 à 3 000 fois plus important. Pour mémoire, 8,5 milliards de dollars ont été investis en 2015 dans les entreprises travaillant sur l’intelligence artificielle. Soit quatre fois plus qu’en 2010, selon Quid, un société d’analyse de données.

2 commentaires:

Olivier Brandenburg a dit…

Cet homme,en bon américain,ignore tout de la metaphysique,la science de l'être en tant qu'être-Aristote,Saint Thomas d'Aquin-et croit pouvoir échapper à l'enfer technique et nihiliste par des faribolles:Freud,son pan-sexualime athée,Jung,son adversaire et sa "psychologie des profondeurs" et ses "archétypes",Heidegger qui se détourne de la metaphysique pour aller vers la poésie:pas de chance,c'est celle d'un dément,Hölderlin, qui l'est devenu après un retour obsolète aux pré-socratiques (les fragments d'Héraclite,d'Empédocle-qui se jette dans le Vésuve-de Parménide qui le contredit enfin et est à l'origine de la vraie metaphysique,celle de l'être en tant qu'être:"Insensé est celui qui dit que le non-être est" à rapproche de "Insensé est celui qui dit que Dieu n'est pas" de l'Ancien Testament, mais qui sombrera lui aussi dans l'illuminisme, ou Lucrèce et son "De natura rerum" qui se suicide aussi )!
Sa conception de la subjectivité est un retour archaïque à la magie,le chamanisme,l'occultisme,etc,souvent à coup de stupéfiants.Or ces mouvements rétrogrades sont en plein essor:l'occident régresse!
Quant à sa critique de l'intelligence artificielle,elle est faiblarde:un cerveau humain comporte 3 000 milliards de neurones avec des synapses, à plusieurs branches,des dendrites nombreuses soit des milliards de milliards de milliards de connexions possibles et hiérarchisées.Jamais un super-ordinateur,même s'il va plus vite ce qui empêche d'ailleurs toute maturation de la pensée n'y arrivera sauf s'il est fabriqué avec des montagnes d'algoritmes,conçus par des milliers d'hommes vivants et dirigés et hiérarchisés par un sur-sur doué qui n'existera jamais.
Si un super ordinateur après avoir été battu aux échecs par Kasparov l'a vaincu deux fois,la raison en est qu'après avoir mémorisé des millions de parties d'échec passées puis "corrigées" par des dizaines et dizaines d'informaticiens et de joueurs d'échec très doués qui étaient derrière lui,Kasparov n'a pas su trouver,épuisé, la série de mouvements nouvelle qui lui aurait permis de mettre l'ordinateur échec et mat car l'homme a dans son intelligence deux ailes ,l'une tournée vers le passé,la mémoire,et l'autre vers l'avenir,l'imagination et alors il peut s'élever au plus haut et pour les grands et vrais mystiques catholiques jusqu'à l'union avec Dieu pour un moment et cela jamais un ordinateur ne le fera.
Donc pas de panique mais fatiguons-nous au lieu de flemmarder auprès de nos ordinateurs géants!
Voir sur "spiritualité,politique,économie.wordpress.com l'article,très succinct, "Metaphysique.


Grégory Rimsky-Korsakoff a dit…

Un tel Name Dropping nuit énormément à la solidité d'un discours construit et raisonné. Ce n'est pas parce qu'un homme affectionne Freud et Heidegger, qu'il ne connait pas Aristote. Et ce n'est pas parce qu'il n'a pas eu la même lecture que vous de Freud et d'Heidegger, que cela vous donne le droit au mépris. Vous êtes contents de vous car vous avez fait une L2 de philosophie et qu'un prof, non moins fier de lui, vous a fait un cours sur les pré-socratiques et une diatribe anti-Heideggerienne que vous avez apprise par coeur? En outre, l'intérêt de l'article n'est pas là. Ajoutez-y des sophismes méprisants et absolus: "Cet homme, en bon américain, ignore tout", je vous promets un discours indigeste sans même avoir pu aborder le fond.

Quant au fond, on se demande même si vous avez compris l'article et /ou si vous avez quelques notions de philosophie de l'esprit, pour vous permettre un ton si péremptoire. Vous accusez un professeur de Yale d'avoir un mauvaise compréhension de l'intelligence artificielle et de la critique qu'il peut en faire? Vous pensez sérieusement, assis dans votre fauteuil, que ce David Gelernter n'est pas au courant du nombre de neurones et de synapses d'un cerveau humain? Quoi qu'il en soit, la critique que fait ce professeur du computationnalisme est beaucoup plus profonde que vos inepties sur Kasparov. Il donne son avis sur LE sujet du moment dans le domaines des neurosciences et de la philosophie de l'esprit, à savoir si l'esprit est quantitativement ou qualitativement différent d'une machine gérant un système de traitement de l'information, aussi complexe soit-il. Il pense que la différence est qualitative, c'est la thèse qu'il défend dans cet interview, et vous ne l'avez même pas saisi.

Avant de défendre vos idées, essayez de prendre votre temps pour bien comprendre ce que dit votre interlocuteur. Même si vous n'êtes pas d'accord à première vue, prenez du recul, restez sceptique, surtout quand ce dernier est connu et reconnu. Vous avez envoyé un post véhément, non par amour de la vérité, mais parce que vous avez pu proféré vos vérités et que vous y êtes attachés sentimentalement. Je pense que c'est, de ce que j'ai appris dans cet article, ce qu'aurait pu vous répondre David Gelernter,