Two or three things that machines know about us (interview)
Entretien avec Arthur Dreyfus pour le journal Le temps, 6 juillet 2022
A.D. J’enregistre cet entretien avec mon smartphone : est-ce une insulte à ma mémoire ?
P.C.-N. À moins d’avoir une mémoire phénoménale, si vous n’enregistriez pas, vous prendriez des notes ! Or à cet égard, on sait que la mémoire est externalisée depuis longtemps. Les orateurs antiques, avec leurs moyens mnémotechniques consistant à placer les différents points d’un discours sur les doigts de la main, le déplaçaient déjà hors de leur esprit. [Un temps.] En fait, c’est surtout la mémoire des images que viennent bouleverser les nouvelles technologies : on me sert un jus d’orange, je le poste sur Instagram – et dès lors s’inscrit sur un cloud une image du réel filtrée et uniformisée. C’est une mutation radicale de la trace du souvenir. Avant les smartphones, mon souvenir n’était pas une image sur Instagram.
A.D. À propos des services que nous rendent les machines, vous écrivez : On peut voir dans ce fait de déléguer un enrichissement aussi bien qu’un appauvrissement.
Je ne veux pas dire qu’utiliser les nouvelles technologies serait mal au sens éthique. Plutôt que de les juger, je préfère révéler l’étrangeté induite dans nos vies par ces transformations.
P.C.-N. Tout de même, vous ne trouvez pas ça mieux de passer une après-midi à marcher dans une belle forêt, plutôt que de jouer à un jeu sur son smartphone ?
Je refuse de l’affirmer ! Ce serait tomber dans la technophobie, ce qui n’est pas mon rôle. D’ailleurs, prenons trois autres activités : marcher dans la forêt, regarder Solaris de Tarkovski, visiter une exposition sur les paysages dans la peinture du XVII° siècle. Face à ces options, dirait-on encore qu’on perd son temps en visitant l’exposition sur les paysages du XVII° ? Alors pourquoi un jeu vidéo – surtout s’il est bon – serait une expérience moins riche ?
A.D. Philip K. Dick, H.G. Wells, Edgar Poe, Samuel Butler, Jean-Philippe Toussaint : votre essai se nourrit de grands auteurs de fiction…
P.C.-N. C’est effectivement ma thèse centrale, cette idée que la fiction constitue un mode d’intuition pour la philosophie : pensez au morceau de cire de Descartes… Car avant d’être plongés dans des fictions, les concepts philosophiques tournent à vide.
A.D. Ne court-on pas le risque de déconnecter la philosophie du réel ?
P.C.-N. Au contraire. Une fiction qui fonctionne devient un exemple légitime pour la philosophie. Si la fusée va sur la lune, c’est qu’on a d’abord imaginé qu’elle le pouvait. Toute machine se déploie dans un espace de possibles inauguré par la fiction. Prenons L’Homme invisible : je sais qu’il n’existera jamais, c’est scientifiquement impossible. Mais du point de vue conceptuel, ce personnage s’avère une précieuse source de réflexion sur le « voir » et le « toucher ».
A.D. Précisément, vous montrez que les drones convertissent le mythe du « voir sans être vu » en « toucher sans être touché ». Pourrait-on étendre cette réflexion aux réseaux sociaux ?
P.C.-N. Oui, dans la mesure où sur les réseaux sociaux, je peux écrire de façon anonyme les messages les plus violents sans qu’on puisse m’impliquer. Action et réaction sont découplées. Alors qu’une grande série de contacts humains se fondent sur la réciprocité : se serrer la main est le geste réciproque par excellence. Or les technologies de l’information rompent avec cette réciprocité, induisant une relation non réciproque généralisée.
A.D. Qui serait l’équivalent de l’homme invisible à notre époque ?
P.C.-N. Sans hésiter le hacker, qui pénètre le système sans se faire identifier. Car on constate bien que l’invisibilité, surtout en politique, est devenue un handicap. Le pouvoir qu’on y associait s’est reporté sur l’intangibilité : être invisible désormais, c’est ne pas laisser de traces.
A.D. Un vieux fantasme de la fiction est de lire dans les pensées : vous examinez ces nouvelles applications qui connaîtraient mieux que nous nos états d’âme…
P.C.-N. Jadis, lorsque Sherlock Holmes tentait de déchiffrer les pensées d’un suspect, il avait soit tort soit raison. Aujourd’hui, nous avons une telle foi dans les machines que nous leur accordons une objectivité sur notre propre vérité. Je me sens fatigué, ma montre connectée m’assure que je suis en pleine forme : c’est elle qui doit avoir raison.
A.D. Mais lorsque le neuroscientifique Marvin Minsky déclare que « pour la première fois nous serons capables d’une vraie introspection, » n’oublie-t-il pas la psychanalyse ?
P.C.-N. Il faut distinguer deux démarches : l’analyse joue sur des contenus latents. Une machine à lire les pensées, si elle fonctionnait, afficherait sur un écran le rêve que j’ai fait, le privant de toutes ses ambiguïtés. Elle verrait un homme barbu et dirait : vous avez rêvé d’un homme barbu. C’est ce que j’appelle « l’esprit plat ». Le psychanalyste, en revanche, me ferait découvrir que cet homme barbu est en réalité mon père – même si mon père est rasé de près !
A.D. N'est-ce pas dangereux, cette frénésie de « lecture » qui confine à l’esprit plat ?
P.C.-N. Là encore, pas de jugement moral. Ne pourrait-on pas imaginer une société alternative avec des humains libérés de l’interprétation des contenus latents, qui prennent des psychotropes et sont finalement bien heureux ? Est-ce que ça serait mal ?
A.D. C’est un peu la civilisation américaine : psychologie cognitive et Prozac !
P.C.-N. [Rires.] Vous ne me ferez pas dire que c’est mal !
A.D. Autre point nodal de votre livre : l’homme technologique accomplirait à son insu un « travail zombie ». Plus que jamais, le temps devient de l’argent…
P.C.-N. Je pars de la célèbre formule de Le Lay, ce temps de cerveau disponible vendu à Coca-Cola. En soumettant aux marques son temps de cerveau disponible, le téléspectateur participe à une création de valeur : cela s’appelle travailler. Mais comment décrire un travail décorrélé de la notion d’effort ? C’est cela que désigne le « travail zombie ».
A.D. On pourrait aussi parler d’économie de l’attention…
P.C.-N. Non, car ce que les contenus numériques veulent créer, c’est l’opposé d’une attention ! Mais plutôt une hypnose, un ramollissement qui va pouvoir réorienter mes désirs.
A.D. Marx est pris à son propre piège, estimez-vous…
P.C.-N. Marx voit que le capitalisme va vers l’automatisation, donc vers la diminution du temps de travail, mais il n’imagine pas que le loisir puisse devenir le lieu d’une nouvelle aliénation. Selon lui, que vont faire les ouvriers libérés ? S’instruire et s’approprier les moyens de production. Il n’a pas vu venir le travail zombie. Car cet état de conscience modifié demeure une ressource produite, qu’on peut toujours produire en plus vaste quantité. Comment ? En grignotant nos nuits, par exemple, ainsi que l’explique Jonathan Crary dans 24/7, Le Capitalisme à l’assaut du sommeil. Ou en divisant le flux de conscience – puisque je peux regarder une pub sur mon portable en même temps qu’une émission de télé. Enfin il y a un travail qui ne pourra jamais être automatisé, c’est celui d’augmenter par notre regard la désirabilité des produits.
A.D. Vous notez que « tous les cyclistes aiment leur vélo ». Dans votre chapitre sur les robots compagnons, les sentiments que les humains portent aux machines sont observés…
P.C.-N. Ce qui m’intéresse, c’est l’ambivalence. Je sais que ma voiture n’est pas douée de conscience, mais quand elle démarre avec difficulté, je lui lance : « Allez ma cocotte ! » Les enfants savent que leur doudou est fait de tissu, mais ils l’aiment presque comme un être réel. Je me demande si donc la technologie contemporaine n’a pas tendance à nous créer d’autres doudous…
A.D. Les robots assistants ne doivent pas sembler trop humains, sans quoi ils mettent mal à l’aise leurs usagers. Les robots sexuels, pour leur part, sont très réalistes…
P.C.-N. Softbank, le concepteur de NAO, interdit à ses clients la sexualité avec ses androïdes. Mais l’argument selon lequel ce serait dû à l’aspect familial du robot me paraît superficiel : les fabricants de monospaces n’interdisent pas de tourner un film porno dans leurs véhicules… Disons que dans la fiction proposée par les promoteurs de ces robots, cette bienveillance des machines, doit être séparée de toute sexualité – et même de tout désir.
A.D. Qu’entendez-vous par la bienveillance des machines ?
P.C.-N. Le terme provient justement des constructeurs de robots compagnons. Je l’ai généralisé en l’appliquant aux applications qui nous surveillent pour notre bien ; qui nous « bienveillent ». En apparence toutefois, car derrière, il y a assujettissement et perte d’autonomie. Donc bien sûr on peut déceler une part d’ironie dans l’emploi de ce mot bienveillance.
A.D. Un point d’espoir néanmoins : cette idée que nous serions les organes reproducteurs des machines, qui ont besoin de nous pour « évoluer » et survivre. Donc, à l’inverse des films de science-fiction, elles ne nous élimineront pas !
P.C.-N. Oui, mais si les machines ont besoin des humains pour s’étendre, rien ne dit qu’elles aient une vue adéquate de leurs intérêts. Elles ignorent notamment que nous nous approchons d’un précipice dans lequel nous risquons tous de disparaître. C’est pourquoi ma seule critique explicite concerne le changement climatique. Trop compter sur les machines, c’est leur prêter une clairvoyance qu’elle n’ont pas, qui pourrait nous entraîner avec elles dans la catastrophe écologique.
A.D. Étant donné ce diagnostic alarmiste, pourquoi exclure obstinément de juger les machines ?
P.C.-N. Écoutez, j’ai un iPhone, un ordinateur… Même si je perçois – entre autres – un danger en elles, il y a quelque chose d’aberrant à voir certains philosophes blâmer les nouvelles technologies, et dès que l’interview est finie, tapoter un SMS sur leur téléphone !