Du même auteur

ESSAIS

De l’expérience mathématique

Essai sur la philosophie des sciences de Jean Cavaillès

Vrin, 2001

Gödel

Les Belles Lettres, 2004

Hilbert

Les Belles Lettres, 2005

Une histoire de machines, de vampires et de fous

Vrin, 2007

Les Démons de Gödel

Logique et folie

Seuil, « Science ouverte », 2007

et « Points sciences », 2012

Le Bord de l’expérience

Essai de cosmologie

PUF, 2010

Mon zombie et moi

La philosophie comme fiction

Seuil, « L’ordre philosophique », 2010

OUVRAGE COLLECTIF

Le Concept, le Sujet et la Science

Cavaillès, Canguilhem, Foucault

(avec Pascale Gillot, dir.)

Vrin, 2009

FICTIONS

La Ville aux deux lumières

MF, 2009

L’Hiver des Feltram

MF, 2009

CE LIVRE EST PUBLIÉ
SOUS LA RESPONSABILITÉ ÉDITORIALE DE JEAN-MARC LÉVY-LEBLOND

ISBN 978-2-02-107958-6

© Éditions du Seuil, mars 2012

www.seuil.com

Ce document numérique a été réalisé par Nord Compo

1

Le projet Eiffel,
 la préhistoire du BR : 2009-2019

Automne 2009

Notre histoire commence dans un laboratoire de neuropsychologie. Une jeune femme, appelons-la M., pousse la porte en soupirant. Elle prépare une thèse sur les « intentions cachées » et, ces temps-ci, passe le plus clair de ses journées à répéter la même expérience. Il lui faut un sujet et un scanner pour observer le cerveau du sujet. Le scanner a la forme d’un gros cylindre. Une sorte de lit métallique en sort, sur lequel s’allonge le sujet. Entraîné par un petit moteur électrique, le lit s’enfonce dans le cylindre, emportant le sujet. À l’intérieur, celui-ci trouve, placés en face de lui, un écran et deux boutons. L’espace ménagé à l’intérieur du cylindre est extrêmement réduit. Le sujet doit maintenir sa tête, son cerveau, absolument immobiles durant toute la durée de l’expérience.

L’écran s’allume et un premier message annonce par exemple au sujet qu’il devra, au bout de vingt-cinq secondes, additionner deux nombres qu’on lui proposera. Durant ces vingt-cinq secondes, le sujet est occupé à un jeu quelconque, de sorte qu’il ne pense à rien de particulier. Ce sont deux lignes, une horizontale et une verticale, que le sujet doit déplacer en jouant sur deux boutons pour les faire se croiser au milieu de l’écran et qui s’en écartent aléatoirement. Le jeu a seulement pour objet de focaliser l’attention du sujet. Après vingt-cinq secondes, l’écran devient noir, deux nombres s’affichent que le sujet additionne dans sa tête. Puis on lui montre quatre solutions possibles parmi lesquelles il choisit la bonne de sorte que l’on peut vérifier qu’il a en effet additionné les deux nombres.

Cependant, le message qu’au début de l’expérience M. envoie au sujet, enfermé dans sa machine, lui demande parfois de soustraire les deux nombres qu’on lui proposera, au lieu de les additionner. De la même façon, ensuite, le sujet est occupé pendant vingt-cinq secondes à son jeu, puis deux nombres apparaissent que le sujet soustrait avant de désigner, parmi quatre possibilités, le résultat de sa soustraction.

Le but de l’expérience est de décrypter dans le cerveau du sujet son « intention », additionner ou soustraire. On lui demande ou d’additionner ou de soustraire deux nombres. Il se conforme évidemment à l’ordre qu’on lui donne. Mais peut-on isoler dans son cerveau la trace de cette opération qu’il s’apprête à accomplir, distinguer donc un cerveau qui se prépare à additionner d’un cerveau qui se prépare à soustraire ?

En même temps que le sujet attend pendant vingt-cinq secondes qu’on lui soumette ces deux nombres, qu’il doit tantôt additionner, tantôt soustraire, la machine qui l’entoure fait une sorte de carte des zones actives de son cerveau. Il faut dire que le processus est très bruyant, ce qui est un désagrément qui s’ajoute à l’immobilité et à l’enfermement dans un espace réduit.

M. n’a pas besoin d’observer elle-même les images que prend le scanner du cerveau du sujet. Ces données sont analysées par un ordinateur, soumises à différents algorithmes dans le but de déterminer si le sujet s’apprête à additionner ou à soustraire. Il s’agit de détecter au vu de la carte de son cerveau laquelle de ces opérations le sujet va accomplir. Au départ, l’ordinateur répond en grande partie au hasard, et M. lui indique s’il a tort ou s’il a raison : si ce sujet se prépare, en effet, à additionner ou à soustraire. L’ordinateur mémorise que telle structure d’activité cérébrale correspond à l’addition ou à la soustraction et modifie au fur et à mesure sa stratégie pour obtenir de meilleurs résultats. On dit que l’ordinateur « s’entraîne ». Au bout d’un certain nombre d’essais, une quarantaine, l’ordinateur peut deviner, en observant le cerveau du sujet par l’intermédiaire de ce scanner, si le sujet a l’« intention » d’additionner ou de soustraire. Ou, du moins, il obtient la bonne réponse dans 70 % des cas.

« Intention » est le terme qu’emploie M., qu’elle a repris dans des articles antérieurs relatant des expériences à peu près similaires, mais qui ne s’imposait peut-être pas ici. Il faut remarquer que le sujet ne pense pas lui-même à son « intention » au moment où l’on scanne son cerveau. On lui a annoncé qu’il aurait à additionner ou à soustraire deux nombres. Il l’a enregistré. Mais on l’occupe dans l’intervalle à une tâche qui l’absorbe. De sorte que sans doute si, pendant ce temps où il est enfermé dans la machine, on pouvait lui demander : « À quoi pensez-vous ? » il répondrait : « À rien, je travaillais à recentrer ces lignes qui s’écartent sans cesse. » Ou bien : « Je m’efforçais de maintenir ma tête droite et d’oublier cette sorte de cercueil dans lequel je suis enfermé. »

Bref, le sujet ne pense pas à l’opération qu’il devra effectuer et que l’ordinateur découvre dans son cerveau. Cette intention, additionner ou soustraire, est-elle stockée dans le cerveau parce qu’elle n’est pas dans la conscience ? Le sujet sait quelle opération on lui a demandée et, si cette opération n’est pas dans sa conscience, parmi ce à quoi le sujet pense actuellement, il faut pourtant bien qu’elle soit conservée quelque part. Ce serait dans le cerveau, où le sujet la retrouve lorsque l’écran affiche les deux nombres à additionner ou à soustraire ?

Quoi qu’il en soit, si l’ordinateur peut deviner l’« intention » du sujet, c’est bien que celle-ci est inscrite dans son cerveau – dans 70 % des cas du moins. M. donne plusieurs conférences et un premier article est publié dans une revue scientifique.

Septembre 2012

Malgré le soleil dehors, la pelouse sur laquelle déjeunent encore quelques étudiants et les grands arbres qui entourent les bâtiments, les fenêtres sont hermétiquement fermées. Le léger courant d’air qui traverse le bureau vient de l’air conditionné qui est poussé à fond. Le docteur Smart, George Smart, est assis à son bureau devant l’ordinateur. Ces premiers jours de l’automne l’oppressent, chaque année, sans raison apparente. En ce début d’après-midi, Smart regarde vaguement une revue spécialisée. C’est par hasard qu’il tombe sur l’article de M.

Smart enseigne la psychologie cognitive dans une université du centre des États-Unis. Avant d’obtenir ce poste, qu’il considère comme un provisoire exil, Smart a travaillé, pour sa thèse, sur la côte Est dans un département financé par l’armée américaine. Il voit immédiatement le parti qu’il peut tirer de l’expérience de M. C’est en un éclair, dans une seule intuition, que s’élabore dans son esprit le projet Eiffel.

70 % des réponses données par l’ordinateur dans l’expérience de M. sont correctes. Ce n’est pas beaucoup puisque si l’ordinateur répondait au hasard la moitié des réponses, 50 %, serait correcte. Pourtant, l’ordinateur fait un peu mieux que le hasard et cela suffit. « L’intention » du sujet – Smart reprend sans y penser le terme de M. – s’exprime dans son cerveau, et l’on peut en principe l’en extraire. Pendant vingt-cinq secondes, certes, mais ce n’est qu’un début.

Il faut évidemment modifier quelque peu le dispositif de M. qui reste trop aride, trop mathématique. Smart veut une image plus expressive. Avec la collaboration d’un informaticien, un petit programme est rapidement mis en place. L’écran s’allume sur une photographie de la tour Eiffel dans le ciel bleu. Puis l’un des deux messages suivants apparaît :

« Votre mission : faire sauter la tour Eiffel

en appuyant sur le bouton de droite. »

Ou bien :

« Votre mission : construire une seconde tour

en appuyant sur le bouton de gauche. »

Le sujet passe quarante secondes à recentrer des lignes qui se croisent. Puis la tour Eiffel réapparaît et tantôt le sujet, en appuyant sur l’un des deux boutons, la fait sauter – l’écran montre une explosion, une grosse fumée et la même photo du Champ-de-Mars sans la Tour – tantôt le sujet, en appuyant sur l’autre bouton, fait apparaître une tour jumelle derrière celle que nous connaissons.

Smart embauche des étudiants. Les scanners tournent tout l’automne. On entraîne un ordinateur plus puissant que celui de M. La machine dévore les cerveaux et fait de rapides progrès. Au mois de décembre, Smart ou, plus exactement, son ordinateur peut déterminer, avec 78 % de réussite, si le sujet a l’intention de faire sauter la tour Eiffel ou d’en construire une seconde.

Smart ne prend pas la peine d’écrire un article. Il appelle un de ses collègues, psychologue, qui travaille pour l’armée américaine. Quelques jours plus tard, le chercheur est contacté par un responsable du FBI, un jeune officier : le lieutenant John W. Trams. Curieuse coïncidence : Smart face à Trams. Les deux hommes en rient, au téléphone, et se lieront bientôt d’amitié. En attendant, Trams fait un rapport tout à fait favorable sur les travaux de Smart, qui seront donc financés par le FBI.

La NASA

« Je travaille pour la NASA. Imaginez comme cela nous aiderait à la NASA si nous pouvions scanner votre cerveau pour savoir si vous avez un sens spatial suffisant pour devenir pilote. » Trams n’a pas pour mission de chercher des pilotes mais de traquer les terroristes. Il pourrait pourtant dire à peu près la même chose.

Six années de travail

Smart n’a pas vu le temps passer, ni son ventre s’arrondir, occupé qu’il était, dans un geste indéfiniment répété, à faire sauter la tour Eiffel. Nous retrouvons, à l’automne 2018, un professeur encore jeune mais bien établi, qui cache sa timidité derrière un air bougon. Il dirige le riche laboratoire situé dans les bâtiments neufs à l’extrémité du campus.

Durant ces six années, il y eut bien des allers et venues : des foules d’étudiants, de nouveaux assistants, des scanners plus gros et plus performants, puis – c’était un progrès – plus petits mais toujours aussi performants, et des ordinateurs tout neufs qui ont continué à avaler des cartes du cerveau humain.

Les premières expériences, celles que Smart avait d’abord proposées à Trams, laissaient bien des problèmes ouverts. Le principal, et le premier auquel s’est attaché le savant, concernait l’entraînement de l’ordinateur. Dans l’expérience de M., qu’avait reprise Smart, l’ordinateur devait être entraîné à nouveau pour chaque sujet. Il était impossible d’utiliser les paramètres calculés pour un certain sujet au décryptage des intentions d’un autre sujet. Pour chaque sujet, il fallait donc recommencer à zéro et entraîner à nouveau l’ordinateur en lui soumettant une cinquantaine de tests : en lui indiquant l’intention du sujet et en lui montrant une carte des zones actives de son cerveau que l’ordinateur cherchait à corréler à l’intention du sujet. C’était une limite évidente pour l’application de ces résultats, une limite que l’on interprétait habituellement en affirmant que les cerveaux humains sont tous différents : la même intention ne s’écrit jamais de la même façon dans des cerveaux différents. Cependant, Smart, financé par le FBI, ne pouvait pas se contenter de cette interprétation paresseuse. Il fallait, pour que le programme soit utile au FBI, que l’intention explosive puisse se lire d’un seul coup dans n’importe quel cerveau.

C’est un pas considérable que Smart a franchi au cours de l’année 2016. Par un traitement statistique très habile, il est parvenu en effet à entraîner un ordinateur à reconnaître l’intention – détruire ou reproduire la tour Eiffel – quel que soit le sujet. L’ordinateur, entraîné sur une population d’environ un millier de sujets, pouvait décrypter dans son cerveau l’intention d’un sujet quelconque avec une réussite de plus de 80 %. Il faut souligner l’importance de ce résultat qui permet d’appliquer un programme entraîné sur des sujets individuels à toute une population. Certains collègues de Smart sont restés incrédules, insinuant que le savant falsifiait ses résultats pour obtenir de nouveaux financements.

Ne choisissons pas notre camp, laissons la question ouverte. Le second problème auquel Smart s’est attaqué est celui du délai. C’était encore seulement quarante secondes avant que le sujet ne passe à l’acte que l’ordinateur, dans le fameux rapport de 2016, décelait l’intention du sujet. Il fallait évidemment réussir à décrypter cette intention explosive beaucoup plus tôt. C’est à ce problème que Smart travaille depuis 2016.

Un nouveau départ

Le jeu n’a donc pas beaucoup changé. Il s’agit toujours de la tour Eiffel que le sujet ou bien fait sauter ou bien duplique. L’écran est plus grand, les images plus précises et, surtout, l’ordre de détruire la Tour ou d’en construire une seconde est donné au sujet la veille, dans un entretien avec le professeur Smart ou l’un de ses assistants. On explique au sujet sa mission, on lui présente des photographies de l’édifice, on lui demande de penser à son geste le soir et pendant la nuit, de se représenter l’explosion ou la reproduction de la Tour. Au matin, on scanne son cerveau pendant que le sujet contemple une photographie du Champ-de-Mars dominé par l’orgueilleuse flèche de métal. Le sujet attend le message qui doit apparaître à l’écran, un simple « GO », qui l’invite à appuyer sur la touche correspondant à son intention.

L’ordinateur, entraîné par l’équipe de Smart, réussit à déterminer, dans 88 % des cas, si le sujet s’apprête à faire sauter la tour Eiffel. Smart a fait programmer l’ordinateur pour qu’il sonne en affichant le mot : « Terroriste ».

Et pourtant, en ce début d’année universitaire, tout juste rentré d’une série de conférences en Europe, Smart retrouve le campus et le projet Eiffel avec une sorte de dégoût. Le savant a des problèmes. Des problèmes personnels d’abord. Il ne supporte plus l’atmosphère de ce campus provincial, ses collègues qui sont devenus envieux, ni même le climat, glacial l’hiver. Le projet Eiffel, qui a d’abord absorbé le psychologue, est devenu une source d’ennui. Smart s’est prêté bien des fois au jeu et, à force de passer la soirée à se concentrer sur l’image de la Tour, il lui arrive maintenant d’en rêver. C’est un rêve récurrent. Smart arrive à Paris avec deux énormes valises noires qu’il dépose aux pieds de la Tour durant la nuit, une de chaque côté, pour, quelques instants après, contempler d’une certaine hauteur – peut-être le Sacré-Cœur ou le Trocadéro – l’explosion : ce long enchevêtrement de rails métallique, dressé vers les étoiles, s’enflammer à sa base et s’écrouler brutalement.

Smart sait qu’il doit changer d’air. D’autre part et surtout, il ne réussit pas – ou trop rarement – à lire l’intention du sujet après un délai de vingt-quatre heures. S’il attend le surlendemain, les résultats corrects dépassent à peine la proportion de 50 % et ne sont pas significatifs. Sans doute l’imagerie cérébrale doit-elle encore faire des progrès et une vue plus fine sur le cerveau du sujet permettrait-elle de retrouver son intention. Mais, de l’avis de Smart, la difficulté tient aussi à ce que le sujet, sur un laps de temps plus long, oublie ou, du moins, néglige la mission qu’on lui a confiée : une mission dérisoire puisqu’il ne s’agit finalement que d’appuyer sur un bouton et détruire un édifice purement virtuel. L’intention du sujet se perd alors dans son cerveau.

Le jeu a assez duré. Il faut tenter l’expérience en grandeur nature. Smart explique la situation à son ami du FBI, le capitaine Trams. Pendant que Smart grimpait dans la hiérarchie universitaire, Trams a lui aussi pris du galon. Il est maintenant en mesure d’accepter de lui-même la proposition du psychologue, qui déménage bientôt dans la banlieue de Washington.

L’essai de 2019

L’expérience est gardée secrète, évidemment. Sa réalisation même en dépend. La direction du FBI choisit ses agents les plus fiables : des agents habitués aussi bien à accomplir des missions douteuses qu’à appliquer aveuglément les ordres reçus. Il est inutile ici d’entrer dans les détails de la façon dont ces sortes de barbouzes communiquent avec leurs supérieurs. Pour dire vite, l’agent est convoqué pour un entretien avec un officier. Celui-ci lui explique qu’il a cette fois-ci pour mission de faire sauter un édifice important. C’est rarement la tour Eiffel, les édifices varient – c’est nécessaire à l’expérience – mais le scénario reste le même. L’agent recevra dans le cours des six prochains mois une enveloppe comprenant un billet d’avion pour Paris, Moscou ou ailleurs, et une adresse à laquelle il devra se rendre le soir même de son arrivée pour prendre livraison des explosifs. D’ici là, l’agent doit se préparer à sa mission en étudiant quotidiennement les plans du bâtiment. Il devra également pointer une fois tous les quinze jours dans un certain bureau de la banlieue de Washington. Arrivé au bureau, l’agent est immédiatement envoyé à Smart, qui l’attend pour un test médical de routine. En réalité, comme on s’y attend, Smart lui scanne le cerveau et en donne les images à son insatiable ordinateur qui l’a suivi depuis son campus. Parallèlement, Smart prend aussi quelques vues sur des cerveaux neutres auxquels comparer celui des employés du FBI.

Au bout de deux mois, l’agent est de nouveau convoqué pour un entretien avec le même officier qui lui annonce que sa mission a été annulée. La direction du FBI juge inutile d’expliquer à ses agents le but réel de la mission « Eiffel » : il n’est pas bon de laisser croire que les missions ne sont pas ce qu’elles semblent et que les ordres donnés le sont pour ne pas être suivis. Les agents ont l’habitude du secret. Aucun ne dévoile sa mission même après qu’elle a avorté. Tous les agents inoccupés du FBI sont appelés à Washington pour, sans le savoir, participer à l’expérience de Smart.

Le but, évidemment, est de réussir à cerner dans le cerveau des agents l’intention explosive, l’intention terroriste, l’intention de faire sauter quelque chose, n’importe quoi. Le projet de Smart est ambitieux et représenterait une véritable révolution dans le domaine de la sûreté. Au départ, cependant, le savant n’est pas satisfait, loin de là, par le dispositif mis en place par le FBI : les cerveaux à analyser ne sont pas suffisamment nombreux. Ou plus exactement les cerveaux neutres sont aussi nombreux que le veut Smart. Le FBI est prêt à lui amener n’importe quel fonctionnaire de Washington. Ce sont les cerveaux animés de l’intention explosive qui manquent. Sur son campus, au jeu de la tour Eiffel, Smart et son équipe ont utilisé en sept ans plusieurs milliers de sujets, alors que le FBI ne lui offre qu’une centaine d’agents. Pour pallier ces défauts, Smart scanne plusieurs fois, à intervalles de quinze jours, le cerveau des agents commissionnés, ce qui n’est pas sans risque, comme on le verra. Cependant, non sans surprise, Smart remarque les rapides progrès de l’ordinateur qu’il entraîne. Après quelque six mois, la machine reconnaît les agents que lui envoie le FBI, investis de leur mission, avec un taux de réussite dépassant les 98 %.

L’une des rares erreurs commises par l’ordinateur l’est sur le cerveau de Smart lui-même, où la machine lit l’intention explosive. La machine sonne sur un ton qui semble à Smart sarcastique. Le savant rectifie immédiatement le programme. Puis il réfléchit qu’il a peut-être gardé de ces années à travailler sur le projet « Eiffel » le désir secret de se débarrasser de ce symbole parisien. Cette erreur elle-même est finalement encourageante. Smart rend son rapport au FBI. Il est invité à une réunion avec le directeur général et un représentant de la présidence. Smart explique le principe de son test et les résultats obtenus. Ces gens importants hochent la tête, pensivement. Le système « Smart » sera essayé secrètement dans plusieurs aéroports.

Ce n’est pas difficile. Les scanners sont, en 2019, devenus très maniables par leur taille comme par leur fonctionnement. Une sorte de caméra est simplement installée sur le portillon par où passent les voyageurs avant de monter dans l’avion. La carte, en trois dimensions, qui met en évidence les zones actives du cerveau – presque neurone à neurone – est transmise à un ordinateur qui l’analyse en quelques secondes. Les aéroports de Washington et de New York sont équipés avant les fêtes de fin d’année.

À nouveau, les résultats ne se font pas attendre. Dès la première semaine, dix-huit suspects sont arrêtés. Après vérification, il apparaît que dix-sept sont des agents du FBI en mission. Sur ceux-ci, douze ont été scannés par Smart durant la première phase de l’expérience. Le cas du dix-huitième suspect est mystérieux. L’homme ne reconnaît pas avoir de lien avec le FBI. Il pourrait s’agir d’une erreur de la machine aussi bien que d’un cerveau animé en effet par l’intention explosive ou d’un agent du FBI en mission plus secrète que secrète. L’homme n’avoue rien. Une enquête est lancée. Le suspect est maintenu en détention sous un prétexte quelconque.

Le problème, pour le psychologue comme pour l’institution qui le finance, est de savoir comment le système Smart reconnaît les agents du FBI. Se pourrait-il que cet état s’exprime dans le cerveau et que l’ordinateur ait réussi à isoler la structure correspondante ?

Discussions

Trams se gratte la tête, perplexe, en lisant dans son bureau le rapport qu’on lui a envoyé : si le système Smart a pour seul résultat d’identifier les agents du FBI, beaucoup d’argent et d’énergie auront été dépensés en vain. Mais, tout autant que Smart sa carrière universitaire, Trams a fondé son influence au FBI sur ce projet scientifique, qu’il ne peut plus considérer comme un fantasme scientiste. Il n’est donc pas prêt à renoncer après un premier et, pour l’heure, unique échec. C’est un simple contretemps, un accident dont il s’agit seulement de comprendre le sens. Trams met en place une commission réunissant des psychologues et quelques philosophes, tous habitués à travailler pour l’armée et sur lesquels on peut compter. Smart doit s’expliquer et défendre son système.

La question est bien posée par l’un des philosophes de savoir si l’on peut légitimement arrêter une personne sur la simple indication fournie par le système Smart : simplement parce que l’ordinateur détecte une certaine structure dans le cerveau d’un individu qui peut n’avoir commis aucun crime, n’avoir eu même aucune activité suspecte. Notre philosophe ajoute, en riant un peu, que le système Smart lui rappelle la phrénologie et le temps où l’on cherchait à repérer les caractères et les types de criminels d’après la forme de leur crâne. Il met de l’ironie dans cette question à laquelle il ne veut pas lui-même donner trop d’importance. Smart répond en plaçant son système dans une perspective plus large qui cherche dans le cerveau les corrélats de l’activité mentale et les raisons mêmes de l’action de la personne. Et la différence, martèle-t-il, entre la phrénologie et la neuroscience, c’est que la première est une illusion, une recette de bonne femme, alors que la seconde constitue bien une science, confirmée par l’expérience et entée sur la réalité. Il ne conteste donc pas – remarque le philosophe – qu’elles reposent sur des hypothèses similaires.

Trams intervient à ce moment, certain sans quoi que la discussion entre les deux hommes se perdra dans des méandres métaphysiques. Si le suspect a l’intention de faire sauter la tour Eiffel, on le met à l’ombre avant qu’il ait eu le temps d’agir. Cela va de soi. Trams hausse les épaules. Il est inutile de débattre à l’infini sur ce point. La seule question est de savoir si le système Smart est susceptible ou non de révéler chez le suspect l’intention de faire sauter la tour Eiffel. L’après-midi est, pour Smart, houleuse. Il se bat bec et ongle pour sauver son système et expliquer ces résultats qui, lorsque l’on quitte le laboratoire pour entrer dans la réalité, sont pour le moins ambigus.