- Agir par la culture - https://www.agirparlaculture.be -

Augmenter l’humain, écraser le vivant

Entretien avec Miguel Benasayag

Avec « Cer­veau aug­men­té, humain dimi­nué », le phi­lo­sophe, psy­cha­na­lyste et épis­té­mo­logue Miguel Bena­sayag donne des clefs de com­pré­hen­sion des enjeux des bou­le­ver­se­ments ame­nés par les tech­nos­ciences. Il éclaire sous un jour cri­tique l’idéologie du cer­veau aug­men­té qui réduit cet organe à n’être qu’un ordi­na­teur dont on pour­rait mul­ti­plier les capa­ci­tés et modi­fier le fonc­tion­ne­ment à l’envi, au risque de perdre ce qui nous fonde en tant qu’humain. Loin d’être tech­no­phobe, l’auteur y défend une réelle hybri­da­tion de la tech­no­lo­gie enfin mise au ser­vice du vivant et de la culture. Et nous per­met de sor­tir du fan­tasme trans­hu­ma­niste, déci­dé­ment loin d’être un humanisme.

Est-ce que nos cerveaux fonctionnent comme un ordinateur comme l’affirment les technosciences ?

L’émergence du monde digi­tal est un tsu­na­mi tech­no­lo­gique qui ouvre des pos­si­bi­li­tés inima­gi­nables. Ce tsu­na­mi nous pro­pose comme modes d’interprétation du réel les modes de fonc­tion­ne­ment de la machine. Ce sont des modèles inter­pré­ta­tifs très per­for­mants, qui per­mettent de connaitre beau­coup de choses. En fait, c’est typique de la pen­sée humaine d’assimiler le niveau de la tech­no­lo­gie à l’essence de l’homme. Déjà, à l’époque de Des­cartes, on disait que le corps humain fonc­tion­nait comme une hor­loge… Mais le pro­blème réside dans l’assimilation per­for­ma­tive (qui pro­duit des effets dans la réa­li­té) de ces mondes digi­taux au monde du vivant. Car le monde du vivant ne fonc­tionne pas réel­le­ment comme une machine algorithmique !

Ain­si, au niveau neu­ro­phy­sio­lo­gique, le cer­veau ne fonc­tionne abso­lu­ment pas comme une machine. D’une part, il n’y a pas un hard­ware et un soft­ware. Il n’y a pas une base maté­rielle, des neu­rones, sur laquelle cir­cu­le­rait un « logi­ciel ». Dans notre livre Fabri­quer le vivant ?, je suis en désac­cord avec M. Gouyon qui sou­tient la posi­tion selon laquelle l’ADN trans­por­te­rait un code géné­tique, code que l’on pour­rait trans­po­ser sur un autre sup­port. Il y a là toute une méta­phy­sique qui fait croire qu’il existe des idées, des codes qui cir­cu­le­raient de manière éthé­rée sur la matière. Or, je répète, quand on étu­die neu­ro­phy­sio­lo­gi­que­ment le cer­veau, ce qu’on observe, c’est que ce sont les réac­tions chi­miques et élec­triques en cas­cade, arti­cu­lées et en réseau, mais aus­si en connexion avec d’autres cer­veaux (puisque nous vivons en socié­té), qui par­ti­cipent à la pro­duc­tion des idées, ou qui, en connexion avec son propre corps, font émer­ger des affects. C’est-à-dire que c’est bien la maté­ria­li­té des inter­con­nexions, des réseaux, des trans­duc­tions suc­ces­sives1 qui est la machi­ne­rie même qui par­ti­cipe à la pen­sée et aux affects. Le cer­veau se modi­fiant d’ailleurs maté­riel­le­ment au fur et à mesure qu’on apprend des choses, qu’on est sou­mis à des affects et à des pas­sions différentes.

D’autre part, ce qui fait la machine, c’est qu’elle cal­cule et réa­lise des cor­ré­la­tions à par­tir d’algorithmes. Le cer­veau tente de pré­voir et émet des hypo­thèses, mais la fonc­tion cal­cu­lante du cer­veau en tant que telle, à la manière d’un algo­rithme, est en réa­li­té minime.
Bref, ce qu’on peut assi­mi­ler du cer­veau à la machine est assez infime.

Qu’est-ce que ça implique d’appliquer cette métaphore de la machine et de l’ordinateur au vivant ?

Appli­quer cette méta­phore au vivant est assez délé­tère si on se met à consi­dé­rer que ces pos­si­bi­li­tés de pré­dic­tion par Big data [méga don­nées] ou ces pos­si­bi­li­tés de cal­culs sont la tota­li­té du vivant, car il y aurait alors quelque chose du vivant qui serait écrasé.

On nous dit qu’on est dans un monde qui est en train de s’hybrider avec la nou­velle tech­no­lo­gie mais ce n’est pas vrai. Car une hybri­da­tion sup­pose que deux enti­tés dif­fé­rentes, avec leur sin­gu­la­ri­té, s’articulent. Or, on est dans un monde où on ignore la sin­gu­la­ri­té du vivant, de la pen­sée, des affects. Il semble qu’on essaye d’assimiler, donc de colo­ni­ser, le vivant vers la machine avec tous ces délires post-orga­niques ou trans­hu­ma­nistes qui disent qu’on va amé­lio­rer les défauts de la nature. Que nos orga­nismes limi­tés vont deve­nir illimités.

Les trans­hu­ma­nistes modé­lisent des fonc­tions humaines et les repro­duisent dans la machine. Le pro­blème, c’est que ce qu’on appelle fonc­tion dans l’humain est tou­jours une fic­tion, une fic­tion de tra­vail. Par exemple, si je dis « le cœur sert à battre le sang », je ne me trom­pe­rais pas. Mais si je dis, le cœur ne sert qu’à battre le sang, là je vais me gou­rer. Je peux déli­mi­ter des fonc­tions dans le vivant mais tout en sachant que cette déli­mi­ta­tion est arbi­traire et réduc­tion­niste. Aspect dont on ne tient plus grand compte aujourd’hui.

Qu’est-ce qu’on risque de perdre dans cette colonisation technologique ?

Ça pour­ra sem­bler post-apo­ca­lyp­tique mais on risque de perdre la com­plexi­té du vivant, la capa­ci­té de réflexion com­plexe, ce qui fait toute l’essence même du vivant et qui n’est pas d’être un appa­reil per­for­mant. En effet, le vivant, qui com­prend les êtres vivants mais aus­si la culture, les affects, la socié­té est sa propre fin. Le vivant n’est pas tran­si­tif, c’est-à-dire qu’il ne doit pas ser­vir à quelque chose. Or, dans la ques­tion aug­men­ta­tive, il y a déjà une « canaille­rie » puisque ses pro­mo­teurs trans­hu­ma­nistes font une confu­sion volon­taire entre répa­ra­tion et aug­men­ta­tion. On va nous dire : « por­ter des lunettes, c’est déjà une aug­men­ta­tion » alors que c’est une répa­ra­tion. On va nous dire : « toi, tu ne veux pas qu’on gué­risse les enfants myo­pathes. » Bien sûr que je veux bien qu’on gué­risse les enfants myo­pathes ! Au contraire, vive­ment qu’on uti­lise toutes ces hautes tech­no­lo­gies pour les gué­rir et non pas pour des expé­riences trans­hu­ma­nistes hor­ribles ! La méde­cine répa­ra­trice est jus­te­ment une méde­cine qui ne va pas consi­dé­rer l’humain comme tran­si­tif, comme devant ser­vir à quelque chose. Le pro­blème, c’est que cette inuti­li­té propre au vivant est en train d’être écrasée.

Ce qu’on risque de perdre, ce sont les limites qui donnent sens au monde du vivant. Nous sommes dans une époque un peu obs­cure et dan­ge­reuse. Je ne suis pas du tout tech­no­phobe, mais je pense qu’il faut sim­ple­ment voir ce qu’on risque de perdre, c’est-à-dire com­prendre ce que la machine n’est pas. En com­pre­nant ce qu’elle n’est pas, on arri­ve­ra à mettre la machine au ser­vice du vivant. C’est une époque com­pli­quée car on a du mal à voir ça. Et que ça va très vite.

Et qu’est-ce que la machine n’est pas ?

J’étais il y a quelque temps à un congrès à Nice où était invi­té Ke Jie, le Chi­nois et meilleur joueur de Go du monde qui avait per­du face à Alpha­Go [un pro­gramme de jeu de go déve­lop­pée par une filiale de Google NDLR]. On s’y posait la ques­tion sui­vante : qu’est-ce qui dif­fé­ren­cie Alpha­Go de la tête du joueur chi­nois ? Or, tout le monde, y com­pris le joueur chi­nois lui-même, était d’accord pour dire qu’au fond, ils étaient tous deux la même chose : deux machines à cal­cu­ler, même si Alpha­Go était beau­coup plus puis­sant que Ke Jie. Ain­si, la théo­rie domi­nant actuel­le­ment veut que la dif­fé­rence entre le cer­veau humain et la machine digi­tale soit une dif­fé­rence quan­ti­ta­tive dans laquelle le cer­veau humain ne repré­sente rien en termes de puis­sance. La ten­dance est à igno­rer la sin­gu­la­ri­té du vivant. Or, si on en arrive à une socié­té qui n’est plus capable de voir la dif­fé­rence entre Alpah­Go et le joueur de go, entre ces cir­cuits-là et ce qui est un affect, la pen­sée, jouer, ce qui va se pas­ser, c’est qu’on va écra­ser la sin­gu­la­ri­té du vivant. On en arrive à un point où il faut, devant une grande par­tie du monde scien­ti­fique, étayer le point de vue selon lequel la machine ne joue pas, ne gagne pas, ne perd pas mais qu’elle réa­lise sim­ple­ment des cal­culs algo­rith­miques qui résolvent des opé­ra­tions ! Ce qui n’est bien sûr pas « jouer au go ». Car jouer au go, pour un humain, ça signi­fie déjà un désir très com­plexe : pour­quoi jouer ? Tous les êtres vivants jouent dans le sens d’expérimenter les pos­sibles. Une machine ne joue pas. Une machine fait ce pour quoi elle est pro­gram­mée. Elle peut bien enten­du s’autoprogrammer mais tou­jours dans un sens linéaire, dans un sens d’utilité. Le vivant, non, il vit dans un monde de sens sous dépen­dance des limites : il n’y a de sens que pour des êtres limités.

Qu’est-ce que ça signifie, dans la définition de l’humain, que de se débarrasser de la négativité, d’éléments comme l’oubli, la frustration, le stress, les traumatismes, les maladies, la souffrance, la douleur ?

Se débar­ras­ser du néga­tif est le pro­jet d’une seule civi­li­sa­tion : la civi­li­sa­tion occi­den­tale. Aucune autre civi­li­sa­tion ou culture n’a eu ce pro­jet-là. Toutes les autres cultures, y com­pris le mani­chéisme, qui sépa­rait le posi­tif du néga­tif, mais dans lequel le néga­tif avait un rôle, ont incor­po­ré des cycles dans les­quels il est très dif­fi­cile de déter­mi­ner ce qui est posi­tif ou néga­tif parce que tout agit évi­dem­ment de concert. On peut par exemple pen­ser, cari­ca­tu­ra­le­ment, aux yin et yang chinois.

La culture occi­den­tale est donc celle qui a affir­mé qu’on allait éli­mi­ner le néga­tif, c’est-à-dire tout ce qui empê­che­rait l’homme de deve­nir Dieu. Il y a déjà là une posi­tion méta­phy­sique dis­cu­table : croire que l’on pour­rait déter­mi­ner avec cer­ti­tude ce qui est néga­tif et ce qui serait posi­tif. Mais en plus, la tech­nos­cience actuelle dit que ce que la science moderne ou le com­mu­nisme n’ont pas réus­si à faire, elle, elle va le faire : elle va enfin nous libé­rer du néga­tif, nous trans­for­mer en humain modu­laire à qui on reti­re­rait du néga­tif qu’on rem­pla­ce­rait par du posi­tif, rendre notre mémoire modi­fiable à volon­té, effa­cer nos mau­vais souvenirs…

À cet égard, dans votre livre, l’exemple de la mémoire vécue comme défaillante est assez parlant. Pouvez-vous revenir sur les risques « d’augmenter » la mémoire des humains ?

En neu­ro­phy­sio­lo­gie, une mémoire saine doit suivre trois pro­ces­sus : sélec­tion­ner, trans­for­mer et oublier. Pour la tech­nos­cience, la mémoire ani­male ou humaine qui suit ces trois pro­ces­sus est jugée comme défaillante. Ils veulent donc nous implan­ter une puce dans la tête avec un fonc­tion­ne­ment basé sur le modèle du disque dur dans lequel on ne va plus ni sélec­tion­ner, ni trans­for­mer, ni oublier. Or, ce type de mémoire tota­li­sante ren­voie en réa­li­té à des psy­choses très graves dans les­quelles de pauvres gens souffrent d’état d’angoisse ter­rible, comme le détaillisme dans lequel un malade ne peut pas sélec­tion­ner et se rap­pellent de tout, ou encore de patho­lo­gies où cer­tains croient ne rien pou­voir oublier.

Ils disent qu’ils vont nous aug­men­ter mais en fait ils vont écra­ser ce qui est l’essence même de notre iden­ti­té. Car la mémoire, la mémoire phy­sique, et même la mémoire cor­po­relle – qui est d’ailleurs lais­sée de côté dans leur pro­jet – est la seule chose qu’on peut iden­ti­fier comme étant la sin­gu­la­ri­té d’un être humain : nous sommes notre mémoire, notre mémoire incar­née. Tout indi­vi­du perd en per­ma­nence ses par­ties consti­tu­tives, puisqu’un être vivant voit ces cel­lules dis­pa­raitre et se renou­ve­ler constam­ment, mais pour­tant il se sent égal aujourd’hui et demain car la seule chose qu’on a, c’est cette trace, c’est cette mémoire cor­po­relle. Pour être orga­nique, cette trace doit res­pec­ter les lois de l’organicité : perdre, cap­tu­rer, modi­fier. Je suis très content que mon ordi­na­teur n’oublie pas ce que je lui mets dedans mais c’est mon ordi­na­teur. Je ne veux pas être un ordi­na­teur. Les trans­hu­ma­nistes veulent nous aider à avoir une mémoire sans failles. Sauf qu’avoir une mémoire sans failles, cela signi­fie écra­ser l’identité même du vivant.

Les technosciences s’inscrivent dans l’idéologie du « solutionnisme technologique » selon laquelle la technologie va résoudre tous les problèmes humains, psychiques, sociaux, politiques, économiques, etc. Est-ce que l’idéologie technoscientifique remplace actuellement les grandes utopies du 20e siècle ?

Abso­lu­ment. Et elle rem­place même les uto­pies reli­gieuses puisqu’elle pro­met une vie au-delà de la vie. L’idée trans­hu­ma­niste ou, plus proche de nous, l’idée post-orga­nique (qui veut rem­pla­cer petit à petit des organes) puisent leur force dans le fait qu’elles ont récu­pé­ré la pro­messe reli­gieuse selon laquelle les corps seraient un simu­lacre. Pour Pla­ton, la vraie vie ce sont les idées, pour les reli­gieux c’est le para­dis, et pour les trans­hu­ma­nistes, c’est le monde algo­rith­mique. Aujourd’hui, cer­tains scien­ti­fiques très sérieux sont dans la croyance que tout n’est qu’information et que tout est trans­fé­rable et pensent ain­si qu’on peut tout à fait modé­li­ser le cer­veau de quelqu’un, le mettre sur un disque dur avec des algo­rithmes capables d’apprendre et dire que la vraie per­sonne est dans cette bat­te­rie d’algorithmes et non pas dans la chair de son corps. C’est toute la force du monde digi­tal que d’avoir réus­si à récu­pé­rer ce désir hor­rible de l’humanité, selon lequel la vraie vie ne serait pas dans le corps, jugé cor­rup­tible, et qu’il y aurait un monde pur, celui des idées.

Comment combattre cet imaginaire très attractif de dérégulation et d’illimité ? Comment sortir de la fascination pour un vivre plus longtemps ou celle d’avoir des yeux qui voient à travers les murs ?

Pour reco­lo­ni­ser la tech­no­lo­gie, c’est la ques­tion du sens qui doit se poser, celle du « à quoi bon ? ». Si quelqu’un dans son pro­jet de vie, artis­tique, pro­fes­sion­nel, mili­tant, de recherche, etc. a besoin de voir à tra­vers les murs, et qu’une appli­ca­tion le per­met, je n’y vois aucun pro­blème. Mais aujourd’hui, la ques­tion ne se pose pas dans ces termes. La tech­nos­cience n’offre en effet actuel­le­ment pas des moyens à des gens qui déve­loppent leurs pro­jets mais elle dif­fuse une série de moyens dans les­quels il faut se mou­ler. Il y a les appli­ca­tions que la tech­nos­cience me donne et moi je dois pas­ser mon temps à voir com­ment j’utilise ces appli­ca­tions. Je ne fais pas ce que je choi­sis, je fais ce qu’on m’offre. Or, ce ne devrait pas être aux appli­ca­tions de mar­quer mon quo­ti­dien et le sens de ma vie. La résis­tance à cela passe par la créa­tion d’une myriade d’expériences, de groupes ter­ri­to­ria­li­sés, artis­tiques, mili­tants, de soli­da­ri­té dans les­quels les gens uti­lisent tout ce qu’ils veulent uti­li­ser, toutes les tech­no­lo­gies qu’ils sou­haitent, mais au nom d’un pro­jet de vie. Et non l’inverse.

Ce serait ça une hybridation « raisonnée », au service de l’humain ?

Tout à fait, l’hybridation est irré­ver­sible, c’est une réa­li­té. Face à ce phé­no­mène, il faut néan­moins arri­ver à se dire : « je me sers seule­ment de ce qui me sert ». Il faut aller vers une uti­li­sa­tion trans­gres­sive des machines, les mettre au ser­vice de pro­jets du vivant. La ques­tion devient alors : com­ment peut-on aller vers une édu­ca­tion popu­laire, une édu­ca­tion tout court, une péda­go­gie exis­ten­tielle dans les­quelles les gens ne se laissent pas bouf­fer par des pos­sibles dont ils n’ont rien à foutre ? Car les gens qui ont une pas­sion sont plus ou moins pro­té­gés. Par exemple, un mec dont la pas­sion est la musique va uti­li­ser tout le monde digi­tal en fonc­tion de sa pra­tique musi­cale. Il ne va pas se faire bouf­fer, mais c’est au contraire lui qui va bouf­fer le monde digi­tal d’une façon hybri­dante ! Mais cela concerne une mino­ri­té de la popu­la­tion. Pour la popu­la­tion en géné­ral, ces pos­sibles tech­niques qui se pré­sentent de façon gen­tille et ludique leur bouffent leur temps de vie jusqu’à deve­nir leur sens dans la vie. Il faut donc faire en sorte que les gens par­ti­cipent à des pro­jets, cha­cun avec la puis­sance qu’il pos­sède (on n’est pas tous Bee­tho­ven mais on peut tous faire de la musique), des pro­jets qui peuvent les pro­té­ger du risque d’être bouf­fés par ces stra­té­gies de dis­ci­pline ludique engageante.

Il y a une forme de fascination d’une partie de la gauche pour le transhumanisme, comment l’expliquer ?

Déjà parce que le dis­cours trans­hu­ma­niste semble for­ma­té pour cor­res­pondre au mieux à la culture du pays dans lequel ils tentent d’imposer leur agen­da. Ain­si, aux États-Unis, on dit que c’est bon pour le busi­ness et pour l’Association Trans­hu­ma­niste Fran­çaise, le trans­hu­ma­nisme, « c’est de gauche » ! Pour moi, le trans­hu­ma­nisme ne peut être que réac­tion­naire et pro­duc­teur d’un inévi­table apar­theid entre ceux qui seraient trans­for­més et ceux qui ne le seraient pas, dans une vision sur le mode du monde comme ter­rain de jeu sac­ca­gé par des indi­vi­dus vivant 1000 ans et bouf­fant toutes les matières pre­mières de la pla­nète. L’essence même du trans­hu­ma­nisme, c’est de consi­dé­rer que la vie est quelque chose d’individuelle et per­son­nelle, que chaque indi­vi­du en tant qu’individu doit aug­men­ter. Or, la seule posi­tion de gauche pos­sible, disons « pro­gres­siste », est de consi­dé­rer que la vie, c’est ce à quoi cha­cun par­ti­cipe, que ma vie ne peut pas se consi­dé­rer comme sépa­rée du milieu qui me constitue.

Mais c’est aus­si parce que c’est dans la nature même de la gauche d’être fas­ci­née par la tech­no­lo­gie. Elle est née avec la foi dans la science et la tech­nique. Il y a ce vieux truc de mar­xisme de super­mar­ché selon lequel la machine va libé­rer l’homme. Il y a une par­tie de la gauche qui va pen­ser bête­ment que la tech­nique va résoudre tous les pro­blèmes. Aujourd’hui, être de gauche ça signi­fie donc en quelque sorte être à contre-emploi, car on doit por­ter un regard cri­tique sur la tech­nique, non pas en étant tech­no­phobe, ni for­cé­ment décrois­sant mais en tout cas, en se sépa­rant de cette fascination.

  1. La trans­duc­tion de signal est, en bio­lo­gie cel­lu­laire, un pro­ces­sus par lequel une cel­lule conver­tit un type de signal ou de sti­mu­li en un autre. La trans­duc­tion sen­so­rielle est, en phy­sio­lo­gie des organes des sens, une modi­fi­ca­tion des cel­lules récep­trices sous l’ef­fet d’une sti­mu­la­tion. D’après Wiki­pé­dia — NDLR


Miguel Benasayag, Cerveau augmenté, homme diminué, La Découverte, 2016