Saul Pandelakis : transhumanisme et traces d'humanité


Enseignant-chercheur en design à l’Université Toulouse - Jean Jaurès, Saul Pandelakis est en charge la direction de la licence Design, Prospective et Sociétés et enseigne en Master Design Transdisciplinaire, Cultures et Territoires.



Conforme Magazine :

Le transhumanisme est-il notre futur ou est-il déjà d'actualité ?


Saul Pandelakis :

C’est une question un peu bizarre : à partir du moment où le concept existe et où il se discute dans notre présent, on peut admettre qu’il a une présence du trans-humanisme, comme problématique, qui trouve sa pertinence dans un contexte culturel donné. Après, j’imagine que la question repose sur une autre idée, qui est celle de savoir si les apports du trans-humanisme sont déjà tissés dans nos existences actuelles. Et donc, bien sûr, cela pointe sur la question de savoir ce qu’est le trans-humanisme, et force à essayer de le définir. On lit souvent que le trans-humanisme repose sur l’idée d’améliorer la condition humaine par les biotechnologies, l’intelligence artificielle, etc. Dans ce cas, oui, on est déjà dans le transhumanisme, mais pas besoin d’avoir une prothèse cardiaque connectée pour ça, une prothèse aussi simple qu’une paire de lunettes suffit.


J’avoue aussi que le pot-pourri « biotechnologies, l’intelligence artificielle, etc. » me dérange un peu, et ensuite, cela repose sur le postulat d’une technique qui améliore nécessairement la condition humaine, en tant qu’elle serait uniforme. Or, on sait bien qu’il n’y a pas de « condition humaine » au singulier. Selon le lieu où vous naissez, vos conditions économiques, culturelles, les rapports de genre, race, classe, validité que vous subissez, votre condition n’a rien de semblable à celui de la personne à côté de vous.


Crédit photo  : Lisa Thieffry pour Conforme magazine




Conforme Magazine : L’homme, maître et possesseur de la nature se croit-il tout permis ? Y’a-t-il des écueils à cet

hybris ? peut-il y avoir des conséquences néfastes ?

Saul Pandelakis : Cette question m’intrigue parce que je ne sais qui est « l’homme » dans cette phrase. Parle-t-on de l’homme pour dire l’humain ? Si oui, cela me pose problème, parce qu’évidemment le terme « homme » ne me semble pas décrire fidèlement ce qu’est le genre humain. Supposer qu’un genre (mais aussi qu’une race, qu’une ethnie, une orientation sexuelle…) ait une meilleure capacité à incarner le neutre est à la racine de nombreux problèmes de sexisme, racisme, etc. dans les sciences (dures ou non). Après, on peut aussi considérer que dans un contexte de maîtrise de la nature par la technologie, ce sont plutôt les hommes (le pluriel est important) qui ont été déterminants, historiquement – mais là encore pas tous les hommes : plus particulièrement les hommes blancs, cis, valides, hétérosexuels, etc.


Le concept d’anthropocène décrit assez bien cela : comment en devenant les principes organisateurs du vivant, les humains l’ont profondément transformé, quitte à rendre leurs milieux inhabitables. Et si on regarde du côté de l’écoféminisme, on voit que ce sont bien les dominant.e.s qui historiquement ont altéré les milieux en appliquant le même rapport d’exploitation à la terre, aux corps des femmes, des colonisé.e.s, etc. La question « y-a-t-il un écueil à l’hybris ? » amène forcément une réponse positive pour moi. Dès qu’il y a un rapport propriétaire à l’environnement, ou qu’émerge l’idée que l’amélioration des conditions de vie est une sorte d’universel… On court probablement à la catastrophe. Je ne sais même pas quel exemple choisir tellement ils sont nombreux : regarde par exemple l’économie du smartphone. On peut argumenter que les smartphones améliorent les conditions de vie, mais celles des usager/ères en bout de chaîne… si on regarde du côté des mines d’extraction de l’étain ou du tungstène dont on a besoin pour fabriquer lesdites téléphones, et de leurs travailleur.se.s, la ligne argumentaire devient intenable.




Conforme Magazine : Ces progrès technologiques sont-ils à même de venir en aide à nos sociétés (évolutions médicales, création de viande, alternatives énergétiques écologiques, etc.) ?

Saul Pandelakis : C’est difficile de faire une réponse générale à cette question. À mon sens, pour apporter des éléments à une question de ce type, il faut historiciser, c’est-à-dire replacer les technologies et leurs éventuels apports dans un continuum historique et des contextes précis. Si on considère les problèmes d’un seul point de vue, en se disant que « la technologie » va résoudre le problème, on dresse un décor pour un futur désastre. Par exemple, on va guérir des maladies, très bien. Mais si sociétalement, on ne fait pas la bascule vers le champ social, on va se retrouver avec des tas de personnes dont on allonge la vie, mais dont on ne sait pas prendre soin. C’est ce qui arrive actuellement : tu as une médecine qui devient prisonnière de cette obligation morale à prolonger la vie coûte que coûte, mais on n’a aucune idée de comment organiser la vie de personnes de 90-100 ans, surtout quand leurs enfants et petits-enfants vivent dans des conditions économiques dégradées qui ne leur permettent pas d’accéder aux solutions existantes. Avec le COVID, on parle beaucoup des EHPAD, mais on oublie qu’aller en EHPAD, c’est déjà un privilège économique immense. C’est pour cela que lorsque j’entends parler de vivre au-delà de 100 ans, je suis effaré. On ne sait pas comment gérer des gens qui ont 80, 90 ans, alors 100 ans ? On ne peut pas faire comme si c’était juste une histoire de cellules à renouveler. Les gens qui vont vivre jusqu’à 110 ans, quelle va être leur place dans la société ? Quelle santé mentale on peut garantir à des gens isolés ? Comment on gère le fait que ces personnes n’auront plus de revenu ? Sans parler des inégalités de base face aux traitements, mais je pense qu’on y reviendra.


Sur ton autre exemple qui a trait à la viande, je tiens un peu le même raisonnement. On sait qu’il faudrait manger moins de viande par rapport aux émissions de carbone, et bien sûr la question du bien-être animal et des postures anti-spécistes amènent un autre éclairage sur ce choix. On peut envisager de créer des substituts, mais on ne peut pas juste s’intéresser à une viande de synthèse dans un boîte de Petri. Il faut questionner les mots eux-mêmes : qu’est-ce qu’un substitut ? Est-ce que le substitut ressemble à ce qu’il remplace, ou est-ce qu’il s’en émancipe ? Quel repas on va faire avec cette « viande » et quelle commensalité on va penser ? Là, on est en plein dans une démarche de designer, qui constitue un vrai chemin de traverse par rapport à certaines démarches scientifiques qui relèvent un peu de la « solution sans problème ». Pour moi, tu peux faire un steak imprimé en 3D, si tu ne t’es pas posé les questions qui précèdent, tu vas dans le mur, parce que la proposition technique sera hors-sol. Du coup, avant de penser à l’avancée technologique, il faut définir le problème. À quelle question répond le steak imprimable ? Je ne sais pas – et ça veut peut-être dire que la question est mal posée.


Plus globalement, que ce soit le traitement pour le cancer, la viande de synthèse ou l’ampoule écologique, le problème central est l’accès. Si la proposition ne prend pas acte du fait que des gens gagnent en une vie les sommes que certains gagnent en un jour, alors on produit une image d’épinal.




Conforme Magazine :

Le progrès entre de mauvaises mains représente-t-il un danger pour notre démocratie ?

Saul Pandelakis :

Le progrès n’existe pas… à mon sens. C’est d’abord un outil idéologique, surtout qu’on l’associe avec la technique, comme si globalement on pouvait améliorer des destinées de manière uniforme, totale, par le seul biais d’un outil technique. Le progrès, ok, mais de quoi ? En réalité, toute technologie est toujours prise dans un champ social et son pouvoir de transformation est extrêmement variable en fonction des usages qui en sont faits. Alors, attention, je ne suis pas en train de dire que la technique est neutre, et que tout dépend des usages. Dans une technique, un outil, on trouve un ensemble de décisions programmatiques qui ont été prises et qui vont orienter son usage. Mais même si on constate cela, on voit bien qu’il est très difficile de dire si une technique constitue un progrès, ou non. Prenons un exemple simple : l’invention du Web est-il un progrès ? Oui, sans doute, car le Web permet des choses formidables et contient encore en germe de nombreux possibles. Mais on ne peut pas affirmer cela sans montrer que le Web, comme la plupart des inventions, a aussi participé à renforcer des inégalités, a créé des situations de harcèlement, a creusé la fragilité de certaines populations oppressées, a amené le fichage, la surveillance…


C’est à cet endroit-là que le mot « progrès» ne me convient pas. Surtout qu’on met toujours sur le même plan progrès et technique, comme si tout progrès venait d’une invention technique (tu remarqueras que je n’emploie pas le terme d’innovation). Si demain j’invente un système de coopération locale pour aider des femmes en situation de violences domestiques, qui repose sur une chaîne téléphonique, je n’ai pas l’air très innovant – et pourtant je le suis. L’innovation est aujourd’hui très critiquée par de nombreux.ses designers et artistes. Le concept de « disnovation » (proposé entre autres par l’artiste Nicolas Maigret) permet de repolitiser la notion d’innovation technique. Et puis, ça permet de se débarrasser de ce mot qui est quand même devenu complètement « bullshit ». Tu le retrouves dans les briefs de boîte, les documents universitaires, les discours politiques… Le mot « innovant » est un buzzword assez pauvre. Ça permet de ne jamais dire ce que fait un projet, une proposition. La valeur est dans la nouveauté. Très clairement, il faut qu’on s’émancipe de ce type de pensée.


Encore une fois, le contexte du COVID nous y renvoie très brutalement. On peut faire 15 start-ups à la seconde, si on n’a pas accès à des masques et des surblouses…

Régulièrement, on vit des leçons d’humilité comme celle-là. C’est pour ça que pour moi la plupart des projets transhumanistes sont à côté de la plaque. Ça me fait la même impression que de regarder des rendus d’architecture en 3D, tu sais les images de catalogues d’immobilier où tu as des peupliers en rang espacé de dix mètres, dans un monde où il fait toujours soleil et où tu ne vois que des blancs déambuler avec des poussettes ? Le trasnhumanisme me fait le même effet.


Je ne sais pas ce qu’on transcende en vivant 150 ans ou en se téléchargeant dans une machine, à partir des limitations très individuelles, mais qui sont saines, à mon sens. Pour résumer, le progrès comme concept unique, sorte de fourre-tout d’un « monde où tout irait mieux » ? C’est un concept dont je ne peux rien faire, et que je trouve pour tout vous dire assez barbant. J’ai beaucoup plus d’intérêt pour des théories nomades (Braidotti), de la transience (Preciado), de la collaboration de survie (Piepzna-Samarasinha). Je te cite juste ces trois auteurices qui sont à mon sens des personnes qui se fichent de la nouveauté, d’être innovantes. Et quand elles parlent de « progrès », c’est toujours par rapport à des situations de vie. Il faut arrêter avec les pitches, revenir au « down and dirty ».



Crédit photo  : Lisa Thieffry pour Conforme magazine




Conforme Magazine : L’intelligence artificielle : outil démocratique ou dictatorial ?


Saul Pandelakis : Le fait qu’on puisse se poser la question de cette manière montre bien à quel point nos imaginaires des techniques, et notamment de l’informatique, sont solutionnistes. Ça pose bien sûr la question de la conception, des buts, des usages. Surtout, je crois qu’il faut refuser d’appliquer l’un ou l’autre label à une technologie. D’ailleurs, même l’intelligence artificielle n’est pas « une » technologie : c’est un champ technologique, qui rassemble des langages (codes), du hardware, des postures programmatiques, des usages encore… On ne peut donc dire que l’intelligence artificielle est l’un ou l’autre, parce que la catégorie est trop vaste pour qu’on puisse véritablement s’en emparer de cette manière.


Par contre, on peut remarquer que de nombreuses technologies conçues pour être collaboratives, ouvertes et démocratiques (le Web, par exemple) sont régulièrement absorbées par l’économie de marché et les impératifs néo-libéraux. Donc il faut plutôt le voir comme ça, comme un champ de forces. Une technologie peut être programmée dans un esprit démocratique, et être complètement dévoyée. Inversement, les outils de contrôle peuvent être hackés, ou encore mieux, « obfusqués » pour reprendre l’expression de Finn Brunton et Helen Nissenbaum. En tant qu’enseignant et chercheur en design, je vais bien sûr toujours défendre l’idée qu’une bonne conception peut orienter l’usage d’un outil ou d’un objet. Mais, il faut se méfier de l’hybris dont tu parlais tout à l’heure. Un dispositif sera toujours pris dans un champ social, culturel, économique, et donc tu ne maîtrises pas tous les paramètres. Et donc pour moi la question n’est pas tant la nature démocratique de l’intelligence artificielle parce que celle-ci me semble à affirmer ou garantir, mais de savoir quels outils on conçoit dans ce champ, avec quelles intentions et pour résoudre quels problèmes.




Conforme Magazine : Il y a-t-il des inégalités face au transhumanisme et au progrès technologique ? Si oui, peuvent-il être pensés comme égalitaires dans une société capitaliste ?


Saul Pandelakis : Face au progrès technologique, c’est certain, cela s’observe quotidiennement et plus encore dans un contexte de confinement où la fracture numérique est creusée par l’isolement au domicile. On retrouve cette notion d’accès : si la technologie permet de résoudre un problème humain, quels humains vont pouvoir en profiter ? Ce qui est drôle, c’est que cette observation pourtant simple reste très évacuée dans les discours scientifiques. J’écoutais l’autre jour un podcast sur l’intelligence artificielle réalisé par des étudiants d’une grande université américaine, et les intervenant.e.s disaient quelque chose comme « avec l’intelligence artificielle, on va enfin être libéré de ces tâches aliénantes qu’on ne veut plus faire, on va réaliser une forme d’utopie ».

Comment peut-on affirmer une chose pareille ? Je veux bien qu’on ait cru à la disparition du travail au début du XXe siècle, et même je peux comprendre que cet imaginaire ait encore été prégnant dans les années 70 (je pense au film Logan’s Run par exemple, même s’il est désenchanté sur le sujet, in fine ). Mais aujourd’hui ? On voit bien que lorsqu’un travail est assuré par la machine, le travail humain n’est pas évacué : il faut bien quelqu’un.e pour maintenir la machine en état de fonctionnement par exemple.


De plus, le système capitaliste repose sur la capacité des humains à vendre leur force de travail. Si une IA fait votre travail, qu’est-ce que vous allez devenir ? Vous n’allez pas être libéré, vous allez juste devoir recycler votre force de travail dans un autre secteur.


C’est pour cela que la question de l’accès est importante, mais aussi insuffisante, parce qu’elle positionne l’humain comme usager.e au sens très restreint du terme. Mais comme je l’ai évoqué auparavant, on peut considérer que toutes les personnes dans la chaîne de vie d’un produit ou d’un service sont usager.e.s. Donc face au trans-humanisme (concept encore flou, je pense, trop large), et au progrès technologique, il y aura autant d’inégalités que dans la société qui voit ces potentielles avancées se développer. Et je souhaite qu’il soit possible de penser les choses de manière plus égalitaire, mais si je me méfie du concept d’égalité.


J’observe par exemple que ce concept a complètement occulté tout le langage critique et révolutionnaire du féminisme, en substituant à la critique des suprématies le lexique de « l’égalité des droits ». Donc je m’en méfie beaucoup. Je préfère regarder les inégalités présentes dans un contexte, voir ce qu’on en fait, plutôt que d’imaginer que telle ou telle technologie va être vecteur d’égalité.




Conforme Magazine : Une machine peut-elle penser ?


Saul Pandelakis : Je ne vais pas arriver à te faire une réponse claire, parce que la question a trop d’implications. La réponse simple, c’est non, parce qu’on n’a pas encore réussi à construire une IA qui passe le test de Turing qui, il me semble, joue encore le rôle de seuil symbolique. Après, on peut arguer qu’il existe une pensée machinique, algorithmique, qui n’est pas la pensée de la machine elle-même mais de la manière dont notre pensée est reconfigurée, ainsi que notre subjectivité par la machine. C’est plus une question de philosophe, à vrai dire !


Ce qui m’intéresse presque davantage est pourquoi nous voulons faire penser les machines, d’où vient cette poussée. Pourquoi concevoir de nouveaux partenaires sociaux, alors que nos relations sociales entre êtres vivants sont déjà tellement dysfonctionnelles ? J’ai le même type de réflexion qui me vient quand on parle de prendre contact avec des extraterrestres. À chaque fois, je me dis, on est déjà pas capable de ne pas coloniser / exploiter / aliéner celleux qui nous ressemblent et partagent le même air, alors qu’est-ce qu’on rêve donc de faire avec des populations alien ?


La question est peu la même pour les robots, les machines pensantes, les IA. Je suis très contradictoire sur cette question, parce que par ailleurs, et comme beaucoup, je suis fasciné par l’idée d’une machine sentiente et intelligente. Je travaille depuis un moment avec le chercheur Anthony Masure sur la question des sexbots , des robots pour le sexe. Et notre question est moins de savoir si c’est l’avenir, que de savoir ce que cela signifie de penser une telle possibilité, et dans quelles conditions ce serait réalisable.




Conforme Magazine :

Dans un entretien (1) , le philosophe Hans Jonas affirme : « prétendre que, outre l’exécution des tâches, l’automate puisse lui-même devenir vivant, acquérir une âme et qu’il puisse désormais en vertu de sa propre volonté, nous donner du fil à retordre, n’est que pure spéculation ». Qu’en pensez-vous ?


Saul Pandelakis :

Pour rebondir sur la question précédente, oui, c’est sans doute très vrai. La sentience du robot ou de l’intelligence n’est pas accomplie, aujourd’hui. Et c’est plutôt une chance de le constater, à vrai dire, parce qu’à part les lois sur la vie robotique d’Asimov, on est assez « à poil » en termes des conditions d’émergence d’un tel être.


Après, l’actualité est très riche de nouvelles qui donnent l’impression qu’on a passé le cap : je pense à la robote Sophia qui a obtenu la nationalité saoudienne, ou encore à ces deux IA, Alice et Bob, qui auraient conversé de manière indéchiffrable pour les chercheur.se.s qui les observaient (cela a d’ailleurs été nuancé, a posteriori). Ce genre d’infos circule beaucoup, créent très facilement le buzz, mais en réalité la plupart des chercheur.se.s en robotique et intelligence artificielle sont le premier.e.s à dire qu’on est pas encore dans Blade Runner , et sans doute pas pour un moment.


Après, je trouve que ces faits d’actualité comportent quand même un intérêt, parce qu’ils montrent bien qu’on attend beaucoup des IA, comme si l’intelligence humaine n’était pas suffisante. C’est drôle, d’ailleurs, de parler autant d’intelligence dans une société qui par ailleurs raille ses intellectuel.le.s et se lamente parfois sur leur improductivité. Pour revenir à la question, je suis assez d’accord avec Jonas, mais j’ajouterais : le fait que cela ne soit pas que pure spéculation ne dit rien de l’intérêt de la spéculation, qui a mon avis est élevé ! Après avoir pas mal pensé à ces thèmes en termes théoriques, je les traite davantage par le biais de la fiction aujourd’hui, puisque j’écris un récit qui implique ces questions. C’est un bon laboratoire.




Conforme Magazine : Est-on proche d’une mort de la mort ?


Saul Pandelakis : Je dirais que non, pour une raison simple qui est que, même en envisageant un contexte où il soit possible de prolonger indéfiniment la vie biologique, ou de se télécharger on ne sait où, ce type de technologies resteront évidemment accessibles aux très riches seulement. Il y a beaucoup de fictions qui mettent cela en exergue, avec plus ou moins de réussite, je pense à Elysium par exemple, ou moins connu, Repo Men . Mais je crois quels que soient les dispositifs qu’on arrive à mettre au point, on ne se débarrassera pas de la mort.


Même si tu imagines des corps synthétiques pour te télécharger, il faudra bien maintenir tout cela, maintenir des conditions où le dispositif technique est pérenne. Donc, même de manière purement spéculative, je ne vois pas bien comment on peut l’envisager. Même la galaxie n’est pas éternelle, paraît-il, tout va revenir se condense dans le « big crunch »…


Et puis, au-delà de la question perpétuelle « qui aurait accès à la vie éternelle ? » (à laquelle on sait très bien que la réponse est « les riches »), il reste à savoir si cela est seulement souhaitable. Je n’ai jamais compris ce désir d’éternité – pour le coup, là, l’hybris est phénoménale ! Et c’est complètement contradictoire avec les débats actuels sur l’impact de la vie humaine sur l’environnement. Quelqu’un qui vit 200 ans… il ou elle crée plus de déchets, et contribue comment ? Mais même philosophiquement, qu’est-ce qu’on espère accomplir en ne mourant jamais ? Ça me fait toujours penser au film La mort vous va si bien , dans lequel Goldie Hawn et Meryl Streep deviennent immortelles et proposent à Bruce Willis d’en faire autant. Elles ne comprennent même pas qu’il doute, lui demandent de quoi il a peur et il a cette réponse fabuleuse : « Et si je m’emmerde ? ». Déjà qu’on a du mal à s’occuper pendant deux mois de confinement, je ne pense pas qu’on soit prêt.e.s pour l’immortalité ;)




Crédit photo  : Lisa Thieffry pour Conforme magazine




Conforme Magazine :

Le trans-humanisme peut-il être pensé de manière éthique dans une société capitaliste et inégalitaire ?


Saul Pandelakis :

J’aime bien cette question, parce qu’elle place le focus sur la manière dont on pense le trans-humanisme, comme concept, avant d’en penser les apports selon un prisme finalement très moderniste de « on arrête pas le progrès ». Je pense qu’un vrai cadre éthique pour le trans-humanisme se doit de penser cette particule « trans », pour savoir ce qu’on transcende, ce qu’on traverse. En tant que personne trans, ça me fait forcément cogiter ! C’est là peut-être la force des pensée trans-humanistes, à rebours : elles nous obligent à penser ce qu’est la vie humaine, ou plutôt ce que sont les vies humaines.


L’idée n’est pas forcément de répondre à la question du sens de la vie (encore que), mais d’essayer de re-situer ce qui est impliqué par le fait d’être vivant, à une époque où on t’explique que ce fait participe d’un effondrement climatique, d’un effondrement tout court, même. Une pensée éthique du trans-humanisme devrait aussi critiquer frontalement la place que l’on donne encore, aujourd’hui, aux sciences dites dures.


Bien sûr, il y a eu pléthore de textes au vingtième siècle qui ont amené l’idée que le savoir scientifique était une construction, et pas la description objective de phénomènes externes aux chercheureuses. Mais pourtant, les discours scientistes sont encore très présents.


Quand j’allais encore en conférences Web, je me rappelle de conversations sur un sujet ou un autre où on me rétorquait « mais c’est la science », comme si une telle phrase avait valeur d’argument - en citant des chiffres ou des résultats d’expériences, comme si ceux-ci étaient indépendants des protocoles scientifiques qui les ont produits. C’est pour cela que les humanités, et particulièrement les humanités numériques sont essentielles pour penser ces questions.


On ne peut pas séparer un progrès technique qui serait le contenu, d’un échafaudage éthique qui viendrait comme un habillage, a posteriori. Il faut donc investir d’autre scientificités, comme le font par exemple à des endroits différents Anne Fausto-Sterling (biologiste) et Karen Barad (physicienne), pour ne citer qu’elles. C’est drôle d’ailleurs, parce que sur le web, on en parle comme de théoriciennes, on oublie qu’elles ont bien eu une activité en sciences dures avant de théoriser sur la science plus généralement.


Leurs pensées permettent de resituer læ scientifique, de potentiellement sortir cette figure de nos conceptions héroïques. La culture du génie, du grand esprit objectif, qui aujourd’hui a migré vers le marché avec la figure du keynote speaker de la Silicon Valley, correspondent à des imaginaires de dominants, imaginaire somme toute assez pauvre.


C’est pour cette raison que je m’emploie à développer un enseignement du design qui fasse la part des théories queer. Un des premiers apports correspond à casser avec la culture héroïque du grand penseur, pour faire avec la contrainte, faire avec là où on est positionné dans l’existence. Il me semble plus intéressant de penser l’humanité sur le mode de la survivance que sur le mode du transhumanisme. Je ne vois pas ce qu’on gagne à dépasser l’humanité - on a pas exploré la moitié de nos intelligences, de nos biocodes, de nos subjectivités, de nos genres… Apprenons à faire avec plutôt ?


Sources :


(1) Hans Jonas, « Les machines ne pourront jamais avoir une conscience », entretien avec Norbert Lossau, Die Welt, 29 novembre 1991.


Propos récoltés par Loven Bensimon pour Conforme Magazine