Nayef Al-Rodhan est chercheur honoraire à l’Université d’Oxford et directeur du Programme de géopolitique au Centre de politique de sécurité de Genève. Son champ de recherche en neuro-philosophie inclut la géopolitique contemporaine et les études prospectives. Parmi ses livres : Global Biosecurity. Towards a New Governance Paradigm (Slatkine 2008).

La biologie de synthèse connaît un développement technologique spectaculaire sur trois principaux axes de recherche qui engage notre responsabilité. Tout d’abord, la génomique de synthèse, qui désigne le développement de micro-organismes simplifiés qui peuvent être utilisés ultérieurement pour d’autres modifications. Puis les biobriques ou bioparties, qui se définissent comme les efforts en vue de créer des séquences génétiques simplifiées et standardisées susceptibles de permettre à un microorganisme d’effectuer des tâches très particulières. Enfin, les nouvelles biochimies, un ensemble d’initiatives de recherche visant à créer des proto-cellules qui peuvent avoir leurs propres mécanismes et métabolisme.

Le but ultime de l’application de principes d’ingénierie à des systèmes biologiques se veut «à des fins humaines», ce qui comprend des applications, pour l’industrie et la société, tels des nouveaux procédés en agriculture, des remèdes environnementaux, des nouveaux médicaments ou biocarburants. De telles innovations, effectuées sans risques et de manière responsable, pourraient être utiles pour relever des défis humains et de sécurité mondiale (les crises alimentaires, la lutte contre la pollution, etc.).

Cependant, la biologie de synthèse soulève de nombreuses inquiétudes au niveau environnemental, dans la mesure où il s’agit de libérer des organismes synthétiques dans l’environnement.

L’exploration du corps humain

L’innovation la plus radicale et proprement révolutionnaire dans ce domaine est en rapport avec le corps humain. Les principes de biologie synthétique sont étudiés notamment dans le microbiome humain, tels qu’illustrés par le travail sur la probiotique synthétique sous forme d’une espèce bactérienne qui dépiste et traite les maladies depuis l’intérieur de l’intestin. D’autres projets importants sont déjà en train de mettre à l’épreuve la distinction entre traitement et augmentation humaine.

Les avancées dans les domaines de la biologie de synthèse et du génome humain ont progressé sur des fronts plus audacieux encore, y compris dans le champ de la synthèse de l’ADN humain avec des recherches réalisées par les scientifiques rattachés au projet de synthèse du génome humain (ou GP-Write). Des outils de modification localisée de séquence génomique reposant sur le fait de couper et de coller des corrections dans l’ADN humain sont devenus bien connus suite aux innovations révolutionnaires de technologies telles que Crispr[1]. GP-Write, cependant, ne vise pas seulement à «éditer» l’ADN mais à «réécrire des segments cruciaux de chromosomes» qui peuvent subséquemment être recousus ensemble avec un génome naturellement présent. Concrètement, cela signifie créer des répliques synthétiques de la séquence d’un individu, mais en la recodant, afin qu’elle puisse résister aux virus par exemple.[2]

Les promesses de ces nouvelles technologies dans les sciences de la vie signifient des changements importants pour l’humanité, à la fois pour notre avenir biologique et nos capacités cognitives. L’idée de superintelligence, qui jusqu’à présent a été décrite comme une hypothétique intelligence artificielle surpassant l’esprit humain le plus intelligent, pourrait acquérir un sens nouveau à mesure que progressent les possibilités en biologie de synthèse -et avec elles, la viabilité de la superintelligence biologique.

Superintelligence et…

La superintelligence (le stade d’une entité intelligente qui puisse surpasser les plus grandes capacités cognitives possibles d’un être humain) a été théorisée généralement en rapport avec la technologie. Dans les scénarios des études du futur, la superintelligence est censée suivre de peu l’avènement de l’intelligence artificielle générale,[3] étant donné que les systèmes de logique et de raisonnement parviendraient à une forme d’intelligence qui ne serait plus circonscrite par les limites de la cognition humaine. Cela comprend notamment une mémoire absolue (qui serait inaltérée par l’âge ou toutes les circonstances imaginables), la capacité à développer des compétences ou des capacités dans un éventail de domaines considérablement plus large, la capacité de mener de front plusieurs tâches simultanément (ce qui est encore très difficile pour le cerveau), une vision sensiblement accrue ou d’autres capacités sensorielles. Une fois réalisée, la superintelligence pourrait nous ouvrir à des découvertes infinies dans tous les domaines de la science: nous permettre de lever le voile sur les mystères et la connaissance de l’univers, d’obtenir la vie éternelle ou de réaliser des voyages humains intergalactiques…

Ironie du sort, l’une des sources d’inspiration de la superintelligence est le cerveau humain lui-même. Les neurosciences modernes sont encore loin de l’avoir entièrement décodé, mais son fonctionnement est connu, du moins dans certains de ses aspects fondamentaux. Parmi les choses que nous savons, c’est que le cerveau dépend de l’existence de circuits de neurones complexes, que l’apprentissage se fait par le renforcement et qu’il a une structure hiérarchique.

…superintelligence biologique

Certaines des voies envisagées vers la superintelligence ont fait appel à des connaissances du cerveau humain telles que celles-ci, mais la biologie de synthèse est sur le point d’aboutir à de nouvelles approches qui déplacent le centre d’intérêt vers la superintelligence biologique. Par conséquent, en plus de recourir à l’intelligence artificielle, à des supercalculateurs ou à l’émulation du cerveau entier (un processus connu aussi comme téléchargement de l’esprit) et à des cerveaux synthétiques, le but de la superintelligence peut être envisagé et favorisé au sein même de l’esprit humain et à travers des changements profonds de la biologie humaine.

Toutes ces descriptions hypothétiques de l’évolution de l’intelligence humaine à la lumière des nouvelles avancées bio-technologiques et des interventions génétiques datent cependant d’au moins un demi-siècle! Étant donné que la connaissance relative à l’intelligence progresse, y compris la recherche en neurosciences sur les différences au sein de l’intelligence humaine, ainsi que la recherche sur la compréhension génétique de l’intelligence, le champ de la biologie de synthèse aura une grande quantité de matériaux sur lesquels elle pourra travailler et s’appuyer.

La biologie de synthèse est donc encore loin d’avoir atteint tout son potentiel. Elle offre néanmoins déjà des aperçus réalistes de la gamme des transformations nous permettant de modifier les fonctions biologiques, qui serviront, un jour, à élaborer de nouvelles aptitudes considérables dans nos capacités cognitives. Quelles sont les implications pour la nature humaine? Elles sont considérables, sachant que la nature humaine est basée en grande partie sur des aspects émotionnels, amoraux et égoïstes. Il est important, en premier lieu, de constater que la modification localisée de séquence génomique et les interventions en biologie de synthèse s’inscrivent à la fois dans le cadre de cette description et, dans une certaine mesure, qu'elles peuvent potentiellement changer le récit de la nature humaine.

Des risques liés à notre nature

L’avènement et le renforcement d’un comportement portant à la sociabilité, ainsi qu’à la coopération sociale, dépendent étroitement d’une bonne gouvernance et de la dignité humaine -en l’absence de cette dernière, les «pires» aspects de notre nature, les moins enclins à la coopération, voire même ses côtés agressifs qui se manifestent de façon préventive peuvent voir le jour.

Ces conséquences justifient une étude plus approfondie. La première incidence est que le processus de développement de ces technologies est exposé à toutes les vicissitudes de la nature humaine. Cela comprend la possibilité que ces technologies puissent être délibérément exploitées par ceux qui détiennent le pouvoir afin de subvertir les plus faibles ou pour déployer des instincts bruts de survie de différentes manières. Alternativement, elles pourraient être développées pour améliorer la coopération au niveau mondial, restreindre les menaces globales et poursuivre des objectifs tels que celui d’un monde plus égalitaire. Il est important que les responsables politiques prennent conscience du fait qu’ils ne doivent pas se concentrer seulement sur les résultats finaux -quelles entreprises auraient la permission de développer cette production, par exemple- mais également sur la mise en œuvre d’un système éducatif de qualité qui soit universel,[4] ainsi que sur la solidarité sociale qui contribueront à façonner ces résultats finaux.

La seconde conséquence est que l’existence même d’un être modifié doté de superintelligence contribuerait à réécrire la nature humaine et aurait la capacité autonome de le faire encore davantage. Le fait d’être aux prises avec les perspectives d’une intelligence artificielle tout à fait autonome, et développée en vue de surpasser de nombreuses fois la cognition humaine, exige donc de nous une profonde humilité.

En outre, des créations répétées d’intelligences artificielles entièrement autonomes par de l’intelligence artificielle entièrement autonome ne fait clairement qu’amplifier les questions d’imprévisibilité. Comme nous ne pouvons qu’émettre des hypothèses bien fondées en rapport avec la manière dont des agents superintelligents pourraient se comporter, il est d’autant plus nécessaire de restreindre leur création, simplement parce que les répercussions ne sont pas assez bien comprises pour pouvoir évaluer les risques qui y sont associés.

L’addiction au pouvoir

Si on lui laisse libre cours sans aucune restriction -que ce soit par la socialisation positive ou des contraintes institutionnelles-, le caractère égoïste de la nature humaine entraîne une quête implacable visant à renforcer le pouvoir et à l’accroître au plus haut niveau possible. Les sentiments liés à la domination et les émotions associées au fait de l'emporter sur la concurrence figurent parmi les expériences connues qui ont tendance à produire de la dopamine, de la sérotonine, des endorphines, de l’ocytocine ou une libération chimique de renforcement positif similaire. Dans les contextes humains considérés comme «normaux», ces faits conduisent à une saine concurrence, mais ils peuvent facilement basculer dans l’addiction au pouvoir et, souvent, dans une chute concomitante de la gouvernance légitime dans un régime irresponsable qui sème la discorde.

La perspective de la superintelligence augmente considérablement ces risques. Tout porte à croire que le pouvoir accru conféré par le fait d’être biologiquement augmenté et doté de superintelligence amplifiera les problèmes d’addiction au pouvoir, de sorte que l’élite pouvant bénéficier d’une augmentation -ou même l’individu avec un maximum d’amélioration de ses propres performances- privilégierait sa propre conservation et l’accroissement de son pouvoir par-dessus tout.

Un agent possédant les attributs de la superintelligence, par ailleurs, aurait de plus grandes possibilités de réussir à fabriquer un consentement, à éliminer les freins à son pouvoir et à se livrer à diverses activités que le théoricien du politique Philip Pettit décrit comme étant de la «domination». Un point central des arguments présentés par Pettit est le suivant: l’accomplissement de la véritable liberté présuppose une certaine forme d’égalité qui serait irréfutable.[5]

La dignité comme critère

La question effrayante que l’on doit se poser en autorisant la poursuite du développement de la superintelligence, et qui devrait donner à réfléchir, est celle-ci: que peut offrir le contrat social à une entité qui non seulement estime qu’elle est bien supérieure à ses autres membres, mais qui l’est en réalité?

Comme toujours, c’est le critère de dignité qui peut faire la différence entre les bénéfices et les risques existentiels. La dignité signifie bien plus que l’absence d’humiliation et elle comprend un ensemble complet de neuf besoins: la raison, la sécurité, les droits humains, la responsabilité, la transparence, la justice, l’opportunité, l’innovation et l’inclusion. Chacun de ces besoins doit être protégé afin d’empêcher les technologies d’avant-garde de produire de l’aliénation et d'irréparables préjudices à la dignité individuelle et collective. L’une des manières de pré--venir cela serait de réunir des scientifiques, des spécialistes de l’éthique, des organisations de la société civile et des décideurs politiques, afin qu’ils puissent s’accorder sur les normes éthiques et les normes de sécurité. Si nous devons aller de l’avant avec des technologies aussi puissantes, ce devrait être tout au moins le résultat d’une délibération plus large au sein de la société.

Ce débat, cependant, pourrait être insuffisant étant donné l’ampleur du pouvoir de transformation de ces technologies. Comme notre espèce est aiguillée en profondeur par ce que j’ai appelé en anglais les neuros P5 (le pouvoir, le plaisir, le profit, la fierté et la permanence), il est capital à l’avenir de restreindre le développement de technologies qui ont le potentiel de mener à de nouvelles formes de domination au sein de groupes sociaux ou, en fin de compte, d’agents qui ne seraient pas humains et qui exerceraient leur domination sur nous. (traduction Jane Wilhelm)

Pour découvrir la neuro-philosophie: Nayef Al-Rhodan, Une neuro-philosophie de la compréhension transculturelle mondiale, in Les Philosophes.fr

[1] Le prix Nobel de chimie 2020 a été attribué à la Française Emmanuelle Charpentier et à l’Américaine Jennifer Doudna pour leur technique d’édition du génome baptisée Crispr-Cas9, que l’on qualifie parfois aussi de
«couteau suisse de l’édition du génome». (n.d.l.r.) 
[2] Cf. Patrick Verspieren sj, Le tollé des bébés génétiquement modifiés, choisir.ch, mars 2019 (n.d.l.r.). 
[3] Voir le dossier «Contrôler l’IA, une utopie?», in choisir n° 695, avril-juin 2020 (n.d.l.r.). 
[4]  Cf. Nayef Al-Rhodan, The Role of Education in Global Security, Genève, Slatkine 2007, 128 p. (n.d.l.r.) 
[5]  Cf. notamment Philip Pettit, Républicanisme. Une théorie de la liberté et du gouvernement, Paris, Gallimard 2004, 448 p. (n.d.l.r.)