Dans une lettre ouverte publiée le 27 juillet 2015 par le Future of Life Institute,[1] plus d’un millier de personnalités, dont une majorité de chercheurs en intelligence artificielle (IA) et en robotique, ont réclamé l’interdiction des armes autonomes, redoutant qu’elles ne mettent un terme à l’espèce humaine. Parmi les signataires, se trouvaient l’informaticien Bill Joy, l’astrophysicien Stephen Hawking, les milliardaires Elon Musk[2] et Bill Gates.

Que recouvre cet apparent alarmisme? Je ne crois pas que ce soit seulement la perspective d’une multiplication de drones, de «robots tueurs»,[3] qui soit visée. L’esprit de cet Appel concerne plus largement la perte d’initiative à laquelle nos machines nous contraignent de plus en plus, une perte d’initiative que le transhumanisme nomme la Singularité.

Les enthousiasmes premiers

On s’est amusé d’abord des prétentions des cybernéticiens des années 50 qui envisageaient de fabriquer un humain artificiel. La reprise de vieux fantasmes issus du Golem s’inscrivait alors dans la dynamique d’un progrès technique dont on attendait qu’il satisfasse les attentes de l’humanité. L’IA était un adjuvant qui devait fournir des moyens de nous épanouir: les premiers jeux électroniques assuraient les divertissements nécessaires aux hommes modernes; les premiers systèmes-experts relayaient efficacement le savoir-faire des médecins ou des plombiers; on attendait de machines à traduire qu’elles nous offrent de communiquer par-delà les frontières nationales…

L’artificialisation des comportements, réputés intelligents quand ils sont effectués par des humains, fut d’abord circonscrite à ces trois domaines. Mais l’enthousiasme déclina assez vite, notamment quand on s’aperçut que le traitement automatique du langage n’était pas aussi aisé que cela. La victoire du super-ordinateur Deep Blue sur Kasparov en 1997 fut évidemment un choc: une machine triomphait du champion du monde d’échecs! Mais on admit que les capacités humaines de calcul devraient s’incliner devant les automatismes dont seront de plus en plus capables les ordinateurs, et l’on se dit que le jeu d’échecs était un terrain trop facile pour eux. Le jeu de go serait, par exemple, une autre paire de manches!

L’idée s’imposa un temps que l’intelligence devrait se définir comme ce dont les machines ne seront jamais capables; qu’elle devrait donc être conçue comme le point de fuite que n’atteindront jamais les ingénieurs en informatique. Les conclusions du test de Turing[4] n’impressionnèrent plus beaucoup: oui, c’est vrai, il est possible qu’une machine puisse être confondue avec un humain dans les réponses données à un questionnaire fermé. Les prouesses d’Eliza, le programme informatique écrit par Joseph Weizenbaum pour démontrer qu’une machine peut très bien remplacer un psychanalyste, servirent surtout à railler les stratégies thérapeutiques à la mode dans les années 60.

Personne ne songeait alors à sonner l’alarme et à proclamer que nos technologies cognitives étaient en train de menacer les prérogatives de notre intelligence. Il ne pouvait y avoir que les auteurs de science-fiction pour continuer à imaginer une prise de pouvoir par les robots et la mise en servage des humains! La société pouvait continuer à s’informatiser tranquillement, l’école à intégrer des plans Informatique pour tous. Nous étions bien aux commandes et nous développions de formidables outils pour améliorer le confort de notre quotidien.

Le temps de l’irritation…

Puis est venu le temps d’une certaine irritation. Les administrations et les services se dotèrent d’infrastructures informatiques de plus en plus sophistiquées et encombrantes, et les usagers se plaignirent de n’être plus accueillis que par des serveurs vocaux imbéciles. On leur expliqua que les contraintes de productivité imposaient qu’on écartât les standardistes à la voix suave et à l’humour narquois. On justifia aussi abondamment les ratés de communication ou les délais de traitement de leurs demandes par des pannes informatiques, bien compréhensibles n’est-ce pas?

La colère des otages de l’IA mise au service de la communication avec le public ne trouva jamais à s’exprimer autrement que sur un plan individuel, et les entreprises purent continuer à s’équiper de dispositifs de plus en plus déshumanisants. Reste que les choses sont peut-être en train de prendre une autre allure…

…et celui de la menace

Le krach boursier de 2008 a eu sur certains un effet traumatisant: quand on sut le rôle que jouèrent quelques robots traders qui prirent de vitesse les meilleurs courtiers, on dut se dire que nous n’étions plus au contrôle et que cela pouvait être encore plus conséquent que la remise des clés de l’avion de ligne au pilote automatique! La prise de conscience d’une menace liée à la réactivité de nos machines devint tangible et l’on prit la mesure du fait que le sens du mot «intelligence» avait bel et bien changé.[5]

Être intelligent, ce n’était plus être capable de se représenter un problème et de réfléchir à l’élaboration d’une solution adéquate, mais seulement pouvoir recevoir des signaux qui appellent une réponse comportementale immédiate susceptible de modifier un environnement. L’ère des objets intelligents pouvait naître.

Nous serons bientôt entourés et envahis de capteurs d’informations qui rétroagiront et communiqueront entre eux et nous n’aurons d’autre solution que celle consistant à accepter d’être l’un d’eux. Notre richesse, dit-on déjà, tiendra à la quantité de data que nous pourrons porter et livrer à nos machines.

Assujettissement programmé

Quelle menace, donc, aujourd’hui? Nous voulions être déchargés des tâches pénibles et répétitives. Nous sommes exposés à être mis sous tutelle et transformés en codes-barres ambulants. Notre immersion dans le cyberespace se révèle comme ce qu’il est fondamentalement: l’instrument de notre assujettissement à des moteurs de recherche dont l’intelligence découpe le monde en segments et nous impose des formats réducteurs.

De proche en proche, c’est l’intégralité de notre existence qui sera bientôt touchée : nous ne lirons plus de journaux que rédigés par des robots-écrivains, nous ne recevrons plus d’affection réelle que de robots issus de l’informatique émotionnelle et nous découvrirons que les délices de la cybersexualité valaient bien les investissements de la recherche technologique dans l’IA. Bref, nous serons enfin débarrassés de nous-mêmes!

L’intelligence non biologique, annoncée par Ray Kurzweil pour 2045, consacrera notre défaite. À force de nous laisser simplifier par des machines qui n’exigent de nous que des comportements élémentaires pour interagir avec elles, nous deviendrons bel et bien «les chimpanzés du futur» (Kevin Warwick).[6]

[1] Le Future of Life Institute est un organisme américain à but non lucratif qui se focalise sur «les risques potentiels du développement d’une intelligence artificielle de niveau humain». (n.d.l.r.)
[2] Bill Joy a travaillé notamment au développement du système d'exploitation Unix BSD, des microprocesseurs Sparc et du langage Java. Elon Musk est PDG du constructeur de voitures électriques Tesla et de l’entreprise astronautique SpaceX. (n.d.l.r.)
[3] Cf. Alexandre Vautravers, «De la torpille aux drones», in choisir n° 673, janvier 2016, pp. 22-25. www.choisir.ch (n.d.l.r.)
[4] Fondé sur la faculté d'une machine à imiter la conversation humaine, le test de Turing (1950) consiste à mettre un humain en relation verbale, à l’aveugle, avec un ordinateur et un autre humain, et à deviner à qui il s’adresse. (n.d.l.r.)
[5] Cf. Étienne Perrot, «Tragédies financières. De la nécessité de la morale», in choisir n° 581, mai 2008, pp. 27-30. (n.d.l.r.)
[6] Réponse au cybernéticien Kevin Warwick, qui a déclaré que ceux qui refuseront de fusionner avec des machines pour améliorer leurs performances partiront avec un sérieux handicap et deviendront les chimpanzés du futur. (n.d.l.r.)