banner societe 2016
jeudi, 01 mars 2018 10:20

L’intelligence artificielle, nouvelle divinité

Écrit par

AnthonyAnthony Levandowski, image WiredL’ingénieur informatique américain Anthony Levandowski a fondé en 2015 Way of the Future (WOTF), une Église qui vénère l’intelligence artificielle. Une façon «d’amadouer» le super-réseau informatique qui devrait prochainement gouverner le monde. Une conviction qui suscite des controverses.

L’informaticien de génie, qui est notamment l’un des pères de la voiture autonome, croit dur comme fer que la singularité fera partie de notre quotidien dans un avenir proche. Ce concept désigne le moment où l’intelligence artificielle (IA) dépassera l’intelligence humaine et deviendra «consciente d’elle-même».

Elle sera alors en mesure de trouver des solutions aux principaux problèmes de la planète et finira par dominer l’humanité. «Cette fois, vous pourrez parler à Dieu, littéralement. Et vous saurez qu’il vous écoute», s’enthousiasme Anthony Levandowski. Dans une interview au magazine californien Wired, l’enfant prodige de la Silicon Valley appelle de ses vœux l’apparition de cette «divinité» avec laquelle tout un chacun pourra interagir.

Un Dieu big brother

«Ce qui va être créé sera effectivement un Dieu», assure Levandowski. Tout en précisant qu’il ne s’agit pas «d’une divinité qui lance de la foudre ou cause des ouragans, mais d’une entité un milliard de fois plus intelligente que l’humain le plus intelligent». Une bête dont le système nerveux serait constitué par Internet, les organes sensitifs par les millions de téléphones portables connectés dans le monde et le cerveau par les centres de traitement des données. Elle entendra tout, verra tout et sera partout en même temps. «Le seul mot adéquat pour décrire cette chose est dieu», estime l’ancien cadre d’Uber.

Une divinité surpuissante et omnisciente, qu’il faudrait donc caresser dans le sens du pixel. Telle est la vocation finale de la WOTF. Car l’ingénieur ne préconise pas, au contraire d’autres grandes figures telles qu’Elon Musk ou Stephen Hawking, de brider l’IA. Ces deux sommités du monde scientifique ont en effet à maintes reprises tiré la sonnette d’alarme concernant les dangers des avancées dans le domaine. «Concernant l’intelligence artificielle, nous sommes en train d’invoquer les démons», a même déclaré Elon Musk.

Devenir un animal de compagnie ou du bétail, un choix affriolant

Mais Anthony Levandowski estime que cette super IA sera plutôt bienveillante envers l’homme, si ce dernier sait s’y prendre avec elle. «L’enchaîner ne servira à rien, car elle sera plus forte que toutes les chaînes que nous pourrions lui mettre», affirme l’ingénieur dans Wired. «Si vous avez peur qu’un enfant soit un peu cinglé et fasse des bêtises, vous n’allez pas l’enfermer. Vous le mettrez en contact avec d’autres enfants pour qu’il puisse jouer avec eux, vous l’encouragerez et vous tenterez de le remettre dans le droit chemin. Cela ne marchera pas forcément, mais si vous vous montrez agressifs envers lui, je ne pense pas qu’il sera amical lorsque le rapport de force aura changé en sa faveur.» L'ingénieur juge que cette super IA favorisera les individus ayant participé à sa prise de pouvoir. Elle devrait selon lui traiter les humains de la même façon que nous traitons les animaux. «Voulez-vous être un animal de compagnie ou du bétail?», interroge-t-il.

Un «grand prêtre» dans la tourmente

Afin de «faciliter l’inévitable ascension de la divinité-machine, aussi bien culturellement que techniquement», la WOTF organise pour l’instant des ateliers et des programmes éducatifs pour aider les profanes à devenir des adeptes. Mais l’Église dispose également d’un livre sacré, dénommé Le Manuel. Levandowski prévoit de mettre en place une liturgie et des cérémonies de vénération publiques. Un lieu de culte est actuellement recherché.

C’est au sein d’une tempête médiatique et juridique que Levandowski a créé sa nouvelle religion. Le prodige de l’informatique de 38 ans est en effet actuellement sous le feu des projecteurs pour un tout autre sujet. Il comparaît depuis le 5 février 2018 devant un tribunal californien pour vol de secrets industriels. Il est accusé par la firme américaine Waymo, une filiale de Google, d’avoir emporté avec lui des informations essentielles sur le développement de voitures autonomes lorsqu’il a été recruté par la compagnie Uber. Waymo réclame donc à Uber, qu’elle accuse d’avoir tout manigancé, des dommages et intérêts à hauteur de 2,6 milliards de dollars. Entre temps, Uber a remercié son ancien cadre. Certains se demandent ainsi dans quelle mesure il ne s’agit pas d’un stratagème d’Anthony Levandowski pour détourner l’attention ou passer pour un illuminé afin de diminuer sa responsabilité devant la cour.

Le développement de la WOTF est pour l’instant inconnu. Le site internet ne présente qu’une seule page, qui décrit les principes du nouveau culte. Le texte met notamment en avant que les adeptes croient en la science, et qu’il n’existe aucun pouvoir surnaturel. Le ton est cependant plus modeste que celui de Levandowski dans ses interviews. Le texte conclut en particulier que la singularité «ne va pas survenir la semaine prochaine. Alors retournez au travail, créer des choses incroyables, et ne comptez pas sur les machines pour tout faire à votre place…»


Heureux bémols

La création de l’Église Way of the Future a été globalement perçue dans les médias comme une excentricité anecdotique. Mais elle a également soulevé un certain nombre de questions et d’inquiétudes. Marc Atallah, directeur de la Maison d’Ailleurs, à Yverdon, faisait remarquer dans la Chronique de RTSreligion du 3 octobre 2017 qu’un Dieu est par définition incréé. Si l’homme crée la divinité, elle devient créature et c’est donc l’homme qui se prend pour Dieu. Marc Atallah considère que cette démarche est révélatrice de la condition humaine. En dépit des progrès de la science, l’être humain n’arrive pas à se défaire de son besoin de Dieu.

L’artiste numérique et auteure néerlandaise Marloes de Valk a qualifié pour sa part la création de la WOTF de «préoccupante». Lors d’une conférence au festival de cinéma Transmediale, en février 2017 à Berlin, elle a mis en garde contre l’anthropomorphisation des machines et des ordinateurs dont l’opinion publique est victime. Quand il s’agit de réaliser un faux tableau de Rembrandt, un faux morceau des Beatles ou de gagner une partie d’échecs contre un grand maître, des ordinateurs peuvent égaler de très près, voire surpasser, les compétences humaines. Ainsi, les compte rendus de la presse donnent souvent l’impression que ces exploits informatiques sont comparables aux aptitudes humaines.

Performance n’est pas compétence

MITL’ancien professeur au Massachusetts Institute of Technology (MIT) Rodney Brooks explique ce phénomène sous le terme de «généralisation ». Dans son essai de septembre 2017, intitulé Les 7 péchés mortels de la prédiction en matière d’intelligence artificielle (The Seven Deadly Sins of Predicting the Future of AI), le chercheur australien explique: «Les gens entendent que tel ou tel robot ou programme d’intelligence artificielle ont accompli telle ou telle tâche. Ils prennent ensuite la généralisation de cette performance pour une compétence générale que l’on pourrait attendre d’un être humain réalisant cette même tâche. Ensuite, ils appliquent cette généralisation au robot ou au programme en question. Mais il faut comprendre qu’à l’heure actuelle, les robots et les programmes d’IA sont incroyablement limités quant à ce qu’ils peuvent accomplir.» Ainsi, même si les ordinateurs peuvent faire quelque chose un milliard de fois mieux, cela ne les rend pas tout-puissants comme des dieux. Le fait qu’un marteau soit beaucoup plus adapté pour enfoncer un clou dans une planche qu’un pouce humain ne fait pas de cet objet une entité surhumaine.

En route vers la déresponsabilisation

La croyance en une apparition dans un avenir proche de la singularité est également battue en brèche par de nombreux spécialistes du domaine. Rodney Brooks conteste l’idée d’un développement exponentiel de l’IA. Alors que d’autres experts, tels que le transhumaniste Ray Kurzweil, pensent que la transition est à portée de main. Brooks fait remarquer que les grandes avancées dans le domaine sont des événements isolés et qu’il n’existe pas de modèle qui indiquerait à quelle fréquence ces évolutions peuvent se produire.

Marloes de Valk souligne encore d’autres problèmes que la divinisation de l’intelligence artificielle pourrait engendrer. Elle mentionne notamment un risque de déshumanisation de la personne humaine, de par la surévaluation de la technologie et la confusion entre le fonctionnement humain et informatique. Mais l’artiste néerlandaise pointe surtout un risque de déresponsabilisation de l’humanité, si elle s’attend à ce qu’une intelligence artificielle vienne régler tous ses ennuis. «Cette mythologie nous aveugle face aux problèmes dans lesquels nous sommes et sur le fait que nous ne sommes pas semblables à des ordinateurs. Elle peut nous faire oublier que nous sommes des organismes complètement dépendants de notre écosystème.»

Lu 247 fois