bandeau art philo
mardi, 25 mai 2021 09:19

Intelligence artificielle, la nouvelle barbarie

Écrit par

David SauviatMarie David et Cédric Sauviat
Intelligence artificielle, la nouvelle barbarie
Monaco, du Rocher 2019, 314 p. 

Pour Marie David et Cédric Sauviat, ce dernier présidant l’Association française contre l’intelligence artificielle, celle-ci s’inscrit dans une fuite en avant technologique vers toujours plus de déresponsabilisation. L’Intelligence artificielle est décrite comme «un projet technoscientifique d’exploitation utilitaire du monde (…) par essence, totalitaire». «Ce n’est (...) pas un hasard, écrivent-ils, si l’intelligence artificielle et les technologies du vivant se développent en même temps.»
Les auteurs de fait n’accordent guère de crédit à une contribution positive, ni aux possibilités de distinguer aide à la décision et décision, capacité de réactivité de la machine et capacité de pilotage de l’être humain. Leur livre met l’accent sur les retombées négatives de l’IA.

Ainsi de la capacité de stocker d’énormes quantités d’informations qui donne un immense pouvoir à ceux qui les gèrent, par exemple aux propriétaires de Facebook ou de Google dont le modèle d’affaires repose sur le financement par la publicité et donc la fidélisation de l’usager. Tout est fait pour stimuler l’attractivité des écrans par une activité en continu, selon des «mécanismes d’addiction (...) conçus délibérément». Puis, «le comportement de l’utilisateur (...) est capté et transformé en données monétarisables».
Le flux constant de sollicitations et la tension introduite par le rythme des échanges dits virtuels nous font oublier comment notre image du réel devrait se construire: la vraie vie, c’est le contact physique avec les choses et les gens, et l’outil ne devrait jamais s’y substituer. Piégés dans « une fausse proximité (…), nous passons plus de temps à regarder ce qui se passe sur l’écran de notre ordinateur qu’à observer ce qui nous entoure».
Le recours massif aux outils informatiques nous fait négliger, disent-ils encore, le temps de la réflexion, la nuance, le lien subtil entre nos émotions, nos valeurs, nos objectifs profonds; oublier la distance nécessaire face à ce qu’on reçoit. Subrepticement, nous perdons certaines capacités. «Par exemple, avec l’usage croissant des GPS, la partie de notre cerveau qui nous permet de nous orienter s’est affaiblie.» Quant à Amazon, il «contribue à la désertification commerciale des centres villes».
Soulignant les effets négatifs des écrans sur les enfants, les auteurs relèvent que, dûment avertis, les concepteurs de ces outils interdisent à leur progéniture les I-pad avant 15 ans et limitent strictement les moments passés devant les écrans... laissant «aux classes populaires, les fake news, les tablettes pour les tout-petits et les publicités prédatrices pour des prêts personnels». Lors de la présidentielle américaine de 2016, «la majorité des personnes qui votaient ne connaissaient de l’actualité que leur fil Facebook», dont l’algorithme leur présente essentiellement des points de vue correspondant à leurs préférences. Quant aux États autoritaires, ces outils les aident à pratiquer un contrôle social à grande échelle. Ainsi la Chine «investit (...) massivement dans l’IA afin de contrôler sa population», notamment par la reconnaissance faciale. Autre préoccupation, les «armes intelligentes, ou systèmes d’armes létales autonomes».
Des emplois disparaissent en masse, soulignent les auteurs, et ceux créés sont majoritairement précarisés, découpés en petites séquences, laissant un monde du travail en miettes. «On ne raisonne plus en termes d’emploi, mais de tâches. » « Les centaines de personnes qui sous-titrent des vidéos pour quelques centimes par heure» constituent l’armée des intermittents de l’informatique. Cette dernière renforce la tendance aux statuts hybrides entre salariat et auto-entrepreneuriat, au remplacement de l’entreprise traditionnelle par des plateformes de mises en contact (Uber ou AirBnB).
Le livre aborde brièvement les conditions écologiques et sociales de production et de déconstruction des outils du monde informatique. Il faut préciser que ces milliards d’appareils consomment, serveurs compris, 10% de l’électricité mondiale. Leur design plaisant et leur ergonomie avenante font oublier qu’ils sont faits de nombreux éléments rares, et programmés pour une obsolescence rapide; dans le monde, seuls 20% d’entre eux sont correctement traités au stade de déchets, et 10% recyclés.
Enfin, si dans nos sociétés, on débat de beaucoup de choses, ce qui structure le plus nos vies, les innovations technologiques, reste peu questionné. Il n’y a aucune systématique d’anticipation ni d’étude d’impact sociale, et encore moins de discussion large avant la généralisation d’une innovation. «Toutes les technologies nouvelles sont immédiatement mises sur le marché» et c’est «l’existence d’un marché florissant qui prouve le bien-fondé de l’objet». Car «l’innovation est présentée comme une nécessité absolue, (...) que ce soit du côté des entreprises, comme de celui de l’État».
«Une poignée d’ingénieurs dans la Silicon Valley dessine les contours d’un monde que nous subissons tous sans avoir notre mot à dire.» On n’arrête pas le progrès… Cette expression, qu’est-elle d’autre qu’un formidable aveu d’impuissance? Décidément, il est temps d’imaginer la démocratie de l’ère scientifique!

Lu 279 fois

CouvLivreChoisir

Coédité par choisir et les éditions Slatkine, ce recueil regroupe douze nouvelles retenues par le jury du concours pour écrivain(e)s lancé par notre revue lors de son 60e anniversaire.

COMMANDER LE RECUEIL


Michel Gounot Godong

Hier traîtres ou champions de la version, aujourd’hui passeurs de culture, voire même auteurs, les traducteurs suscitent un intérêt certain. Une évolution qu’analyse Josée Kamoun.


Michel Gounot Godong

Scénarios de films imbibés de whisky, cinéastes alcooliques, publicités pour des marques de bière: l'ivresse côtoie depuis des décennies Hollywood. Virée éthylique avec Patrick Bittar dans le cinéma étasunien.