J’ai enfin terminé le livre de Gaspard Koenig. Passionnant, fouillé, foisonnant ! Voilà une enquête complète et planétaire auprès des acteurs de la révolution numérique. Difficile de faire plus exhaustif : le philosophe s’est entretenu avec tous ceux qui comptent sur la planète en matière d’Intelligence Artificielle, de la Californie à la Chine en passant par Israël et ailleurs, pour confronter leurs analyses et projets à son expérience personnelle, de Spinoza (entre autres) auquel il se réfère à René Descartes avec qui il nous propose un entretien surréaliste et délicieux, dans un grenier d’Amsterdam.
Un ouvrage remarquable qui a conduit Luc Ferry à se fendre de deux tribunes dans Le Figaro, une sur la théorie du « nudge », pour démonter l’argumentation de l’auteur, l’autre sur « la fin de l’individu », dans lesquelles il exprime son scepticisme pour ne pas dire sa dérision à l’égard des thèses développées par le philosophe libéral. Je ne voudrais pas être prétentieux, mais il m’a semblé à leur lecture que notre chroniqueur régulier du Figaro n’avait pas complètement lu le livre, ou alors très rapidement et d’un œil distrait. Pour tout dire, le second article de Luc Ferry semble faire totalement l’impasse sur le dernier chapitre du livre de Gaspard Koenig dont les conclusions réduisent à néant les critiques qui lui sont faites. Ce qui a conduit ce dernier à répondre dans les mêmes colonnes : « Face à l’intelligence artificielle, l’optimisme de principe ne suffit pas ». Point de vue que je partage, d’une part, parce que tout le monde n’a pas la culture et la capacité de libre arbitre d’un Luc Ferry, et d’autre part, parce que les constats faits par Gaspard Koenig sont d’une brûlante actualité pour un grand nombre. Explications.
Les algorithmes : des crétins performants.
Du « Turc mécanique », ce joueur d’échec hongrois automatique du Baron Von Kempelen inventé en 1769, aux supercalculateurs de Google, l’IA, qui se résume en fait à la somme de nos connaissances compilées en informatique, est une illusion seulement capable de reproduire un résultat et non un processus. Mais c’est une illusion convaincante. Pour faire simple, la dernière génération d’algorithmes est capable de fouiller dans une masse de données, de manière plus ou moins autonome, pour en extraire des régularités et des prédictions. Mais sans données, pas d’IA, qu’elle soit « machine learning », « reinforcement learning » ou « deep learning ». Les technologies d’IA sont maintenant capables d’anticiper et d’orienter les comportements individuels grâce à la puissance de personnalisation et d’optimisation fournie par le traitement des « data ». La collecte de ces « data » est donc essentielle. Ce sont des milliers de personnes qui s’y emploient mais aussi chacun d’entre nous grâce à tous les « cookies » et « conditions d’utilisation » que nous téléchargeons quotidiennement. Pourtant, la « super intelligence » est un mythe, car le bon sens est la chose du monde la moins partagée par les robots. Aucun algorithme ne peut concevoir une interprétation globale du monde et des hommes qui le peuplent : comme l’affirmait Spinoza, « le cerveau et le corps sont dans le même bain et produisent l’esprit de manière conjointe », ce que Antonio Damasio, neuroscientifique de renommée mondiale, explique par « l’homéostasie » : on pense autant avec ses doigts de pieds qu’avec son cerveau ! Et aucune IA n’est capable d’imiter nos doigts de pied. Avec en plus nos « sentiments », au coeur du processus homéostatique, qui sont seuls à produire du sens. Sans corps, pas de sens commun, mais pas d’humour non plus. Cela n’empêche pas l’IA de menacer l’humain.
Le « nudge » : une nounou souterraine.
Commençons par le mot lui-même, qui, en anglais, signifie «coup de pouce». C’est en 2008 que la théorie du Nudge a été popularisée par deux américains : Richard Thaler, un économiste et théoricien de la finance comportementale et Cass Sunstein, professeur à l’Université de droit d’Harvard. Son principe est simple: influencer nos comportements dans notre propre intérêt. Elle part du principe que les individus ne sont pas des êtres rationnels et que leurs prises de décisions sont sous l’influence de l’environnement, des émotions et des instincts, les biais cognitifs. Ainsi, ce « coup de pouce » serait ce qu’il y a de plus efficace pour aider les individus à faire des choix : par exemple, une grande surface avait augmenté de 30% en 3 mois ses ventes de poissons frais en diffusant des bruits de mouettes et des odeurs de marée. Issu de la psychologie comportementale, le principe du "nudge" a été intégré dans les algorithmes. Pour aller à l’essentiel, l’idée qu’avancent l'auteur, c’est que nous vivons dans un monde où nos libertés seraient de toute part menacées notamment par les Gafa, mais aussi par des entreprises, par des gourous et des partis politiques qui tentent de nous faire aller dans telle ou telle direction, non par une méthode autoritaire, mais en nous incitant doucement, par micro-messages publicitaires ou autres, à choisir telle option d’achat, de vote, de spectacle, etc… Influencer sans contraindre, et pour le bien. Autant de formes de soumission aux algorithmes. Avec le danger évident, celui d’agir pas seulement pour notre bien mais surtout pour la communauté, variable selon le développeur de l’appli. Derrière le « nudge », il y a toujours une forme d’allégeance à un communautarisme qui se profile, soit par utilitarisme (cas américain) soit par idéologie collectiviste (cas chinois). L’individu perd alors sa liberté de jugement.
Le libre arbitre en danger.
Les stratégies développées par les créateurs d’applications mettent en effet nos facultés de choix personnel « libre et par soi-même » à rude épreuve par le confort qu’elles nous apportent. Et les exemples dans notre vie quotidienne ne manquent pas : « Waze » qui nous guide en nous promettant le meilleur temps de parcours, c’est tellement plus facile que de déplier une carte routière ; nos messageries nous proposent des réponses toutes faites sans que nous ayons à faire l’effort de rédiger ou de chercher un mot plus précis… Des petits riens qui font de nous, petit à petit des zombies décérébrés : interrogez un chauffeur parisien d’Uber sur la ville qu’il traverse chaque jour, et vous serez surpris du vide ; et ne cherchez pas pourquoi vos enfants, sinon vous-mêmes, avez perdu votre vocabulaire et votre syntaxe ! A force d’économiser nos fonctions cérébrales, Gaspard Koenig explique que l’humain perd pour de bon l’habitude de prendre ses propres décisions et sa liberté de choisir. Les algorithmes agissent comme une drogue. Grâce aux délibérations « tellement logiques » servies sur un plateau, chacun acceptera d’être accompagné par une IA dans les choix les plus importants de son existence. C’est déjà ce qui se passe avec les sites de « rencontres ». C’est la fin de l’individu autonome et responsable par le triomphe du « bien-être » !
L’individu n’a pas dit son dernier mot.
On observe déjà les nombreuses transformations dans la société, générées par la fin du libre arbitre. Ce sont les ordinateurs qui échappent au monde financier, c’est l’art sans artiste, la science sans causalité, la théorie, fruit de la réflexion humaine rendue obsolète par les data, et sans libre arbitre, fini le marché : la prédiction de nos comportements suffit déjà à ajuster l’offre à la demande dans bien des cas. Pour échapper à tous ces dérèglements, c’est à l’individu de reprendre la main en commençant par ne plus fournir gratuitement ses données, en définissant ses propres normes pour les imposer aux algorithmes et tant pis si elles ne sont pas « optimales » pour le groupe. Chacun doit imposer son propre nudge, de manière consciente et volontaire. C’est le principe de la « Prime Directive », que Gaspard Koenig sort de la série Star Trek, pour en faire une règle supérieure d’ordre moral. Cela remettrait de l’humain dans l’IA et surtout lui redonnerait du sens.
L’Etat français à la manœuvre.
Notre pays présente des prédispositions pour exploiter le filon du « nudge » et utiliser les algorithmes à son profit. Il est centralisé et hypertechnocratisé, deux caractères facilitateurs. Le système fiscal mis en place avec le prélèvement à la source en est un bon exemple : le « nudge » ici consiste à soulager le contribuable de toutes les démarches déclaratives, il n’a plu qu’à payer, et encore, le prélèvement a lieu sans même son consentement. Une autre application est en train de se mettre en place : Bercy a glissé dans le projet de loi de finances une disposition qui lui donnerait le droit de collecter et d’exploiter, au moyen de traitements informatisés, les contenus librement accessibles publiés sur internet. Un « ciblage de la fraude et valorisations des requêtes », pour définir un traitement automatisé des données collectées consistant à appliquer des « méthodes statistiques innovantes ». En clair il s’agit de conjecturer qui va frauder dans le futur en fonction de données personnelles (vraies ou fausses) publiées par soi-même ou par des tiers… Le « data mining » est en plein dans le sujet puisqu’il est censé permettre de prédire les comportements et de prévenir le délit. Et on envisage maintenant d’utiliser la « reconnaissance faciale » pour la sécurité. Espérons qu’on ne suivra pas le modèle chinois. Big Brother est déjà là !
Il ne s’agit pas pour autant de devenir technophobe. Le particularisme de l’Europe, par rapport au reste du monde, c’est sa culture spécifique à l’origine de l’individu libre et responsable. L’Europe a tout son rôle à jouer pour proposer des régulations intelligentes conciliant prospérité et libertés. L’important est que, là aussi, les algorithmes n’enterrent pas nos "Lumières". Comme le dit Gasparov dans le livre, à propos de « Deep blue » qui l'a battu aux échecs : « il n’est pas plus intelligent qu’un réveil-matin programmable ! »
Je pense n’avoir fait qu’effleurer le sujet, tant le livre est dense. Plongez dans sa lecture si vous vous en sentez l’envie, vous serez étonné.
La fin de l’individu. Voyage d’un philosophe au pays de l’intelligence artificielle. Gaspard KOENIG. Editions : L’Observatoire / Le Point.