LA FIN DE L’INDIVIDU !

Gaspard Koenig001

 

J’ai enfin terminé le livre de Gaspard Koenig. Passionnant, fouillé, foisonnant ! Voilà une enquête complète et planétaire auprès des acteurs  de la révolution numérique. Difficile de faire plus exhaustif : le philosophe s’est entretenu avec tous ceux qui comptent sur la planète en matière d’Intelligence Artificielle, de la Californie à la Chine en passant par Israël et ailleurs, pour confronter leurs analyses et projets à son expérience personnelle, de Spinoza (entre autres) auquel il se réfère à René Descartes avec qui il nous propose un entretien surréaliste et délicieux, dans un grenier d’Amsterdam.  

Un ouvrage remarquable qui a conduit Luc Ferry à se fendre de deux tribunes dans Le Figaro, une sur la théorie du « nudge », pour démonter l’argumentation de l’auteur, l’autre sur « la fin de l’individu », dans lesquelles il exprime son scepticisme pour ne pas dire sa dérision à l’égard des thèses développées par le philosophe libéral. Je ne voudrais pas être prétentieux, mais il m’a semblé à leur lecture que notre chroniqueur régulier du Figaro n’avait pas complètement lu le livre, ou alors très rapidement et d’un œil distrait. Pour tout dire, le second article de Luc Ferry semble faire totalement l’impasse sur le dernier chapitre du livre de Gaspard Koenig dont les conclusions réduisent à néant les critiques qui lui sont faites. Ce qui a conduit ce dernier à répondre dans les mêmes colonnes : « Face à l’intelligence artificielle, l’optimisme de principe ne suffit pas ». Point de vue que je partage, d’une part, parce que tout le monde n’a pas la culture et la capacité de libre arbitre d’un Luc Ferry, et d’autre part, parce que les constats faits par Gaspard Koenig sont d’une brûlante actualité pour un grand nombre. Explications.

Les algorithmes : des crétins performants.

Du « Turc mécanique », ce joueur d’échec hongrois automatique du Baron Von Kempelen inventé en  1769, aux supercalculateurs de Google,  l’IA, qui se résume en fait à la somme de nos connaissances compilées en informatique, est une illusion seulement capable de reproduire un résultat et non un processus.  Mais c’est une illusion convaincante. Pour faire simple, la dernière génération d’algorithmes est capable de fouiller dans une masse de données, de manière plus ou moins autonome, pour en extraire des régularités et des prédictions. Mais sans données, pas d’IA, qu’elle soit « machine learning », « reinforcement learning » ou « deep learning ». Les technologies d’IA sont maintenant capables d’anticiper et d’orienter les comportements individuels grâce à la puissance de personnalisation et d’optimisation fournie par le traitement des « data ». La collecte de ces « data » est donc essentielle. Ce sont des milliers de personnes qui s’y emploient mais aussi chacun d’entre nous grâce à tous les « cookies » et « conditions d’utilisation »  que nous téléchargeons quotidiennement. Pourtant, la « super intelligence » est un mythe, car le bon sens est la chose du monde la moins partagée par les robots. Aucun algorithme ne peut concevoir une interprétation globale du monde et des hommes qui le peuplent : comme  l’affirmait Spinoza, « le  cerveau et le corps sont dans le  même bain  et  produisent l’esprit de  manière conjointe », ce  que Antonio Damasio, neuroscientifique de renommée mondiale, explique par  « l’homéostasie » : on pense autant avec ses doigts de pieds qu’avec son cerveau ! Et aucune IA n’est capable  d’imiter nos doigts de pied.  Avec en plus nos « sentiments », au coeur du processus homéostatique, qui sont seuls à produire du sens. Sans corps,  pas  de sens commun, mais  pas d’humour non plus. Cela n’empêche pas  l’IA de menacer l’humain.

Le « nudge » : une nounou souterraine.

Commençons par le mot lui-même, qui, en anglais, signifie «coup de pouce». C’est en 2008 que la théorie du Nudge a été popularisée par deux américains : Richard Thaler, un économiste et théoricien de la finance comportementale et Cass Sunstein, professeur à l’Université de droit d’Harvard. Son principe est simple: influencer nos comportements dans notre propre intérêt. Elle part du principe que les individus ne sont pas des êtres rationnels et que leurs prises de décisions sont sous l’influence de l’environnement, des émotions et des instincts, les biais cognitifs. Ainsi, ce « coup de pouce » serait ce qu’il y a de plus efficace pour aider les individus à faire des choix : par exemple, une grande surface avait augmenté de 30% en 3 mois ses ventes de poissons frais en diffusant des bruits de mouettes et des odeurs de marée. Issu de la  psychologie comportementale, le  principe du "nudge" a été intégré dans  les algorithmes. Pour aller à l’essentiel, l’idée qu’avancent l'auteur, c’est que nous vivons dans un monde où nos libertés seraient de toute part menacées notamment par les Gafa, mais aussi par des entreprises, par des gourous et des partis politiques qui tentent de nous faire aller dans telle ou telle direction, non par une méthode autoritaire, mais en nous incitant doucement, par micro-messages publicitaires ou autres, à choisir telle option d’achat, de vote, de spectacle, etc… Influencer sans contraindre, et pour le bien. Autant de formes de soumission aux algorithmes. Avec  le danger évident, celui d’agir pas seulement pour notre bien mais surtout pour la communauté,  variable selon le développeur de l’appli. Derrière le « nudge », il y a toujours une forme d’allégeance à un communautarisme qui se profile,  soit par utilitarisme (cas américain) soit par idéologie collectiviste (cas chinois). L’individu perd  alors sa liberté de jugement.

Le libre arbitre en danger.

Les stratégies  développées par  les créateurs d’applications mettent en effet nos facultés de choix personnel « libre et par soi-même » à rude épreuve par le confort qu’elles nous apportent. Et les  exemples dans notre vie quotidienne ne manquent pas : « Waze » qui nous guide en nous promettant  le meilleur temps de parcours, c’est tellement plus facile  que de déplier une carte routière ; nos messageries nous proposent des réponses toutes faites sans que nous ayons à  faire  l’effort de rédiger ou de chercher un mot  plus précis… Des petits riens qui font de nous, petit à petit des zombies décérébrés : interrogez un chauffeur parisien d’Uber sur la ville qu’il traverse chaque jour, et vous serez surpris du vide ;  et ne cherchez pas pourquoi vos enfants, sinon vous-mêmes, avez  perdu votre vocabulaire  et votre syntaxe !  A force d’économiser nos fonctions cérébrales,  Gaspard Koenig explique que l’humain perd pour de bon l’habitude de prendre ses propres décisions et sa liberté de choisir.  Les algorithmes agissent comme une drogue. Grâce aux délibérations « tellement logiques » servies sur un plateau, chacun acceptera d’être accompagné par une IA dans les choix les plus importants de son existence. C’est déjà ce qui se passe avec les sites de « rencontres ». C’est la fin de l’individu autonome et responsable par le triomphe du « bien-être » !

L’individu n’a pas dit son dernier mot.

On observe déjà  les nombreuses transformations  dans la société, générées  par la fin du libre arbitre. Ce sont les ordinateurs qui échappent au monde financier, c’est  l’art sans artiste, la science sans causalité, la théorie, fruit de la réflexion humaine rendue obsolète par les data, et sans libre arbitre,  fini le marché : la prédiction de nos comportements suffit déjà à ajuster l’offre à la demande dans bien des  cas.  Pour échapper à tous ces dérèglements, c’est à  l’individu de reprendre la main  en commençant par ne plus fournir gratuitement  ses données,  en définissant ses  propres normes  pour les imposer aux algorithmes et tant pis  si elles ne sont pas « optimales » pour  le  groupe.  Chacun doit  imposer  son propre nudge, de manière consciente et volontaire.  C’est le  principe de  la  « Prime Directive », que Gaspard Koenig sort  de la  série Star Trek, pour en faire  une règle supérieure d’ordre moral.  Cela remettrait de l’humain dans l’IA et surtout lui redonnerait du sens.

L’Etat français à la manœuvre.

Notre  pays présente des prédispositions pour exploiter  le  filon du « nudge » et utiliser les algorithmes à son profit. Il est centralisé et hypertechnocratisé, deux caractères facilitateurs. Le système fiscal  mis en place  avec  le  prélèvement à la source en est un bon exemple : le  « nudge » ici consiste à soulager le contribuable  de toutes les démarches déclaratives, il n’a plu qu’à  payer, et encore, le prélèvement  a lieu sans même son consentement. Une autre application est en train de se mettre en place : Bercy a glissé dans le  projet de loi de finances une disposition qui lui donnerait  le droit de collecter et d’exploiter, au moyen de traitements informatisés,  les contenus librement accessibles publiés sur internet.  Un « ciblage de  la fraude et valorisations des requêtes », pour définir un traitement automatisé des données collectées consistant à appliquer des  « méthodes statistiques innovantes ». En clair  il  s’agit de conjecturer qui va frauder dans le futur en fonction de  données personnelles (vraies ou fausses)  publiées par soi-même  ou  par des tiers…  Le  « data mining »  est  en plein dans le sujet puisqu’il est  censé permettre de prédire les  comportements et de prévenir le délit. Et on envisage maintenant d’utiliser la « reconnaissance faciale » pour la sécurité. Espérons qu’on ne suivra pas le modèle chinois. Big Brother est  déjà  là !

Il  ne s’agit  pas pour autant de devenir technophobe. Le particularisme de l’Europe, par rapport au reste du monde, c’est sa culture spécifique à l’origine de l’individu libre et responsable.  L’Europe  a  tout son rôle à  jouer pour proposer des régulations intelligentes conciliant prospérité et libertés. L’important est que, là  aussi, les  algorithmes n’enterrent pas nos "Lumières". Comme le dit Gasparov dans le livre, à  propos de « Deep blue » qui l'a battu aux échecs : «  il n’est  pas plus intelligent qu’un réveil-matin programmable ! »

Je pense n’avoir fait qu’effleurer le sujet, tant le livre  est dense. Plongez dans sa lecture si vous vous en sentez l’envie, vous serez étonné.

La fin de l’individu. Voyage d’un philosophe au pays de l’intelligence  artificielle.  Gaspard KOENIG. Editions : L’Observatoire /  Le Point.

 


INTER…NET OU PAS NET !

P1000672

Il manquait au palmarès d’internet et tous les « buzz » qu’il permet, celui de l’émeute : pari réussi avec l’épisode malheureux et absurde du coup de pub’ en forme de distribution de billets de banque. Internet fait partie de notre univers quotidien. Il n’est pas question ici de regretter l’ invention ou l’outil qui rend par ailleurs de multiples et vrais services. Mais le meilleur y côtoie le pire et pour séparer le bon grain de l’ivraie, il faut des qualifications que tout le monde n’a pas.

Aujourd’hui, 83% de nos concitoyens disposent d’un ordinateur à leur domicile et ils l’utilisent jusqu’à 24 heures par semaine. C’est ce que nous apprend une étude publiée par le Ministère de la Culture. On comprend mieux pourquoi il n’est pas possible de résister à internet, comme il aurait été absurde il y a vingt ans de se passer de la télévision. Du petit dernier de la fratrie jusqu’au papy ou la mamy, tout le monde « surfe sur le net » ! Le réseau est devenu un moyen de communication instantané et pratique, d’autant plus pratique qu’il est instantané.

Comme toujours, ce n’est pas l’outil qui est important, c’est l’utilisateur et ce qu’il en fait. A voir tous les dérapages auxquels on assiste, gageons qu’un jour il faudra un permis d’accès comme il existe un permis de conduire une automobile, ou un permis de pêcher. Car le recours à internet nécessite des compétences d’autant plus précises que les logiciels offrent des possibilités dans tous les domaines.  On peut tout faire… sans avoir besoin de sortir de chez soi, et c’est bien là le danger ! Il arrive que les compétences exigées par telle ou telle activité dépassent les limites des connaissances des utilisateurs, qu’il s’agisse d’aspects techniques ou de conscience morale : un apprentissage est donc nécessaire, comme en toute chose.

Internet s’ajoute à tous les moyens pratiques dont nous disposons mais ne doit pas devenir un moyen exclusif des autres. On peut « chater », mais cela ne dispense pas de la conversation de vive voix ; on peut se distraire mais cela ne remplace pas une soirée au théâtre ou au cinéma ; on peut lire et s’informer, mais cela n’est pas la même chose que lire un roman, ou un journal ;  etc…  C’est un vecteur extraordinaire de démocratie qui a l’avantage d’être gratuit et il permet à chacun de nous de s’exprimer. Mais les meilleurs logiciels ne procureront jamais l’intelligence et les connaissances nécessaires pour se servir correctement d’un ordinateur. Il suffit de suivre quelques « chats » pour s’apercevoir que nos contemporains manquent furieusement de culture générale, et ce ne sont pas les milliers d’illettrés (au sens propre du terme) produits par notre système éducatif qui vont arranger les choses.

Internet est donc la meilleure et la pire des choses. On y assiste à la collision permanente entre le vide (les lacunes) des internautes et leur hâte à s’adresser au reste du monde. A quoi bon écrire quand on ne sait pas aligner deux mots ou articuler trois phrases pour en faire un raisonnement ? Tout internaute doit savoir que les informations qu’on lui délivre et qui servent de base à un argument ne sont probablement pas vérifiées, que peut-être on cherche à le manipuler en multipliant des mensonges et en remplaçant les faits par de la propagande. Internet est le lieu de tous les excès : irresponsabilité des écrits, excès des passions, indécence des propos quand ce n’est pas l’insulte. Il en existe des utilisations frauduleuses avec des escrocs en tout genre, des experts du piratage de biens culturels (musique, films), des exploiteurs des dérives humaines sexuelles ou autres. Y mettre le pied, c’est entrer dans une jungle !

Ne jetons pas le bébé avec l’eau du bain. On trouverait mille exemples à contrario des bienfaits  de cette invention qui bouleverse notre mode de vie dans ses aspects les plus concrets comme faire ses courses ou acheter un lave-linge, communiquer à distance avec ses proches, se tenir informé en temps réel, se cultiver en allant à la rencontre des gens savants… Simplement, il ne peut y avoir de bon internet qu’avec des internautes « qualifiés », sachant lire, écrire, concevoir, analyser, bref, ayant ce savoir indispensable à tout individu, qu’il se serve d’internet ou pas.