… à l’insu de notre plein gré !
C‘est un monde qui ressemble au Truman Show. Un monde dans lequel des gens qui nous veulent du bien apprennent à nous connaître in extenso pour déployer sous nos yeux une réalité qui colle à tous nos désirs — même ceux que nous ne connaissions pas encore.
Le restaurant qu’il nous faut grâce à Tripadvisor, l’amant(e) dont nous rêvions grâce à Tinder, notre playlist idéale grâce à Spotify… Ce monde ressemble au Truman Show mais ce n’est pas de la télé-réalité : c’est la réalité.
Une société dans laquelle nous laissons, à notre insu ou de plein gré, des traces partout : des images et des sons, des chiffres (avec nos cartes de crédit) et des lettres (avec nos SMS), sans parler des milliers d’informations que recueillent nos smartphones et les sites que nous visitons sur Internet.
Produites en continu, ces données massives sont agrégées par des algorithmes capables de fabriquer sur chacun d’entre nous un profil d’une efficacité diabolique, aussitôt revendu à des milliers d’entreprises et administrations tout occupées à notre bonheur, et à l’allègement de notre portefeuille.
Une nouvelle version du Meilleur des mondes ?
Entretien avec Philippe Huneman, directeur de recherche à l’Institut d’histoire et de philosophie des sciences et des techniques, et auteur de Les Sociétés du profilage aux éditions Payot.
Rien ne semble échapper aux algorithmes…
Aujourd’hui, des informations sont recueillies sur tout ce qui existe sur Terre.[…] [Pour les] humains, toutes les dimensions de leur existence sont brassées pour affiner un profilage à la fois individuel et généralisé. Or, le traitement de ces milliers de dimensions très disparates […] n’est plus possible par de simples statistiques classiques. Entrent en jeu les algorithmes qui détectent des patterns (des « modèles ») constitués de toutes les traces laissées par chacun de nous, et dotées de qualités qui les rendent éminemment monnayables : vitesse, volume, variété…
Peut-on dire que ces profils sont « vrais » ?
La manière dont l’algorithme traite les données d’un individu est très différente de la façon dont le feraient les statistiques usuelles ou une enquête sociologique. Car la « vérité », au sens traditionnel, est absente de ce nouveau paradigme de connaissance. L’algorithme ne va pas chercher à comprendre comment certains comportements sont liés à l’histoire personnelle de l’individu profilé, et tisser une relation de cause à effet. Il ne calcule qu’une chose : les corrélations possibles entre les données personnelles de cet individu et celles de centaines de milliers d’autres personnes qui ont à peu près le même « nuage » de points autour d’elles.
[…]
Et ça marche ! En quoi cela pose-t-il un problème au philosophe ?
Tout changement de paradigme sur la façon dont on conçoit la vérité mérite que l’on se pose quelques questions. Nous sommes passés d’une tradition occidentale, qui considère depuis Platon que la connaissance authentique est vérifiable et justifiable(en particulier par référence à des liens de causalité), à une nouvelle configuration dans laquelle cette rationalité s’efface au profit de la simple corrélation.
Avant, des instances reconnues par tous (ou presque) se portaient garantes de la fiabilité du « vrai » et de la fausseté du « faux » ; aujourd’hui « vrai » et « faux » sont juxtaposés sur Internet sans hiérarchie de valeur. Comment les distinguer ?
Et d’autres problèmes surgissent avec ce nouveau « régime de vérité » : aussi efficace soit-il pour prédire le traitement par corrélations peut tout de même se tromper. Et ces loupés sont fréquents dès que l’on s’attaque à un système complexe.
Doit-on s’inquiéter de la nature totalisante de cette société du profilage ?
Beaucoup accusent les Gafam mais ce ne sont pas les seules entreprises dont nous devrions nous inquiéter : on aurait tort d’ignorer le travail gigantesque opéré par des milliers de start-up moins visibles, comme Palantir ou Cambridge Analytica, qui ont pourtant joué un rôle majeur dans l’élection de Donald Trump ou le vote pro-Brexit.
Par ailleurs, la société du profilage présente un autre danger, ses « effets de boucle » : prédire ne donne pas seulement une info future sur un individu, cela change la personne qui reçoit la prédiction.
Prédisez l’éboulement d’une montagne, la montagne s’en fiche ; mais annoncez à une personne qu’elle développera la maladie d’Alzheimer, l’impact sera profond et va modifier son comportement.
Le même principe opère avec les algorithmes de recommandation : quand on vous assure que vous allez aimer une musique ou un restaurant, il y a de fortes chances que vous les appréciiez… alors que, sans cette recommandation, vous ne les auriez peut-être pas aimés ! […]
Propos recueillis par Olivier Pascal-Moussellard. Télérama. Source (Très courts extraits)
En ce qui me concerne, les algorithmes utilisés par le commerce en ligne ont tout faux.
Leur connaissance est trop sommaire pour répondre à ce que je cherche. Je reçois régulièrement des propositions d’Amazon, Fnac, LiDL, etc… elles ne sont jamais pertinentes. L’IA à des limites lorsque les goûts ne sont pas dans les habitudes et dans des domaines très spécifiques.