Si, en vingt ans, l’entreprise tentaculaire de Mark Zuckerberg s’est immiscée dans nos vies au point d’influencer des élections ou des révolutions, elle n’est aujourd’hui qu’un acteur parmi d’autres de ce qu’Asma Mhalla appelle la galaxie des Big Tech. Dans Technopolitique, son prochain livre, la spécialiste des enjeux politiques et géopolitiques de la Tech interroge la place prédominante de ces géants du numérique qui, « depuis le tournant des années 2010 », redéfinissent « la morphologie d’à peu près toutes nos représentations politiques collectives » et « agissent comme des agents perturbateurs de la démocratie ». Et posent de renversants questionnements éthiques.
- En 2024, plus de soixante-dix élections seront organisées dans le monde, dont les européennes et la présidentielle américaine. Doit-on craindre de nouvelles tentatives de manipulation de l’opinion ?
Les intelligences artificielles génératives utilisées à des fins malveillantes permettent une désinformation massive à bas coût et facilitent les cyberattaques virulentes. Pour se prémunir de ces « technologies de l’hypervitesse », on évoque le « watermarking », un tatouage qui labellise l’authenticité des contenus, mais, comme toute réponse technique, elle est faillible.
Lors des élections argentines de novembre, les deepfakes ont été abondamment utilisés par les deux camps sans qu’il ait été nécessaire qu’ils soient crédibles ou techniquement parfaits : ce qui compte, c’est la détestation du camp d’en face, son humiliation.
Ces cheapfakes sont le carburant de sociétés surpolarisées, chauffées à blanc. La banalisation de la techno-brutalisation de nos liens, idée que je développe à partir des travaux de l’historien George Mosse, me gêne particulièrement.
Nous sommes entrés dans une phase hybride, que le politologue Mark Leonard appelle « l’a-paix » : une zone grise, ni tout à fait la guerre, ni tout à fait la paix, de conflictualité permanente. Et cela risque de s’aggraver avec les guerres cognitives.
- Qu’entendez-vous par « guerres cognitives » ?
Les opérations de guerre dite cognitive interviennent en amont des luttes informationnelles Elles visent à transformer nos perceptions.
Par exemple, le scandale Cambridge Analytica, en 2016, a montré que nous sommes déjà entrés dans l’ère de la manipulation des cerveaux. Cette officine, en lien avec la Russie, a siphonné les données de millions d’utilisateurs de Facebook afin de pousser les électeurs identifiés comme indécis à voter pour Donald Trump.
L’opération était pilotée par Steve Bannon, qui parlait de guerre culturelle. À noter qu’il est difficile de mesurer l’impact réel de telles manipulations. Dans la même veine, l’administration américaine estime que TikTok représente un potentiel de cyberespionnage et d’ingérence en lien avec le parti communiste chinois visant à abêtir les jeunes et à manipuler les foules américaines.
À l’avenir, il s’agira d’être vigilants avec les machines qui ont pour objet d’interférer dans notre activité cérébrale. Et ce n’est pas de la science-fiction : les casques pour suivre le bien-être mental apparaissent ; le projet d’implants cérébraux Neuralink d’Elon Musk a commencé ses expérimentations humaines après accord de la Food and Drug Administration, au printemps dernier.
- N’est-ce pas une vision paranoïaque de l’impact des technologies.
Les démocraties, par nature, sont poreuses. Pour les déstabiliser, il devient aisé de cibler les factions qui ne veulent plus faire société. Le Capitole, l’Argentine, Brasilia, ce n’est pas de la paranoïa, mais le réel qui s’étale sous nos yeux.
Face à ces nouvelles conflictualités, l’une de nos forces, la liberté d’expression, devient notre faiblesse — attention, il faut bien avoir en tète que les technologies amplifient le malaise démocratique, mais elles ne le créent pas.
En Chine, les autorités luttent contre la surexposition aux écrans, en imposant des tranches de temps disponibles par jour selon l’âge.
En France, le président Macron a récemment évoqué la lutte contre les écrans, ce qui ne veut pas dire grand-chose en soi, dans le cadre de son fameux « réarmement civique », mais dans un flou doctrinal étonnant, quand on se trouve à ce niveau décisionnaire dans un moment démocratique aussi délicat.
- En quoi l’intelligence artificielle sera « le carburant des futures guerres », comme vous l’écrivez dans votre livre ?
L’utilisation de l’IA dans la guerre pose des questions éthiques vertigineuses : l’industrialisation de la mort, la désincarnation du combat, l’IA comme arme de destruction indifférenciée et massive. En 2017, dans un article scientifique, deux chercheurs américains, Allen et Husain, proposaient le concept d’« hyperwar » (hyperguerre), en expliquant que le destin de la guerre sera automatisé.
La rivalité Etats-Unis-Chine se joue entre autres autour du développement des IA militaires et des armes autonomes. Des investissements colossaux sont faits dans ce sens.
Cela pose des questions de sécurité, puisque la machine et l’IA sont par définition faillibles — imaginez la dangerosité de l’automatisation du nucléaire ou d’un continuum IA-nucléaire…
Malheureusement, je crains que l’encadrement de l’utilisation de ces armes ne puisse être tranché de sitôt, pour une raison simple : brider cette innovation technologique pour des considérations éthiques serait prendre le risque de perdre la compétition.
- Que faire pour endiguer la puissance de ces Big Tech et lutter contre les dérives ?
Nous accusons un retard institutionnel, parce que nous refusons de changer de siècle. En aval, on condamne les Big Tech à des amendes quand le mal est fait. En amont, comme avec l’IA Act, cela se transforme en usine à gaz qui ne fait pas consensus, enfermée dans le dilemme insoluble « réglementation contre innovation ».
II faut arrêter de dupliquer les recettes du XXe siècle. On doit se pencher sur le statut de ces acteurs technologiques. Il pourrait être semi-privé ou rester privé, mais avec une gouvernance publique incluant l’État et, pourquoi pas, la société civile.
- La possibilité régulatrice de l’Europe est-elle efficace ?
L’Union européenne a une position de souveraineté normative défensive. Elle a promulgué plusieurs réglementations pour demander aux acteurs de respecter nos règles au sein de nos frontières.
Sur le plan du signal strictement politique, c’est une bonne chose, mais ce n’est pas suffisant, car il manque l’autre pied, la dimension industrielle proactive.
Comment fait-on concrètement pour dessiner notre place dans le monde, non pas aujourd’hui, mais dans trente ans ? Il va falloir être plus clair pour exister dans le rapport de force international. À l’innovation technologique, nous devons résolument opposer l’innovation politique
Anne Laffeter Télérama. N° 3864. 31/01/2024
Vous dites Liberté ? Indépendance ?