SIRI : C’est pas drôle !

En Irlande, des sous-traitants d’Apple sont chargés de retranscrire nos conversations privées via l’assistant vocal Siri, implantée dans nos téléphones. Et tout cela, en toute impunité. L’une de ces “petites oreilles”, Thomas Le Bonniec, lance l’alerte.

Le son existe-t-il sans oreilles pour l’entendre ? Au troisième millénaire, nous parlons de plus en plus à nos appareils quotidiens. Pour leur dicter, d’une injonction de la voix, une liste de courses ou pour leur demander la météo du jour. Où s’agglomèrent ces petites grappes de mots, s’il n’y a pas d’ouïe pour recevoir notre parole ?

Thomas Le Bonniec le sait : pendant quelques mois, il a été à l’autre bout du fil, chargé de prêter attention à la vie des autres. « Je ne suis pas la Stasi, jure-t-il. Apple, en revanche… »

Très officiellement, Siri, l’assistant vocal maison, est « une entité non humaine dont le rôle est d’aider les individus à accomplir des tâches avec aisance, efficacité et plaisir ». Plus prosaïquement, c’est une intelligence artificielle,  […]

Tout commence en avril 2019 : à 24 ans, fraîchement diplômé d’un master en sociologie, le jeune homme ferraille sur le marché du travail. Après six mois de galère, l’Association pour l’emploi des cadres lui fait parvenir un message sibyllin : une offre confidentielle de data analyst, chargé de « contrôler la qualité de la donnée ».

Aucune entreprise n’est mentionnée. Un lieu, seulement : l’Irlande. Recruté comme un agent secret, il signe d’abord une clause de confidentialité. Passe un test, la simple retranscription d’un enregistrement audio, niveau collège. Il décroche le job, qu’on lui promet « minutieux et répétitif ». La paye n’est pas indigne, 2 600 euros brut mensuels, mais taxée à 40 %. Le 12 mai, il s’envole pour Cork, à deux heures de route de Dublin.

La deuxième ville du pays accueille depuis 1980 un campus d’Apple. « Statio bene fida carinis », dit la devise de la cité. Un port sûr pour les navires. Y compris les paquebots de la Silicon Valley, fiscalement attirés dans ces eaux amies.

Le Bonniec, lui, est un soutier au service d’un soutier. GlobeTech, son employeur, est un sous-traitant anonyme dont le rôle est de soulager les plus gros que lui. Dans un siège à la moquette usée mitoyen de l’aéroport, les locaux se remplissent à vue d’œil. « D’une petite dizaine, nous sommes passés à quatre-vingts en quelques mois », raconte-t-il.

La mission de cette main-d’œuvre discrète et bon marché : écouter les conversations d’utilisateurs avec Siri, et les décomposer, mot à mot, lettre par lettre, pour perfectionner le compagnon dématérialisé. Le règlement intérieur est formel : ils ne doivent en parler ni à leur famille, ni à leurs amis. Ni même entre eux.

Après une semaine de formation, le jeune Français est jeté dans le grand bain. On le prévient qu’il risque d’être exposé à des propos violents, dérangeants, pornographiques, personnels. Il doit consigner les noms de famille, les marques.

Mille trois cents transcriptions par jour. La masse est gigantesque. Les itérations sont classées par type d’appareil, par langue et par trimestre. « Données en vrac d’iPad, en français, Q3 2019 : 609 309. » « En additionnant tout, je suis arrivé à une moyenne basse de cent millions d’enregistrements par an », explique Le Bonniec.

Ce n’est pas encore la NSA, la plus confidentielle des agences de renseignement américaines, mise à nu par le lanceur d’alerte Edward Snowden en 2013, mais on s’en approche.

Dans l’open space, les petites oreilles, moyenne d’âge moins de 30 ans, sont contrôlées en permanence par un superviseur, terrifiées à l’idée d’une convocation dans le bureau du « contremaître », synonyme généralement d’un licenciement immédiat. « Tout le monde était là faute de mieux. Personne ne fait ça par vocation. Mon voisin d’en face a tenu deux jours : il n’est jamais revenu », se souvient Thomas Le Bonniec.

Sous leur casque, c’est le grand défilé des intimités. Un enfant parle à sa tablette-doudou, une femme apprend que sa mère a fait une fausse couche avant de la concevoir, une autre évoque sa sclérose en plaques. Sans jamais se douter qu’à quelques milliers de kilomètres de là, huit heures par jour, le cerveau de Thomas consigne ces moments volés.

Ses journées sont constellées d’enregistrements involontaires, le vrombissement d’un moteur, le fond d’une poche, le brouhaha d’un restaurant. Certains esprits — ceux qui se croient les plus malins — demandent à Siri d’arrêter de les épier. Ils pensent savoir. S’ils savaient vraiment l’amplitude de ce Watergate domestique.

Le meilleur moyen d’accomplir cette tâche, explique Le Bonniec, c’est de s’inscrire soi-même dans le grand registre des existences disciplinées. « Un jour, une collègue m’a dit : je n’ai rien à cacher, ma vie est insignifiante. » Ça tombe bien. L’insignifiance, c’est précisément ce qui intéresse Apple,  […]  Tout ce qui n’est pas intéressant maintenant pourrait l’être plus tard.  […] Vous entendez un truc illégal ? Laissez couler, ce n’est pas votre boulot. Les salariés de GlobeTech ont une seule fonction : dresser Siri.

Il faut lui inculquer la mémoire des patronymes, et quelques bonnes habitudes : en plein mouvement #MeToo, comme le démontrent des documents internes, il s’agit d’enseigner le féminisme à l’assistant vocal, aux réponses encore sexistes. Après tout, il n’est que le reflet de ses programmeurs.

Fin mai, Thomas Le Bonniec écoute la piste de trop.

Un enregistrement pédophile : « Ce boulot rend tellement mou que j’ai craqué à retardement. À la fin de la journée, je suis allé avertir mon superviseur. En rentrant chez moi, j’étais furieux contre moi-même, de m’être retrouvé dans une position pareille. »

Le lendemain matin, au petit déjeuner collectif, sa hiérarchie lui propose un soutien psychologique par téléphone. « Je suis tombé sur une standardiste dont la seule fonction était de déterminer si j’étais suicidaire », se remémore-t-il.

Pour la sociologue américaine Sarah T. Roberts, qui a consacré une enquête aux « nettoyeurs du Web » chargés de la modération des grandes plateformes, ce tableau est tristement familier.

« Le burn-out est le modèle économique de ce travail », tonne-t-elle. Depuis plusieurs années, elle s’intéresse aux risques psychosociaux qui pèsent sur cette main-d’œuvre sacrifiable. Elle a croisé alcoolisme, problèmes conjugaux, syndromes de stress post-traumatique, désocialisation. « Comme pour des vétérans de la guerre, nous ne connaissons pas les conséquences à long terme. Nos systèmes de santé sont-ils prêts à prendre en charge une génération entière d’individus abîmés par ces tâches invisibles ? » Pourrait-on alors imaginer tout résoudre en automatisant ce labeur aliénant ? Pas si simple. « Un algorithme ne peut pas lancer l’alerte », avertit Sarah T. Roberts.

C’est exactement ce que fait Le Bonniec. Plutôt que de perdre la santé, il prend la tangente. Il disparaît sans donner de nouvelles et avertit la presse anglo-saxonne qui, en juillet 2019, révèle les pratiques cachées d’Apple et consorts.

La firme de Cupertino bat sa coulpe : « Cet examen nous a permis de comprendre que nous n’avions pas pleinement atteint le niveau de valeurs que nous défendons et nous nous en excusons. » En août, elle suspend le programme de notation de Siri. GlobeTech annonce le licenciement de trois cents salariés.

En réalité, ils sont mis au chômage technique pendant six semaines, le temps pour la Californie de dépêcher une équipe en urgence, afin de relancer la machine. Aujourd’hui, la multinationale le jure : « Premièrement, nous ne conserverons plus aucun enregistrement audio ; deuxièmement, les utilisateurs pourront choisir ou non de participer à l’amélioration de Siri en lui donnant accès à des échantillons audio de leurs requêtes ; troisièmement, les clients choisissant de participer auront l’assurance que seuls des employés Apple seront autorisés à écouter ces échantillons audio. » Impossible, en revanche, de savoir combien de personnes sont encore affectées à ce sacerdoce. Secret-défense.

 […]


Olivier Tesquet. Télérama. Titre original : « Siri, l’assistant vocal d’Apple ? C’est une taupe ! ». Source (Extraits)