C’est peut-être la première fois qu’une machine se suicide.
C’est arrivé le 20 juin dernier, à la mairie de Gumi, une ville de Corée du Sud. Un robot fonctionnaire s’est jeté du haut d’un escalier. Cet androïde, qui avait sa propre carte d’agent municipal, assistait les habitants dans des tâches administratives.
La machine, appréciée de tous, d’habitude particulièrement efficace et autonome, a été aperçue qui tournait en rond sur elle-même, comme désorientée, avant de se précipiter dans le vide et de se rompre le cou. Une enquête a été ouverte. Certains témoins affirment que l’androïde a sauté « délibérément ».
Quand j’ai lu cette histoire d’autolyse robotique, j’ai pensé au livre d’E. M. Forster La machine s’arrête (éd. L’Échappée). Publiée en 1909, c’est une stupéfiante nouvelle d’anticipation. Bien avant 1984 – publié en 1949 -, Forster dépeignait une mégamachine par laquelle passe tout ce qu’il reste des relations humaines. Un garçon parle avec sa mère à distance, par L’intermédiaire d’un disque lumineux. Qui demande de la voir vraiment. « Je veux vous voir sans passer par la Machine, dit Kuno. Je veux vous parler sans passer par cette ennuyeuse Machine ».
« La Machine ne transmettait pas les nuances d’expression mais une idée générale des gens », écrit Forster. Des résistants cherchent à « réintroduire l’élément humain ». Un beau jour, suite à des actes de sabotage, « tout le système de communication tomba en panne sur la planète entière […I ». Habituées à un vrombissement permanent depuis leur naissance, des milliers de personnes sont tuées par le silence.
Cette question de l’arrêt est au cœur des ordinateurs depuis leur conception. Publié en 1936, un article du mathématicien Alan Turing avait fait date : il contribuait à résoudre le difficile « problème de l’arrêt » en théorie de la calculabilité. Turing démontrait qu’on ne peut pas prévoir si un algorithme va boucler de manière infinie ou non : c’est indécidable.
À l’époque, le mot « algorithme » n’avait pas le sens qu’il a de nos jours. Depuis l’Antiquité, c’était seulement une suite de règles mathématiques appliquées à un nombre fini de données. C’est dans le cadre de sa démonstration que Turing avait imaginé une « machine universelle », l’ancêtre de nos ordinateurs. Le problème de l’arrêt est donc à la source de l’informatique.
Toutes les petites machines que nous faisons tourner à longueur de journée trouvent leur origine dans les mathématiques fondamentales. Alors ça ne m’étonne pas que la question du suicide des robots se pose aujourd’hui, puisque cela interroge leur capacité à décider. Comme l’androïde de Gumi, ils vont vouloir décider alors que – ou parce que – ils sont nés du problème d’indécidabilité. Je parie sur une épidémie de suicides de machines.
La nocivité d’une exposition prolongée aux smartphones et aux ordinateurs est maintenant bien documentée’. Nous continuons notre intoxication en connaissance de cause. Il s’agit donc d’un comportement suicidaire ; ou de pulsion de mort pour parler comme Freud.
C’est peut-être le programmeur du robot municipal coréen qui avait envie d’en finir ; mais cela remonte au tout premier des informaticiens, Alan Turing, qui a lui-même mis fin à ses jours. Le drame de Turing a laissé des traces dans tous les programmes que nous utilisons quotidiennement, passionnément. Je comprends mieux pourquoi nous tenons tellement à nous autodétruire en construisant un piège informatique global.
Yann Diener. Charlie Hebdo. 14/08/2024
1. Voir Les Ravages des écrans. Les pathologies à l’ère numérique, de Manfred Spitzer (éd. L’Échappée).
Parlons de bug plus que de suicide.
On a vu ce qui s’est récemment produit dans tous les services de l’Assistance Publique parisienne….
J’ai joué aux échecs avec une machine que j’ai battue. J’ai immédiatement relançé une seconde partie en jouant de la même façon. A un certain moment, elle a refusé le constat d’échec et s’est bloquée…Incroyable !