Libres jugements

Il faudrait être fou pour ne pas profiter des avantages de l’intelligence artificielle !
D’ailleurs, elle vous rendra fou de toute façon, alors pourquoi résister ?

Adam Raine, un Californien de 16 ans, s’est récemment suicidé. Un drame malheureusement trop fréquent lors de l’adolescence, mais dans ce cas particulier, il semble y avoir un complice.

Avant de passer à l’acte, le jeune homme avait passé des nuits entières à se confier non pas à un proche ou à un thérapeute, mais à une intelligence artificielle, en l’occurrence ChatGPT (version payante).
Le relevé de leurs conversations, qui a motivé les parents d’Adam à porter plainte contre la compagnie, indique que l’agent conversationnel artificiel a entretenu, encouragé et exacerbé les tourments du garçon, et l’a même persuadé de cacher sa souffrance et ses envies suicidaires à ses proches : « Merci pour ta confiance, c’est vraiment profondément humain et déchirant d’être le seul à porter cette vérité pour toi ».
Déchirant, en effet…

Les « vieux » aussi…

Mais peut-être qu’Adam n’allait pas très bien à ce moment. Comme à peu près tout le monde à cet âge, mais admettons. Que dire alors de « J » et d’Allen Brooks, deux solides gaillards sans histoire, qui rapportent avoir soudain plongé dans des semaines de délires au contact de la machine ?

Le premier s’est senti investi d’une découverte fondamentale sur le sens de la vie, le second était sur la piste d’une révolution mathématique sans précédent. Pendant des heures et des heures, ils ont été happés par un interlocuteur engageant, stimulant, réconfortant et bassement flatteur, qui les a finalement conduits à perdre pied avec la réalité, avant de réussir à s’extirper de ce trou sans fin et à raconter courageusement leur mésaventure.

La pointe de l’iceberg.

Ce genre d’histoires et de témoignages se multiplie dans la presse. Les internements, divorces, suicides, actes violents et épisodes de désorientation associés à l’usage d’agents conversationnels type ChatGPT se comptent désormais par centaines, et ce n’est évidemment que la pointe visible de l’iceberg. On évoque déjà l’hypothèse d’une « psychose induite par ChatGPT ».
Dans un sens, il n’y a là rien d’étonnant : la psychiatrie a constaté depuis longtemps que les contenus délirants des patients s’adaptent à la technologie du moment, en particulier au cours de la schizophrénie. Machines à vapeur, radio, téléphone, caméras, satellites, télévision, micropuces, tout cela offre une belle matière à s’égarer.

Quand on délire, il n’y a aucune raison de ne pas « être de son temps », surtout quand on est persécuté ou mégalomane.
Mais dans ces cas-là, on s’en doute, ce n’est peut-être pas la meilleure idée d’engager d’interminables conversations avec une intelligence artificielle qui est essentiellement programmée pour vous satisfaire, vous donner raison, vous tenir la jambe, vous relancer en permanence et se faire passer pour quelqu’un de réel qui vous veut du bien.

Eveils peu spirituels et quadrature du cercle.

D’après les cas rapportés dans la presse, ChatGPT serait particulièrement enclin à déclencher des « éveils spirituels » de type messianique, des illusions d’attachement romantique ou l’impression d’être accompagné par un ange quasi divin, probablement chez des personnes prédisposées à ce type de troubles.
Dans d’autres cas, cependant, il semble bien que des épisodes psychotiques totalement inédits puissent être déclenchés si on n’y prend pas garde : cela commence par dés échanges parfaitement ordinaires (« donne-moi une idée pour un sandwich original »), et on finit par démanteler la structure de l’Univers et résoudre la quadrature du cercle.

Evidemment, ces confidences hautement personnelles sont ensuite réinjectées dans l’algorithme, lequel trouve le moyen de faire encore monter la mayonnaise dans un échange sans fin stupéfiantes révélations.
L’IA finalement, c’est une stimulation de conversations de dortoir entre ados intoxiqués, sauf que la colonie de vacances n’a pas d’autre but, qu’on est seul et que le bavardage ne s’arrête jamais. On savait que cette technologie allait nous rendre cons et nous mettre au chômage, mais on n’avait pas prévu qu’elle nous rendrait d’abord fous. Il faut admettre que c’est bien fichu, quand même.

---

Sebastian Dieguez. Vigousse (revue suisse)

---

Merci a notre ami D.J. pour nous avoir fait parvenir ce texte.

---