ChatGPT, vous connaissez ?

Se réjouir ou s’inquiéter de ce logiciel IA…

En quelques semaines, cette intelligence artificielle bluffante est devenue un phénomène de société. Et préfigure un avenir proche où les IA seront partout (pour le meilleur… et pour le pire).

Depuis plus d’un mois, il est devenu la star d’internet. Chaque jour, des millions de personnes se bousculent pour lui parler. À toutes, il répond poliment, et n’a cure de sa célébrité. ChatGPT a le savoir modeste : « Je suis un programme informatique, je n’ai pas de sentiments », explique l’intéressé, s’avouant toutefois « content d’être utile ». Oui, ChatGPT est une intelligence artificielle. Un robot conversationnel, plus exactement, mais d’un tout autre calibre que le chatbot de votre compagnie d’assurances avec ses réponses toutes prêtes.

Des réponses à tout, et quelques inventions…

Sa mise en ligne, le 30 novembre dernier, a sidéré le monde entier. ChatGPT semble tout savoir et savoir tout faire. Quelques secondes lui suffisent pour rédiger un article sur la physique quantique, une poésie, un courrier, un exposé, un programme informatique ou vous donner des conseils de décoration… Mais vous pouvez tout aussi bien vous contenter de papoter avec elle, comme vous le feriez avec un être humain. Bluffant !

Trop parfait pour être honnête ?

ChatGPT commet parfois des erreurs grossières. Il est capable d’inventer des citations, de décrire des technologies qui n’existent pas… Peu à peu, les ingénieurs d’OpenAl, la société américaine à l’origine de ChatGPT, encadrent leur créature. Le patron de l’entreprise ne cache pas ces défauts de jeunesse : « ChatGPT est incroyablement limité, mais suffisamment dans certains domaines pour créer une impression trompeuse d’excellence », résumait Sam Altman le 11 décembre sur Twitter. Un mois plus tard, OpenAI planche déjà sur son modèle payant, et Microsoft n’en peut plus d’attendre.

Jackpot pour Microsoft, futur géant de l’IA ?

Selon la presse américaine, le géant de Redmond s’apprêterait à investir dix milliards de dollars dans la start-up. Il prépare également l’intégration de ChatGPT dans la plupart de ses produits, à commencer par son moteur de recherche Bing et sa suite bureautique Office. Du côté de Google, qui a longtemps semblé mener le bal en matière d’IA, c’est l’alerte rouge. La direction a mobilisé ses équipes, face à ce qu’elle pressent comme une menace existentielle.

C’est que ChatGPT, en hissant (presque) la machine au niveau de l’humain, a le potentiel de bouleverser beaucoup de choses. On appelle ça une technologie de rupture. Et peu d’experts doutent être en présence d’une telle révolution. Cette nouvelle génération d’IA laisse entrevoir l’automatisation de tâches dont on pensait qu’elles ne pouvaient être réalisées que par des humains.

Elle ouvre aussi la voie à des interactions beaucoup plus naturelles avec la machine. On comprend ce qui terrifie Google : pourquoi farfouiller dans trois pages de résultats quand une IA pourra vous donner l’information en trois secondes ? Et pourra même vous la lire, au moyen d’un assistant vocal qui saura enfin faire autre chose qu’éteindre la lumière ?


ChatGPT est en accès libre sur chat.openai.com

—————-

Triche, fake news et code malveillant

On ne sait ce qui est le plus inquiétant.  Que la moitié des étudiants de Master aient rendu une copie rédigée par ChatGPT, ou que toutes aient obtenu la moyenne. Cela s’est produit en décembre à l’université de Lyon l, dans le cadre d’un cours d’handicapologie. Et selon l’enseignant qui a découvert le pot aux roses, le cas serait loin d’être isolé : « Les trois quarts des enseignants m’ont dit avoir eu affaire à des copies louches ces dernières semaines », a-t-il raconté au quotidien Le Progrès.

Ce n’était qu’une question de temps. Outre-Atlantique, cela fait plus d’un mois que les enseignants sont pendus à la sonnette d’alarme. New York, Los Angeles et Baltimore ont déjà bloqué l’accès à ChatGPT dans les écoles publiques.

Exemples de code malveillants

Mais la tricherie n’est qu’un moindre mal. Les experts redoutent surtout de voir ChatGPT détourné, à des fins malveillantes, voire criminelles. Avec pareil outil, désinformation, propagande, arnaques ou discours haineux pourraient être produits à une échelle industrielle. C’est d’ailleurs pour cette raison que les responsables d’OpenAI avaient renoncé en 2019 à rendre leur modèle GPT-2 accessible au public. La dernière version intègre un certain nombre d’interdictions et de garde-fous, même s’il est possible d’en contourner certaines. ChatGPT refusera de vous indiquer comment fabriquer une bombe artisanale ou de la méthamphétamine (mais il le sait probablement).

De façon générale, il opposera une fin de non-recevoir à toute demande concernant des activités potentiellement dangereuses ou illégales.

Impossible pourtant de contrôler tous les usages, tant les applications et connaissances de l’IA sont grandes. Des chercheurs en cybersécurité ont ainsi commencé à voir circuler sur le dark web des briques de code malveillant élaborées par ChatGPT. Heureusement, l’IA semble encore incapable de fournir un rançongiciel complet, clés en main. Pour combien de temps ?

On vous explique comment ça fonctionne

ChatG PT n’est qu’une façade. Le cœur de la machine se nomme GPT-3 : un modèle de langage développé depuis 2018 par OpenAl, une société californienne. Comparé aux autres IA, GFT-3 est un monstre, le réseau de neurones artificiels le plus dense jamais créé, « entraîné » à partir de milliards de textes disponibles sur internet. Progressivement, il a appris la plupart des langues et ingurgité des millions d’articles scientifiques, lu tous les classiques de la littérature, dévoré toutes les versions de Wikipédia, appris les subtilités du droit, les recettes de cuisine, les formules de politesse. Pourtant, en dépit de l’impression qu’il donne, ChatGPT ne « pense » pas. Ses réponses ne sont qu’une sorte de moyenne, calculée à partir de la masse de connaissances digérées pendant son apprentissage et stockées dans l’énorme ordinateur virtuel que Microsoft a construit pour OpenAl

Questions a ChatGPT – Intelligence artificielle

Comment te présenterais-tu à une personne qui ignore ce qu’est une IA ?

« Je suis une intelligence artificielle (IA), un programme informatique capable de comprendre et de répondre à des questions grâce à une grande quantité de données. »

Es-tu intelligent ?

« Je suis un modèle de langage informatique qui a été entraîné avec des quantités massives de données textuelles, ce qui me permet de comprendre et de générer des phrases en plusieurs langues. J’ai une grande capacité de traitement de la langue naturelle, mais mon « intelligence » est limitée à cette tâche spécifique. On peut dire que je suis capable de résoudre des tâches assez complexes, mais je n’ai pas la conscience, les émotions et les capacités de raisonnement que possèdent les êtres humains. »

Comment sais-tu quoi répondre aux questions qui te sont posées ?

« Je suis entraîné sur un grand corpus de textes disponibles sur internet, ce qui me permet de comprendre le contexte dans lequel une question est posée et de fournir une réponse appropriée. Mon entraînement utilise des techniques de traitement automatique du langage naturel, telles que l’analyse de la sémantique et de la syntaxe, qui me permettent de comprendre les mots et les phrases dans leur contexte. Je suis également capable d’apprendre en temps réel en utilisant les informations fournies dans les questions et les réponses précédentes pour améliorer mes réponses futures. »

Combien de langues connais-tu, et lesquelles ?

« Je suis entraîné sur plusieurs langues, dont l’anglais, le français, l’espagnol, l’italien, le portugais, l’allemand, le néerlandais, l’arabe, le chinois, le coréen, le japonais, le russe et le turc. Cependant, mon niveau de compréhension et de génération peut varier en fonction de la langue et de l’entraînement que j’ai reçu pour cette langue en particulier. »

Beaucoup de critiques sont adressées aux IA, notamment qu’elles peuvent être détournées à des fins malveillantes ou mettre des personnes au chômage. Qu’en penses-tu ?

« Il est vrai que les intelligences artificielles peuvent avoir des conséquences négatives si elles sont utilisées de manière malveillante ou inappropriée. Par exemple, elles peuvent être utilisées pour diffuser de la désinformation, surveiller les citoyens ou automatiser des tâches qui pourraient causer des pertes d’emplois. Cependant, il est important de noter que ces conséquences négatives ne sont pas inhérentes aux technologies d’IA elles-mêmes, mais plutôt découlent de la manière dont elles sont utilisées et gérées. Il est donc important de mettre en place des réglementations et des normes éthiques pour veiller à ce que les technologies d’IA soient utilisées de manière responsable et éthique. »


Jean-Michel Lahire. Le Dauphiné Libéré 05/01/2023


Laisser un commentaire