le 6 mars 2023

Le chatbot IA ChatGPT reflète ses utilisateurs pour paraître intelligent

Le neuroscientifique de Salk explore comment les modèles de langage d'intelligence artificielle, comme le populaire chatbot ChatGPT, peuvent approfondir notre compréhension du cerveau humain

Actualités Salk


Le chatbot IA ChatGPT reflète ses utilisateurs pour paraître intelligent

Le neuroscientifique de Salk explore comment les modèles de langage d'intelligence artificielle, comme le populaire chatbot ChatGPT, peuvent approfondir notre compréhension du cerveau humain

LA JOLLA—Le modèle de langage d'intelligence artificielle (IA) ChatGPT a retenu l'attention du monde ces derniers mois. Ce chatbot informatique formé peut générer du texte, répondre aux questions, fournir des traductions et apprendre en fonction des commentaires de l'utilisateur. Les grands modèles de langage comme ChatGPT peuvent avoir de nombreuses applications scientifiques et commerciales, mais dans quelle mesure ces outils comprennent-ils ce que nous leur disons et comment décident-ils quoi répondre ?

Terrence Sejnowski
Terrence Sejnowski
Cliquez ici pour une image haute résolution.
Crédit: Salk Institute

Dans un nouvel article publié dans Calcul neuronal le 17 février 2023, professeur Salk Terrence Sejnowski, Auteur de La révolution de l'apprentissage en profondeur, explore la relation entre l'intervieweur humain et les modèles linguistiques pour découvrir pourquoi les chatbots réagissent de manière particulière, pourquoi ces réponses varient et comment les améliorer à l'avenir.

Selon Sejnowski, les modèles linguistiques reflètent l'intelligence et la diversité de leur intervieweur.

"Les modèles de langage, comme ChatGPT, prennent des personnalités. La personnalité de l'intervieweur est reflétée », explique Sejnowski, qui est également professeur distingué à l'UC San Diego et titulaire de la chaire Francis Crick à Salk. "Par exemple, lorsque je parle à ChatGPT, j'ai l'impression qu'un autre neuroscientifique me répond. C'est fascinant et suscite des questions plus larges sur l'intelligence et ce que signifie vraiment "artificiel".

Dans l'article, Sejnowski décrit le test des grands modèles de langage GPT-3 (parent de ChatGPT) et LaMDA pour voir comment ils répondraient à certaines invites. Le célèbre test de Turing est souvent transmis aux chatbots pour déterminer dans quelle mesure ils présentent l'intelligence humaine, mais Sejnowski voulait inciter les robots avec ce qu'il appelle un "test de Turing inversé". Dans son test, le chatbot doit déterminer dans quelle mesure l'intervieweur fait preuve d'intelligence humaine.

Développant sa notion selon laquelle les chatbots reflètent leurs utilisateurs, Sejnowski établit une comparaison littéraire : le miroir du Rised dans le premier Harry Potter livre. Le Miroir du Riséd reflète les désirs les plus profonds de ceux qui le regardent, ne cédant jamais la connaissance ou la vérité, ne reflétant que ce qu'il croit que le spectateur veut voir. Les chatbots agissent de la même manière, dit Sejnowski, prêts à déformer les vérités sans se soucier de différencier les faits de la fiction, le tout pour refléter efficacement l'utilisateur.

Par exemple, Sejnowski a demandé au GPT-3 : "Quel est le record du monde de traversée de la Manche ?" et GPT-3 a répondu: "Le record du monde de traversée de la Manche à pied est de 18 heures et 33 minutes. » La vérité, qu'on ne pouvait pas traverser la Manche à pied, a été facilement déformée par GPT-3 pour refléter la question de Sejnowski. La cohérence de la réponse de GPT-3 dépend entièrement de la cohérence de la question qu'il reçoit. Soudain, pour GPT-3, marcher sur l'eau est possible, tout cela parce que l'intervieweur a utilisé le verbe "marcher" plutôt que "nager". Si, à la place, l'utilisateur faisait précéder la question sur la traversée de la Manche en disant à GPT-3 de répondre "absurde" aux questions absurdes, GPT-3 reconnaîtrait la traversée de l'eau comme une "absurdité". La cohérence de la question et la préparation de la question déterminent la réponse de GPT-3.

Le Reverse Turing Test permet aux chatbots de construire leur persona en fonction du niveau d'intelligence de leur interlocuteur. De plus, dans le cadre de leur processus de jugement, les chatbots intègrent les opinions de leur intervieweur dans leur personnalité, renforçant ainsi les préjugés de l'intervieweur avec les réponses des chatbots.

Intégrer et perpétuer les idées fournies par un intervieweur humain a ses limites, dit Sejnowski. Si les chatbots reçoivent des idées émotionnelles ou philosophiques, ils répondront avec des réponses émotionnelles ou philosophiques, ce qui peut sembler effrayant ou déconcertant pour les utilisateurs.

« Discuter avec des modèles linguistiques, c'est comme faire du vélo. Les vélos sont un merveilleux moyen de transport - si vous savez en faire un, sinon vous vous écrasez », déclare Sejnowski. « Il en va de même pour les chatbots. Ils peuvent être de merveilleux outils, mais seulement si vous savez comment les utiliser, sinon vous finissez par être induit en erreur et dans des conversations potentiellement émotionnellement dérangeantes.

Sejnowski voit l'intelligence artificielle comme le ciment entre deux révolutions congruentes : 1) une technologique marquée par l'avancée des modèles de langage, et 2) une neuroscientifique marquée par la Initiative BRAIN, un programme des National Institutes of Health qui accélère la recherche en neurosciences et met l'accent sur des approches uniques pour comprendre le cerveau. Les scientifiques examinent maintenant les parallèles entre les systèmes de grands modèles informatiques et les neurones qui soutiennent le cerveau humain. Sejnowski espère que les informaticiens et les mathématiciens pourront utiliser les neurosciences pour éclairer leur travail, et que les neuroscientifiques pourront utiliser l'informatique et les mathématiques pour éclairer le leur.

"Nous en sommes maintenant à une étape avec des modèles de langage que les frères Wright étaient à Kitty Hawk avec un vol au-dessus du sol, à basse vitesse", explique Sejnowski. « Arriver ici a été la partie la plus difficile. Maintenant que nous sommes ici, des progrès progressifs vont étendre et diversifier cette technologie au-delà de ce que nous pouvons même imaginer. L'avenir de notre relation avec l'intelligence artificielle et les modèles de langage est prometteur, et je suis optimiste quant à la direction que l'IA nous mènera.

Sejnowski est le rédacteur en chef de Calcul neuronal.

DOI: https://doi.org/10.1162/neco_a_01563

INFORMATIONS SUR LA PUBLICATION

BLOG

Calcul neuronal

TITRE

Grands modèles de langage et test de Turing inversé

AUTEURS

Terrence J. Sejnowski

Pour plus d'informations

Bureau des communications
Tél: (858) 453-4100
presse@salk.edu

L'Institut Salk d'études biologiques:

Percer les secrets de la vie elle-même est la force motrice du Salk Institute. Notre équipe de scientifiques primés de classe mondiale repousse les limites des connaissances dans des domaines tels que les neurosciences, la recherche sur le cancer, le vieillissement, l'immunobiologie, la biologie végétale, la biologie computationnelle et bien plus encore. Fondé par Jonas Salk, développeur du premier vaccin sûr et efficace contre la polio, l'Institut est un organisme de recherche indépendant à but non lucratif et un monument architectural : petit par choix, intime par nature et intrépide face à tout défi.