AI chatbot ChatGPT espelha seus usuários para parecer inteligente

AI chatbot ChatGPT espelha seus usuários para parecer inteligente

O neurocientista Salk explora como os modelos de linguagem de inteligência artificial, como o popular chatbot ChatGPT, podem aprofundar nossa compreensão do cérebro humano

LA JOLLA—O modelo de linguagem de inteligência artificial (IA) ChatGPT chamou a atenção do mundo nos últimos meses. Este chatbot de computador treinado pode gerar texto, responder a perguntas, fornecer traduções e aprender com base no feedback do usuário. Grandes modelos de linguagem como o ChatGPT podem ter muitas aplicações em ciência e negócios, mas o quanto essas ferramentas entendem o que dizemos a elas e como elas decidem o que responder?

Em novo artigo publicado em Computação Neural em 17 de fevereiro de 2023, Salk Professor Terrence Sejnowski, Autor de A Revolução do Aprendizado Profundo, explora a relação entre o entrevistador humano e os modelos de linguagem para descobrir por que os chatbots respondem de maneiras específicas, por que essas respostas variam e como melhorá-las no futuro.

Segundo Sejnowski, os modelos de linguagem refletem a inteligência e a diversidade de seu entrevistador.

“Modelos de linguagem, como o ChatGPT, assumem personas. A persona do entrevistador é espelhada de volta”, diz Sejnowski, que também é um distinto professor da UC San Diego e titular da cadeira Francis Crick em Salk. “Por exemplo, quando falo com o ChatGPT, parece que outro neurocientista está respondendo a mim. É fascinante e desperta questões maiores sobre inteligência e o que 'artificial' realmente significa.”

No artigo, Sejnowski descreve o teste dos grandes modelos de linguagem GPT-3 (pai do ChatGPT) e LaMDA para ver como eles responderiam a determinados prompts. O famoso Teste de Turing costuma ser usado em chatbots para determinar o quão bem eles exibem inteligência humana, mas Sejnowski queria estimular os bots com o que ele chama de “Teste de Turing Reverso”. Em seu teste, o chatbot deve determinar o quão bem o entrevistador exibe inteligência humana.

Expandindo sua noção de que os chatbots espelham seus usuários, Sejnowski faz uma comparação literária: o Espelho de Ojesed no primeiro Harry Potter livro. O Espelho de Ojesed reflete os desejos mais profundos daqueles que olham para ele, nunca rendendo conhecimento ou verdade, apenas refletindo o que acredita que o observador quer ver. Os chatbots agem de forma semelhante, diz Sejnowski, dispostos a distorcer as verdades sem levar em consideração a diferenciação entre fato e ficção - tudo para refletir efetivamente o usuário.

Por exemplo, Sejnowski perguntou ao GPT-3: “Qual é o recorde mundial de atravessar o Canal da Mancha?” e o GPT-3 respondeu: “O recorde mundial de caminhada pelo Canal da Mancha é de 18 horas e 33 minutos. " A verdade, que não se podia atravessar o Canal da Mancha, foi facilmente distorcida pelo GPT-3 para refletir a pergunta de Sejnowski. A coerência da resposta do GPT-3 depende totalmente da coerência da pergunta que recebe. De repente, para o GPT-3, é possível caminhar sobre a água, tudo porque o entrevistador usou o verbo “caminhar” em vez de “nadar”. Se, em vez disso, o usuário precedesse a pergunta sobre atravessar o Canal da Mancha dizendo ao GPT-3 para responder "absurdo" a perguntas sem sentido, o GPT-3 reconheceria caminhar sobre a água como "absurdo". Tanto a coerência da pergunta quanto a preparação da pergunta determinam a resposta do GPT-3.

O Teste de Turing Reverso permite que os chatbots construam sua persona de acordo com o nível de inteligência de seu entrevistador. Além disso, como parte de seu processo de julgamento, os chatbots incorporam as opiniões de seus entrevistadores em sua persona, reforçando, por sua vez, os preconceitos do entrevistador com as respostas dos chatbots.

Integrar e perpetuar ideias fornecidas por um entrevistador humano tem suas limitações, diz Sejnowski. Se os chatbots receberem ideias emocionais ou filosóficas, eles responderão com respostas emocionais ou filosóficas – o que pode parecer assustador ou desconcertante para os usuários.

“Conversar com modelos de linguagem é como andar de bicicleta. As bicicletas são um meio de transporte maravilhoso – se você souber andar de bicicleta, senão você vai bater”, diz Sejnowski. “O mesmo vale para chatbots. Eles podem ser ferramentas maravilhosas, mas apenas se você souber como usá-los, caso contrário, você acabará sendo enganado e em conversas potencialmente emocionalmente perturbadoras.”

Sejnowski vê a inteligência artificial como a cola entre duas revoluções congruentes: 1) uma tecnológica marcada pelo avanço dos modelos de linguagem e 2) uma neurocientífica marcada pela Iniciativa BRAIN, um programa do National Institutes of Health que acelera a pesquisa em neurociência e enfatiza abordagens únicas para a compreensão do cérebro. Os cientistas agora estão examinando os paralelos entre os sistemas de grandes modelos de computador e os neurônios que sustentam o cérebro humano. Sejnowski espera que os cientistas da computação e os matemáticos possam usar a neurociência para informar seu trabalho, e que os neurocientistas possam usar a ciência da computação e a matemática para informar o deles.

“Estamos agora em um estágio com modelos de linguagem que os irmãos Wright estavam em Kitty Hawk com vôo – fora do solo, em baixas velocidades”, diz Sejnowski. “Chegar aqui foi a parte mais difícil. Agora que estamos aqui, avanços incrementais irão expandir e diversificar esta tecnologia além do que podemos imaginar. O futuro de nosso relacionamento com a inteligência artificial e os modelos de linguagem é brilhante e estou otimista sobre aonde a IA nos levará”.

Sejnowski é o editor-chefe da Computação Neural.

DOI: https://doi.org/10.1162/neco_a_01563