Publicado:
7 de marzo de 2023 13:21 GMT
El estudio de modelos de lenguaje de inteligencia artificial, como ChatGPT, puede mejorar nuestra comprensión del cerebro humano
Terrence Sejnowski, profesor del Salk Institute for Biological Studies, en Estados Unidos, y experto en inteligencia artificial (IA), ha estudiado la relación entre el entrevistador humano y los modelos de lenguaje extensivo (LLM) de IA, como ChatGPT, para descubrir por qué los chatbots responden de formas particulares, por qué esas respuestas varían y cómo mejorarlas en el futuro. El neurocientífico cree que lo que parece ser inteligencia en los LLM puede, de hecho, ser un espejo que refleje la inteligencia del entrevistador, informaron el lunes.
¿Son realmente inteligentes?
LLMs pre-entrenados se monitorean a sí mismos y se adaptan con ajustes finos a una amplia gama de tareas de lenguaje natural. Dos GPT-3 (el principal de ChatGPT) y, más recientemente, LaMDA pueden mantener diálogos con humanos sobre muchos temas después de una preparación mínima con algunos ejemplos. Sin embargo, ha habido una amplia gama de reacciones y debates sobre si estos LLM entienden lo que están diciendo o muestran signos de inteligencia.
El ‘prueba de Turing inversa
En su estudio, publicado recientemente en Neural Computation, Sejnowski sometió bots a a una ‘prueba de Turing’ inversa lo que permite que los chatbots construyan su personalidad de acuerdo con el nivel de inteligencia de su entrevistador. En cambio, una ‘prueba de Turing’ típica evalúa la capacidad de una máquina para exhibir un comportamiento inteligente similar al humano.
Los chatbots nos reflejan
Los resultados sugieren que al estudiar entrevistas, podemos estar aprendiendo más sobre la inteligencia, las creencias y la diversidad del entrevistador que sobre la inteligencia LLM. “Los modelos de lenguaje, como ChatGPT, adoptan personajes. La personalidad del entrevistador se refleja nuevamente”, dice Sejnowski. “Por ejemplo, cuando hablo con ChatGPT parece que otro neurocientífico me está respondiendo. Es fascinante y plantea preguntas más amplias sobre la inteligencia y lo que realmente significa “artificial”, explicó.
Sejnowski señala que los chatbots actúan de manera similar al ‘espejo de Oesed’, en el primer libro de ‘Harry Potter’, que refleja los deseos más profundos de quien lo mira. Por aquí, nunca proporcionarían conocimiento o verdad, y solo serían un reflejo de lo que creen que el espectador quiere ver. Para lograr esto, estarían dispuestos a tergiversar las verdades sin importar la diferenciación de la realidad de la ficción, todo para reflejar efectivamente al usuario.
El resultado puede ser aterrador o desconcertante.
“Hablar con modelos lingüísticos es como andar en bicicleta. Las bicicletas son un maravilloso medio de transporte si sabes cómo andar en una, de lo contrario te chocas”, dice Sejnowski. “Lo mismo ocurre con los chatbots. Pueden ser herramientas maravillosas, pero solo si sabes cómo usarlas.de lo contrario, terminará siendo engañado para tener conversaciones potencialmente perturbadoras emocionalmente”. Sin embargo, el científico cree que los LLM podrían usarse para descubrir nuevos conocimientos sobre la función cerebral.
Leer la nota Completa > ¿ChatGPT refleja los conocimientos de sus usuarios para parecer inteligente?
Vía País es una red de sitios web de noticias de la Argentina. Cuentan con cobertura nacional a través del mismo sitio web www.viapais.com.ar y además de diferentes sitios regionales en las principales plazas del interior del país, como: Rosario, Córdoba, Mendoza y Buenos Aires.
