¿Qué oportunidades y riesgos presenta GPT-4, la nueva versión del sistema de IA?

Publicado:

16 de marzo de 2023 16:35 GMT

GPT-4 se destaca en las pruebas en comparación con la versión anterior de la herramienta de IA y, según se informa, ahora genera resultados hasta un 40 % más precisos.

La empresa OpenAI presentó esta semana un nuevo modelo del popular sistema de inteligencia artificial (IA) ChatGPT que, según los desarrolladores, es más potente.

Los creadores afirman que la nueva herramienta denominada GPT-4, además de texto, acepta imágenes y también emite textoque te permite chatear con el sistema ingresando archivos complejos, como libros completos para resumirlos, con el fin de hacerlo más rápido, más preciso y más humano.

Según el lanzamiento de OpenAI, GPT-4 se desempeñó mejor en los exámenes de prueba que el modelo de IA original y ahora parece generar resultados más precisos hasta 40%. Además, el modelo tiene un 82% más de probabilidades de no responder a las solicitudes de contenido no permitido como peticiones de incitación al odio.

OpenAI propuso un par de formas en que la herramienta podría mejorar la vida cotidiana. Específicamente, la empresa colaboró ​​con la aplicación de aprendizaje de idiomas Duolingo para crear un chatbot basado en IA llamado Roleplay. Esta herramienta permite mantener una conversación en otro idioma con un chatbot que responde a lo que dice el usuario e interviene para corregirlo cuando es necesario.

Además, en asociación con Be My Eyes, una aplicación que permite a las personas con discapacidad visual obtener ayuda de una persona vidente a través de un chat de video, OpenAI usó GPT-4 para crear un asistente virtual capaz de ayudar a las personas a comprender el contexto de lo que ven a su alrededor. .

Actualmente, ChatGPT-4 está disponible para los miembros de ChatGPT+, que cuesta $20 al mes, y para los desarrolladores de aplicaciones.

“Todavía tiene defectos”

Sin embargo, Sam Altman, director ejecutivo de OpenAI, reconoció que GPT-4 “todavía tiene fallas, todavía es limitado y todavía se ve más impresionante en el primer uso que después de pasar más tiempo con él”.

La empresa también aseguró que “GPT-4 presenta riesgos similares a los modelos anteriorescomo generar consejos dañinos, código con errores o información inexacta”, pero “las capacidades adicionales de GPT-4 conducen a nuevas superficies de riesgo”.

“GPT-4 y los modelos sucesores tienen el potencial de influir significativamente en la sociedad tanto de manera beneficiosa como perjudicial”, señalaron.

Otra preocupación sobre la herramienta es que la falta de transparencia sobre cómo fue diseñado y entrenado. Así, varios investigadores y expertos de la industria señaló en Twitter que la compañía no proporciona ninguna información sobre el conjunto de datos que utilizó para entrenar GPT-4. Argumentan que es un problema porque los grandes conjuntos de datos utilizados para entrenar a los chatbots de IA pueden ser intrínsecamente sesgado.

“¿Qué nos quedará por hacer a los humanos?“

Mientras tanto, muchas personas están alarmadas por el desarrollo de la inteligencia artificial. El magnate estadounidense Elon Musk considera que la inteligencia artificial representa una de las mayores amenazas para el futuro de la civilización y que se debe prestar más atención a la seguridad de este tipo de sistema. “Si algo sale mal, la reacción puede ser demasiado lenta”, advirtió.

“¿Qué nos quedará por hacer a los humanos?Musk tuiteó en respuesta a una publicación sobre los poderosos resultados de GPT-4 en un examen simulado para ejercer la abogacía en los EE. UU.

Al mismo tiempo, a los científicos les preocupa que el software de escritura de IA pueda dañar la credibilidad de la comunidad científica. “Cualquier tecnología, si se usa mal, puede ser peligrosa”, dijo Catherine Gao, de la Universidad Northwestern de EE. UU., al South China Morning Post, y agregó que “organizaciones como las papeleras [fábricas de artículos falsos de investigación] podría usar esta tecnología más fácilmente para fabricar artículos y resultados científicos“.

Por su parte, Wang Yanbo, profesor asociado de estrategia e innovación de la Universidad de Hong Kong, también dijo que con el desarrollo de la IA, algunas personas malintencionadas “podrían generar hallazgos científicos falsos y los publicarían en revistas de baja calidad”. Además, el riesgo de que estudiantes “escogen el camino fácil y dejar que la tecnología haga el trabajo sucio”.

Mientras tanto, varios gigantes bancarios de Wall Street están limitando o prohibiendo el uso de ChatGPT entre sus empleados bajo la premisa de que el chatbot podría arrojar información o respuestas incorrectas en el ámbito de los mercados y las comunicaciones comerciales.

A fines de febrero, Nikkei informó, citando fuentes familiarizadas con el asunto, que los reguladores chinos prohibieron que las principales empresas tecnológicas del país ofrecieran servicios de ChatGPT. La medida se ha introducido en el país ante el temor de las autoridades chinas de que el contenido que ofrece la herramienta no ha sido censurado previamente y puede violar las leyes vigentes. Según el medio de comunicación estatal China Daily, dicha tecnología “podría ayudar al gobierno de EE. UU. en su difusión de desinformación y su manipulación de narrativas globales para sus propios intereses geopolíticos”.