Investigadores de la Facultad de Medicina de la Universidad de Maryland advirtieron contra el uso de ChatGPT como consejo médico después de que un estudio descubriera que El chatbot impulsado por inteligencia artificial (IA) inventó datos de salud cuando se le pidió información sobre el cáncer.
Según un informe publicado en el sitio web de Daily Mail que cita la investigación, el chatbot respondió incorrectamente. una de cada 10 preguntas sobre la detección del cáncer de mama y las respuestas correctas no eran tan “completas” como las encontradas a través de una simple búsqueda en Google.
Los investigadores dijeron que, en algunos casos, el chatbot de IA incluso usó artículos de revistas falsos para respaldar sus afirmaciones.
Este estudio se produce en medio de advertencias de que los usuarios deben tratar el software con precaución, ya que tiene tendencia a alucinar, o en otras palabras, a inventar cosas.
El estudio que expuso ChatGPT
Los investigadores le pidieron a ChatGPT que respondiera 25 preguntas relacionadas con consejos sobre cómo hacerse la prueba de detección del cáncer de mama. Dado que se sabía que el chatbot variaba su respuesta, cada pregunta se hizo tres veces por separado. Luego, los resultados fueron analizados por tres radiólogos capacitados en mamografía.
El 88 por ciento de las respuestas fueron apropiadas y fáciles de entender. Pero algunas de las respuestas, sin embargo, eran inexactos o incluso ficticiosadvirtieron.
Una respuesta, por ejemplo, se basó en información obsoleta. Aconsejó retrasar una mamografía de cuatro a seis semanas después de recibir una vacuna contra el COVID-19; sin embargo, este consejo se cambió hace más de un año para aconsejar a las mujeres que no esperen.
ChatGPT también proporcionó respuestas inconsistentes a preguntas sobre el riesgo de cáncer de mama y dónde hacerse una mamografía. El estudio encontró que las respuestas “variaban significativamente” cada vez que se hacía la misma pregunta.
El coautor del estudio, el Dr. Paul Yi, declaró: “Hemos visto en nuestra experiencia que ChatGPT a veces fabrica artículos de revistas falsos o consorcios de salud para respaldar sus afirmaciones. Los consumidores deben ser conscientes de que se trata de tecnologías nuevas y no probadas, y aún deben confiar en su médico, en lugar de ChatGPT, para recibir asesoramiento.”.
Vía País es una red de sitios web de noticias de la Argentina. Cuentan con cobertura nacional a través del mismo sitio web www.viapais.com.ar y además de diferentes sitios regionales en las principales plazas del interior del país, como: Rosario, Córdoba, Mendoza y Buenos Aires.
