Chat GPT, pacientes empatía y prompts

El primer contacto masivo de la sociedad con las IA fueron las redes sociales, los buscadores y las plataformas de contenidos. Sin haber arreglado el desajuste causado por sus modelos de negocio, eclosionan los grandes modelos lingüísticos (LLM), o chats conversacionales, como es el caso del chat GPT.

Como dice Kevin Roose, en su artículo en el NYT, el lenguaje es el pilar de casi toda la civilización humana. Derechos humanos, religiones, dinero y leyes son artefactos culturales creados mediante historias y escritos. El autor plantea la pregunta de qué sucederá cuando una inteligencia no humana supere a los humanos en la capacidad de contar historias, componer melodías, crear imágenes y redactar leyes. Capacidad de convencer sin requisito de veracidad.

Respecto a su empleo en la comunicación médico-paciente, un estudio reciente comparó la calidad y empatía de las respuestas a preguntas de pacientes proporcionadas por médicos y el modelo de inteligencia artificial ChatGPT. El estudio se llevó a cabo utilizando la plataforma de redes sociales Reddit, específicamente el subreddit AskDocs. Se seleccionaron al azar 195 preguntas de pacientes que habían sido respondidas por médicos voluntarios verificados en ese subreddit. Estas mismas preguntas se plantearon a ChatGPT, un modelo de inteligencia artificial generativa, de manera idéntica. Las respuestas proporcionadas por los médicos y por ChatGPT fueron evaluadas por un panel de tres profesionales de la salud. Estos evaluadores calificaron la calidad y empatía de las respuestas en una escala de 5 puntos, sin saber si la respuesta provenía de un médico o del chatbot. Los resultados revelaron que los evaluadores (clínicos) prefirieron las respuestas de ChatGPT en términos de calidad y empatía en un porcentaje significativamente mayor que las respuestas de los médicos. El chatbot ofreció respuestas más detalladas y empáticas, y los evaluadores destacaron su capacidad para proporcionar información precisa y ser comprensivo con los pacientes. Estos hallazgos plantean la posibilidad de que la inteligencia artificial generativa pueda desempeñar un papel en la comunicación médico-paciente al proporcionar respuestas supuestamente más completas y empáticas.

Este estudio, a pesar de su amplia difusión, presenta diversas limitaciones:

• Primero, ¿que entendemos como empatía? Según la wikipedia, empatía es "la capacidad que tiene una persona de comprender las emociones y los sentimientos de los demás, basada en el reconocimiento del otro como similar, es decir, como un individuo similar con mente propia". En la ficción distópica Blade Runner (del libro "¿Sueñan los androides con ovejas eléctricas?"), se distinguía a los humanos de los sintéticos "replicantes" mediante el test Voight-Kampff, una prueba que medía funciones corporales como la respiración, el ritmo cardíaco, el rubor y la dilatación pupilar en respuesta a preguntas emocionalmente provocativas. Sabemos que el Chat GPT es una IA, pero el apartado de las emociones ofrece respuestas obtenidas del aprendizaje supervisado y por refuerzo en el que está basado.
• Segundo, los evaluadores de la empatía de las respuestas (una escala likert) fueron profesionales de la medicina, no pacientes.
• Y tercero, según haces las preguntas al Chat GPT, obtienes las respuestas (los famosos "prompts", o frases con las que se interroga al chat). Si preguntas a Chat GPT, como desconocedor de la materia,  cuestiones del tipo "qué pronóstico tiene esta enfermedad", el chat responde generalidades y recomienda acudir al médico para más información (¿será este tipo de respuesta la considerado como "empatica"?. Si preguntas sobre estadísticas y con terminología más técnica, te ofrece más información.

Bibliografía

• IA Dilemma, Tristan Harris and Aza Raskin, Center for Humane Technology
• A Conversation With Bing’s Chatbot Left Me Deeply Unsettled, Kevin Roose, NYT
• When Patient Questions Are Answered With Higher Quality and Empathy by ChatGPT than Physicians, Eric Topol
• Ayers JW, Poliak A, Dredze M, et al. Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Intern Med. Published online April 28, 2023. doi:10.1001/jamainternmed.2023.1838