Language/AI Incubator, un proyecto colaborativo de MIT Human Insight, está investigando cómo la IA puede mejorar las comunicaciones entre pacientes y médicos.
La inteligencia artificial generativa está transformando la forma en que los humanos escriben, leen, hablan, piensan, empatizan y actúan dentro y entre idiomas y culturas. En el ámbito sanitario, las brechas de comunicación entre pacientes y profesionales pueden empeorar los resultados de los pacientes e impedir mejoras en la práctica y la atención. La Incubadora de Lenguaje/IA, posible gracias a la financiación del MIT Human Insight Collaborative (MITHIC), ofrece una posible respuesta a estos desafíos.
El proyecto prevé una comunidad de investigación con raíces en las humanidades que fomentará la colaboración interdisciplinaria en el MIT para profundizar la comprensión del impacto de la IA generativa en la comunicación interlingüística e intercultural. El enfoque del proyecto en la atención médica y la comunicación busca tender puentes entre los estratos socioeconómicos, culturales y lingüísticos.
La incubadora está codirigida por Leo Celi , médico, director de investigación y científico investigador principal del Instituto de Ingeniería y Ciencias Médicas (IMES), y Per Urlaub , profesor de práctica en estudios de alemán y segundas lenguas y director del programa de Idiomas Globales del MIT .
“La base de la atención médica es el conocimiento de la salud y la enfermedad”, afirma Celi. “Estamos viendo malos resultados a pesar de las enormes inversiones porque nuestro sistema de conocimiento es deficiente”.
Una colaboración casual
Urlaub y Celi se conocieron durante el lanzamiento de MITHIC. Las conversaciones durante la recepción revelaron un interés compartido en explorar mejoras en la comunicación y la práctica médica con IA.
“Estamos intentando incorporar la ciencia de datos a la atención médica”, dice Celi. “Hemos estado reclutando científicos sociales [en IMES] para que nos ayuden a avanzar en nuestro trabajo, porque la ciencia que creamos no es neutral”.
El equipo cree que el lenguaje es un mediador no neutral en la atención médica y puede ser una ventaja o un obstáculo para un tratamiento eficaz. «Más tarde, tras conocernos, me uní a uno de sus grupos de trabajo, centrado en las metáforas del dolor: el lenguaje que usamos para describirlo y su medición», continúa Urlaub. «Una de las preguntas que nos planteamos fue cómo puede lograrse una comunicación eficaz entre médicos y pacientes».
Argumentan que la tecnología impacta la comunicación informal, y su impacto depende tanto de los usuarios como de los creadores. A medida que la IA y los grandes modelos lingüísticos (LLM) ganan fuerza y prominencia, su uso se está ampliando para incluir campos como la salud y el bienestar.
Rodrigo Gameiro, médico e investigador del Laboratorio de Fisiología Computacional del MIT, es otro participante del programa. Señala que el trabajo en el laboratorio se centra en el desarrollo e implementación de la IA. Diseñar sistemas que aprovechen la IA eficazmente, especialmente al considerar los desafíos relacionados con la comunicación a través de las brechas lingüísticas y culturales que pueden surgir en la atención médica, requiere un enfoque matizado.
“Cuando construimos sistemas de IA que interactúan con el lenguaje humano, no solo estamos enseñando a las máquinas a procesar palabras; les estamos enseñando a navegar por la compleja red de significados incrustada en el lenguaje”, dice Gameiro.
Las complejidades del lenguaje pueden afectar el tratamiento y la atención al paciente. «El dolor solo se puede comunicar mediante metáforas», continúa Urlaub, «pero las metáforas no siempre concuerdan, ni lingüística ni culturalmente». Las caritas sonrientes y las escalas del 1 al 10 —herramientas de medición del dolor que los profesionales médicos angloparlantes pueden usar para evaluar a sus pacientes— pueden no ser compatibles entre las fronteras raciales, étnicas, culturales y lingüísticas.
“La ciencia tiene que tener corazón”
Los LLM pueden ayudar a los científicos a mejorar la atención médica, aunque existen algunos desafíos sistémicos y pedagógicos que considerar. La ciencia puede centrarse en los resultados, excluyendo a las personas a las que se supone que debe ayudar, argumenta Celi. «La ciencia debe tener corazón», afirma. «Medir la efectividad de los estudiantes contando el número de artículos que publican o patentes que producen es un error».
El punto, dice Urlaub, es investigar con cuidado y, al mismo tiempo, reconocer lo que desconocemos, citando lo que los filósofos llaman Humildad Epistémica. El conocimiento, argumentan los investigadores, es provisional y siempre incompleto. Las creencias profundamente arraigadas pueden requerir una revisión a la luz de nueva evidencia.
“Nadie tiene una visión mental del mundo completa”, dice Celi. “Es necesario crear un entorno donde las personas se sientan cómodas reconociendo sus prejuicios”.
«¿Cómo compartimos las inquietudes entre los educadores de idiomas y otras personas interesadas en la IA?», pregunta Urlaub. «¿Cómo identificamos e investigamos la relación entre los profesionales médicos y los educadores de idiomas interesados en el potencial de la IA para ayudar a eliminar las brechas en la comunicación entre médicos y pacientes?»
El lenguaje, en opinión de Gameiro, es más que una simple herramienta de comunicación. «Refleja la cultura, la identidad y las dinámicas de poder», afirma. En situaciones en las que un paciente podría no sentirse cómodo describiendo su dolor o malestar debido a la posición de autoridad del médico, o porque su cultura exige ceder ante quienes se perciben como figuras de autoridad, los malentendidos pueden ser peligrosos.
Cambiando la conversación
La capacidad de la IA para manejar el lenguaje puede ayudar a los profesionales médicos a abordar estas áreas con mayor cuidado, proporcionando marcos digitales que ofrecen valiosos contextos culturales y lingüísticos en los que el paciente y el profesional pueden confiar en herramientas basadas en datos e investigaciones para mejorar el diálogo. Las instituciones deben reconsiderar su forma de educar a los profesionales médicos e invitar a las comunidades a las que sirven a participar en la conversación, afirma el equipo.
«Necesitamos preguntarnos qué queremos realmente», dice Celi. «¿Por qué medimos lo que medimos?». Los sesgos que arrastramos a estas interacciones (médicos, pacientes, sus familias y sus comunidades) siguen siendo obstáculos para una mejor atención, afirman Urlaub y Gameiro.
“Queremos conectar a personas que piensan diferente y lograr que la IA funcione para todos”, continúa Gameiro. “La tecnología sin propósito es simplemente exclusión a gran escala”.
“Colaboraciones como estas pueden permitir un procesamiento más profundo y mejores ideas”, dice Urlaub.
Crear espacios donde las ideas sobre IA y atención médica puedan convertirse en acciones es un elemento clave del proyecto. La Incubadora de Lenguaje/IA organizó su primer coloquio en el MIT en mayo, dirigido por Mena Ramos, médica y cofundadora y directora ejecutiva del Instituto Global de Ultrasonido .
El coloquio también contó con presentaciones de Celi, así como de Alfred Spector, investigador visitante del Departamento de Ingeniería Eléctrica y Ciencias de la Computación del MIT , y Douglas Jones, miembro sénior del Grupo de Tecnología del Lenguaje Humano del Laboratorio Lincoln del MIT. Se prevé un segundo coloquio sobre la Incubadora de Lenguaje/IA para agosto.
Una mayor integración entre las ciencias sociales y las ciencias duras puede aumentar la probabilidad de desarrollar soluciones viables y reducir los sesgos. Permitir cambios en la forma en que pacientes y médicos perciben la relación, al tiempo que se ofrece a ambos una responsabilidad compartida de la interacción, puede ayudar a mejorar los resultados. Facilitar estas conversaciones con IA puede acelerar la integración de estas perspectivas.
“Los defensores de la comunidad tienen voz y voto y deberían participar en estas conversaciones”, afirma Celi. “La IA y los modelos estadísticos no pueden recopilar todos los datos necesarios para tratar a todas las personas que los necesitan”.
Las necesidades de la comunidad y la mejora de las oportunidades y prácticas educativas deben ir acompañadas de enfoques interdisciplinarios para la adquisición y transferencia de conocimientos. La percepción de las personas está limitada por sus percepciones y otros factores. «¿De quién es el lenguaje que estamos modelando?», pregunta Gameiro sobre la creación de programas de maestría en derecho (LLM). «¿Qué variedades de habla se incluyen o excluyen?». Dado que el significado y la intención pueden cambiar en esos contextos, es importante tenerlos en cuenta al diseñar herramientas de IA.
“La IA es nuestra oportunidad de reescribir las reglas”
Si bien la colaboración tiene un gran potencial, hay desafíos importantes que superar, entre ellos establecer y ampliar los medios tecnológicos para mejorar la comunicación entre pacientes y proveedores con IA, ampliar las oportunidades de colaboración a comunidades marginadas y desatendidas, y reconsiderar y renovar la atención al paciente.
Pero el equipo no se deja intimidar.
Celi cree que existen oportunidades para abordar la creciente brecha entre las personas y los profesionales, a la vez que se abordan las deficiencias en la atención médica. «Nuestra intención es restablecer el vínculo que se ha cortado entre la sociedad y la ciencia», afirma. «Podemos empoderar a los científicos y al público para que investiguen el mundo juntos, reconociendo al mismo tiempo las limitaciones que surgen al superar sus prejuicios».
Gameiro es un ferviente defensor de la capacidad de la IA para transformar todo lo que sabemos sobre medicina. «Soy médico y no creo exagerar al decir que creo que la IA es nuestra oportunidad para reescribir las reglas de lo que la medicina puede hacer y a quién podemos llegar», afirma.
“La educación transforma a los humanos de objetos a sujetos”, argumenta Urlaub, describiendo la diferencia entre observadores desinteresados y participantes activos y comprometidos en el nuevo modelo de atención que espera construir. “Necesitamos comprender mejor el impacto de la tecnología en la frontera entre estos estados de ser”.
Celi, Gameiro y Urlaub abogan por espacios similares a MITHIC en el ámbito de la atención médica, lugares donde se permita que ocurran la innovación y la colaboración sin los tipos de puntos de referencia arbitrarios que las instituciones han usado anteriormente para marcar el éxito.
«La IA transformará todos estos sectores», cree Urlaub. «MITHIC es un marco generoso que nos permite afrontar la incertidumbre con flexibilidad».
“Queremos usar nuestro poder para construir una comunidad entre públicos dispares, aunque admitimos que no tenemos todas las respuestas”, dice Celi. “Si fracasamos, es porque no soñamos lo suficientemente grande sobre cómo podría ser un mundo reimaginado”. MIT News. B. D. Traducido al español
