Con el rápido avance de la inteligencia artificial generativa (genAI), los Modelos de Lenguaje de Gran Tamaño (LLM) han permeado todos los aspectos de la vida humana, desde los ámbitos de la comunicación y la academia hasta el transporte y la defensa, a una velocidad sin precedentes.
Entre estos, el ámbito médico destaca como una de las áreas más significativas donde los LLM han ampliado su alcance y ámbito de aplicación, como el diagnóstico.
Sin embargo, junto con la gran cantidad de avances médicos que conllevan, es crucial no pasar por alto los desafíos éticos que acompañan a estas innovaciones. Por el bien de nuestra seguridad y bienestar, estas preocupaciones deben identificarse y abordarse proactivamente, ya sea mediante la mitigación o la remediación. En este sentido, la investigación filosófica desempeña un papel indispensable para guiar el progreso hacia una senda que defienda los valores humanos y promueva el bien común.
Con este sentimiento presente, el 9 de abril, el Instituto de Filosofía de la Universidad Nacional de Seúl invitó al profesor Matthew J. Dennis (de Ética y Tecnología, Universidad Tecnológica de Eindhoven) a compartir sus perspectivas sobre la ética de la IA generativa en la atención médica y la medicina. Centrado en cómo las tecnologías emergentes, incluida la inteligencia artificial, desafían nuestra definición de equidad, autonomía, bienestar y creatividad, el profesor Dennis también es codirector del Centro de Filosofía de la Inteligencia Artificial de Eindhoven y miembro sénior del consorcio de investigación Ética de las Tecnologías Socialmente Disruptivas.
El profesor Matthew J. Dennis comparte sus ideas sobre la ética de la IA generativa en la atención médica y la medicina.
Para comenzar, el profesor Dennis planteó tres preguntas centrales que enmarcaron el enfoque de su charla: ¿Cómo alteran las tecnologías emergentes los conceptos filosóficos existentes? ¿Cómo generan desafíos éticos? Y, más específicamente, ¿el uso de la IA en la salud y la medicina genera nuevos desafíos éticos inexistentes?
Según el profesor Dennis, la IA contribuye actualmente a la transformación de la medicina de al menos dos maneras significativas. La primera implica el avance de la investigación médica, para la cual, a pesar del potencial de descualificación técnica derivado de la externalización de tareas a tecnologías modernas, los riesgos éticos siguen siendo relativamente insignificantes. La segunda contribución —mucho más polémica desde el punto de vista ético— implica la creación de nuevas herramientas para la transcripción médica, el triaje y el diagnóstico. Esta es la dimensión de la innovación médica que el profesor Dennis considera esencial examinar.
Confiabilidad, Responsabilidad y Privacidad
Los desafíos éticos que plantean las nuevas herramientas de IA pueden clasificarse en tres áreas principales: confiabilidad, responsabilidad y privacidad.
Los servicios de diagnóstico de IA, que escuchan las consultas de los pacientes, deben proporcionar registros de alta precisión; de lo contrario, podrían tener graves consecuencias médicas. Sin embargo, una precisión o especificación excesivas pueden generar problemas, como la identificación de síntomas inexistentes en los pacientes. Esto dificulta el proceso de diagnóstico para los médicos, que deben revisar las extensas notas generadas, y genera ansiedad innecesaria en los pacientes que esperan su veredicto. Sin una supervisión rigurosa en su desarrollo e implementación, estas herramientas de IA pueden volverse poco fiables.
Profundizando en el tema, es fundamental reconocer que el margen de error humano en las consultas con pacientes es considerable, con índices de precisión actuales que promedian el 70 %. Los servicios de diagnóstico con IA pueden ser valiosos para reducir los diagnósticos erróneos, aumentando la precisión en un margen sustancial del 20 %. Sin embargo, incluso con un margen de error menor, cuando surgen diagnósticos erróneos, la responsabilidad ya no recae en un solo médico, sino que se distribuye entre múltiples entidades, probablemente grandes empresas tecnológicas. Esta dispersión dificulta considerablemente la identificación de los responsables de un error en particular, especialmente cuando las consecuencias son catastróficas e irreversibles. También surgen desafíos en el ámbito de los litigios, ya que los pacientes pueden encontrarse en la difícil situación de tener que demandar a empresas con amplios equipos legales.
La cuestión de la responsabilidad también se extiende al proceso de triaje. La clientela de las empresas tecnológicas que proporcionan estas herramientas de IA suele estar compuesta por profesionales médicos, quienes seleccionan el protocolo de triaje que consideran más adecuado para la naturaleza de sus servicios. Sin embargo, esto abre la puerta a posibles sesgos, ya que los estándares de priorización del tratamiento pueden verse influenciados por factores como las primas de seguro de los pacientes. En tales casos, los pacientes corren el riesgo de que se les niegue su derecho fundamental a una atención médica justa y equitativa.
Por último, y quizás la preocupación más frecuente en los debates sobre IA en medicina, es la privacidad de los datos sensibles. Si bien estos sistemas de IA pueden no almacenar directamente datos sensibles, los modelos se entrenan con ellos y pueden reproducir información sensible cuando se les solicita. Por ejemplo, se sabe que, al solicitar fotografías específicas, algunos LLM proporcionan fotografías reales de los datos de entrenamiento en lugar de sintetizarlas según la solicitud. Por lo tanto, los riesgos de confidencialidad del paciente y la fuga de datos son una realidad.
Sin embargo, desde una perspectiva más optimista, la IA posee un potencial inmenso y en constante crecimiento para asimilar grandes cantidades de datos médicos para consultas, lo que permite a los médicos humanos asistir con mayor facilidad a sus pacientes en su diagnóstico y recuperación. Como señaló el profesor Dennis: «Aunque cada persona tiene un historial médico particular, compartimos una enorme cantidad de ADN. Lo que falla en mi cuerpo también puede fallar en el de otras personas». En otras palabras, el rico repositorio de datos médicos no solo mejora los procesos de atención médica individuales, sino que también beneficia a la comunidad humana. Para alcanzar plenamente este potencial, debemos seguir manteniendo los estándares éticos y abordar rigurosamente los riesgos que puedan comprometerlos. Solo así podremos garantizar que los avances tecnológicos en medicina se mantengan en una senda humanista, preservando nuestra salud, dignidad y autonomía.
En definitiva, eventos como esta charla reflejan el compromiso constante del Instituto de Filosofía de abordar problemas tangibles y reales desde una perspectiva filosófica. Las conferencias regulares de invitados ejemplifican la misión del Instituto de «investigar los diversos aspectos esenciales de la vida humana, como la política, la economía, la sociedad y la cultura, y presentar un marco para la comprensión y evaluación adecuadas de dichos fenómenos». Por lo tanto, estos esfuerzos reafirman continuamente la relevancia fundamental del estudio filosófico en nuestro mundo en rápida evolución. Universidad Nacional de Seúl News. H. S. L. Traducido al español
Contacto