Más allá de la exageración: IA que sirve a la sociedad
No hay escasez de rumores en torno a la inteligencia artificial (IA). Desde los autos sin conductor hasta la promesa de revolucionar la atención médica, la IA está siendo aclamada como la tecnología que cambiará el mundo que nos rodea. Pero, ¿qué significa esto realmente para nuestra vida cotidiana? ¿Y cómo podemos asegurarnos de que la IA se utilice para servirnos a todos en toda la sociedad, no solo a los intereses de unos pocos?
En la Universidad de Cambridge, ai@cama está a la vanguardia del desarrollo de la inteligencia artificial con un propósito real. Dirigida por el profesor Neil Lawrence y Jessica Montgomery, la misión emblemática de IA de la Universidad une la experiencia de todos los dominios de investigación, empresas, responsables políticos y la sociedad civil para garantizar que la IA respalde soluciones prácticas impulsadas por la comunidad que beneficien a todos en la sociedad.
Uno de los mayores conceptos erróneos en torno a la IA es la exageración que rodea a la Inteligencia General Artificial (AGI), o máquinas que podrían superar a los humanos en todas las tareas. Lawrence se refiere a esto como “AGI vaporware,” promete una tecnología que aún no se ha construido pero que se comercializa para atraer inversiones. “No hay duda de que estas tecnologías son completamente transformadoras, pero debemos tener cuidado,”, explica. “El término AGI se está utilizando como una herramienta de marketing, pero el marketing no resuelve los problemas del mundo real que nos importan, como la atención médica o la educación
El enfoque en este futuro especulativo distrae la atención de donde la IA podría marcar una diferencia inmediata. El desafío de traducir ese potencial en práctica no podría ser más cierto que cuando se trata de nuestros servicios públicos. “A menudo existe la sensación de que los expertos de la industria o la investigación pueden simplemente entregar una solución ‘one size fits all’ a los profesionales del servicio público, señala Montgomery. Pero la realidad es mucho más colaborativa. “Si vamos a hacer que las herramientas de IA sean útiles para el sector público, debemos comenzar por comprender los problemas con los que los servidores públicos y las personas que usan los servicios públicos están lidiando”, dice. “AI no ofrecerá una solución rápida. El verdadero desafío es abordar los problemas complejos, ya sea atención médica, educación o delincuencia, trabajando juntos en estos problemas.Necesitamos co-crear soluciones que realmente sirvan al público y que las involucren en la very comienzo de ADiseño.”
Conectando a voces públicas
La gente ha expresado durante mucho tiempo esperanzas sobre lo que la IA debería ofrecer. Reciente diálogos públicos, liderados por ai@cam, han contribuido a un creciente cuerpo de evidencia que muestra el deseo de los publicadores de que la IA se use de una manera en la que puedan ver beneficios tangibles para sus vidas. Desde una mejor atención médica, servicios públicos más receptivos hasta soluciones prácticas para nuestros trabajadores de primera línea, sus expectativas son claras.
“Una y otra vez, escuchamos cómo las personas esperan que la IA pueda aliviar a las enfermeras y los médicos de la carga de las tediosas tareas administrativas para que pueda pasar tiempo libre con los pacientes. Imaginan que la IA podría apoyar a los maestros al personalizar el aprendizaje y reducir su papeleo. O ayude a facilitar sus interacciones con los servicios públicos, y más ‘human’. Estos están fuera de los ámbitos de la posibilidad, pero para hacerlo con éxito, debemos colocar el beneficio público en el centro de la innovación de IA, explica Jess Montgomery.
Sin embargo, detrás de las aspiraciones públicas para la IA, se está formando una creciente desconfianza.el reciente diálogo público de ai@cam destaca un escepticismo subyacente sobre la trayectoria actual para el desarrollo de la IA. “La gente está preocupada con razón por sus datos y privacidad y la concentración de poder en manos de las grandes empresas de tecnología. Hay una sensación de que la IA ahora es algo que se nos está haciendo, en lugar de algo que realmente está aquí para el beneficio de todos nosotros
Crear un diálogo significativo con el público es fundamental para el trabajo de ai@cam y es clave para construir la confianza y la responsabilidad necesarias para una integración exitosa de la IA. Con demasiada frecuencia, los sistemas de IA están diseñados sin la debida consideración de las personas que los usan o se implementan sin los bucles de retroalimentación necesarios. Esto se hace aún más evidente por escándalos como la Oficina de Correos de Horizon y el escándalo de Lorenzo, donde la tecnología defectuosa y el desprecio por los comentarios de primera línea llevaron a fallas graves.
En un momento crucial en el desarrollo de la IA, las apuestas no podrían ser mayores. “Es absolutamente crítico escuchar las voces públicas y llevarlas a discusiones sobre el futuro de nuestra sociedad. Nuestros trabajadores de primera línea deben estar al frente y al centro de cómo diseñamos e implementamos sistemas de IA en los servicios públicos: no es ridículo imaginar un futuro en el que podamos involucrar a los maestros o enfermeras directamente en el proceso de diseño de software, pero requiere un modelo completamente nuevo de innovación y uno en el que estén en el asiento del conductor, enfatiza Neil Lawrence.
Para hacer esto, ai@cam están haciendo las cosas de manera diferente. Al facilitar nuevas colaboraciones entre la academia y el sector público con un enfoque en los problemas del mundo real, puede comenzar a aparecer una nueva visión para la IA. Con el anuncio de la última cohorte de “AI-deas challenges” y compromisos del gobierno local a través de sus Laboratorio de Políticas, el cambio ya está en marcha. “Queremos eliminar las barreras tradicionales para que aquellos que están más cerca de los problemas sean los que trabajan con nosotros para diseñar las soluciones”, dice Neil Lawrence. “Esto no se trata solo de crear tecnología solo por el bien de las tecnologías, se trata de crear un impacto duradero para el beneficio de todos.”
Formando IA para las autoridades locales
El gobierno local está en el corazón de la vida cotidiana, brindando servicios esenciales que apoyan a las comunidades, desde la vivienda y la atención social hasta el transporte y la educación. A medida que los consejos lidian con el aumento de la demanda y la reducción de los presupuestos, la inteligencia artificial se considera una herramienta con el potencial de mejorar la forma en que se diseñan y entregan estos servicios.
Una de las áreas clave donde la IA está teniendo un impacto es en los centros de contacto del consejo local. “Weirre a menudo maneja grandes volúmenes de consultas de rutina que van desde encontrar el día correcto del contenedor hasta los beneficios de vivienda para personas, explica Liz Watts, Directora Ejecutiva del Consejo de Distrito de South Cambridgeshire. “Necesitamos proporcionar a nuestros residentes información precisa sobre los servicios en los que confían, y eso significa usar herramientas que puedan brindar eso de manera segura y efectiva
Al identificar una visión clara de las funciones básicas necesarias y categorizar sus preguntas más comunes en temas clave, han podido desarrollar un asistente impulsado por IA, “Sam.” La herramienta de IA puede proporcionar respuestas inmediatas y automatizadas y, si es necesario, escalar asuntos más complejos para el apoyo humano. “Necesitábamos un sistema que fuera rentable y pudiera integrarse en nuestros procesos actuales: debe adaptarse a la forma en que trabajamos y respaldar los servicios que ya se ofrecen.” Si bien la tecnología aún es nueva, la retroalimentación inicial ha sido positiva. “Weirre confía en que ayudará a reducir la demanda. En última instancia, queremos reinvertir los recursos ahorrados en otros servicios comunitarios críticos, asegurando que sigamos apoyando a nuestros residentes de la manera más impactante posible
La integración de las IAI en los servicios del gobierno local presenta nuevas oportunidades para apoyar a los más vulnerables de la sociedad, particularmente a aquellos que pueden necesitar acceso vital a la atención social o el apoyo a la vivienda. Muchos consejos locales están adoptando ‘Magic Notes’, una herramienta de IA que fue diseñada para reducir el tiempo que los trabajadores sociales dedican a tomar notas cuando están con los clientes, para que puedan centrarse en el cliente y sus necesidades. Mediante el uso de Modelos de Lenguaje Grande (LLM) que se han personalizado para el trabajo de casos de primera línea, la herramienta crea notas de casos estructurados que cumplen con los requisitos del servicio.
Co-desarrollada en colaboración con trabajadores sociales y pilotada a través de las autoridades locales en Inglaterra, la herramienta es un excelente ejemplo de IA diseñada específicamente para abordar algunos de los desafíos que enfrentan los consejos. “Aborda directamente las necesidades de los equipos de atención social y los residentes a los que sirven”, dice Watts.
A pesar de los beneficios visibles de la IA, la adopción de sistemas de IA en los consejos locales no está exenta de desafíos. Los consejos más pequeños, en particular, luchan por desarrollar e implementar soluciones de IA debido al personal y el presupuesto limitados. “La adopción de IA en el gobierno local no es sistemática, es más como el boca a boca,” dice Watts. “No existe un enfoque unificado ni una guía oficial sobre cómo implementar la IA de manera efectiva. Lo que necesitamos es acceso a la experiencia a través de la colaboración con universidades y gobiernos o un espacio para el intercambio de conocimientos. Aquí hay mucho en juego: los sistemas que elegimos implementar tienen consecuencias muy reales para nuestros residentes y usuarios de servicios. Debemos hacerlo bien.”
Watts Liz
IA éticamente arraigada
Kwadwo Oti-Sarpong y Terry de Sousa
DrOti-Sarpong Kwadwo y su equipo es muy consciente de las presiones que enfrenta el gobierno local. Como uno de los cinco ganadores del programa insignia de AI-deas de ai@camics, lidera el Toma de decisiones con IA en Lugares y Ciudades Conectados proyecto – trabajar en el desarrollo de orientación práctica para ayudar a las autoridades locales a tomar decisiones informadas éticamente sobre el uso de la IA en sus esfuerzos de transformación digital.
“Nuestro proyecto se trata de dar a las autoridades locales el conocimiento y la confianza para tomar decisiones en torno a la IA que no solo sean técnicamente sólidas, sino socialmente responsables,” dice el Dr. Oti-Sarpong. “Queremos asegurarnos de que a medida que la digitalización se acelera, lo haga de una manera que priorice la ética y refleje los valores de las comunidades a las que debe servir.”
El equipo de AI-deas ya está poniendo en práctica esos principios. A través de una colaboración con Greater Cambridge Shared Planning Service (GCSP), apoyará la introducción de una nueva herramienta de IA diseñada para racionalizar los miles de comentarios recibidos de residentes, grupos comunitarios y el público, presentados durante las consultas sobre políticas de planificación. “El Plan Local establece el futuro para el área durante los próximos 15 a 20 años. Cubre todo: vivienda, transporte, infraestructura, políticas ambientales. Cada aplicación de planificación deberá cumplir con estas políticas una vez que se adopte el Plan, explica Terry de Sousa, Líder del Equipo de Política y Estrategia de Planificación en GCSP.
Pero procesar más de 9.500 comentarios de consulta no es poca cosa. El equipo de Terrya calculó que requiere alrededor de 450 días oficiales para revisar, resumir y categorizar los comentarios. “Los comentarios pueden variar de una sola línea a un documento técnico de 100 páginas con múltiples conjuntos de datos,”, dice. “Todo nuestro equipo está dedicado a esto durante meses. El Plan Local puede dar forma a las vidas de las personas durante décadas, por lo que cada comentario debe ser considerado y contabilizado.”
Con un objetivo claro para reducir el tiempo necesario para el análisis, GCSP se asoció con la Universidad de Liverpool, la Universidad Anglia Ruskin y la Universidad de Cambridge para crear una herramienta de IA a medida que podría implementarse de manera responsable para apoyar su trabajo. Utilizando 55,000 comentarios reunidos durante 15 años de consultas públicas para capacitar al modelo, el conjunto de datos garantiza que la herramienta comprenda el contexto de planificación, la terminología y los términos específicos exclusivos de Greater Cambridge. “No se trata simplemente de eficiencia, se trata de garantizar que el modelo pueda comprender la complejidad y los matices de los comentarios” notas de Sousa.
Para desarrollar la herramienta con éxito, era crucial que se consideraran principios éticos claros desde el principio. “Weiosve actuó como ‘amigos críticos’ durante todo el proceso,” Oti-Sarpong explica. “las herramientas de IA deben estar diseñadas para minimizar el sesgo o la exclusión. Si estos sistemas no son transparentes e inclusivos, existe un grave riesgo de reforzar las desigualdades existentes o una mayor marginación de ciertos grupos.»
A través de una consulta continua, el equipo ha ayudado a elevar y priorizar la necesidad de que las consideraciones éticas estén a la vanguardia del proyecto. Equipo de oti-Sarpongics también está trabajando con otras autoridades locales y el Asociación de Gobierno Local ampliar este trabajo y desarrollar el apoyo a disposición de las autoridades locales y otros organismos del sector público. “Queremos aprender de este estudio de caso y aplicar esas lecciones a otras herramientas basadas en IA”, dice. “Las autoridades locales no solo brindan servicios: dan forma a las comunidades en las que vivimos. Todavía hay muchas incógnitas cuando se trata de IA en el sector público, pero queremos apoyar a los consejos locales para navegar estos desafíos de una manera que genere confianza pública. Universidad de Cambridge News. E. P. Traducido al español
Contacto