El Simposio de Investigación sobre Ética de la Computación del MIT muestra proyectos en la intersección de la tecnología, la ética y la responsabilidad social.
En 15 presentaciones estilo TED Talk, profesores del MIT presentaron recientemente su investigación pionera, que incorpora consideraciones y experiencia sociales, éticas y técnicas. Todas ellas cuentan con el apoyo de subvenciones iniciales establecidas por las Responsabilidades Sociales y Éticas de la Computación (SERC), una iniciativa transversal del MIT Schwarzman College of Computing. La convocatoria de propuestas del verano pasado recibió casi 70 solicitudes. Un comité con representantes de todas las facultades y escuelas del MIT se reunió para seleccionar los proyectos ganadores, que recibieron hasta 100.000 dólares en financiación.
“SERC se compromete a impulsar el progreso en la intersección de la informática, la ética y la sociedad. Las subvenciones iniciales están diseñadas para impulsar un pensamiento audaz y creativo en torno a los complejos desafíos y posibilidades de este ámbito”, afirmó Nikos Trichakis, codecano asociado de SERC y profesor de Administración JC Penney. “Con el Simposio de Investigación sobre Ética de la Computación del MIT, consideramos importante no solo mostrar la amplitud y profundidad de la investigación que está moldeando el futuro de la computación ética, sino también invitar a la comunidad a participar en la conversación”.
«Lo que estamos viendo aquí es una especie de juicio colectivo comunitario sobre el trabajo más apasionante en materia de investigación, en las responsabilidades sociales y éticas de la informática que se realiza en el MIT», dijo Caspar Hare, decano asociado de SERC y profesor de filosofía.
El simposio, de una jornada completa y celebrado el 1 de mayo, se organizó en torno a cuatro temas clave: tecnología sanitaria responsable, gobernanza y ética de la inteligencia artificial, tecnología en la sociedad y participación cívica, e inclusión digital y justicia social. Los ponentes realizaron presentaciones que invitaban a la reflexión sobre una amplia gama de temas, como el sesgo algorítmico, la privacidad de datos, las implicaciones sociales de la inteligencia artificial y la evolución de la relación entre humanos y máquinas. El evento también incluyó una sesión de pósteres, donde estudiantes de investigación presentaron los proyectos en los que trabajaron a lo largo del año como becarios del SERC .
Los aspectos más destacados del Simposio de Investigación sobre Ética de la Computación del MIT en cada una de las áreas temáticas, muchos de los cuales están disponibles para ver en YouTube , incluyeron:
Hacer que el sistema de trasplante de riñón sea más justo
Las políticas que regulan el sistema de trasplante de órganos en los Estados Unidos son elaboradas por un comité nacional que a menudo tarda más de seis meses en crearse y luego años en implementarse, un cronograma que muchos en la lista de espera simplemente no pueden sobrevivir.
Dimitris Bertsimas, vicerrector de aprendizaje abierto, decano asociado de análisis de negocios y profesor de Investigación de Operaciones de Boeing, compartió su último trabajo en análisis para una asignación justa y eficiente de trasplantes de riñón. El nuevo algoritmo de Bertsimas examina criterios como la ubicación geográfica, la mortalidad y la edad en tan solo 14 segundos, un cambio radical respecto a las seis horas habituales.
Bertsimas y su equipo colaboran estrechamente con la Red Unida para la Intercambio de Órganos (UNOS), una organización sin fines de lucro que gestiona la mayor parte del sistema nacional de donación y trasplantes mediante un contrato con el gobierno federal. Durante su presentación, Bertsimas compartió un video de James Alcorn, estratega sénior de políticas de UNOS, quien ofreció este conmovedor resumen del impacto del nuevo algoritmo:
Esta optimización cambia radicalmente el tiempo de respuesta para evaluar estas diferentes simulaciones de escenarios de políticas. Antes nos tomaba un par de meses analizar un puñado de escenarios de políticas diferentes, y ahora nos toma solo unos minutos analizar miles y miles de escenarios. Podemos realizar estos cambios mucho más rápido, lo que, en última instancia, significa que podemos mejorar el sistema para los candidatos a trasplante mucho más rápido.
La ética del contenido de redes sociales generado por IA
A medida que el contenido generado por IA se vuelve más común en las redes sociales, ¿qué implicaciones tiene revelar (o no) que alguna parte de una publicación fue creada por IA? Adam Berinsky, profesor Mitsui de Ciencias Políticas, y Gabrielle Péloquin-Skulski, estudiante de doctorado del Departamento de Ciencias Políticas, analizaron esta cuestión en una sesión que examinó estudios recientes sobre el impacto de diversas etiquetas en el contenido generado por IA.
En una serie de encuestas y experimentos en los que se colocaron etiquetas en publicaciones generadas por IA, los investigadores analizaron cómo palabras y descripciones específicas influían en la percepción de engaño de los usuarios, su intención de interactuar con la publicación y, en última instancia, si la publicación era verdadera o falsa.
“La principal conclusión de nuestros hallazgos iniciales es que no hay una solución universal”, afirmó Péloquin-Skulski. “Descubrimos que etiquetar las imágenes generadas por IA con una etiqueta orientada al proceso reduce la credibilidad tanto en publicaciones falsas como verdaderas. Esto es bastante problemático, ya que el etiquetado busca reducir la credibilidad de las personas en información falsa, no necesariamente en información verdadera. Esto sugiere que las etiquetas que combinan proceso y veracidad podrían ser más eficaces para contrarrestar la desinformación generada por IA”.
Uso de la IA para aumentar el discurso cívico en línea
“Nuestra investigación busca abordar cómo las personas desean cada vez más tener voz y voto en las organizaciones y comunidades a las que pertenecen”, explicó Lily Tsai en una sesión sobre experimentos con IA generativa y el futuro de la democracia digital. Tsai, profesora Ford de Ciencias Políticas y directora del Laboratorio de Gobernanza del MIT, está llevando a cabo una investigación en curso con Alex Pentland, profesor Toshiba de Artes y Ciencias de las Artes, y un equipo más amplio.
Las plataformas deliberativas en línea han ganado popularidad recientemente en Estados Unidos, tanto en el sector público como en el privado. Tsai explicó que, gracias a la tecnología, ahora todos pueden expresar su opinión, pero hacerlo puede resultar abrumador o incluso inseguro. En primer lugar, hay demasiada información disponible y, en segundo lugar, el discurso en línea se ha vuelto cada vez más incívico.
El grupo se centra en cómo podemos aprovechar las tecnologías existentes y mejorarlas mediante investigación rigurosa e interdisciplinaria, y en cómo podemos innovar integrando IA generativa para optimizar los espacios de deliberación en línea. Han desarrollado su propia plataforma integrada con IA para la democracia deliberativa, DELiberation.io, y han implementado cuatro módulos iniciales. Hasta el momento, todos los estudios se han realizado en el laboratorio, pero también están trabajando en una serie de próximos estudios de campo, el primero de los cuales se realizará en colaboración con el gobierno del Distrito de Columbia.
Tsai le dijo a la audiencia: “Si no se llevan nada más de esta presentación, espero que se lleven esto: que todos deberíamos exigir que las tecnologías que se están desarrollando se evalúen para ver si tienen resultados positivos posteriores, en lugar de solo enfocarnos en maximizar el número de usuarios”.
Un grupo de expertos público que considera todos los aspectos de la IA
Cuando Catherine D’Ignazio, profesora asociada de ciencias urbanas y planificación, y Nikko Stevens, investigadora posdoctoral en el Laboratorio de Datos + Feminismo del MIT, presentaron inicialmente su propuesta de financiación, no pretendían desarrollar un grupo de expertos, sino un marco que articulara cómo la inteligencia artificial y el aprendizaje automático podrían integrar métodos comunitarios y utilizar el diseño participativo.
Finalmente, crearon Liberatory AI, que describen como un «grupo de expertos público y dinámico sobre todos los aspectos de la IA». D’Ignazio y Stevens reunieron a 25 investigadores de diversas instituciones y disciplinas, quienes escribieron más de 20 artículos de opinión que examinaban la literatura académica más reciente sobre sistemas de IA y su interacción. Agruparon los artículos intencionalmente en tres temas distintos: el panorama corporativo de la IA, los callejones sin salida y las vías de avance.
“En lugar de esperar a que Open AI o Google nos inviten a participar en el desarrollo de sus productos, nos hemos unido para cuestionar el status quo, pensar en el panorama general y reorganizar los recursos de este sistema con la esperanza de una transformación social más amplia”, dijo D’Ignazio. MIT News. D. L. Traducido al español
Contacto