En un nuevo curso del MIT co-enseñado por EECS y profesores de filosofía, los estudiantes abordan los dilemas morales de la era digital.
Durante una reunión de clase 6.C40/24.C40 (Ética de la Computación), Profesor Armando Solar-Lezama plantea la misma pregunta imposible a sus estudiantes que a menudo se hace en la investigación que dirige con el Grupo de Programación Asistida por Computadora en el MIT:
«Cómo nos aseguramos de que una máquina haga lo que queremos, y solo lo que queremos?»
En este momento, lo que algunos consideran la edad de oro de la IA generativa, esto puede parecer una nueva pregunta urgente. Pero Solar-Lezama, el Profesor Distinguido de Computación en el MIT, se apresura a señalar que esta lucha es tan antigua como la humanidad misma.
Comienza a volver a contar el mito griego del Rey Midas, el monarca al que se le otorgó el poder divino para transformar cualquier cosa que tocara en oro macizo. Como era de esperar, el deseo fracasó cuando Midas accidentalmente convirtió a todos los que amaba en piedra dorada.
«Ten cuidado con lo que pides porque podría otorgarse de maneras que no esperas», dice, advirtiendo a sus estudiantes, muchos de ellos aspirantes a matemáticos y programadores.
Excavando en los archivos del MIT para compartir diapositivas de fotografías granuladas en blanco y negro, narra la historia de la programación. Escuchamos sobre la máquina Pygmalion de la década de 1970 que requería señales increíblemente detalladas, hasta el software informático de finales de los 90 que llevó a equipos de ingenieros años y un documento de 800 páginas para programar.
Si bien es notable en su tiempo, estos procesos tardaron demasiado en llegar a los usuarios. No dejaron espacio para el descubrimiento espontáneo, el juego y la innovación.
Solar-Lezama habla sobre los riesgos de construir máquinas modernas que no siempre respetan las señales de un programador o las líneas rojas, y que son igualmente capaces de causar daños como salvar vidas.
Titus Roesler, un senior con especialización en ingeniería eléctrica, asiente a sabiendas. Roesler está escribiendo su último artículo sobre la ética de los vehículos autónomos y sopesando quién es moralmente responsable cuando uno hipotéticamente golpea y mata a un peatón. Su argumento cuestiona las suposiciones subyacentes detrás de los avances técnicos y considera múltiples puntos de vista válidos. Se apoya en la teoría de la filosofía del utilitarismo. Roesler explica, «Aproximadamente, según el utilitarismo, lo moral que hay que hacer es lo más bueno para el mayor número de personas.»
MIT filósofo Brad Skow, con quien Solar-Lezama desarrolló y está enseñando en equipo el curso, se inclina hacia adelante y toma notas.
Una clase que exige experiencia técnica y filosófica
La Ética de la Computación, ofrecida por primera vez en el otoño de 2024, se creó a través de Common Ground para la Educación Informáticauna iniciativa del MIT Schwarzman College of Computing que reúne a múltiples departamentos para desarrollar y enseñar nuevos cursos y lanzar nuevos programas que combinan la informática con otras disciplinas.
Los instructores alternan los días de conferencias. Skow, el Laurance S. Rockefeller Profesor de Filosofía, trae la lente de su disciplina para examinar las implicaciones más amplias de los problemas éticos de hoy, mientras que Solar-Lezama, quien también es el director asociado y director de operaciones del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT, ofrece perspectiva a través de su.
Skow y Solar-Lezama asisten a las conferencias de los demás y ajustan sus sesiones de clase de seguimiento en respuesta. La introducción del elemento de aprender unos de otros en tiempo real ha hecho que las conversaciones de clase sean más dinámicas y receptivas. Una recitación para desglosar el tema de la semana con estudiantes graduados de filosofía o informática y una animada discusión combinan el contenido del curso.
«Un extraño podría pensar que esta será una clase que se asegurará de que estos nuevos programadores de computadoras enviados al mundo por el MIT siempre hagan lo correcto», dice Skow. Sin embargo, la clase está diseñada intencionalmente para enseñar a los estudiantes un conjunto de habilidades diferente.
Decidido a crear un curso impactante de un semestre que hiciera más que dar conferencias a los estudiantes sobre lo correcto o lo incorrecto, el profesor de filosofía Caspar Hare concibió la idea de Ética de la Computación en su papel como decano asociado de la Responsabilidades Sociales y Éticas de la Computación. Hare reclutó a Skow y Solar-Lezama como los instructores principales, ya que sabía que podían hacer algo más profundo que eso.
«Pensar profundamente sobre las preguntas que surgen en esta clase requiere experiencia técnica y filosófica. No hay otras clases en el MIT que se coloquen una al lado de la otra, dice” Skow.
Eso es exactamente lo que atrajo al senior Alek Westover a inscribirse. La doble especialización en matemáticas e informática explica, «Mucha gente está hablando de cómo se verá la trayectoria de la IA en cinco años. Pensé que era importante tomar una clase que me ayudara a pensar más en eso.»
Westover dice que se siente atraído por la filosofía debido a un interés en la ética y el deseo de distinguir lo correcto de lo incorrecto. En las clases de matemáticas, ha aprendido a escribir una declaración de problemas y recibir claridad instantánea sobre si la ha resuelto con éxito o no. Sin embargo, en Ética de la Computación, ha aprendido cómo hacer argumentos escritos para «preguntas filosóficas complicadas» que pueden no tener una sola respuesta correcta.
Por ejemplo, «Un problema que podría preocuparnos es, ¿qué sucede si construimos poderosos agentes de IA que pueden hacer cualquier trabajo que un humano pueda hacer?» Westover pregunta. «Si estamos interactuando con estas IA en ese grado, ¿deberíamos pagarles un salario? Cuánto deberíamos preocuparnos por lo que quieren?»
No hay una respuesta fácil, y Westover asume que se encontrará con muchos otros dilemas en el lugar de trabajo en el futuro.
“Entonces, ¿internet está destruyendo el mundo?”
El semestre comenzó con una inmersión profunda en el riesgo de IA, o la noción de «si la IA representa un riesgo existencial para la humanidad», desempaquetando el libre albedrío, la ciencia de cómo nuestros cerebros toman decisiones bajo incertidumbre y debates sobre las responsabilidades a largo plazo y la regulación de la IA. Una segunda unidad más larga se centró en «internet, la World Wide Web y el impacto social de las decisiones técnicas.» El final del término analiza la privacidad, el sesgo y la libertad de expresión.
Un tema de clase se dedicó a preguntar provocativamente: «Entonces, ¿está Internet destruyendo el mundo?»
Senior Caitlin Ogoe se especializa en el Curso 6-9 (Computación y Cognición). Estar en un entorno donde pueda examinar este tipo de problemas es precisamente por qué el autodenominado «escéptico tecnológico» se inscribió en el curso.
Al crecer con una madre con discapacidad auditiva y una hermana pequeña con una discapacidad del desarrollo, Ogoe se convirtió en el miembro de la familia predeterminado cuya función era llamar a los proveedores para obtener soporte técnico o programar iPhones. Ella aprovechó sus habilidades en un trabajo a tiempo parcial arreglando teléfonos celulares, lo que le allanó el camino para desarrollar un profundo interés en la computación y un camino hacia el MIT. Sin embargo, una prestigiosa beca de verano en su primer año la hizo cuestionar la ética detrás de cómo los consumidores se vieron afectados por la tecnología que estaba ayudando a programar.
«Todo lo que he hecho con la tecnología es desde la perspectiva de las personas, la educación y la conexión personal», dice Ogoe. «Este es un nicho que amo. Tomar clases de humanidades sobre políticas públicas, tecnología y cultura es una de mis grandes pasiones, pero este es el primer curso que he tomado que también involucra a un profesor de filosofía.»
La semana siguiente, Skow da conferencias sobre el papel del sesgo en la IA, y Ogoe, que ingresará a la fuerza laboral el próximo año, pero planea eventualmente asistir a la escuela de leyes para enfocarse en regular temas relacionados, levanta la mano para hacer preguntas o compartir contrapuntos cuatro veces.
Skow profundiza en el examen de COMPAS, un controvertido software de IA que utiliza un algoritmo para predecir la probabilidad de que las personas acusadas de crímenes vuelvan a ofender. Según a 2018 ProPublica artículo», COMPAS probablemente marcaría a los acusados negros como futuros criminales y dio falsos positivos al doble de la tasa que a los acusados blancos.
La sesión de clase está dedicada a determinar si el artículo justifica la conclusión de que el sistema COMPAS está sesgado y debe suspenderse. Para hacerlo, Skow presenta dos teorías diferentes sobre la equidad:
«La equidad sustantiva es la idea de que un resultado en particular podría ser justo o injusto», explica. «La equidad procesal se trata de si el procedimiento por el cual se produce un resultado es justo.» Luego se introducen una variedad de criterios contradictorios de equidad, y la clase discute cuáles eran plausibles y qué conclusiones justificaban sobre el sistema COMPAS.
Más tarde, los dos profesores suben a la oficina de Solar-Lezama para informar sobre cómo había ido el ejercicio ese día.
«Quién sabe?» dice Solar-Lezama. «Tal vez dentro de cinco años, todos se reirán de cómo las personas estaban preocupadas por el riesgo existencial de la IA. Pero uno de los temas que veo corriendo a través de esta clase es aprender a abordar estos debates más allá del discurso de los medios y llegar al fondo de pensar rigurosamente sobre estos temas.» MIT News. D. L. Traducido al español
Contacto