
Bridging filosofía e IA para explorar la ética informática
En un nuevo curso del MIT co-enseñado por EECS y profesores de filosofía, los estudiantes abordan los dilemas morales de la era digital. Durante una reunión de clase 6.C40/24.C40 (Ética de la Computación), Profesor Armando Solar-Lezama plantea la misma pregunta imposible a sus estudiantes que a menudo se hace en la investigación que dirige con el Grupo de Programación Asistida por Computadora en el MIT: «Cómo nos aseguramos de que una máquina haga lo que queremos, y solo lo que queremos?» En este momento, lo que algunos consideran la edad de oro de la IA generativa, esto puede parecer una nueva pregunta urgente. Pero Solar-Lezama, el Profesor Distinguido de Computación en el MIT, se apresura a señalar que esta lucha es tan antigua como la humanidad misma. Comienza a volver a contar el mito griego del Rey Midas, el monarca al que se le otorgó el poder divino para transformar cualquier cosa que tocara en oro macizo. Como era de esperar, el deseo fracasó cuando Midas accidentalmente convirtió a todos los que amaba en piedra dorada. «Ten cuidado con lo que pides porque podría otorgarse de maneras que no esperas», dice, advirtiendo a sus estudiantes, muchos de ellos aspirantes a matemáticos y programadores. Excavando en los archivos del MIT para compartir diapositivas de fotografías granuladas en blanco y negro, narra la historia de la programación. Escuchamos sobre la máquina Pygmalion de la década de 1970 que requería señales increíblemente detalladas, hasta el software informático de finales de los 90 que llevó a equipos de ingenieros años y un documento de 800 páginas para programar. Si bien es notable en su tiempo, estos procesos tardaron demasiado en llegar a los usuarios. No dejaron espacio para el descubrimiento espontáneo, el juego y la innovación. Solar-Lezama habla sobre los riesgos de construir máquinas modernas que no siempre respetan las señales de un programador o las líneas rojas, y que son igualmente capaces de causar daños como salvar vidas. Titus Roesler, un senior con especialización en ingeniería eléctrica, asiente a sabiendas. Roesler está escribiendo su último artículo sobre la ética de los vehículos autónomos y sopesando quién es moralmente responsable cuando uno hipotéticamente golpea y mata a un peatón. Su argumento cuestiona las suposiciones subyacentes detrás de los avances técnicos y considera múltiples puntos de vista válidos. Se apoya en la teoría de la filosofía del utilitarismo. Roesler explica, «Aproximadamente, según el utilitarismo, lo moral que hay que hacer es lo más bueno para el mayor número de personas.» MIT filósofo Brad Skow, con quien Solar-Lezama desarrolló y está enseñando en equipo el curso, se inclina hacia adelante y toma notas. Una clase que exige experiencia técnica y filosófica La Ética de la Computación, ofrecida por primera vez en el otoño de 2024, se creó a través de Common Ground para la Educación Informáticauna iniciativa del MIT Schwarzman College of Computing que reúne a múltiples departamentos para desarrollar y enseñar nuevos cursos y lanzar nuevos programas que combinan la informática con otras disciplinas. Los instructores alternan los días de conferencias. Skow, el Laurance S. Rockefeller Profesor de Filosofía, trae la lente de su disciplina para examinar las implicaciones más amplias de los problemas éticos de hoy, mientras que Solar-Lezama, quien también es el director asociado y director de operaciones del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT, ofrece perspectiva a través de su. Skow y Solar-Lezama asisten a las conferencias de los demás y ajustan sus sesiones de clase de seguimiento en respuesta. La introducción del elemento de aprender unos de otros en tiempo real ha hecho que las conversaciones de clase sean más dinámicas y receptivas. Una recitación para desglosar el tema de la semana con estudiantes graduados de filosofía o informática y una animada discusión combinan el contenido del curso. «Un extraño podría pensar que esta será una clase que se asegurará de que estos nuevos programadores de computadoras enviados al mundo por el MIT siempre hagan lo correcto», dice Skow. Sin embargo, la clase está diseñada intencionalmente para enseñar a los estudiantes un conjunto de habilidades diferente. Decidido a crear un curso impactante de un semestre que hiciera más que dar conferencias a los estudiantes sobre lo correcto o lo incorrecto, el profesor de filosofía Caspar Hare concibió la idea de Ética de la Computación en su papel como decano asociado de la Responsabilidades Sociales y Éticas de la Computación. Hare reclutó a Skow y Solar-Lezama como los instructores principales, ya que sabía que podían hacer algo más profundo que eso. «Pensar profundamente sobre las preguntas que surgen en esta clase requiere experiencia técnica y filosófica. No hay otras clases en el MIT que se coloquen una al lado de la otra, dice” Skow. Eso es exactamente lo que atrajo al senior Alek Westover a inscribirse. La doble especialización en matemáticas e informática explica, «Mucha gente está hablando de cómo se verá la trayectoria de la IA en cinco años. Pensé que era importante tomar una clase que me ayudara a pensar más en eso.» Westover dice que se siente atraído por la filosofía debido a un interés en la ética y el deseo de distinguir lo correcto de lo incorrecto. En las clases de matemáticas, ha aprendido a escribir una declaración de problemas y recibir claridad instantánea sobre si la ha resuelto con éxito o no. Sin embargo, en Ética de la Computación, ha aprendido cómo hacer argumentos escritos para «preguntas filosóficas complicadas» que pueden no tener una sola respuesta correcta. Por ejemplo, «Un problema que podría preocuparnos es, ¿qué sucede si construimos poderosos agentes de IA que pueden hacer cualquier trabajo que un humano pueda hacer?» Westover pregunta. «Si estamos interactuando con estas IA en ese grado, ¿deberíamos pagarles un salario? Cuánto deberíamos preocuparnos por lo que quieren?» No hay una respuesta fácil, y Westover asume que se encontrará con muchos otros dilemas en el lugar de trabajo en el futuro. “Entonces, ¿internet está destruyendo el mundo?” El semestre comenzó con una inmersión profunda en el riesgo de IA,