«Necesitamos garantizar que los humanos aprovechen los beneficios de la IA y que no perdamos el control de la tecnología», afirma Audrey Lorvo, estudiante de último año.
Audrey Lorvo, estudiante de último año, está investigando la seguridad de la IA, cuyo objetivo es garantizar que los modelos de IA cada vez más inteligentes sean fiables y puedan beneficiar a la humanidad. Este campo en expansión se centra en desafíos técnicos como la solidez y la alineación de la IA con los valores humanos, así como en preocupaciones sociales como la transparencia y la rendición de cuentas. Los profesionales también están preocupados por los posibles riesgos existenciales asociados con las herramientas de IA cada vez más poderosas.
“Garantizar que la IA no se use de forma indebida ni actúe en contra de nuestras intenciones es cada vez más importante a medida que nos acercamos a la inteligencia artificial general (AGI)”, dice Lorvo, estudiante de ciencias de la computación, economía y ciencia de datos . La AGI describe el potencial de la inteligencia artificial para igualar o superar las capacidades cognitivas humanas.
Lorvo, una académica del programa de Responsabilidades sociales y éticas de la computación (SERC) del Schwarzman College of Computing del MIT , estudia en profundidad cómo la IA podría automatizar los procesos y prácticas de investigación y desarrollo de la IA. Como miembro del grupo de investigación de Big Data , está investigando las implicaciones sociales y económicas asociadas con el potencial de la IA para acelerar la investigación sobre sí misma y cómo comunicar de manera eficaz estas ideas y sus posibles impactos a audiencias generales, incluidos legisladores, asesores estratégicos y otros.
Lorvo enfatiza la necesidad de evaluar críticamente los rápidos avances de la IA y sus implicaciones, asegurándose de que las organizaciones tengan los marcos y las estrategias adecuados para abordar los riesgos. “Necesitamos asegurarnos de que los humanos aprovechen los beneficios de la IA y de que no perdamos el control de la tecnología”, afirma. “Necesitamos hacer todo lo posible para desarrollarla de manera segura”.
Su participación en iniciativas como la Beca Técnica de Seguridad de la IA refleja su compromiso de comprender los aspectos técnicos de la seguridad de la IA. La beca brinda oportunidades para revisar las investigaciones existentes sobre cómo alinear el desarrollo de la IA con las consideraciones del posible impacto humano. “La beca me ayudó a comprender las cuestiones y los desafíos técnicos de la seguridad de la IA para poder proponer mejores estrategias de gobernanza de la IA”, afirma. Según Lorvo, las empresas que están en la frontera de la IA siguen ampliando los límites, lo que significa que necesitaremos implementar políticas efectivas que prioricen la seguridad humana sin obstaculizar la investigación.
Valor de la interacción humana
Cuando llegó al MIT, Lorvo sabía que quería estudiar una carrera que le permitiera trabajar en la intersección de la ciencia y las humanidades. Sin embargo, la variedad de ofertas del Instituto le dificultaba la elección.
“Hay muchas maneras de ayudar a mejorar la calidad de vida de las personas y las comunidades”, afirma, “y el MIT ofrece muchos caminos diferentes para la investigación”.
Comenzando con la economía, una disciplina que disfruta por su enfoque en la cuantificación del impacto, Lorvo investigó matemáticas, ciencias políticas y planificación urbana antes de elegir el curso 6-14.
“Las clases de econometría del profesor Joshua Angrist me ayudaron a ver el valor de centrarme en la economía, mientras que los elementos de ciencia de datos y de informática me atrajeron debido al creciente alcance y el impacto potencial de la IA”, afirma. “Podemos utilizar estas herramientas para abordar algunos de los problemas más urgentes del mundo y, con suerte, superar desafíos graves”.
Lorvo también ha realizado concentraciones en estudios urbanos y planificación y desarrollo internacional .
A medida que ha ido reduciendo su enfoque, Lorvo descubre que comparte una perspectiva sobre la humanidad con otros miembros de la comunidad del MIT, como el grupo MIT AI Alignment , de quienes aprendió bastante sobre la seguridad de la IA. «A los estudiantes les importa su impacto marginal», dice.
El impacto marginal, el efecto adicional de una inversión específica de tiempo, dinero o esfuerzo, es una forma de medir cuánto suma una contribución a lo que ya se está haciendo, en lugar de centrarse en el impacto total. Esto puede influir potencialmente en el lugar donde las personas deciden dedicar sus recursos, una idea que atrae a Lorvo.
“En un mundo de recursos limitados, un enfoque basado en datos para resolver algunos de nuestros mayores desafíos puede beneficiarse de un enfoque personalizado que dirija a las personas hacia donde es probable que hagan el mayor bien”, afirma. “Si quieres maximizar tu impacto social, reflexionar sobre el impacto marginal de tu elección profesional puede ser muy valioso”.
Lorvo también valora el enfoque del MIT en la educación integral del estudiante y ha aprovechado las oportunidades para investigar disciplinas como la filosofía a través de MIT Concourse , un programa que facilita el diálogo entre la ciencia y las humanidades. Concourse espera que los participantes obtengan orientación, claridad y propósito para sus actividades científicas, técnicas y humanas.
Experiencias de estudiantes en el Instituto
Lorvo invierte su tiempo fuera del aula en crear experiencias memorables y fomentar las relaciones con sus compañeros de clase. “Tengo la suerte de tener espacio para equilibrar mis estudios, mi investigación y mis compromisos con el club con otras actividades, como el levantamiento de pesas y las iniciativas fuera del campus”, afirma. “Siempre hay muchos clubes y eventos disponibles en todo el instituto”.
Estas oportunidades de ampliar su visión del mundo han puesto a prueba sus creencias y la han expuesto a nuevas áreas de interés que han mejorado su vida y sus opciones profesionales. Lorvo, que habla con fluidez francés, inglés, español y portugués, también aplaude al MIT por las experiencias internacionales que ofrece a los estudiantes.
“Realicé prácticas en Santiago de Chile y París con MISTI y ayudé a probar una cámara de condensación de vapor de agua que diseñamos en una clase de D-Lab de otoño de 2023 en colaboración con la Escuela Politécnica de Madagascar y la ONG Tatirano [organización no gubernamental]”, afirma, “y disfruté de las oportunidades de aprender sobre cómo abordar la desigualdad económica a través de mis clases de Desarrollo Internacional y D-Lab”.
Como presidenta de la Asociación de Estudiantes de Economía del MIT , Lorvo se conecta con otros estudiantes interesados en la economía mientras continúa ampliando su conocimiento del campo. Disfruta de las relaciones que está construyendo mientras también participa en los eventos de la asociación durante todo el año. “Incluso como estudiante de último año, he encontrado nuevas comunidades en el campus para explorar y apreciar”, dice. “Animo a otros estudiantes a que sigan explorando grupos y clases que despierten sus intereses durante su tiempo en el MIT”.
Después de graduarse, Lorvo quiere seguir investigando la seguridad de la IA y estudiando estrategias de gobernanza que puedan ayudar a garantizar una implementación segura y eficaz de la IA.
“La buena gobernanza es esencial para el desarrollo exitoso de la IA y para garantizar que la humanidad pueda beneficiarse de su potencial transformador”, afirma. “Debemos seguir monitoreando el crecimiento y las capacidades de la IA a medida que la tecnología continúa evolucionando”.
Comprender los posibles impactos de la tecnología en la humanidad, hacer el bien, mejorar continuamente y crear espacios donde las grandes ideas puedan ver la luz del día siguen siendo el motor de Lorvo. Fusionar las humanidades con las ciencias es el motor de gran parte de lo que hace. “Siempre tuve la esperanza de contribuir a mejorar la vida de las personas, y la IA representa el mayor desafío y la mayor oportunidad de la humanidad hasta el momento”, afirma. “Creo que el campo de la seguridad de la IA puede beneficiarse de personas con experiencias interdisciplinarias como las que yo he tenido la suerte de adquirir, y animo a cualquier persona apasionada por dar forma al futuro a que lo explore”. MIT News. B. D. Traducido al español
Contacto