Los nuevos laboratorios en miniatura aseguran que la inteligencia artificial (IA) no cometa errores.
Proporcionan un entorno de prueba controlado donde los algoritmos y los modelos de IA se pueden verificar antes de ponerse a trabajar en condiciones de la vida real. El objetivo es que la IA funcione de manera confiable.
Reproducir video
Las cámaras causales son laboratorios en miniatura controlados por computadora y una nueva forma de probar y mejorar la inteligencia artificial desarrollada por el matemático Juan Gamella. (Vídeo: Nicole Davidson / ETH Zurich)
Cualquiera que desarrolle una solución de IA a veces emprende un viaje hacia lo desconocido. Al menos al principio, los investigadores y diseñadores no siempre saben si sus algoritmos y modelos de IA funcionarán como se esperaba o si la IA finalmente cometerá errores. A veces, las aplicaciones de IA que funcionan bien en teoría funcionan mal en condiciones de la vida real. Sin embargo, para ganarse la confianza de los usuarios, una IA debe funcionar de manera confiable y correcta (ver Revista ETH Globe, 18.03.2025). Esto se aplica tanto a los chatbots populares como a las herramientas de IA en la investigación.
Cualquier nueva herramienta de IA debe probarse a fondo antes de implementarse en el mundo real. Sin embargo, las pruebas en el mundo real pueden ser un esfuerzo costoso o incluso arriesgado. Por esta razón, los investigadores a menudo prueban sus algoritmos en simulaciones por computadora de la realidad. Sin embargo, dado que las simulaciones son aproximaciones de la realidad, probar las soluciones de IA de esta manera puede llevar a los investigadores a sobreestimar el rendimiento de un AI. Escribiendo en Inteligencia de la Máquina de la Naturaleza», el matemático de ETH Juan Gamella ahora presenta un nuevo enfoque que los investigadores pueden usar para verificar cuán confiable y correctamente funcionan sus algoritmos y modelos de IA. Un modelo de IA se basa en ciertas suposiciones y está capacitado para aprender de los datos y realizar tareas dadas de manera inteligente. Un algoritmo comprende las reglas matemáticas que sigue el modelo de IA para procesar una tarea.
Probar IA en lugar de sobreestimar
Juan Gamella ha construido laboratorios especiales en miniatura (“mini-labs”) que se pueden usar como bancos de pruebas para nuevos algoritmos de IA. “Los mini-labs proporcionan un entorno de prueba flexible que ofrece datos de medición reales. Son un poco como un patio de recreo para algoritmos, donde los investigadores pueden probar su IA más allá de los datos simulados en un entorno controlado y seguro, dice Gamella. Los mini-labs están construidos alrededor de la física bien entendida, de modo que los investigadores pueden utilizar este conocimiento para comprobar si sus algoritmos llegan a la solución correcta para una variedad de problemas. Si una IA falla la prueba, los investigadores pueden realizar mejoras específicas a los supuestos matemáticos y algoritmos subyacentes al principio del proceso de desarrollo.
Los primeros mini-labs de GamellaAl se basan en dos sistemas físicos que exhiben propiedades esenciales con las que muchas herramientas de IA tienen que lidiar en condiciones del mundo real. La forma en que se utilizan los mini-labs depende del problema que se está examinando y de lo que el algoritmo está destinado a hacer. Por ejemplo, su primer mini-lab contiene un sistema dinámico como el viento que cambia constantemente y reacciona a las influencias externas. Se puede usar para probar herramientas de IA para problemas de control. Su segundo mini-laboratorio, que obedece a leyes bien entendidas de la física para la luz, se puede utilizar para probar una IA que tiene como objetivo aprender automáticamente tales leyes a partir de datos y así ayudar a los científicos a hacer nuevos descubrimientos.
“Quiero desarrollar herramientas que ayuden a los científicos a resolver preguntas de investigación.”
Juan Gamella
Los mini-labs son dispositivos tangibles, aproximadamente del tamaño de una computadora de escritorio, que pueden ser operados por control remoto. Son una reminiscencia de los experimentos de demostración históricos realizados por investigadores del siglo 16 en adelante para presentar, discutir y mejorar sus teorías y hallazgos en las sociedades científicas. Gamella compara el papel de los mini-labs en el diseño de algoritmos de IA con el de un túnel de viento en la construcción de aeronaves: cuando se está desarrollando un nuevo avión, la mayor parte del trabajo de diseño se lleva a cabo inicialmente utilizando simulaciones por computadora porque es más eficiente y rentable. Una vez que los ingenieros han acordado sus diseños, construyen modelos en miniatura y los prueban en un túnel de viento. Solo entonces construyen un avión de tamaño completo y lo prueban en vuelos reales.
Un paso intermedio entre la simulación y la realidad
“Al igual que el túnel de viento para aviones, los mini-labs sirven como un control de cordura para asegurarnos de que todo funcione desde el principio a medida que pasamos de la simulación a la realidad,” dice Gamella. Considera que probar algoritmos de IA en un entorno controlado es un paso crucial e intermedio para garantizar que una IA funcione en escenarios complejos del mundo real. Los mini-labs proporcionan esto para ciertos tipos de IA, particularmente aquellos diseñados para interactuar directamente con el mundo físico.
Los mini-labs ayudan a los investigadores a estudiar el problema de la transición de la simulación a la realidad al proporcionar un banco de pruebas donde pueden llevar a cabo tantos experimentos como necesiten. Este problema de transición también es relevante en la intersección entre la robótica y la IA, donde los algoritmos de IA a menudo se entrenan para resolver tareas en un entorno simulado primero, y solo entonces en el mundo real. Esto aumenta la fiabilidad.
El propio Gamella comenzó con una Licenciatura en Matemáticas antes de obtener una Maestría en Robótica en ETH. Como estudiante de doctorado, regresó a la investigación en matemáticas e IA. Ha mantenido su talento para la física y la tecnología: “quiero desarrollar herramientas que ayuden a los científicos a resolver preguntas de investigación.” La aplicación para sus mini-labs no se limita a la ingeniería. Junto con un colega del Hospital Universitario Charité en Berlín, intentó diseñar un mini laboratorio para probar algoritmos de IA en biología celular y biología sintética. Sin embargo, los costos eran demasiado altos. Por el contrario, su segundo mini laboratorio, un túnel de luz, ya se está utilizando como entorno de prueba en la producción industrial – por un problema óptico. Los mini-labs también han ayudado a probar varios métodos nuevos sobre cómo pueden hacer los modelos de idiomas grandes (LLM) página externapredicciones más precisas en el mundo real.
IA causal – la bala de plata para una IA correcta
Escribiendo en Inteligencia de la Máquina de la NaturalezaGamella ha adoptado el enfoque de la bala de plata para demostrar la idoneidad de sus mini-labs – y, en última instancia, demuestra que son útiles incluso para cuestiones de IA causal. La investigación de la causalidad y la IA causal son un área clave de la estadística y la informática teórica que es fundamental para los modelos de IA: para que los modelos de IA funcionen de manera confiable y correcta, deben comprender las relaciones causales.
Retrato Peter Bühlmann
“Las cámaras causales son una valiosa adición a la investigación de la causalidad. Los nuevos algoritmos se pueden validar de una manera sin precedentes.”
Peter Bühlmann
Sin embargo, los modelos de IA a menudo no reflejan las relaciones causales del mundo, sino que hacen predicciones basadas en correlaciones estadísticas (ver Entrevista con el profesor de informática de ETH Thomas Hofmann). Científicamente hablando, la causalidad es un concepto fundamental que describe las relaciones entre causa y efecto. La IA causal se refiere a modelos de IA que reconocen las relaciones de causa y efecto. Los resultados de la IA causal son más precisos y transparentes. Es por eso que la IA causal es importante para campos como la medicina, la economía y la investigación climática.
Se necesitan nuevos métodos estadísticos para desarrollar IA causal, ya que las relaciones causales a veces están influenciadas por circunstancias y coincidencias especiales. Además, no pueden separarse fácilmente entre sí en contextos complejos. Gamella ha trabajado en investigación en asociación con los profesores de matemáticas ETH Peter Bühlmann y Jonas Peters. Ambos han desarrollado enfoques importantes para identificar las relaciones causales en condiciones cambiantes y distinguirlas de las influencias confusas o el ruido aleatorio.
“Sin embargo, estos métodos son generalmente difíciles de probar en el mundo real,” dice Gamella. “Para hacerlo, necesitamos datos de sistemas donde ya se sabe que las relaciones causa-efecto verifican si nuestros algoritmos pueden aprenderlos con precisión. Estos datos son difíciles de encontrar.” Para la publicación, los tres investigadores de ETH probaron algoritmos causales de IA en los mini-laboratorios construidos por Gamella. Él mismo también se refiere a sus mini-labs como “cámaras causales”. Primero, probaron si los algoritmos aprendieron el modelo causal correcto para cada mini laboratorio, es decir, para el viento y la luz. También observaron qué tan bien los algoritmos identificaron qué factores influyen entre sí y cómo se desempeñan en condiciones inusuales o cuando ocurren cambios repentinos. Peter Bühlmann, supervisor de doctorado de Gamellael, está lleno de elogios: “Las cámaras causales son una valiosa adición a la investigación de la causalidad. Los nuevos algoritmos se pueden validar de una manera sin precedentes.”
Una forma segura y lúdica de aprender
Gamella está satisfecha por los beneficios inesperados que las cámaras causales proporcionan para la enseñanza. “Dado que los mini-labs proporcionan un patio de recreo seguro para los algoritmos, también son un gran patio de recreo para los estudiantes,”, dice. Los profesores de IA, estadísticas y otros campos de ingeniería pueden usarlos para permitir que sus estudiantes apliquen directamente lo que han aprendido en un entorno práctico. Profesores de todo el mundo ya han expresado su interés, y Gamella ahora está estableciendo estudios piloto en ETH Zurich y la Universidad de Liège.
Referencias
Gamella, J.L., Peters, J. y Bühlmann, P. Cámaras causales como banco de pruebas físico del mundo real para la metodología de IA. Nature Machine Intelligence 7, 107–118 (2025). DOI: página externa10.1038/s42256-024-00964-x.
ETH Zürich News. F. M. Traducido al español
Contacto