Las proteínas son los motores y componentes básicos de la biología: impulsan la adaptación, el pensamiento y el funcionamiento de los organismos. La IA ayuda a los científicos a diseñar nuevas estructuras proteicas a partir de secuencias de aminoácidos, abriendo así la puerta a nuevas terapias y curas.
Pero ese poder también conlleva una seria responsabilidad: muchas de estas herramientas son de código abierto y podrían ser susceptibles de uso indebido.
Para comprender el riesgo, los científicos de Microsoft demostraron cómo las herramientas de diseño de proteínas con IA (AIPD) de código abierto podrían aprovecharse para generar miles de versiones sintéticas de una toxina específica, alterando su secuencia de aminoácidos y preservando su estructura y, potencialmente, su función. El experimento, realizado mediante simulación por computadora, reveló que la mayoría de estas toxinas rediseñadas podrían evadir los sistemas de detección utilizados por las empresas de síntesis de ADN.
Ese descubrimiento expuso un punto débil en la bioseguridad y, en última instancia, condujo a la creación de un esfuerzo colaborativo intersectorial dedicado a hacer que los sistemas de análisis de ADN sean más resilientes a los avances de la IA. A lo largo de 10 meses, el equipo trabajó con discreción y rapidez para abordar el riesgo, formulando y aplicando nuevos procesos de bioseguridad de «equipo rojo» para desarrollar un «parche» que se distribuyó globalmente a empresas de síntesis de ADN. Su artículo revisado por pares, publicado en Science el 2 de octubre , detalla sus hallazgos iniciales y las medidas posteriores que reforzaron las medidas de bioseguridad a nivel mundial.
Eric Horvitz, director científico de Microsoft y líder del proyecto, explica más sobre lo que significa todo esto:
En términos más simples, ¿qué pregunta se propuso responder con su estudio y qué encontró?
Me propuse con Bruce Wittmann, un biocientífico aplicado senior de mi equipo, responder a la pregunta: «¿Podrían usarse las herramientas de diseño de proteínas de IA de última generación para rediseñar proteínas tóxicas para preservar su estructura, y potencialmente su función, mientras evaden la detección por las herramientas de detección actuales?» La respuesta a esa pregunta fue sí, podrían.
La segunda pregunta fue: «¿Podríamos diseñar métodos y un estudio sistemático que nos permitiera trabajar de forma rápida y discreta con las partes interesadas clave para actualizar o parchar esas herramientas de detección y hacerlas más resilientes a la IA?». Gracias al estudio y al esfuerzo de colaboradores dedicados, ahora podemos decir que sí.
¿Qué revela su investigación sobre las limitaciones de los sistemas de bioseguridad actuales y cuán vulnerables somos hoy?
Descubrimos que el software y los procesos de cribado eran inadecuados para detectar versiones «parafraseadas» de secuencias de proteínas preocupantes. El diseño de proteínas impulsado por IA es una de las áreas más emocionantes y dinámicas de la IA en la actualidad, pero esta velocidad también genera inquietud sobre posibles usos maliciosos de las herramientas de AIPD. Tras el lanzamiento del Proyecto Paraphrase, creemos que hemos avanzado bastante en la caracterización y la resolución de las preocupaciones iniciales en un período de tiempo relativamente corto.
Existen múltiples maneras en que la IA podría utilizarse indebidamente para manipular la biología, incluyendo áreas más allá de las proteínas. Prevemos que estos desafíos persistirán, por lo que seguirá siendo necesario identificar y abordar las vulnerabilidades emergentes. Esperamos que nuestro estudio proporcione orientación sobre métodos y mejores prácticas que otros puedan adaptar o desarrollar. Esto incluye la adaptación de métodos de escenarios de respuesta a emergencias de ciberseguridad y el desarrollo de técnicas de «red-teaming» para la IA en biología, simulando los roles de atacante y defensor para probar, evadir y mejorar la detección de amenazas generadas por la IA de forma iterativa.
¿Qué fue lo que más te sorprendió de tus hallazgos?
Hubo varias sorpresas en el camino. Fue sorprendente ver la eficacia con la que un equipo intersectorial pudo unirse con tanta rapidez y colaborar tan estrechamente con rapidez, formando un grupo cohesionado que se reunió regularmente durante meses. Reconocimos los riesgos, alineamos el enfoque, nos adaptamos a una serie de hallazgos y nos comprometimos con el proceso y el esfuerzo hasta que desarrollamos y distribuimos una solución.
También nos sorprendió, e inspiró, el poder de las herramientas de IAPD, ampliamente disponibles en las ciencias biológicas, no solo para predecir la estructura de las proteínas, sino también para permitir el diseño de proteínas a medida. Las herramientas de IA para el diseño de proteínas facilitan y hacen más accesible esta labor. Esta accesibilidad reduce la barrera de la experiencia requerida, acelerando el progreso en biología y medicina, pero también puede aumentar el riesgo de mal uso. Preveo que algunos de los mayores logros de la IA se darán en las ciencias de la vida y la salud, pero nuestro estudio destaca por qué debemos ser proactivos, diligentes y creativos en la gestión de riesgos.
¿Puede explicar por qué debería interesar a la gente común el uso de la IA en biología? ¿Cuáles son los beneficios y los riesgos en la vida real?
Creo que es importante que todos comprendan el poder y la promesa de estas herramientas de IA, considerando tanto su increíble potencial para permitir avances revolucionarios en biología y medicina como nuestra responsabilidad colectiva de garantizar que beneficien a la sociedad en lugar de causar daño.
La capacidad de identificar y diseñar nuevas estructuras proteicas abre caminos para comprender la biología con mayor profundidad: cómo funcionan nuestras células, la base de la salud, el bienestar y la enfermedad, y cómo desarrollar nuevas curas y terapias. Algunas de las primeras aplicaciones se basaron en proteínas añadidas a detergentes para ropa, optimizadas para eliminar manchas. Más recientemente, el progreso se ha orientado hacia iniciativas sofisticadas para desarrollar proteínas a medida para funciones biológicas específicas, como nuevos antídotos para contrarrestar el veneno de serpiente.
Estos avances revolucionarios probablemente conducirán, durante nuestra vida, a descubrimientos como la ralentización o la cura del cáncer, el abordaje de enfermedades inmunitarias, la mejora de las terapias, el descubrimiento de misterios biológicos y la detección y mitigación de amenazas para la salud antes de que se propaguen. Al mismo tiempo, estas herramientas pueden ser explotadas de forma perjudicial. Por eso es fundamental combinar la innovación con medidas de protección: avances técnicos proactivos, como los que hemos priorizado en nuestro trabajo, la supervisión regulatoria y una ciudadanía informada.
¿Qué espera que el público en general extraiga de su estudio? ¿Deberíamos preocuparnos, ser optimistas o ambos?
Casi todos los grandes avances científicos son de doble uso: ofrecen grandes beneficios, pero también conllevan riesgos. Es importante protegerse de los peligros y aprovechar al máximo los beneficios, especialmente en la IA aplicada a la biología y la medicina, donde el potencial de progreso en salud es enorme.
Nuestro estudio demuestra que es posible invertir simultáneamente en innovación y protección. Al establecer barreras, políticas y defensas técnicas, podemos contribuir a que las personas y la sociedad se beneficien de las promesas de la IA, a la vez que reducimos el riesgo de un uso indebido perjudicial. Este enfoque dual no se aplica solo a la biología; es un marco que define cómo la humanidad debería invertir en la gestión de los avances de la IA en todas las disciplinas y dominios.
Imagen principal: Los investigadores descubrieron que era posible preservar los sitios activos de la proteína (ilustrados por las letras KES), mientras se reescribía la secuencia de aminoácidos.
Microsoft Blog. S. K. Traducido al español
