Un spinout imperial ha recaudado fondos iniciales de £4.15 millones para software diseñado para garantizar que los sistemas de IA críticos para la seguridad y el negocio funcionen según lo previsto.
La plataforma ofrecida por spinout Inteligencia Segura está diseñado para validar el rendimiento de los modelos de IA en una amplia gama de escenarios y hacerlos más confiables.
Utiliza técnicas de verificación desarrolladas en Imperialals Departamento de Computación para validar cómo funcionarán los modelos en un conjunto más amplio de condiciones que los métodos de prueba estándar. También puede mejorar automáticamente los sistemas de IA para hacerlos más robustos a las entradas inesperadas que de otro modo podrían interrumpir su rendimiento.
Garantizar la seguridad y la robustez de la IA es uno de los desafíos más urgentes que enfrentamos. Con la experiencia del profesor Lomuscio y experimentados empresarios e inversores, Safe Intelligence hará una contribución importante.Dr. Simon HepworthCo-Director de Enterprise, Imperial College London
La compañía está trabajando con socios en una variedad de sectores de la industria para ayudar a superar una barrera clave para la adopción de la IA, es decir, la confianza insuficiente de que los modelos funcionarán según lo previsto en aplicaciones donde los errores podrían ser muy costosos o amenazar la seguridad humana.
Estos incluyen algoritmos de IA que podrían ser utilizados por las compañías de servicios financieros para tomar decisiones de préstamos y sistemas en desarrollo por el sector de la aviación para controlar aviones de carga autónomos.
El Dr. Manjari Chandran-Ramesh de Socios de Amadeus Capital, que lideró la ronda de semillas, dijo: “Los bancos, las aseguradoras y otras empresas que usan modelos complejos de IA internamente se están absteniendo de aplicarlos a la actividad de primera línea, orientada al cliente o regulada debido a los temores de que sus modelos no sean lo suficientemente robustos. Safe Intelligence puede identificar fragilidades, abordarlas y liberar el poder de la IA en todas las industrias, desde el transporte hasta las finanzas
El núcleo del problema es que para confiar en una IA, uno debe estar seguro de que responderá de manera confiable a escenarios que no ha encontrado antes. Esto es por naturaleza difícil de verificar, y el problema se ve agravado por el hecho de que los modelos de IA más sofisticados son más frágiles o propensos a cambios críticos de comportamiento en respuesta incluso a cambios muy pequeños en la entrada.
En lugar de probar cómo responden los modelos a las perturbaciones de entrada individuales, por ejemplo, cómo un piloto automático de IA aterrizará un avión bajo la condición de iluminación creada por una puesta de sol específica, la plataforma Safe Intelligenceis prueba de manera eficiente cómo responden a bibliotecas completas de perturbaciones de entrada –, por ejemplo, el conjunto completo de cambios de iluminación que podría crear una puesta de sol.
La tecnología se basa en décadas de investigación por el fundador Alessio Lomuscio, profesor de Inteligencia Artificial Segura en el Departamento de Computación de los Imperiales, quien lanzó el spinout en 2021. El profesor Lomuscio, que ahora se desempeña como Director de Tecnología, se ha unido al experto en IA de la industria, el Dr. Steven Willmott, como CEO de la compañía.
“Nuestra misión es proporcionar herramientas para mejorar radicalmente nuestra capacidad de validar los componentes aprendidos de la máquina y volver a un mundo donde podamos tener una gran confianza en nuestros sistemas,” dijo el Dr. Willmott.
Al inversor principal, Amadeus Capital Partners, se le une OTB Ventures y Ventures Vsquared, que están ayudando a Safe Intelligence a llevar su tecnología a los socios de la industria. La compañía actualmente ofrece su plataforma a los clientes a través de un programa de usuario temprano.
El Dr. Simon Hepworth, Codirector de Empresa (Comercialización) en el Imperial College de Londres, dijo: “Con AI listo para transformar la sociedad, garantizar su seguridad y robustez es uno de los desafíos más urgentes que enfrentamos. Al aprovechar la experiencia académica del profesor Lomuscio y el apoyo de empresarios e inversores experimentados, Safe Intelligence está preparada para hacer una contribución importante a este desafío.
«En Imperial, estamos ayudando a los académicos a crear soluciones comerciales a través de iniciativas como I-X y nuestras próximas Escuelas de Ciencia de la Convergencia, y el respaldo regular de los inversores es un fuerte voto de confianza en las personas y tecnologías de los imperialistas. Imperial College Londres News. D. S. Traducido al español
Contacto