El mundo se encuentra en medio de una era sin precedentes de innovación en materia de inteligencia artificial.
De cara al futuro, habrá dos tipos de empresas: las que liderarán la IA y las que corren el riesgo de volverse irrelevantes.
Para las organizaciones que toman la IA en serio, la composición de su fuerza laboral está a punto de cambiar drásticamente.
Hoy, su fuerza laboral es completamente humana. Mañana, se expandirá exponencialmente para incluir una variedad de trabajadores de IA, incluidas aplicaciones, agentes, robots e incluso humanoides. Viviremos en un mundo donde los agentes de IA conectados y las personas trabajarán juntos para orquestar todo tipo de flujos de trabajo complejos. Y creo que esto se traducirá en ganancias masivas en productividad y capacidad, con considerables beneficios compartidos.
Imaginemos lo que una población humana de 8 mil millones de personas puede lograr si colectivamente tenemos la capacidad de 80 mil millones.
La pregunta, sin embargo, es ¿cómo podemos hacer esta transición de forma segura y protegida?
La adopción de IA presenta nuevos riesgos
Mantener la seguridad de la IA en una empresa es un problema difícil y relativamente nuevo. Esto se debe a que las aplicaciones de IA se crean de manera diferente, lo que agrega una nueva capa a la pila: los modelos. A diferencia de las aplicaciones tradicionales, los modelos de IA pueden comportarse de manera impredecible y la realidad es que la mayoría de las organizaciones utilizarán múltiples modelos en nubes públicas y privadas. Este panorama de múltiples modelos, múltiples nubes y múltiples agentes exige un nuevo enfoque de la seguridad.
Para aumentar aún más la apuesta, cuando los modelos fallan, las consecuencias pueden ser graves. Se deben abordar los problemas de seguridad (como el sesgo, la toxicidad o los resultados inadecuados), junto con las amenazas de actores externos que explotan las vulnerabilidades para robar datos confidenciales o comprometer la seguridad de otro modo. Los proveedores de modelos y los desarrolladores de aplicaciones implementarán sus propias salvaguardas, pero estas medidas, aunque necesarias, inevitablemente estarán fragmentadas e insuficientes.
En definitiva, sus equipos de seguridad necesitarán una capa común de visibilidad y control. No solo deben ver y comprender todos los lugares donde se utiliza la IA en su organización (tanto por parte de los usuarios como de los desarrolladores de aplicaciones), sino que también deben validar y aplicar continuamente sus medidas de seguridad preferidas sobre el comportamiento de los modelos, las aplicaciones y los agentes de IA.
Presentamos AI Defense: reimaginando la seguridad y la protección para la IA
Es necesario avanzar rápido con la IA, pero no se puede permitir sacrificar la seguridad por la velocidad. Por eso, hoy, en nuestra Cumbre de IA, anunciamos Cisco AI Defense , una solución diseñada para eliminar esta disyuntiva y permitirle innovar sin miedo.
AI Defense proporciona una protección sólida en dos áreas críticas:
- Acceso a aplicaciones de IA: las aplicaciones de IA de terceros pueden potenciar la productividad, pero plantean riesgos como la fuga de datos o las descargas maliciosas. Con AI Defense, obtiene una visibilidad completa del uso de las aplicaciones y aplica políticas que garantizan un acceso seguro, todo ello con la tecnología de Cisco Secure Access y mejorado con protecciones específicas de IA.
- Creación y ejecución de aplicaciones de IA: los desarrolladores necesitan la libertad de innovar sin preocuparse por vulnerabilidades o problemas de seguridad en sus modelos de IA. AI Defense descubre su huella de IA, valida los modelos para identificar vulnerabilidades, aplica medidas de seguridad y las hace cumplir en tiempo real en nubes públicas y privadas.
AI Defense se basa en dos innovaciones revolucionarias que somos pioneros: validación de IA continua y protección a escala.
Validación a escala
Debe asegurarse de que sus modelos de IA sean adecuados para su propósito y que no presenten vulnerabilidades, comportamientos inesperados, contaminación de datos u otros problemas.
En el caso de las aplicaciones tradicionales, se utilizaría un «equipo rojo» de personas para intentar descifrar la aplicación y encontrar vulnerabilidades. Lamentablemente, esto no es realista para los modelos de IA no deterministas.
Aquí es donde entra en juego nuestra capacidad de equipo rojo algorítmico de IA. Es una de las principales razones por las que Cisco adquirió Robust Intelligence el verano pasado. Son un equipo de pioneros en seguridad de IA que han desarrollado lo que creemos que es la primera solución de equipo rojo algorítmico del mundo.
El equipo rojo algorítmico de IA envía una serie sucesiva de variantes de indicaciones a un modelo para intentar que brinde respuestas que no debería. En lugar de tener un equipo rojo de miles de personas intentando desbloquear un modelo durante semanas, lo hacemos en apenas unos segundos.
Es como jugar a un juego de 100 preguntas, pero como está automatizado, es un juego de 1 billón de preguntas, y la IA hace que 1 billón parezca pequeño.
Una vez que AI Defense encuentra vulnerabilidades, recomienda medidas de seguridad que puede aplicar. Y lo hace de forma continua. Por lo tanto, cada vez que su modelo cambia o cada vez que hay un nuevo tipo de amenaza, su modelo se vuelve a validar y se aplican medidas de seguridad actualizadas.
Protección a escala
Gracias a nuestro enfoque de plataforma, podemos proteger la IA a escala de maneras que solo Cisco puede ofrecer.
Ya integramos la seguridad tradicional directamente en la red. Obtienes miles de puntos de control distribuidos, dondequiera que los necesites, cerca de los usuarios y de las cargas de trabajo. Estos puntos de control pueden estar en una aplicación en la nube pública, en la infraestructura en una nube privada, en un servidor, en un conmutador de la parte superior del rack o incluso en el borde.
AI Defense aprovecha al máximo este enfoque de plataforma para que sus barreras de protección de IA también estén hiperdistribuidas y disponibles donde las necesite. Obtendrá visibilidad total de toda su cobertura de IA y el control para aplicarlas en todas partes.
Además, AI Defense no presenta inconvenientes para los desarrolladores. De hecho, es invisible. No hay agentes, no requiere bibliotecas ni nada que ralentice el desarrollo. Esto significa que puede actuar con rapidez para crear nuevas experiencias de IA e innovar para sus clientes.
Tecnología diseñada específicamente con el respaldo de una inteligencia inigualable
AI Defense se basa en tecnología diseñada específicamente y en nuestros propios modelos de IA personalizados impulsados por Scale AI. Al trabajar en estrecha colaboración con líderes como Scale AI y aprovechar nuestra propia inteligencia patentada, AI Defense brinda información incomparable, lo que garantiza una protección rápida, eficiente y precisa.
Cómo liberar todo el potencial de la IA
Estoy increíblemente orgulloso de lo que nuestro equipo ha logrado con Cisco AI Defense. Esta solución permite a las organizaciones actuar con rapidez, innovar con audacia y aprovechar todo el potencial de la IA de forma segura y sin concesiones. CISCO Blog. J. P. Traducido al español
Contacto