La IA es una de las tecnologías de más rápido crecimiento en la historia y es fácil ver por qué.
Todos vemos su valor en la vida cotidiana. Nos está ayudando a escribir correos electrónicos, resumir reuniones e incluso enseñar matemáticas a nuestros hijos. Y lo que estamos haciendo hoy es solo una fracción de lo que podremos hacer dentro de unos pocos años.
Creo que la IA será realmente un positivo neto para la sociedad y la economía. Pero tan inspirador y emocionante como es la IA, también nos presenta el desafío más difícil en la historia de la ciberseguridad. Irónicamente, si bien se ha culpado a la seguridad por ralentizar la adopción de tecnología en el pasado, creemos que adoptar el enfoque correcto para la seguridad hoy en día será realmente acelerar la adopción de la IA.
Esta semana en RSA en San Francisco, IiM presenta el caso de lo que hace que la IA sea un desafío de seguridad único. Y en Cisco, Weimve lanzó una gama de innovaciones diseñadas para ayudar a las empresas a equipar a sus equipos de ciberseguridad increíblemente sobrecargados de trabajo y con poco personal con las herramientas de IA que necesitan para proteger a sus empresas en esta era de IA.
¿Qué tiene de difícil asegurar la IA de todos modos?
Todo comienza con los propios modelos de IA. A diferencia de las aplicaciones tradicionales, las aplicaciones de IA tienen modelos (a veces más de uno) integrado en su pila. Estos modelos son inherentemente impredecibles y no deterministas. En otras palabras, por primera vez, estamos asegurando sistemas que piensan, hablan y actúan de manera autónoma de manera que no podemos predecir completamente. Eso es un cambio de juego para la ciberseguridad.
Con la IA, una violación de seguridad no se trata solo de que alguien robe datos privados o cierre un sistema. Ahora, se trata de la inteligencia central que impulsa a que su negocio se vea comprometido. Eso significa que millones de decisiones y acciones en curso podrían ser manipuladas en un instante. Y a medida que las empresas utilicen la IA en partes de misión crítica de sus organizaciones, las apuestas solo aumentarán.
¿Cómo nos mantenemos seguros en el mundo de la IA?
En Cisco, estamos enfocados en ayudar a las operaciones de seguridad con poco personal y exceso de trabajo y a los líderes de TI a abordar esta nueva clase de riesgos relacionados con la IA. A principios de este año, lanzamos Defensa AI, la primera solución de este tipo. Brinda a los equipos de seguridad un sustrato común en toda su empresa, ayudándoles a ver en todas partes donde se está utilizando la IA; valida continuamente que los modelos de IA no están comprometidos; y hace cumplir las barandillas de seguridad en el camino.
También anunciamos recientemente una asociación con NVIDIA para entregar Fábricas de IA seguras que combinan la potencia informática de IA de NVIDIAia con nuestra tecnología de red para proteger los sistemas de IA en cada capa de la pila. Y hoy presentamos una nueva asociación con ServiceNow. Se están integrando Defensa AI en su plataforma para centralizar la gestión y gobernanza de riesgos de IA, facilitando a los clientes la visibilidad, reduciendo las vulnerabilidades y rastreando el cumplimiento. Esto garantiza que las organizaciones tengan una única fuente de verdad para administrar los riesgos y el cumplimiento de la IA.
En otros desarrollos en RSA esta semana, weitre también continúa cumpliendo con:
- Nuevas capacidades de IA agentic dentro de Cisco XDR:detección y respuesta rápida de amenazas multimodelo y multiagente.
- Mejoras a Splunk Enterprise Security:Splunk SOAR 6.4 es GA y Splunk ES 8.1 eso será GAen Junio
- AI Gestión de Riesgos de la Cadena de Suministro:Nuevas capacidades para identificar y bloquear modelos de IA maliciosos antes de que entren en la empresa.
Puedes leer más sobre todo esto innovaciones aquí
Finalmente, también presentamos Foundation AI, un nuevo equipo de los mejores expertos en IA y seguridad enfocados en acelerar la innovación para los equipos de seguridad cibernética. Este anuncio incluye el lanzamiento del primer modelo de razonamiento de peso abierto de la industria construido específicamente para la seguridad. La comunidad de seguridad necesitaba un modelo de IA y estamos encantados de abrir esta nueva área de innovación.
El modelo Foundation AI Security es un parámetro de 8 mil millones, de peso abierto LLM diseñado desde cero para la ciberseguridad. El modelo fue pre-entrenado en conjuntos de datos cuidadosamente seleccionados que capturan el lenguaje, la lógica y el conocimiento del mundo real y los flujos de trabajo con los que los profesionales de la seguridad trabajan todos los días. El modelo es:
- Construido para la seguridad — 5 Mil millones de fichas destiladas de 900 mil millones;
- Fácilmente personalizable — 8B parámetros pre-entrenados en un modelo Llama; y cualquiera puede descargar y entrenar;
- Altamente eficiente — Es un modelo de razonamiento que puede ejecutarse en 1-2 A100s vs 32+ H100s;
Estamos lanzando este modelo y las herramientas asociadas como código abierto en un primer paso hacia la construcción de lo que llamamos Seguridad Super Inteligente.
A medida que trabajamos con la comunidad, desarrollaremos versiones afinadas de este modelo y crearemos agentes autónomos que trabajarán junto a los humanos en tareas y análisis de seguridad complejos. El objetivo es hacer que la seguridad funcione a escala de máquina y mantenernos muy por delante de los malos actores.
Puedes leer más sobre Fundación AI y su misión aquí.
La seguridad es un deporte de equipo
Decidimos abrir el modelo de Foundation AI Security porque, en ciberseguridad, el verdadero enemigo es el adversario que intenta explotar nuestros sistemas. Creo que la IA es el desafío de seguridad más difícil de la historia. Sin duda, eso significa que debemos trabajar juntos como industria para garantizar que la seguridad de la IA se incremente tan rápido como la IA que está cambiando tan rápidamente nuestro mundo. CISCO Blog. P. J. Traducido al español
