Nuevas integraciones de IBM para ayudar a las empresas a mantener su IA agente (y otros sistemas de IA generativos) seguros y responsables a escala.
Las empresas pueden poner en rojo a los agentes del equipo, auditarlos, detectar agentes ocultos y más.
Hoy, mientras las empresas escalan agentes de IA en sus organizaciones, IBM (NYSE: IBM ) anuncia el primer software de la industria que reúne a los equipos de seguridad de IA y gobernanza de IA y brinda una visión unificada de la postura de riesgo de las empresas.
Las nuevas capacidades mejoran e integran watsonx.governance y Guardium AI Security para ayudar a los clientes a mantener sus sistemas de IA, incluidos los agentes, seguros y responsables a gran escala. Watsonx.governance es la herramienta integral de gobernanza de IA de IBM, y Guardium AI Security es la herramienta de IBM para proteger los modelos, los datos y el uso de la IA.
«Los agentes de IA están llamados a revolucionar la productividad empresarial, pero sus propios beneficios también pueden representar un desafío», afirmó Ritika Gunnar , directora general de Datos e IA de IBM . «Cuando estos sistemas autónomos no se gestionan ni protegen adecuadamente, pueden acarrear graves consecuencias».
Las nuevas ofertas de hoy incluyen:
Integración y automatización de la seguridad de la IA de Agentic
IBM está mejorando la integración de IBM Guardium AI Security y watsonx.governance, ofreciendo a las empresas la primera solución unificada para gestionar los riesgos de seguridad y gobernanza asociados a los casos de uso de IA. La integración facilita los procesos de los usuarios para validar los estándares de cumplimiento con 12 marcos diferentes, incluyendo la Ley de IA de la UE y la norma ISO 42001.
IBM también incorpora nuevas capacidades a Guardium AI Security gracias a una colaboración con AllTrue.ai , incluyendo la capacidad de detectar nuevos casos de uso de IA en entornos de nube, repositorios de código y sistemas embebidos, lo que proporciona amplia visibilidad y protección en un ecosistema de IA cada vez más descentralizado . Una vez identificados, IBM Guardium AI Security puede activar automáticamente los flujos de trabajo de gobernanza adecuados desde watsonx.governance.
Las actualizaciones recientes de IBM Guardium AI Security también incluyen la automatización de equipos rojos para ayudar a las empresas a detectar y corregir vulnerabilidades y errores de configuración en los casos de uso de IA. Para mitigar riesgos como la inyección de código, la exposición de datos confidenciales y la fuga de datos, la herramienta permite a los usuarios definir políticas de seguridad personalizadas que analizan las solicitudes de entrada y salida. Estas funciones ya están disponibles en IBM Guardium AI Security y su integración con watsonx.governance se implementará a lo largo del año.
«El futuro de la IA depende de qué tan bien la protejamos hoy. Integrar la seguridad desde el principio es esencial para proteger los datos, cumplir con las obligaciones de cumplimiento y generar una confianza duradera», afirmó Suja Viswesan, vicepresidenta de Seguridad y Productos de Tiempo de Ejecución de IBM .
«Uno de los mayores desafíos para los equipos de seguridad es traducir los incidentes y las infracciones de cumplimiento en riesgos empresariales cuantificables. La rápida adopción de la IA y la IA agenética agrava este problema», afirmó Jennifer Glenn , directora de investigación del Grupo de Seguridad y Confianza de IDC . «Unificar la gobernanza de la IA con la seguridad de la IA proporciona a las organizaciones el contexto necesario para identificar y priorizar los riesgos, así como la información para comunicar claramente las consecuencias de no abordarlos».
Evaluación mejorada de la IA agentica y gobernanza del ciclo de vida
IBM watsonx.governance ahora puede supervisar y gestionar agentes de IA durante todo su ciclo de vida, desde el desarrollo hasta la implementación. Los nodos de evaluación se pueden integrar directamente en los agentes, lo que permite a los usuarios supervisar cuidadosamente métricas como la relevancia de las respuestas, la relevancia del contexto y la fidelidad, y ayuda a identificar la causa raíz de un rendimiento deficiente. Las futuras funciones planificadas también incluyen la evaluación de riesgos de la incorporación de agentes, registros de auditoría de agentes y un catálogo de herramientas de Agentic, cuya disponibilidad está prevista para el 27 de junio .
Capacidades de cumplimiento listas para usar
Los Aceleradores de Cumplimiento de IBM watsonx.governance ofrecen una selección de regulaciones, estándares y marcos preinstalados de todo el mundo, lo que permite a los usuarios identificar obligaciones relevantes e integrarlas en sus propios casos de uso de IA. El contenido abarca regulaciones clave como la Ley de IA de la UE, el SR 11-7 de la Reserva Federal de EE. UU. y la Ley Local 144 de la Ciudad de Nueva York, además de estándares globales como la ISO/IEC 42001 y marcos como el RMF de IA del NIST. Los Aceleradores de Cumplimiento de Watsonx.governance ya están disponibles como complemento.
Experiencia para escalar la IA de forma responsable
Para ayudar a los clientes a escalar la IA de forma responsable, IBM Consulting Cybersecurity Services presenta un nuevo conjunto de servicios que integra plataformas de seguridad de datos, como IBM Guardium AI Security, con tecnología de IA avanzada y consultoría de dominio. Los nuevos servicios apoyarán a las organizaciones en su proceso de transformación hacia la IA: desde el descubrimiento de implementaciones de IA y posibles vulnerabilidades, hasta la implementación de prácticas de seguridad por diseño en todas las capas de IA, y la orientación en materia de gobernanza para un panorama regulatorio en constante evolución. Los nuevos servicios se basan en la experiencia de IBM Consulting ayudando a cientos de clientes en todo el mundo en estrategias y gobernanza de IA, incluyendo Nationwide Building Society y e&.
Para brindar a los clientes de AWS mayor valor y conveniencia, watsonx.governance ahora también está disponible en el centro de datos de AWS en India con capacidades mejoradas de monitoreo de modelos.
Las nuevas capacidades e integraciones actuales brindan a las empresas la gobernanza y la seguridad integrales que necesitan para prosperar en la era de la IA generativa. Estas innovaciones también se integran con la suite más amplia de soluciones de IA IBM Watsonx , diseñadas para ayudar a las empresas a acelerar el impacto de la IA generativa de forma responsable y segura. IBM News. Traducido al español
