NVIDIA NeMo Guardrails incluye nuevos microservicios NVIDIA NIM para mejorar la precisión, la seguridad y el control para las empresas que desarrollan IA en todas las industrias.
Los agentes de IA están preparados para transformar la productividad de los mil millones de trabajadores del conocimiento del mundo con «robots del conocimiento» que pueden realizar una variedad de tareas. Para desarrollar agentes de IA, las empresas deben abordar cuestiones críticas como la confianza, la seguridad y el cumplimiento normativo.
Los nuevos microservicios NVIDIA NIM para barandillas de inteligencia artificial (parte de la colección de herramientas de software NVIDIA NeMo Guardrails ) son microservicios de inferencia portátiles y optimizados que ayudan a las empresas a mejorar la seguridad, la precisión y la escalabilidad de sus aplicaciones de inteligencia artificial generativa.
NeMo Guardrails es un elemento central de la orquestación de los microservicios y forma parte de la plataforma NVIDIA NeMo para seleccionar, personalizar y proteger la IA. NeMo Guardrails ayuda a los desarrolladores a integrar y gestionar las protecciones de la IA en aplicaciones de modelos de lenguaje grandes (LLM). Los líderes de la industria, Amdocs, Cerence AI y Lowe’s, se encuentran entre los que utilizan NeMo Guardrails para proteger las aplicaciones de IA.
Los desarrolladores pueden usar los microservicios NIM para crear agentes de IA más seguros y confiables que brinden respuestas seguras y apropiadas dentro de pautas específicas del contexto y estén reforzados contra intentos de fuga de información. Implementados en el servicio de atención al cliente en sectores como la automoción, las finanzas, la atención médica, la fabricación y el comercio minorista, los agentes pueden aumentar la satisfacción y la confianza de los clientes.
Uno de los nuevos microservicios, creado para moderar la seguridad del contenido, se entrenó utilizando el conjunto de datos de seguridad de contenido de Aegis, una de las fuentes de datos anotadas por humanos de mayor calidad en su categoría. El conjunto de datos, seleccionado y propiedad de NVIDIA, está disponible públicamente en Hugging Face e incluye más de 35 000 muestras de datos anotados por humanos marcadas para la seguridad de la IA y los intentos de jailbreak para eludir las restricciones del sistema.
NVIDIA NeMo Guardrails mantiene a los agentes de IA en el buen camino
La IA está aumentando rápidamente la productividad de una amplia gama de procesos empresariales. En el servicio de atención al cliente, está ayudando a resolver los problemas de los clientes hasta un 40 % más rápido . Sin embargo, la ampliación de la IA para el servicio de atención al cliente y otros agentes de IA requiere modelos seguros que eviten resultados dañinos o inapropiados y garanticen que la aplicación de IA se comporte dentro de parámetros definidos.
NVIDIA ha presentado tres nuevos microservicios NIM para NeMo Guardrails que ayudan a los agentes de IA a operar a escala manteniendo un comportamiento controlado:
- Microservicio NIM de seguridad de contenido que protege a la IA contra la generación de resultados sesgados o dañinos, garantizando que las respuestas se alineen con los estándares éticos.
- Microservicio NIM de control de temas que mantiene las conversaciones centradas en temas aprobados, evitando digresiones o contenido inapropiado.
- Microservicio NIM de detección de jailbreak que agrega protección contra intentos de jailbreak, lo que ayuda a mantener la integridad de la IA en escenarios adversos.
Al aplicar múltiples modelos livianos y especializados como barandillas, los desarrolladores pueden cubrir brechas que pueden ocurrir cuando solo existen políticas y protecciones globales más generales, ya que un enfoque único para todos no protege ni controla adecuadamente los flujos de trabajo complejos de IA de agentes .
Los modelos de lenguaje pequeños, como los de la colección NeMo Guardrails, ofrecen una latencia menor y están diseñados para funcionar de manera eficiente, incluso en entornos distribuidos o con recursos limitados. Esto los hace ideales para escalar aplicaciones de IA en sectores como la atención médica, la automoción y la fabricación, en lugares como hospitales o almacenes.
Líderes y socios de la industria protegen la IA con NeMo Guardrails
NeMo Guardrails, disponible para la comunidad de código abierto, ayuda a los desarrolladores a orquestar múltiples políticas de software de IA (denominadas rieles) para mejorar la seguridad y el control de las aplicaciones LLM. Funciona con los microservicios NVIDIA NIM para ofrecer un marco sólido para crear sistemas de IA que se puedan implementar a escala sin comprometer la seguridad ni el rendimiento.
Amdocs, un proveedor global líder de software y servicios para empresas de comunicaciones y medios, está aprovechando NeMo Guardrails para mejorar las interacciones con los clientes impulsadas por IA al brindar respuestas más seguras, precisas y contextualmente apropiadas.
“Tecnologías como NeMo Guardrails son esenciales para proteger las aplicaciones de IA generativa, ya que ayudan a garantizar que funcionen de forma segura y ética”, afirmó Anthony Goonetilleke, presidente del grupo de tecnología y director de estrategia de Amdocs. “Al integrar NVIDIA NeMo Guardrails en nuestra plataforma amAIz, estamos mejorando las capacidades de ‘IA confiable’ de la plataforma para brindar experiencias de agentes que sean seguras, confiables y escalables. Esto permite a los proveedores de servicios implementar soluciones de IA de forma segura y con confianza, lo que establece nuevos estándares para la innovación en IA y la excelencia operativa”.
Cerence AI, una empresa especializada en soluciones de inteligencia artificial para la industria automotriz, utiliza NVIDIA NeMo Guardrails para garantizar que sus asistentes en el automóvil brinden interacciones seguras y apropiadas según el contexto, impulsadas por su familia CaLLM de modelos de lenguaje grandes y pequeños.
“Cerence AI se apoya en soluciones seguras y de alto rendimiento de NVIDIA para impulsar nuestras tecnologías de asistencia en el automóvil”, afirmó Nils Schanz, vicepresidente ejecutivo de productos y tecnología de Cerence AI. “El uso de NeMo Guardrails nos ayuda a ofrecer soluciones confiables y sensibles al contexto a nuestros clientes fabricantes de automóviles y brindar respuestas sensatas, conscientes y libres de alucinaciones. Además, NeMo Guardrails es personalizable para nuestros clientes fabricantes de automóviles y nos ayuda a filtrar solicitudes dañinas o desagradables, lo que protege nuestra familia de modelos de lenguaje CaLLM contra la entrega de contenido no deseado o inapropiado a los usuarios finales”.
Lowe’s, una de las principales cadenas minoristas de artículos para el hogar, está aprovechando la inteligencia artificial generativa para aprovechar la profunda experiencia de sus empleados de tienda. Al brindar un acceso mejorado a un conocimiento integral de los productos, estas herramientas permiten a los empleados responder las preguntas de los clientes, lo que les ayuda a encontrar los productos adecuados para completar sus proyectos y establece un nuevo estándar para la innovación minorista y la satisfacción del cliente.
“Siempre buscamos formas de ayudar a los asociados a superar las expectativas de nuestros clientes”, afirmó Chandhu Nair, vicepresidente sénior de datos, inteligencia artificial e innovación de Lowe’s. “Con nuestras recientes implementaciones de NVIDIA NeMo Guardrails, garantizamos que las respuestas generadas por inteligencia artificial sean seguras y confiables, y que se respeten los límites de las conversaciones para ofrecer solo contenido relevante y apropiado”.
Para acelerar aún más la adopción de protecciones de IA en el desarrollo y la implementación de aplicaciones de IA en el comercio minorista, NVIDIA anunció recientemente en la feria NRF que su NVIDIA AI Blueprint para asistentes de compras minoristas incorpora microservicios NeMo Guardrails para crear interacciones con los clientes más confiables y controladas durante las experiencias de compra digital.
Los líderes consultores Taskus, Tech Mahindra y Wipro también están integrando NeMo Guardrails en sus soluciones para brindar a sus clientes empresariales aplicaciones de IA generativa más seguras, confiables y controladas.
NeMo Guardrails es abierto y extensible, y ofrece integración con un sólido ecosistema de proveedores líderes de modelos de seguridad y barreras de seguridad de IA, así como herramientas de desarrollo y observabilidad de IA. Admite la integración con ActiveScore de ActiveFence , que filtra contenido dañino o inapropiado en aplicaciones de IA conversacionales y brinda visibilidad, análisis y monitoreo.
Hive, que proporciona sus modelos de detección de contenido generados por IA para imágenes, videos y contenidos de audio como microservicios NIM, se puede integrar y orquestar fácilmente en aplicaciones de IA utilizando NeMo Guardrails.
La plataforma Fiddler AI Observability se integra fácilmente con NeMo Guardrails para mejorar las capacidades de monitoreo de AI Guardrails. Y Weights & Biases, una plataforma de desarrollo de IA de extremo a extremo, está expandiendo las capacidades de W&B Weave al agregar integraciones con microservicios de NeMo Guardrails. Esta mejora se basa en la cartera existente de integraciones NIM de Weights & Biases para la inferencia de IA optimizada en producción.
NeMo Guardrails ofrece herramientas de código abierto para pruebas de seguridad de IA
Los desarrolladores que estén listos para probar la efectividad de la aplicación de modelos de protección y otras herramientas pueden usar NVIDIA Garak , un kit de herramientas de código abierto para LLM y escaneo de vulnerabilidades de aplicaciones desarrollado por el equipo de investigación de NVIDIA.
Con Garak, los desarrolladores pueden identificar vulnerabilidades en los sistemas que utilizan LLM al evaluarlos en busca de problemas como fugas de datos, inyecciones de mensajes, alucinaciones de código y escenarios de jailbreak. Al generar casos de prueba que involucran resultados inadecuados o incorrectos, Garak ayuda a los desarrolladores a detectar y abordar posibles debilidades en los modelos de IA para mejorar su solidez y seguridad.
Disponibilidad
Los microservicios NVIDIA NeMo Guardrails, así como NeMo Guardrails para la orquestación ferroviaria y el kit de herramientas NVIDIA Garak , ya están disponibles para desarrolladores y empresas. Los desarrolladores pueden comenzar a incorporar protecciones de IA en agentes de IA para el servicio de atención al cliente mediante NeMo Guardrails con este tutorial .
Consulte el aviso sobre la información del producto de software. NVIDIA News. Traducido al español
Contacto