La integración de la IA en los sistemas existentes presenta desafíos relacionados con la transparencia, la precisión y la seguridad, que pueden impedir su adopción y alterar los flujos de trabajo.
En el vertiginoso entorno empresarial actual, ofrecer un servicio al cliente excepcional ya no es solo algo deseable: es una necesidad. Ya sea que se trate de abordar problemas técnicos, resolver preguntas sobre facturación o proporcionar actualizaciones de servicio, los clientes esperan respuestas rápidas, precisas y personalizadas cuando les resulte conveniente. Sin embargo, lograr este nivel de servicio conlleva desafíos importantes.
Los enfoques tradicionales, como los scripts estáticos o los procesos manuales, suelen ser insuficientes a la hora de ofrecer un soporte personalizado y en tiempo real. Además, muchas operaciones de atención al cliente dependen de datos confidenciales y fragmentados, que están sujetos a estrictas normas de privacidad y gobernanza de datos. Con el auge de la IA generativa, las empresas aspiran a revolucionar el servicio al cliente mejorando la eficiencia operativa, reduciendo los costes y maximizando el retorno de la inversión.
La integración de la IA en los sistemas existentes presenta desafíos relacionados con la transparencia, la precisión y la seguridad, que pueden impedir su adopción y alterar los flujos de trabajo. Para superar estos obstáculos, las empresas están aprovechando los asistentes virtuales basados en IA generativa para gestionar una amplia gama de tareas, lo que en última instancia mejora los tiempos de respuesta y libera recursos.
En esta publicación, se describe cómo los desarrolladores pueden usar el asistente virtual de IA para el servicio al cliente NVIDIA NIM Agent Blueprint para escalar las operaciones con IA generativa. Al aprovechar esta información, incluido el código de muestra, las empresas pueden satisfacer las crecientes demandas de un servicio al cliente excepcional y, al mismo tiempo, garantizar la integridad y la gobernanza de los datos. Ya sea que se mejoren los sistemas existentes o se creen nuevos, este plan permite a los equipos satisfacer las necesidades de los clientes con interacciones eficientes y significativas.
Asistentes virtuales de IA más inteligentes con un motor de consulta de IA que utiliza generación aumentada por recuperación
Al crear un asistente virtual de IA, es importante alinearlo con los requisitos de uso específicos, el conocimiento institucional y las necesidades de la organización. Sin embargo, los bots tradicionales a menudo se basan en marcos rígidos y métodos obsoletos que tienen dificultades para satisfacer las demandas cambiantes del panorama actual de servicio al cliente.
En todos los sectores, los asistentes basados en IA pueden ser transformadores. Por ejemplo, las empresas de telecomunicaciones y la mayoría de los proveedores minoristas y de servicios pueden utilizar asistentes virtuales de IA para mejorar la experiencia del cliente ofreciendo asistencia las 24 horas del día, los 7 días de la semana, atendiendo una amplia gama de consultas de clientes en varios idiomas y proporcionando interacciones dinámicas y personalizadas que agilizan la resolución de problemas y la gestión de cuentas. Esto ayuda a reducir los tiempos de espera y garantiza un servicio constante para las diversas necesidades de los clientes.
Otro ejemplo es el de la industria de los seguros médicos, donde garantizar una experiencia positiva para los miembros es fundamental. Los asistentes virtuales mejoran esta experiencia al brindar asistencia personalizada a los miembros, abordar sus reclamos, consultas sobre cobertura, beneficios y problemas de pago, todo mientras se asegura el cumplimiento de las regulaciones de atención médica. Esto también ayuda a reducir la carga administrativa de los trabajadores de la salud.
Con la plataforma NVIDIA AI, las organizaciones pueden crear un motor de consulta de IA que utiliza la generación aumentada por recuperación (RAG) para conectar las aplicaciones de IA a los datos empresariales. El asistente virtual de IA NIM Agent Blueprint permite a los desarrolladores comenzar rápidamente a crear soluciones que brinden experiencias mejoradas al cliente. Se crea utilizando los siguientes microservicios NVIDIA NIM :
- NVIDIA NIM para LLM: lleva la potencia de los modelos de lenguaje grande (LLM) de última generación a las aplicaciones, proporcionando un procesamiento de lenguaje natural inigualable con una eficiencia notable.
- Llama 3.1 70B Instruct NIM : potencia conversaciones complejas con comprensión contextual, razonamiento y generación de texto superiores.
- NVIDIA NeMo Retriever NIM: esta colección proporciona un acceso sencillo a modelos de última generación que sirven como bloques de construcción fundamentales para los canales de RAG. Estos canales, cuando se integran en soluciones de asistentes virtuales, permiten un acceso sin inconvenientes a los datos empresariales, lo que permite liberar el conocimiento institucional a través de respuestas rápidas, precisas y escalables.
- NeMo Retriever Embedding NIM : mejora el rendimiento de recuperación de preguntas y respuestas de texto, proporcionando incrustaciones de alta calidad para el asistente virtual posterior.
- NeMo Retriever Reranking NIM : mejora aún más el rendimiento de recuperación con un reranker perfeccionado, que encuentra los pasajes más relevantes para proporcionarlos como contexto al consultar un LLM.
El modelo está diseñado para integrarse sin problemas con las aplicaciones de servicio al cliente existentes sin infringir los requisitos de seguridad de la información. Gracias a la portabilidad de NVIDIA NIM, las organizaciones pueden integrar los datos dondequiera que se encuentren. Al incorporar IA generativa a los datos, esta arquitectura permite que los asistentes virtuales de IA brinden experiencias más personalizadas adaptadas a cada cliente aprovechando sus perfiles únicos, historiales de interacción del usuario y otros datos relevantes.
Un plano es un punto de partida que se puede personalizar para el caso de uso exclusivo de una empresa. Por ejemplo, integre otros microservicios NIM, como Nemotron 4 Hindi 4B Instruct , para permitir que un asistente virtual de IA se comunique en el idioma local. Otros microservicios pueden habilitar capacidades adicionales, como la generación de datos sintéticos y el ajuste fino del modelo, para alinearse mejor con los requisitos específicos de su caso de uso. Ofrezca al asistente virtual de IA una interfaz similar a la humana cuando se conecte al plano del agente NIM humano digital.
Con la implementación de un backend RAG con datos propios (tanto de la empresa como del perfil del usuario y sus datos específicos), el asistente virtual de IA puede entablar conversaciones altamente contextuales, abordando los detalles específicos de las necesidades de cada cliente en tiempo real. Además, la solución opera de forma segura dentro de sus marcos de gobernanza existentes, lo que garantiza el cumplimiento de los protocolos de privacidad y seguridad, especialmente cuando se trabaja con datos confidenciales.
Tres elementos básicos para crear tu propio asistente virtual de IA
Como desarrollador, puede crear su propio asistente virtual de IA que recupera la información más relevante y actualizada, en tiempo real, con respuestas cada vez mejores y similares a las de los humanos. La figura 1 muestra el diagrama de la arquitectura del asistente virtual de IA, que incluye tres componentes funcionales.
1. Canal de ingesta y recuperación de datos
Los administradores de canalización utilizan la canalización de ingesta para cargar datos estructurados y no estructurados en las bases de datos. Algunos ejemplos de datos estructurados son los perfiles de clientes, el historial de pedidos y el estado de los pedidos. Los datos no estructurados incluyen los manuales de productos, el catálogo de productos y material de apoyo, como documentos de preguntas frecuentes.
2. Agente de IA
El asistente virtual de IA es el segundo componente funcional. Los usuarios interactúan con el asistente virtual a través de una interfaz de usuario. Un agente de IA, implementado en el marco de programación LLM de LangGraph, planifica cómo manejar consultas complejas de los clientes y las resuelve de forma recursiva. El agente de LangGraph utiliza la función de llamada de herramientas del NIM Instruct de Llama 3.1 70B para recuperar información de las fuentes de datos estructurados y no estructurados y luego genera una respuesta precisa.
El agente de IA también utiliza funciones de memoria a corto y largo plazo para permitir el historial de conversaciones de múltiples turnos. Las consultas y respuestas de conversaciones activas se integran para que se puedan recuperar más adelante en la conversación como contexto adicional. Esto permite interacciones más parecidas a las humanas y elimina la necesidad de que los clientes repitan la información que ya han compartido con el agente.
Finalmente, al final de la conversación, el agente de IA resume la conversación junto con una determinación de sentimientos y almacena el historial de la conversación en la base de datos estructurada. Las interacciones posteriores del mismo usuario se pueden recuperar como contexto adicional en conversaciones futuras. El resumen de llamadas y la recuperación del historial de conversaciones pueden reducir el tiempo de las llamadas y mejorar la experiencia del cliente. La determinación de sentimientos puede proporcionar información valiosa al administrador de servicio al cliente sobre la eficacia del agente.
3. Tubería de operaciones
El canal de operaciones del cliente es el tercer componente funcional de la solución general. Este canal proporciona información y perspectivas importantes a los operadores de servicio al cliente. Los administradores pueden utilizar el canal de operaciones para revisar el historial de chat, los comentarios de los usuarios, los datos de análisis de opiniones y los resúmenes de llamadas. El microservicio de análisis, que aprovecha el NIM Llama 3.1 70B Instruct, se puede utilizar para generar análisis como el tiempo promedio de llamada, el tiempo de resolución y la satisfacción del cliente. Los análisis también se aprovechan como comentarios de los usuarios para volver a entrenar los modelos LLM y mejorar la precisión.
Llegue a producción con los socios de NVIDIA
Los socios consultores de NVIDIA están ayudando a las empresas a adoptar asistentes virtuales de IA de primer nivel creados con computación acelerada de NVIDIA y el software NVIDIA AI Enterprise , que incluye NeMo, microservicios NIM y NIM Agent Blueprints.
Accenture
Accenture AI Refinery, construida sobre NVIDIA AI Foundry , ayuda a diseñar interacciones con los clientes autónomas y basadas en intenciones, lo que permite a las empresas personalizar la experiencia de cada individuo a través de canales innovadores, como humanos digitales o agentes de interacción. Se pueden adaptar casos de uso específicos para satisfacer las necesidades de cada industria, por ejemplo, centros de llamadas de telecomunicaciones, asesores de pólizas de seguros, agentes interactivos farmacéuticos o agentes de redes de concesionarios de automóviles.
Deloitte
Deloitte Frontline AI mejora la experiencia de servicio al cliente con avatares digitales y agentes LLM creados con NVIDIA NIM Agent Blueprints que están acelerados por tecnologías NVIDIA como NVIDIA ACE, NVIDIA Omniverse, NVIDIA Riva y NIM.
Wipro
Wipro Enterprise Generative AI (WeGA) Studio acelera los casos de uso específicos de la industria, incluidos los agentes de centros de contacto en los sectores de atención médica, servicios financieros, venta minorista y más.
Tecnología Mahindra
Tech Mahindra está aprovechando el modelo de agente NIM humano digital de NVIDIA para crear soluciones de servicio al cliente. Mediante el uso de RAG y NVIDIA NeMo, la solución ofrece la posibilidad de que un aprendiz detenga a un agente durante una conversación levantando la mano para hacer preguntas aclaratorias. El sistema está diseñado para conectarse con microservicios en el backend con un sistema de gestión de aprendizaje refinado que se puede implementar en muchos casos de uso de la industria.
Sistemas de información
Infosys Cortex , parte de Infosys Topaz , es una plataforma de interacción con el cliente impulsada por IA que integra NVIDIA NIM Agent Blueprints y las tecnologías NVIDIA NeMo, Riva y ACE para IA generativa, IA de voz y capacidades humanas digitales para brindar asistencia especializada, individualizada, proactiva y a pedido a cada miembro de una organización de servicio al cliente, desempeñando en consecuencia un papel fundamental en la mejora de la experiencia del cliente, la mejora de la eficiencia operativa y la reducción de costos.
Servicios de consultoría de Tata
El agente virtual de Tata Consultancy Services (TCS), con tecnología NVIDIA NIM e integrado con el agente virtual de TI de ServiceNow, está diseñado para optimizar el soporte de TI y RR. HH. Esta solución utiliza la optimización rápida y RAG para mejorar los tiempos de respuesta y la precisión, y brindar capacidades de conversación multi-turno. Los beneficios incluyen menores costos de la mesa de ayuda, menos tickets de soporte, mejor utilización del conocimiento, implementación más rápida y una mejor experiencia general de los empleados y clientes.
Cuantiphi
Quantiphi está integrando NVIDIA NIM Agent Blueprints en sus soluciones de IA conversacional para mejorar el servicio al cliente con avatares digitales realistas. Estos avatares de última generación, impulsados por las tecnologías NVIDIA Tokkio y ACE, los microservicios NVIDIA NIM y NVIDIA NeMo , se integran a la perfección con las aplicaciones empresariales existentes, lo que mejora las operaciones y las experiencias de los clientes con mayor realismo. Las implementaciones de NIM optimizadas para flujos de trabajo de avatares digitales han demostrado ser muy rentables y reducen el gasto empresarial en tokens.
Servicio suave
SoftServe Digital Concierge , acelerado por NVIDIA NIM Agent Blueprints y los microservicios NVIDIA NIM, utiliza NVIDIA ACE, NVIDIA Riva y el microservicio NVIDIA Audio2Face NIM para ofrecer un asistente virtual sumamente realista. Gracias a la herramienta Character Creator, ofrece expresiones faciales y de voz con una precisión notable y detalles realistas.
Con las capacidades RAG de NVIDIA NeMo Retriever, SoftServe Digital Concierge puede responder de manera inteligente a las consultas de los clientes haciendo referencia al contexto y brindando información específica y actualizada. Simplifica las consultas complejas en respuestas claras y concisas y también puede brindar explicaciones detalladas cuando sea necesario.
Extremo
La oferta Smart Agent Assist de EXL es una solución de inteligencia artificial para centros de contacto que aprovecha los microservicios NVIDIA Riva, NVIDIA NeMo y NVIDIA NIM. EXL planea ampliar su solución utilizando el modelo de asistente virtual de inteligencia artificial NVIDIA NIM Agent.
Esta semana, en la Cumbre de IA de NVIDIA en India , los socios consultores de NVIDIA anunciaron una colaboración con NVIDIA para transformar a India en una oficina de atención al cliente para IA. Con las tecnologías de NVIDIA, estos gigantes de la consultoría pueden ayudar a los clientes a adaptar el modelo de agente de servicio al cliente para crear asistentes virtuales únicos utilizando su modelo de IA preferido (incluidos los LLM soberanos de los creadores de modelos con sede en India) y ejecutarlos en producción de manera eficiente en la infraestructura de su elección. Nvidia. Blog técnico. I. H. y R. K. Traducido al español
Contacto