Categoría: Nube e Infraestructura como Servicio

En el mundo actual basado en datos, la capacidad de recuperar información precisa incluso de cantidades modestas de datos es vital para los desarrolladores que buscan soluciones optimizadas y efectivas para implementaciones rápidas, creación de prototipos o experimentación.  Uno de los desafíos clave en la recuperación de información es administrar las diversas modalidades en conjuntos de datos no estructurados, incluidos texto, archivos PDF, imágenes, tablas, audio, video, etc.  Los modelos multimodales de IA abordan este desafío procesando simultáneamente múltiples modalidades de datos, generando una salida cohesiva y completa en diferentes formas. NIM NVIDIA los microservicios simplifican el despliegue seguro y confiable de la IA modelos de fundación para el lenguaje, visión por computadora, habla, biología y más.  Los microservicios NIM se pueden implementar en la infraestructura acelerada por NVIDIA en cualquier lugar y exponer las API estándar de la industria para una rápida integración con aplicaciones y marcos de desarrollo de IA populares, incluidos LangChain y LlamaIndex. Esta publicación te ayuda a comenzar a construir un modelo de lenguaje de visión (VLM) basado, multimodal, sistema de recuperación de información capaz de responder a consultas complejas que involucran texto, imágenes y tablas. Lo guiamos a través de la implementación de una aplicación utilizando LangGraph, el estado del arte llama-3.2-90b-visión-instruct VLM, el optimizado mistral-pequeño-24B-instruct modelo de lenguaje grande (LLM) y NVIDIA NIM para implementación.   Este método de construcción de sistemas simples de recuperación de información ofrece varias ventajas sobre los tradicionales. El último microservicio VLM NIM permite una mejor comprensión contextual mediante el procesamiento de documentos visuales largos y complejos sin sacrificar la coherencia. La integración de Llamadas a herramientas de LangChaina permite al sistema crear herramientas, seleccionar y utilizar dinámicamente herramientas externas y mejorar la precisión de la extracción e interpretación de datos de diversas fuentes.  Este sistema es bueno para aplicaciones empresariales porque genera salidas estructuradas, asegurando consistencia y confiabilidad en las respuestas. Para obtener más información sobre los pasos de implementación de este sistema, consulte el /NVIDIA/GenerativeAIExamples Repo gitHub. Una simple tubería de recuperación multimodal HTML El sistema consta de las siguientes tuberías:  Ambas tuberías integran NVIDIA NIM y LangGraph para procesar y comprender texto, imágenes, visualizaciones complejas y tablas de manera efectiva. Tubería de ingestión y preprocesamiento de datos Esta etapa analiza documentos para procesar texto, imágenes y tablas por separado. Las tablas se convierten primero en imágenes, y las imágenes son procesadas por el punto final de la API de microservicio NIM alojado en NVIDIA para que el VLM llama-3.2-90b-vision-instruct genere texto descriptivo.  A continuación, en el paso de reconstrucción del documento, el texto descriptivo se fusiona con el texto original del documento, luego se resume en un LLM con modelado de contexto largo capacidad. En esta implementación, llama-3.2-90b-vision-instruct también se usa como LLM, aunque también se pueden implementar otros LLM como mistral-small-24b-instruct.  Finalmente, el texto completo, los resúmenes, las imágenes y sus descripciones se almacenan en una base de datos NoSQL, junto con identificadores de documentos únicos. LLM con modelado de contexto largo puede procesar documentos completos sin fragmentación, mejorando la comprensión del documento en una sola pasada y capturando relaciones y matices en tramos más largos de texto, lo que lleva a una recuperación de información más precisa.  Por el contrario, los modelos tradicionales pueden manejar entradas de hasta unos pocos miles de tokens, lo que requiere que los documentos largos se dividan en trozos más pequeños para que quepan dentro de la ventana de contexto de las modelaciones. Este proceso de procesamiento puede alterar la coherencia y el contexto, lo que dificulta la recuperación precisa y la clasificación de la información relevante.  Sin embargo, el modelado de contexto largo presenta desafíos relacionados con la escalabilidad y el costo, que deben tenerse en cuenta al negociar con mayor precisión. tubería QA Todos los resúmenes de documentos y sus identificadores se compilan en un mensaje grande. Cuando se envía una consulta, a LLM con modelado de contexto largo (mistral-small-24b-instruct en este caso) procesa la pregunta, evalúa la relevancia de cada resumen para la consulta y devuelve los identificadores de los documentos más relevantes. A continuación, los documentos más relevantes se introducen en un LLM con un contexto largo (mistral-small-24b-instruct). El modelo genera una respuesta a la consulta basada en el contenido textual. Si el modelo identifica que una imagen puede contener información pertinente basada en su texto descriptivo, se activa un paso adicional: la imagen original y la pregunta de los usuarios se envían al VLM (llama-3.2-90b-vision-instruct), que puede proporcionar una respuesta basada en el contenido visual real.  Finalmente, el sistema combina ideas textuales y visuales para ofrecer una respuesta integral. Las salidas estructuradas aseguran que los datos devueltos por el modelo se ajusten a un formato predefinido, lo que facilita la extracción de información específica y la realización de operaciones posteriores. Por el contrario, las salidas no estructuradas o variables pueden introducir ambigüedades y dificultades para analizar las respuestas de los modelos, lo que dificulta la automatización y la integración con otros sistemas.  La generación de datos estructurados a partir de modelos generalmente requiere instrucciones cuidadosamente diseñadas para guiar al modelo a responder en un formato particular, como JSON. Sin embargo, garantizar una adherencia constante a esta estructura puede ser un desafío debido a la tendencia natural de models’ a generar texto de forma libre.  NVIDIA NIM ahora es compatible de forma nativa capacidades para generar salidas estructuradas. Esto significa que puede confiar en las funcionalidades integradas para asegurarse de que las respuestas de las modelaciones estén formateadas de manera consistente, lo que reduce la necesidad de una ingeniería rápida compleja. Integración de NVIDIA NIM con LangGraph  NVIDIA NIM ofrece una compatibilidad perfecta con marcos populares y los últimos modelos de IA para sus aplicaciones. La implementación de la tubería integra NVIDIA NIM con LangGraph, un marco para construir aplicaciones agentic para determinar el flujo de control, que ha sido ampliamente adoptado por la comunidad de desarrolladores. Para orquestar el flujo de trabajo de esta tubería, el gráfico consta principalmente de dos nodos:  Nodo asistente  El nodo asistente es un agente primario que opera de acuerdo con el flujo de trabajo descrito en la Figura 3. El código

– Granite 3.2 – pequeños modelos de IA que ofrecen capacidades de razonamiento, visión y barandilla con una licencia amigable para el desarrollador – Modelos actualizados de series de tiempo Granite que ofrecen pronósticos de largo alcance con menos de 10M parámetros ARMONK, N.Y., 26 De febrero de 2025 /PRNewswire/ — IBM (NYSE: IBM) hoy debutó la próxima generación de su familia Granite big language model (LLM), Granite 3.2, en un esfuerzo continuo por ofrecer IA empresarial pequeña, eficiente y práctica para el impacto en el mundo real. Todos los modelos Granite 3.2 están disponibles bajo la licencia permisiva Apache 2.0 en Hugging Face. Los modelos seleccionados están disponibles hoy en IBM watsonx.ai, Ollama, Replicate y LM Studio, y se esperan pronto en RHEL AI 1.5 –, brindando capacidades avanzadas a las empresas y la comunidad de código abierto. Los puntos destacados incluyen: La estrategia de IBM para ofrecer modelos de IA más pequeños y especializados para empresas continúa demostrando eficacia en las pruebas, con el Granite 3.1 8B modelo que recientemente produjo altas calificaciones en la precisión en el Salesforce LLM Benchmark para CRM. La familia de modelos Granite cuenta con el apoyo de un sólido ecosistema de socios, incluidas las principales compañías de software que incorporan los LLM en sus tecnologías. «En CrushBank, hemos visto de primera mano cómo los modelos de IA abiertos y eficientes de IBM ofrecen un valor real para la IA empresarial –, ofreciendo el equilibrio adecuado de rendimiento, rentabilidad y escalabilidad», dijo Tan David, CTO, CrushBank. «Granite 3.2 lo lleva más allá con nuevas capacidades de razonamiento, y estamos entusiasmados de explorarlos en la construcción de nuevas soluciones agentic.» Granite 3.2 es un paso importante en la evolución de la cartera y la estrategia de IBM para ofrecer IA pequeña y práctica para las empresas. Si bien los enfoques de cadena de pensamiento para el razonamiento son poderosos, requieren un poder de cómputo sustancial que no es necesario para cada tarea. Es por eso que IBM ha introducido la capacidad de activar o desactivar la cadena de pensamiento programáticamente. Para tareas más simples, el modelo puede funcionar sin razonamiento para reducir la sobrecarga de cómputo innecesaria. Además, otras técnicas de razonamiento como el escalado de inferencia han demostrado que el Granito 3.2 8B el modelo puede igualar o exceder el rendimiento de modelos mucho más grandes en puntos de referencia de razonamiento matemático estándar. La evolución de métodos como la escala de inferencia sigue siendo un área clave de enfoque para los equipos de investigación de IBM.4 Junto con los modelos de instrucciones, visión y barandilla Granite 3.2, IBM está lanzando la próxima generación de sus modelos TinyTimeMixers (TTM) (sub 10M parámetros), con capacidades para pronósticos a más largo plazo hasta dos años en el futuro. Estos crean herramientas poderosas en el análisis de tendencias a largo plazo, incluidas las tendencias financieras y económicas, el pronóstico de la demanda de la cadena de suministro y la planificación de inventario estacional en el comercio minorista. «La próxima era de la IA se trata de eficiencia, integración e impacto en el mundo real – donde las empresas pueden lograr resultados poderosos sin un gasto excesivo en computación», dijo Raghavan Sriram, VP, IBM AI Research. «Los últimos desarrollos de Granite de IBM centrados en soluciones abiertas demuestran otro paso adelante para hacer que la IA sea más accesible, rentable y valiosa para las empresas modernas.» Para obtener más información sobre Granite 3.2, lea esto artículo técnico. IBM News. Traducido al español

La adquisición planificada promueve el compromiso de IBM con la innovación de código abierto; ayuda a los clientes a acceder a datos empresariales no explotados y no estructurados para maximizar el impacto de la IA generativa ARMONK, N.Y., 25 De febrero de 2025 /PRNewswire/– IBM (NYSE: IBM) anuncia hoy su intención de adquirir DataStax, un proveedor de soluciones de IA y datos. La tecnología de DataStax mejorará la cartera de productos watsonx de IBM acelerando el uso de IA generativa, ayudando a las empresas a desbloquear el valor de grandes cantidades de datos no estructurados. La adquisición también se basa en el compromiso de IBM con la IA de código abierto. DataStax es el creador de AstraDB y DataStax Enterprise, NoSQL y capacidades de bases de datos vectoriales impulsadas por Apache Cassandra®; y Langflow, la herramienta de código abierto y la comunidad para el desarrollo de aplicaciones de IA de bajo código. IBM continuará apoyando, participando e innovando con las comunidades de código abierto Apache Cassandra®, Langflow, Apache Pulsar™ y OpenSearch en las que participa DataStax. El compromiso de larga data de IBM con la IA de código abierto incluye los modelos de fundación IBM Granite de código abierto e Instruct Lab, un enfoque revolucionario para avanzar en la verdadera innovación de código abierto en torno a los LLM. Aprovechamiento de datos no estructurados para la empresa Las empresas están luchando por aprovechar datos valiosos y no estructurados de todo su negocio, lo cual es fundamental para impulsar la IA generativa. Sin herramientas para ingerir y administrar adecuadamente estos datos sin explotar, los costosos proyectos de IA generativa no podrán ofrecer todo su potencial. Incluso el 70% de las empresas con iniciativas de IA generativas de alto rendimiento experimentan dificultades relacionadas con los datos según para McKinsey, y se estima que solo el uno por ciento de los datos empresariales está representado en los modelos de IA actuales.  IBM es líder en ayudar a los clientes a escalar la IA generativa y transformar su negocio utilizando datos empresariales. La adquisición de DataStax mejora estos esfuerzos. Su base de datos vectorial se destaca por aprovechar los datos empresariales no estructurados y acelerar su tiempo de valor, y Langflow proporciona un entorno de diseño gráfico y de bajo código y orquestación de componentes para aplicaciones de IA generativas que facilitan la colaboración entre diversos conjuntos de habilidades. «Las empresas no pueden darse cuenta de todo el potencial de la IA generativa sin la infraestructura adecuada – herramientas y tecnologías de código abierto que empoderan a los desarrolladores, aprovechan los datos no estructurados y proporcionan una base sólida para las aplicaciones de IA», dice Nirmal Dinesh, Vicepresidente Senior, IBM Software. «DataStax posee una profunda competencia en esta área y comparte el compromiso implacable de IBM para simplificar y escalar la IA generativa para la empresa.»     «Las empresas quieren ofrecer IA de producción rápidamente, pero todavía están luchando para desbloquear el valor de sus datos para impulsar las aplicaciones y los agentes de IA», dice Chet Kapoor, Presidente y CEO de DataStax. «Los productos de DataStax resuelven este problema, acelerando la promesa de AI con la escalabilidad, seguridad y precisión que los desarrolladores y las empresas necesitan. Hemos dicho durante mucho tiempo que no hay IA sin datos, y estamos entusiasmados de ejecutar esta visión con IBM.»  Los cientos de clientes de DataStax incluyen FedEx, Capital One, The Home Depot y Verizon. DataStax fue fundada en 2010 y tiene su sede en Santa Clara, CA.  Los detalles financieros de la transacción no fueron revelados.  Se espera que la adquisición se cierre en el segundo trimestre de 2025, sujeto a las condiciones de cierre habituales y las aprobaciones regulatorias.  IBM News. Traducido al español