La serie AI Decoded del año pasado ha desglosado todos los aspectos de la IA, desde simplificar las complejidades de los modelos de lenguaje grandes (LLM) hasta destacar el poder de las PC y estaciones de trabajo con IA RTX.
Nota del editor: esta publicación es parte de la serie AI Decoded , que desmitifica la IA al hacer que la tecnología sea más accesible y muestra nuevo hardware, software, herramientas y aceleraciones para los usuarios de PC GeForce RTX y estaciones de trabajo NVIDIA RTX.
La serie AI Decoded del año pasado ha desglosado todos los aspectos de la IA, desde simplificar las complejidades de los modelos de lenguaje grandes (LLM) hasta destacar el poder de las PC y estaciones de trabajo con IA RTX.
Resumiendo los últimos avances en inteligencia artificial, este resumen destaca cómo la tecnología ha cambiado la forma en que las personas escriben, juegan, aprenden y se conectan entre sí en línea.
Las GPU NVIDIA GeForce RTX ofrecen la capacidad de ofrecer estas experiencias en computadoras portátiles, de escritorio y estaciones de trabajo. Cuentan con núcleos Tensor de IA especializados que pueden ofrecer más de 1300 billones de operaciones por segundo (TOPS) de potencia de procesamiento para un rendimiento de vanguardia en juegos, creación, productividad diaria y más. Para las estaciones de trabajo, las GPU NVIDIA RTX ofrecen más de 1400 TOPS, lo que permite una aceleración y eficiencia de IA de siguiente nivel.
Cómo liberar la productividad y la creatividad con chatbots basados en IA
A principios de este año, AI Decoded exploró qué son los LLM , por qué son importantes y cómo usarlos.
Para muchos, herramientas como ChatGPT fueron su primera introducción a la IA. Los chatbots con tecnología LLM han transformado la informática de interacciones básicas basadas en reglas a conversaciones dinámicas. Pueden sugerir ideas para vacaciones, escribir correos electrónicos de atención al cliente, crear poesía original e incluso escribir código para los usuarios.
Presentada en marzo, ChatRTX es una aplicación de demostración que permite a los usuarios personalizar un GPT LLM con su propio contenido, como documentos, notas e imágenes.
Con funciones como generación aumentada de recuperación ( RAG ), NVIDIA TensorRT-LLM y aceleración RTX, ChatRTX permite a los usuarios buscar y hacer preguntas rápidamente sobre sus propios datos. Y como la aplicación se ejecuta localmente en PC o estaciones de trabajo RTX, los resultados son rápidos y privados.
NVIDIA ofrece la más amplia selección de modelos básicos para entusiastas y desarrolladores, incluidos Gemma 2, Mistral y Llama-3. Estos modelos pueden ejecutarse localmente en GPU NVIDIA GeForce y RTX para obtener un rendimiento rápido y seguro sin necesidad de depender de servicios en la nube.
Descargue ChatRTX hoy.
Presentamos las aplicaciones de socios aceleradas por RTX
La IA se está incorporando a cada vez más aplicaciones y casos de uso, incluidos juegos, aplicaciones de creación de contenido, desarrollo de software y herramientas de productividad.
Esta expansión está impulsada por la amplia selección de herramientas para desarrolladores y comunidades aceleradas por RTX, kits de desarrollo de software, modelos y marcos que han hecho que sea más fácil que nunca ejecutar modelos localmente en aplicaciones populares.
En octubre, AI Decoded destacó cómo Leo AI de Brave Browser , impulsado por GPU NVIDIA RTX y la plataforma de código abierto Ollama, permite a los usuarios ejecutar LLM locales como Llama 3 directamente en sus PC o estaciones de trabajo RTX.
Esta configuración local ofrece un rendimiento de IA rápido y con capacidad de respuesta, al tiempo que mantiene la privacidad de los datos del usuario, sin depender de la nube. Las optimizaciones de NVIDIA para herramientas como Ollama ofrecen un rendimiento acelerado para tareas como resumir artículos, responder preguntas y extraer información, todo directamente dentro del navegador Brave . Los usuarios pueden cambiar entre modelos locales y en la nube, lo que proporciona flexibilidad y control sobre su experiencia de IA.
Para obtener instrucciones sencillas sobre cómo agregar compatibilidad con LLM local a través de Ollama , lea el blog de Brave . Una vez configurado para apuntar a Ollama, Leo AI utilizará el LLM alojado localmente para solicitudes y consultas.
Inteligencia artificial (IA) con agentes: permite la resolución de problemas complejos
La IA agente es la próxima frontera de la IA, capaz de utilizar razonamiento sofisticado y planificación iterativa para resolver de forma autónoma problemas complejos de varios pasos.
AI Decoded exploró cómo la comunidad de IA está experimentando con la tecnología para crear sistemas de IA más inteligentes y capaces.
Las aplicaciones asociadas como AnythingLLM muestran cómo la IA va más allá de la simple respuesta a preguntas para mejorar la productividad y la creatividad. Los usuarios pueden aprovechar la aplicación para implementar agentes integrados que puedan abordar tareas como buscar en la web o programar reuniones.
AnythingLLM permite a los usuarios interactuar con documentos a través de interfaces intuitivas, automatizar tareas complejas con agentes de IA y ejecutar LLM avanzados de forma local. Aprovechando la potencia de las GPU RTX, ofrece flujos de trabajo de IA más rápidos, inteligentes y con mayor capacidad de respuesta, todo dentro de una única aplicación de escritorio local. La aplicación también funciona sin conexión y es rápida y privada, capaz de utilizar datos y herramientas locales que normalmente son inaccesibles con soluciones basadas en la nube.
El centro comunitario de AnythingLLM permite a cualquier persona acceder fácilmente a indicaciones del sistema que pueden ayudarlo a orientar el comportamiento de LLM, descubrir comandos de barra que aumentan la productividad y desarrollar habilidades de agente de IA especializadas para flujos de trabajo únicos y herramientas personalizadas.
Al permitir a los usuarios ejecutar flujos de trabajo de inteligencia artificial en sus propios sistemas con total privacidad, AnythingLLM impulsa la innovación y facilita la experimentación con las últimas tecnologías.
Inteligencia artificial decodificada envuelta
Actualmente, más de 600 aplicaciones y juegos de Windows ya ejecutan IA de forma local en más de 100 millones de PC y estaciones de trabajo con IA GeForce RTX en todo el mundo, lo que ofrece un rendimiento rápido, confiable y de baja latencia. Obtenga más información sobre las PC con IA NVIDIA GeForce RTX y las estaciones de trabajo con IA NVIDIA RTX .
Sintonice la conferencia magistral del CES a cargo del fundador y director ejecutivo de NVIDIA, Jensen Huang, el 6 de enero, para descubrir cómo lo último en IA está potenciando los juegos, la creación y el desarrollo de contenido. NVIDIA News. J. C. Traducido al español
Contacto