Una visión para el liderazgo de la IA de vanguardia en Taiwán
Qualcomm Technologies se enorgullece en anunciar que TAIDE ( Motor de Diálogo de IA Confiable ), un modelo LLM de código abierto, ya está disponible en Qualcomm AI Hub, lo que simplifica la implementación de modelos de IA para aplicaciones de visión, audio y voz en dispositivos periféricos. Esto incluye Llama3-TAIDE-LX-8B, uno de los varios modelos base desarrollados como componente fundamental para la comunidad de desarrolladores de Taiwán. TAIDE está redefiniendo el procesamiento del idioma chino tradicional y los sistemas de diálogo de IA perimetral. Con Qualcomm AI Hub y TAIDE, los desarrolladores taiwaneses tienen una gran oportunidad para ayudar a Taiwán a establecer un liderazgo en el desarrollo de IA.
Una visión para el liderazgo de la IA de vanguardia en Taiwán
TAIDE en Qualcomm AI Hub destaca la oportunidad de Taiwán de liderar la IA de borde, mejorando la competitividad de la fabricación avanzada y ampliando la gama de tecnologías, aplicaciones y casos de uso de IA disponibles en Taiwán. La IA de borde permite el procesamiento y la inferencia localmente, más cerca de donde se generan los datos, lo que reduce la necesidad de transmitirlos a la nube. Esto se traduce en tiempos de respuesta más rápidos, mayor seguridad y menores requisitos de ancho de banda, además de mayor privacidad, latencia, fiabilidad, flexibilidad y reducción de costes.
TAIDE en Qualcomm AI Hub se alinea con el Plan de IA 2.0 de Taiwán y contribuirá al desarrollo tecnológico e industrial local. Al ofrecer una herramienta innovadora y gratuita a los desarrolladores taiwaneses, los animamos a crear más aplicaciones de IA Edge lideradas por Taiwán para empresas de Taiwán y del mundo. Qualcomm Technologies se compromete a conectar con la comunidad de desarrolladores, permitiéndoles crear sus propias soluciones integrales de aprendizaje automático en el dispositivo con nuestros socios, entre ellos creadores de modelos, proveedores de nube, proveedores de SDK y otros.
Un hito para la innovación en IA de Taiwán
Los modelos básicos de TAIDE fueron desarrollados por el equipo de TAIDE con el apoyo del gobierno de Taiwán. La iniciativa se lanzó oficialmente en abril de 2023 bajo el NSTC, lo que dio lugar al lanzamiento del modelo Llama3-TAIDE-LX-8B un año después, en abril de 2024. El profesor Tsai y sus colegas de la Universidad Nacional Central (NCU) utilizaron Qualcomm AI Hub para optimizar el modelo e implementarlo en plataformas Qualcomm, como Snapdragon X Elite y Snapdragon 8 Elite.
Construido sobre bases probadas
El modelo Llama3 -TAIDE-LX-8B-Chat-Alpha1 se basa en la arquitectura Llama3 de Meta y se ha optimizado con datos de chino tradicional. TAIDE ofrece:
- Capacidades mejoradas para tareas de oficina: desde redactar correos electrónicos hasta resumir documentos, TAIDE agiliza las comunicaciones empresariales cotidianas.
- Diálogo robusto de múltiples turnos: diseñado para manejar conversaciones complejas, lo que garantiza interacciones significativas y conscientes del contexto.
- Servicios de traducción avanzados: traduce entre chino e inglés, haciendo que la comunicación entre idiomas sea más accesible que nunca.
Rendimiento verificado en Qualcomm AI Hub
Qualcomm AI Hub se dedica a proporcionar un ecosistema confiable donde los modelos de IA se implementan sin problemas. TAIDE se ha evaluado en la plataforma Qualcomm AI Hub, ejecutando el modelo en dispositivos reales. A continuación, se muestran los resultados en el Snapdragon X Elite:
- Tiempo hasta el primer token: 0,21 a 6,77 segundos, lo que genera tiempos de respuesta rápidos para aplicaciones del mundo real
- Tasa de respuesta: entrega de 10 tokens por segundo para interacciones fluidas y dinámicas
Ahora que TAIDE está disponible en Qualcomm AI Hub, se pueden realizar pruebas frecuentes del modelo y acelerar el desarrollo de futuras aplicaciones hasta su comercialización. Estas métricas no solo validan la excelencia técnica de TAIDE, sino que también permiten a los desarrolladores integrar el modelo con confianza en sus aplicaciones de próxima generación.
Acelerando el futuro del desarrollo de aplicaciones de IA
El potencial de la IA de Edge para Taiwán es enorme, ya que mejora la rentabilidad, la sostenibilidad y la privacidad al procesar entradas y generar salidas directamente en el dispositivo. A medida que la IA potencia cada vez más la interfaz de usuario, la forma en que interactuamos con nuestros dispositivos cambiará drásticamente, lo que resultará en experiencias más intuitivas y personalizadas, además de mayores beneficios para los usuarios más pequeños, como familias, empresas y estudiantes.
Con este modelo de TAIDE basado en Llama-3, ahora disponible en nuestra colección de modelos Qualcomm AI Hub, los desarrolladores tienen acceso a un modelo que combina procesamiento de lenguaje de vanguardia con funcionalidades prácticas. Algunos ejemplos de uso son:
- Redacción de correos electrónicos: automatizar y mejorar la composición de la comunicación por correo electrónico
- Redacción de artículos: generar contenido desde la ideación del tema hasta los borradores finales
- Traducción: convierte documentos entre chino tradicional e inglés, lo que permite interacciones interculturales fluidas.
- Resumen automático: convierta rápidamente artículos extensos en resúmenes concisos
Únete a la revolución
Invitamos a los desarrolladores a explorar TAIDE en Qualcomm AI Hub e integrarlo en sus propias aplicaciones. Consulta nuestra ChatApp de ejemplo para obtener orientación sobre cómo empezar. Únete al canal de Slack de Qualcomm AI Hub para conectar con la comunidad, hacer preguntas y obtener más información. Qualcomm Blog. Traducido al español
