Categoría: Papers de Investigación Científica

La gente siempre ha buscado patrones para explicar el universo y predecir el futuro. “Cielo rojo por la noche, alegría del marinero. Cielo rojo por la mañana, advertencia del marinero” es un adagio que predice el tiempo.  La IA es muy buena para detectar patrones y hacer predicciones. Ahora, los investigadores de Microsoft están trabajando para aplicar “modelos básicos” (modelos a gran escala que aprovechan los avances recientes de la IA) a las disciplinas científicas. Estos modelos se entrenan con una amplia variedad de datos y pueden sobresalir en muchas tareas, a diferencia de los modelos más especializados. Tienen el potencial de generar respuestas en una fracción del tiempo que se requería tradicionalmente y ayudan a resolver problemas más sofisticados. Algunas de las disciplinas científicas más diversas que prometen avances gracias a la IA son la ciencia de los materiales, la ciencia del clima, la atención sanitaria y las ciencias de la vida. Los expertos afirman que los modelos básicos adaptados a estas disciplinas acelerarán el proceso de descubrimiento científico, lo que les permitirá crear con mayor rapidez cosas prácticas como medicamentos, nuevos materiales o previsiones meteorológicas más precisas, pero también comprender mejor los átomos, el cuerpo humano o la Tierra. Actualmente, muchos de estos modelos todavía están en desarrollo en Microsoft Research, y el primero, un modelo meteorológico llamado Aurora , ya está disponible. “La IA es una herramienta de nuestro arsenal que puede ayudarnos”, afirmó Bonnie Kruft, socia y subdirectora de Microsoft Research, que colabora en la supervisión del laboratorio de IA para la ciencia . “La idea es que estamos trabajando en modelos muy específicos de la ciencia en lugar de modelos específicos del lenguaje. Vemos esta increíble oportunidad de ir más allá de los grandes modelos tradicionales basados ​​en el lenguaje humano hacia un nuevo paradigma que emplea las matemáticas y las simulaciones moleculares para crear un modelo aún más potente para el descubrimiento científico”. Los recientes avances en inteligencia artificial que han permitido a las personas planificar fiestas, generar presentaciones gráficas con algunas indicaciones para conversar u obtener resúmenes instantáneos de reuniones a las que no han asistido fueron impulsados ​​inicialmente por una nueva clase de modelos de inteligencia artificial conocidos como modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés). Este tipo de modelo de base se entrena con grandes cantidades de texto para realizar una amplia variedad de tareas relacionadas con el lenguaje. Ahora, los investigadores de Microsoft están descubriendo cómo algunas de estas mismas arquitecturas y enfoques de inteligencia artificial pueden impulsar avances en el descubrimiento científico. “Los modelos de lenguaje a gran escala tienen dos propiedades notables que son muy útiles. La primera es, por supuesto, que pueden generar y comprender el lenguaje humano, por lo que proporcionan una maravillosa interfaz humana para tecnologías muy sofisticadas. Pero la otra propiedad de los modelos de lenguaje a gran escala –y creo que esto fue una gran sorpresa para muchos de nosotros– es que pueden funcionar como motores de razonamiento efectivos. Y, por supuesto, eso será muy útil en el descubrimiento científico”, dijo Chris Bishop, miembro técnico y director de Microsoft Research AI for Science, en una conferencia magistral en el Microsoft Research Forum a principios de este año.  En un principio, los investigadores de IA pensaron que modelos muy específicos entrenados para realizar una tarea específica (como los que podían ganar al ajedrez o al backgammon (pero no a ambos), o los que podían traducir idiomas o transcribir grabaciones (pero no a ambos)) superarían a modelos generalizados más grandes, como los LLM. Pero resultó que sucedió lo contrario: no hubo necesidad de entrenar un modelo para responder preguntas o resumir investigaciones sobre derecho, otro sobre física y otro sobre Shakespeare, porque un modelo grande y generalizado era capaz de superar en diferentes materias y tareas. Ahora, los investigadores están investigando la posibilidad de que los modelos básicos puedan hacer lo mismo en el caso de la ciencia.  https://youtube.com/watch?v=CJejmZ5Luo4%3Ffeature%3Doembed%26enablejsapi%3D1%26origin%3Dhttps%253A%252F%252Fnews.microsoft.com Tradicionalmente, el descubrimiento científico implicaba desarrollar una hipótesis, probarla, ajustarla a lo largo de muchas iteraciones hasta encontrar una solución o empezar de nuevo, un proceso de eliminación de lo que no funciona. En cambio, algunos modelos básicos invierten ese guión al construir en lugar de eliminar. Los científicos pueden dar parámetros a los modelos básicos, como las cualidades que desean, y los modelos pueden predecir, por ejemplo, las combinaciones de moléculas que podrían funcionar. En lugar de buscar una aguja en un pajar, los modelos sugieren directamente cómo fabricar agujas. En algunos casos, estos modelos básicos también están diseñados para comprender el lenguaje natural, lo que facilita a los científicos la redacción de indicaciones. Para buscar un nuevo material, por ejemplo, los científicos podrían especificar que quieren una molécula que sea estable (que no se deshaga), que no sea magnética, que no conduzca electricidad y que no sea rara ni cara. Los LLM se entrenan en texto (palabras), pero los modelos básicos que los investigadores de Microsoft han estado desarrollando para avanzar en el descubrimiento se han entrenado principalmente en los lenguajes de la ciencia (no solo libros de texto científicos y artículos de investigación, sino también montañas de datos generados a partir de la resolución de esas ecuaciones de física o química). Aurora , que lleva la previsión meteorológica y de contaminación a nuevos niveles, fue entrenada en el lenguaje de la atmósfera terrestre. MatterGen , que sugiere nuevos materiales a partir de indicaciones, y MatterSim , que predice cómo se comportarán los nuevos materiales, fueron entrenados en el lenguaje de las moléculas. TamGen , desarrollado en colaboración entre Microsoft Research y el Global Health Drug Discovery Institute (GHDDI), que desarrolla medicamentos para enfermedades infecciosas que afectan desproporcionadamente a las poblaciones del mundo en desarrollo, se centra en otras moléculas, para nuevos medicamentos e inhibidores de proteínas para enfermedades como la tuberculosis y la COVID-19. Pero la otra propiedad de los grandes modelos lingüísticos –y creo que esto fue una gran sorpresa para muchos de nosotros– es que pueden funcionar como motores de razonamiento eficaces. Así como algunos alimentos se cocinan mejor friéndolos,

La IA se está convirtiendo rápidamente en una parte esencial de la vida diaria. La visión “IA para todos” de Samsung Electronics se centra en brindar a los usuarios experiencias de IA enriquecedoras a lo largo de su vida diaria estableciendo un nuevo estándar para dispositivos de próxima generación como dispositivos móviles, televisores y electrodomésticos impulsados por IA. Un elemento central de las innovaciones de la inteligencia artificial de Samsung es la inteligencia artificial en el dispositivo. Esta tecnología permite que la IA funcione de forma independiente dentro del dispositivo y no requiere de un servidor externo ni de la nube. Los usuarios se benefician con tiempos de respuesta rápidos de la IA sin necesidad de una conexión de red, lo que reduce las preocupaciones con la fuga de datos personales. La IA en el dispositivo ahora ha evolucionado más allá de las funciones simples para manejar demandas que requieren grandes cantidades de datos (como la IA generativa) utilizando solo los recursos internos del dispositivo. Samsung Newsroom muestra cómo Samsung lidera el mundo en innovaciones de inteligencia artificial en los dispositivos. No requiere nube: Transformando la experiencia de IA en el dispositivo Respondiendo a la necesidad de velocidad y seguridad, gran parte de la industria tecnológica se ha centrado en ejecutar una IA generativa directamente en el dispositivo. Con inversiones a largo plazo que se remontan a más de una década, Samsung ha personalizado las funciones de IA para muchos de sus dispositivos y se ha colocado a la vanguardia al brindar experiencias de IA en el dispositivo para la vida diaria. Galaxy AI de Samsung, por ejemplo, ofrece funciones de IA integradas en los últimos dispositivos móviles y tablets de la compañía.[1] Ahora compatible con un total de 20 idiomas[2], Galaxy AI permite una comunicación sin barreras lingüísticas, incluida la interpretación de conversaciones en tiempo real y la traducción de mensajes y páginas web. Para los televisores, Samsung aprovecha su experiencia como líder mundial en el mercado para entrenar modelos de IA. Desde 2020, la empresa ha mejorado continuamente su procesador específico para televisores con una NPU (unidad de procesamiento neuronal) incorporada. El procesador NQ8 AI Gen3 del modelo Neo QLED 8K 2024 cuenta con 512 redes neuronales para una calidad de imagen y sonido mejorada. Al analizar y modificar píxeles, fotogramas y fuentes de sonido, el procesador ofrece un escalado avanzado, movimientos suaves y un diálogo claro para una experiencia de visualización perfecta en todas las situaciones. La clave de la IA en el dispositivo es minimizar el tamaño del modelo manteniendo el rendimiento. Para lograrlo, Samsung se ha centrado en una implementación eficiente utilizando datos de entrenamiento de IA especializados y adaptados a tareas específicas. ▲ Los maestros Sunmin Kim y Cheulhee Hahm, de Visual Display Business, Samsung Electronics, explican la inteligencia artificial en el dispositivo. Más pequeño y más rápido: Investigación para optimización de IA de Samsung A medida que la tecnología de IA avanza y aumentan los requisitos de procesamiento de datos, la optimización del modelo se ha vuelto crucial. En otras palabras, los modelos de IA de alto rendimiento deben poder operar eficientemente dentro de los límites de los recursos de los dispositivos (incluidos sus procesadores, memorias y baterías), manteniendo al mismo tiempo los niveles de rendimiento y confiabilidad para el uso diario. Las tecnologías clave para esto incluyen la compresión de modelos, la optimización del hardware y la aceleración del procesamiento de datos. Samsung ha asegurado varias tecnologías en el campo de la compresión de modelos para reducir el tamaño de los modelos de IA. La empresa ha logrado desarrollar modelos de IA ligeros y rápidos a través de técnicas como la cuantificación, que mejora la velocidad de respuesta al simplificar los algoritmos y optimizar los procesos de cálculo; la poda, que elimina elementos no esenciales de modelos más grandes; y la destilación de conocimiento, que transfiere conocimiento de modelos grandes a modelos más pequeños. Samsung también continúa innovando en la optimización del hardware y la aceleración del procesamiento de datos para ejecutar IA de manera rápida y eficiente. Por ejemplo, la tecnología de utilización de flash divide modelos de IA de gran tamaño y reduce significativamente el uso de memoria. Además, la empresa ha desarrollado una tecnología patentada que se espera ayude a realizar inferencias rápidas en dispositivos de gama baja sin NPU para ampliar las aplicaciones de IA en varios productos. Se están realizando más investigaciones para aumentar la velocidad de inferencia con decodificación especulativa, una tecnología que predice los resultados del modelo de IA, y mejora la potencia de procesamiento ejecutando varios hardware simultáneamente. ▲ Poda y destilación de conocimientos Experiencia de extremo a extremo: Del desarrollo interno a la implementación Con experiencia que abarca hardware, software, componentes y productos finales, Samsung lidera la innovación en inteligencia artificial en dispositivos, desde la investigación y el desarrollo hasta la implementación del producto. Desde la perspectiva de los dispositivos, el liderazgo de Samsung en el mercado de dispositivos móviles, televisores, electrodomésticos y más representa su excelencia tanto en hardware como en software. Samsung integra IA en sus propios dispositivos, lo que le permite a la empresa aprovechar tanto el desarrollo interno como la colaboración abierta con aliados de la industria para crear modelos de IA optimizados por hardware. La experiencia de Samsung también incluye software de sistema para unir hardware y software de aplicación. Por ejemplo, el sistema operativo Tizen y las NPU de los televisores Samsung potencian la inteligencia artificial en el dispositivo para ofrecer una experiencia de visualización más inteligente y mejorada. La empresa también proporciona a los desarrolladores SDK de Vision AI y Language AI, así como API de aprendizaje automático para facilitar el entrenamiento y la inferencia de modelos de IA. Samsung Research, el centro de investigación y desarrollo avanzado de la empresa se centra en mejorar la competitividad mediante el uso de la experiencia especializada de su red global de laboratorios, desde el desarrollo de estructuras de modelos de IA y la compresión de modelos en el